[KRÖNIKA]Det senaste året har artificiell intelligens blivit ett alltmer vanligt förekommande samtalsämne vid middagsbordet.
Mycket tack vare botar som ChatGPT som bländar användare med sin förmåga att komponera allt från välskriven text till fungerande kod.
Men vad händer när AI fattar felaktiga beslut?
Bias – även kallat partiskhet – är vanligt förekommande i AI-system, särskilt vad gäller kön. Det kan leda till allt från diskriminering och minskad transparens, till brister i säkerhet och integritet. AI är bara så bra som den data och datamängder den är tränad på. Stora andelar av den data som AI-systemen innehar är snedvriden till mäns fördel, liksom språket som används i allt från nyhetsartiklar på nätet till böcker. Forskning visar att utbildning av AI baserat på data från Google News leder till att män associeras med roller som “kapten” och “finansiär”, medan kvinnor förknippas med titlar som “receptionist” och “hemmafru”.
Många AI-system har utformats baserat på partisk data och är också ofta skapade av till stor del manliga team, då endast 22 procent av yrkesverksamma inom AI och datavetenskap är kvinnor, enligt World Economic Forums forskning. Detta har i sin tur lett till betydande problem för kvinnor, då det handlar om allt från att kreditkortsföretag gett mer generös kredit till män, till att verktyg som screenar sjukdomar som covid eller leversjukdomar tagit felaktiga beslut.
AI, en spegling av vår verklighet
Framöver kommer företag i allt högre grad förlita sig på AI-teknik för att omvandla sin data till monetärt värde. Enligt Lenovos Data for Humanity-rapport säger 88 procent av de svarande företagsledarna att AI-teknik kommer vara en viktig faktor för att hjälpa deras organisation att nyttja potentialen av deras data under de kommande fem åren.
Så hur kommer företagsledare att hantera problemet med bias? För första gången i historien har vi tillgång till kraftfull teknik som helt och hållet är skapad utifrån vår egen förståelse av världen. AI kan liknas vid en spegel som vi håller upp mot oss själva, och vi borde inte bli chockade över vad vi ser i den. I stället bör vi använda denna kunskap för att förändra sättet vi gör saker på.
När du börjar samla in data, bearbeta den eller använda den, riskerar du att bygga systemet på bias. Bias kan smyga sig in var som helst: det kan till exempel handla om situationer där det finns mer data baserat på ett kön, eller att frågorna till underlaget är utformade av män. För företagsledare kommer det att bli allt viktigare att förhålla sig kritisk till var data kommer ifrån, se över hur den används och hur fördomar kan bekämpas. Tekniska lösningar kommer också spela en viktig roll.
Dataforskare har inte möjlighet att gå igenom varje textrad i datan som används i en vid utvecklandet av ett AI-system. Det finns då två lösningar på detta: den ena skulle vara att låta fler människor testa modellen och upptäcka möjliga problem. Den andra och mer fördelaktiga lösningen skulle vara att ha effektivare verktyg för att identifiera bias, antingen i data som AI:n matas med eller i själva modellen. Med ChatGPT, till exempel, använder forskarna en mental inlärningsmodell för att kommentera potentiellt problematisk data. Detta är ett område alla som arbetar med AI bör fokusera på.
Förstå partiskhet
För att verkligen förstå konsekvenserna behöver vi se till det större perspektivet. De verktyg vi använder idag skapar redan nu fördomar i de modeller vi kommer tillämpa i framtiden. Vi kanske tror att vi är fördomsfria inom ett område, men om 50 år kan nya verktyg, uppfattningar eller bevis helt förändra hur vi ser på vissa saker. Detta var fallet vid diagnostisering av Retts syndrom, där data i första hand samlades in från flickor. Bristen på data om pojkar med sjukdomen skapade bias i datamodellering flera år senare och ledde till felaktiga diagnoser och behandlingsrekommendationer för pojkar.
Företagsledare måste noggrant planera för ansvarsfull AI och skapa sin egen definition av vad detta innebär för deras organisation, genom att identifiera riskerna och försöka förutse var fördomar kan smyga sig in. De måste engagera sig med intressenter för att förstå var potentiella problem kan uppstå och urskilja hur man går vidare med bästa praxis. Att finna vägen till att använda AI på ett ansvarsfullt sätt kommer ta lång tid, och kräva konstant uppmärksamhet.
Företag måste hantera detta på styrelsenivå för att säkerställa att partiskhet hanteras och AI används ansvarsfullt i hela organisationen. På sikt måste ledare också ta itu med det grundläggande problemet – alltså bristen på kvinnor inom STEM, särskilt inom datavetenskap. Kvinnor, och särskilt de i ledarroller, kommer vara centrala för att lösa frågan om könsfördomar inom AI.
En AI-driven framtid
Att noga utarbeta hur AI används i en organisation, använda verktyg för att upptäcka bias samt säkerställa transparens kommer att hjälpa att undvika partisk data. Men företagsledare måste också sätta sig in i var deras data kommer ifrån, hur den används och vilka åtgärder som vidtas för att undvika bias. Att göra det kommer vara avgörande för att faktiskt få ut värdet av deras data – och skapa en inkluderande framtid där AI kan nyttjas till sin fulla potential – för alla.
