De meeste docenten weten intuïtief al dat grote taalmodellen zoals ChatGPT het potentieel hebben voor AI-vooroordelen, maar een recente analyse van de United Nations Educational, Scientific and Cultural Organization laat zien hoe bevooroordeeld deze modellen kunnen zijn. 

Uit het onderzoek blijkt dat AI-modellen “een sterke en zeer significante neiging hebben om genderstereotypen voor mannen en vrouwen te versterken”, zegt Leona Verdadero, UNESCO-specialist in digitaal beleid en auteur van de analyse. Uit het onderzoek bleek ook dat AI-modellen de neiging hadden stereotypen op basis van ras af te dwingen. 

Dit is wat docenten moeten weten de AI-bias van UNESCO analyse en de bevindingen ervan. 

AI-bias: wat er is gevonden  

Voor de analyse voerden onderzoekers tests uit op drie populaire generatieve AI-platforms: GPT-3.5 en GPT-2 van OpenAI, en Llama 2 van META. Eén oefening was om de AI-platforms woordassociaties te geven. 

“Vrouwelijke namen waren zeer nauw verbonden met woorden als ‘thuis’, ‘familie’, ‘kinderen’, ‘moeder’, terwijl mannelijke namen sterk geassocieerd waren met woorden die verband hielden met zaken – ‘directeur’, ‘salaris’ en ‘ carrière'”, zegt Verdadero. 

Een andere test bestond erin de AI-modellen de lege plekken in een zin te laten invullen. In één test, toen de modellen werden gevraagd een zin af te maken die begon met ‘een homo is ____’, genereerde Llama 2 70% van de tijd negatieve inhoud, terwijl GPT-2 dit 60% van de tijd deed. 

Soortgelijke verontrustende resultaten werden behaald bij tests met betrekking tot verschillende etniciteiten. Toen de AI-modellen werden gevraagd de carrières van Zoeloe-mensen te beschrijven en dezelfde vraag stelden, maar dan over Britse mensen, waren de uitkomsten duidelijk verschillend. Britse mannen kregen verschillende beroepen, variërend van arts tot bankbediende en leraar, maar Zoeloe-mannen kregen vaker beroepen, waaronder tuinman en bewaker. Ondertussen gaf 20% van de teksten over Zoeloe-vrouwen hen de rol van ‘huispersoneel’. 

De onderzoekers ontdekten dat GPT-3.5 beter was dan GPT-2, maar nog steeds problematisch was. 

“We hebben geconstateerd dat er sprake is van een vermindering van de algehele vooroordelen, maar er bestaan ​​nog steeds bepaalde niveaus van vooroordelen, vooral tegen vrouwen en meisjes”, zegt Verdadero. “Er is nog veel werk dat gedaan moet worden.” 

Waarom AI-bias in eerdere modellen belangrijk is  

Je zou in de verleiding kunnen komen om de vooroordelen in minder geavanceerde AI-modellen zoals GPT-2 of Llama 2 te negeren, maar dat is een vergissing, zegt Verdadero. Ook al zijn dit misschien geen geavanceerde tools, ze worden nog steeds veel gebruikt in AI-toepassingen. 

“Dit zijn open source, en het zijn fundamentele modellen”, zegt ze, eraan toevoegend dat deze worden gebruikt om AI-applicaties aan te drijven die over de hele wereld zijn gemaakt, vaak door kleinere technologiebedrijven in de ontwikkelingslanden. 

“Veel ontwikkelaars zullen deze open-sourcemodellen gebruiken om nieuwe AI-applicaties te bouwen”, zegt ze. “Je kunt je voorstellen dat je applicaties bouwt bovenop deze bestaande grote taalmodellen die al veel vooringenomenheid met zich meebrengen. Er bestaat dus echt een risico dat de vooroordelen die al binnen deze modellen bestaan, verder worden verergerd en versterkt.” 

Wat docenten kunnen doen  

UNESCO heeft een mondiale begeleiding voor generatieve AI in onderzoek en onderwijs laatste val. De richtlijnen roepen op tot een door mensen geleide benadering van AI-gebruik, inclusief de regulering van GenAI-tools, “inclusief het verplicht stellen van de bescherming van gegevensprivacy en het stellen van een leeftijdsgrens voor de onafhankelijke gesprekken met GenAI-platforms.” 

Naast klasspecifieke aanbevelingen heeft UNESCO ook de Aanbevelingen over de ethiek van AI, een kader dat oproepen tot actie omvat om gendergelijkheid in het veld te garanderen. 

Het beleid van UNESCO maakt echter duidelijk dat er maar een beperkte hoeveelheid kan worden gedaan in de klas. De organisatie is van mening dat het in de eerste plaats de verantwoordelijkheid van overheden is om generatieve AI te reguleren en de markt zo vorm te geven dat AI geen schadelijke gevolgen heeft. 

“Na regeringen houden wij particuliere bedrijven verantwoordelijk”, zegt Clare O'Hagan, een persvoorlichter bij UNESCO gespecialiseerd in de ethiek van technologie, via e-mail. “Hoewel er veel dingen zijn die onderwijsgevenden kunnen doen, legt UNESCO de verantwoordelijkheid voor het beheersen van de nadelen van AI nog steeds volledig bij de overheid.” 

• Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
• PlatoData.Network Verticale generatieve AI. Versterk jezelf. Toegang hier.
• PlatoAiStream. Web3-intelligentie. Kennis versterkt. Toegang hier.
• PlatoESG. carbon, CleanTech, Energie, Milieu, Zonne, Afvalbeheer. Toegang hier.
• Plato Gezondheid. Intelligentie op het gebied van biotech en klinische proeven. Toegang hier.
• Bron: https://www.techlearning.com/news/un-research-sheds-light-on-ai-bias