Zephyrnet-logo

Ambtenaren beschuldigen meta-algoritmen van vooringenomenheid

Datum:

beeld

Meta, de moedermaatschappij van Facebook, heeft ermee ingestemd te stoppen met het gebruik van een advertentietool die volgens Amerikaanse functionarissen gebruikers discrimineert op basis van ras, huidskleur, religie, geslacht, handicap en andere kenmerken als het gaat om huisvesting.

In het eerste geval beschuldigt het Amerikaanse ministerie van Justitie algoritmische vooringenomenheid op grond van de Fair Housing Act (FHA). zei Meta gebruikte deze algoritmen om te bepalen welke Facebook-gebruikers woningadvertenties te zien krijgen en welke niet. Deze algoritmen zijn gedeeltelijk afhankelijk van kenmerken die worden beschermd onder de FHA.

De DOJ zei dat Meta adverteerders toestond hun advertenties te richten op mensen op basis van ras, huidskleur, religie, geslacht, handicap, familiale status en nationale afkomst. De tool voor advertentietargeting maakt gebruik van een machine learning-algoritme om Facebook-gebruikers te vinden die lijken op de doelgroep die door adverteerders is gekozen.

Meta heeft er nu mee ingestemd om te stoppen met het gebruik van de tool – bekend als 'Lookalike Audience' of 'Special Ad Audience' – en een nieuw systeem te ontwikkelen om raciale en andere verschillen aan te pakken die worden veroorzaakt door het gebruik van personalisatie-algoritmen. Dat systeem zal onderworpen zijn aan goedkeuring van het ministerie van Justitie en toezicht van de rechtbank.

Het bedrijf stemde ermee in om $ 115,000 te betalen, de maximale FHA-boete.

Kleine boete, grote symboliek

“Deze schikking is historisch en markeert de eerste keer dat Meta ermee heeft ingestemd een van haar algoritmische targetingtools te beëindigen en de leveringsalgoritmen voor huisvestingsadvertenties aan te passen als reactie op een rechtszaak over burgerrechten”, aldus assistent-procureur-generaal Kristen Clarke van de DOJ’s Civil Rights. divisie.

“Het ministerie van Justitie is vastbesloten om Meta en andere technologiebedrijven verantwoordelijk te houden als ze algoritmen misbruiken op een manier die gemarginaliseerde gemeenschappen onrechtmatig schaadt”, voegde Clarke eraan toe.

Mocht Meta er niet in slagen voldoende veranderingen aan te tonen om zich te beschermen tegen algoritmische vooringenomenheid, zal het DOJ de juridische procedure hervatten, benadrukt de Amerikaanse advocaat Damian Williams voor het zuidelijke district van New York.

Onafhankelijke beoordelaar

De rechtszaak van het DOJ stelt dat Meta aansprakelijk is voor ongelijksoortige behandeling omdat het opzettelijk gebruikers classificeert op basis van door FHA beschermde kenmerken en algoritmen ontwerpt die vertrouwen op de door FHA beschermde kenmerken van gebruikers.

Ambtenaren beweren verder dat Meta aansprakelijk is voor ongelijksoortige impactdiscriminatie, omdat de werking van haar algoritmen Facebook-gebruikers verschillend beïnvloedt op basis van hun lidmaatschap in beschermde klassen.

Volgens de schikkingsovereenkomst heeft Meta tot het einde van het jaar de tijd om te stoppen met het gebruik van de tool en tot december om haar nieuwe systeem te ontwikkelen.

Vervolgens zal een onafhankelijke externe beoordelaar worden ingeschakeld om “op voortdurende basis” te verifiëren of het nieuwe systeem voldoet aan de FHA. Meta zal ook gedwongen worden om de reviewer alle informatie te verstrekken om de verificatie uit te voeren. De rechtbank heeft dan de uiteindelijke bevoegdheid om geschillen op te lossen over de informatie die Meta moet vrijgeven.

Meta om het advertentiesysteem te herzien

Dat vertelde Meta-woordvoerster Ashley Settle AI Zakelijk dat “we een nieuwe machine learning-methode zullen bouwen binnen ons advertentiesysteem die de manier zal veranderen waarop woningadvertenties worden weergegeven aan mensen die in de VS wonen in verschillende demografische groepen.”

“Hoewel HUD specifiek zorgen uitte over gepersonaliseerde huisvestingsadvertenties, zijn we ook van plan deze methode te gebruiken voor advertenties gerelateerd aan werkgelegenheid en krediet in de VS”, voegde ze eraan toe.

“Dit soort werk is ongekend in de reclame-industrie en vertegenwoordigt een aanzienlijke technologische vooruitgang in de manier waarop machine learning wordt gebruikt om gepersonaliseerde advertenties weer te geven. We zijn verheugd om deze inspanning te pionieren”, vervolgde Settle.

Dit artikel verscheen voor het eerst in IoT World Today's zusterpublicatie AI Business

spot_img

Laatste intelligentie

spot_img