Uit een onderzoek naar de effectiviteit van een wet in New York City die zich richt op vooringenomenheid in AI-wervingsalgoritmen is gebleken dat de wetgeving grotendeels ineffectief is.

Lokale wet 144 (LL144) van New York City was dat wel voorbij in 2021, trad in werking op 1 januari vorig jaar en is van kracht sinds juli 2023. De wet vereist dat werkgevers die geautomatiseerde instrumenten voor arbeidsbeslissingen (AEDT's) gebruiken, deze jaarlijks controleren op ras- en gendervooroordelen, en deze resultaten op hun websites publiceren, en in vacatures vermelden dat zij dergelijke software gebruiken om beslissingen over werkgelegenheid te nemen.

Het onderzoek van onderzoekers van Cornell University, de non-profit beoordelingsdienst Consumer Reports en het non-profit Data & Society Research Institute moet nog worden gepubliceerd, maar werd gedeeld met Het register. Hieruit bleek dat van de 391 werkgevers in de steekproef slechts 18 auditrapporten hadden gepubliceerd die wettelijk vereist zijn. Slechts 13 werkgevers (van wie er 11 ook auditrapporten publiceerden) namen de nodige transparantiekennisgevingen op.

LL144 “biedt werkgevers bijna totale vrijheid om te beslissen of hun systeem binnen de reikwijdte van de wet valt”, vertelde Jacob Metcalf, onderzoeker bij Data & Society en een van de auteurs van het onderzoek. Het register. “En er zijn meerdere manieren waarop werkgevers aan die reikwijdte kunnen ontsnappen.”

Metcalf vertelde ons dat LL144 bedrijven niet verplicht actie te ondernemen als uit een van de audits blijkt dat een AEDT tot discriminerende uitkomsten heeft geleid. Dat betekent echter niet dat bedrijven die bevooroordeelde AEDT's gebruiken, niet aan de haak zullen slaan.

“Werkgevers die een audit plaatsen waaruit blijkt dat de impact verschillend is, staan ​​open voor andere vormen van actie”, vertelde Metcalf ons. “Civiele rechtszaken over arbeidsdiscriminatie kunnen erg duur zijn.”

Metcalf en een aantal van zijn collega's werken aan een tweede artikel over LL144 dat zich richt op de ervaring van auditors die AEDT's beoordelen die door bedrijven in New York worden gebruikt. Het register heeft het artikel bekeken, dat momenteel door vakgenoten wordt beoordeeld. Het constateert dat bij audits gevallen van discriminatie door AEDT's zijn aangetroffen.

“Uit interviews met auditors weten we dat werkgevers voor deze audits hebben betaald en vervolgens hebben geweigerd deze publiekelijk te publiceren als de cijfers slecht zijn”, vertelde Metcalf ons. “Hun juridisch adviseur is banger voor de Equal Employment Opportunity Commission dan voor New York City.”

De wet van New York City vertraagt ​​de invoering van soortgelijke regels

Wetten vergelijkbaar met LL144 zijn door andere rechtsgebieden overwogen. Deze voorstellen zijn grotendeels tot stilstand gekomen omdat wetgevers zich ervan bewust zijn geworden dat de poging van NYC om vooroordelen op het gebied van AI-werving te voorkomen niet effectief is geweest.

“Sponsors [van de wetsvoorstellen] heroverwegen hun structuur. Voor zover ik weet is er nog geen actie ondernomen tegen soortgelijke wetten”, vertelde Metcalf ons. Californië beschouwd soortgelijke wetgeving in 2022, terwijl Washington DC en de staat New York ook wetgeving als LL144 hebben overwogen.

De Europese Unie AI-wet, voorlopig overeengekomen in december 2023, plaatst AI die wordt gebruikt bij het rekruteringsproces in de “hoog risicocategorie, betekenis Dergelijke producten zullen moeten worden herzien voordat ze op de markt komen en gedurende hun hele levenscyclus. De EU moet haar wet nog aannemen.

Er is sprake geweest van vooringenomenheid in AI gevestigde op dit punt.

HR-softwarebedrijf Workday is dat zelfs geweest aangeklaagd vanwege beschuldigingen dat zijn rekruteringssoftware is gebruikt om zwarte sollicitanten te discrimineren – precies het soort dingen dat LL144 was ontworpen om te bestrijden.

Hoewel LL144 grotendeels ineffectief is geweest, concludeerden de onderzoekers dat de wet een eerste stap is in de richting van betere regelgeving.

“Iedereen die aan deze wetten werkt, experimenteert met verantwoordingsstructuren – we weten nog niet wat werkt,” vertelde Metcalf ons. “Bijna alles wat critici van het maatschappelijk middenveld zeiden [over LL144] is uitgekomen, maar we hebben in dit artikel dingen geleerd die andere mensen kunnen oppikken [voor toekomstige handhavingsinspanningen].”

Een van de belangrijkste dingen die uit LL144 kunnen worden geleerd, aldus Metcalf, is dat de reikwijdte van wat onder het gedekte gebruik van AEDT-software valt, moet worden verruimd.

De taal in LL144 is abstract en definieert alleen het gebruik van AEDT-software in gevallen waarin deze “wordt gebruikt om de discretionaire besluitvorming bij het nemen van arbeidsbeslissingen substantieel te ondersteunen of te vervangen.” Wat ‘substantieel’ betekent, is aan interpretatie.

Als toekomstige wetten ter bestrijding van AEDT-discriminatie effectief willen zijn, wordt ons verteld dat elke kwalificatie over het gebruik van AI-wervingsalgoritmen moet worden geschrapt.

“Als een systeem een ​​score geeft, valt het binnen de reikwijdte. Punt uit,’ vertelde Metcalf ons. “Het geven van discretie aan werkgevers [bij het beslissen of hun gebruik van AEDT onder de reikwijdte van LL144 valt] creëert perverse prikkels die de daadwerkelijke verantwoordelijkheid ondermijnen die deze wet had kunnen bereiken.” ®

• Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
• PlatoData.Network Verticale generatieve AI. Versterk jezelf. Toegang hier.
• PlatoAiStream. Web3-intelligentie. Kennis versterkt. Toegang hier.
• PlatoESG. carbon, CleanTech, Energie, Milieu, Zonne, Afvalbeheer. Toegang hier.
• Plato Gezondheid. Intelligentie op het gebied van biotech en klinische proeven. Toegang hier.
• Bron: https://go.theregister.com/feed/www.theregister.com/2024/01/23/nyc_ai_hiring_law_ineffective/