De Canadese overheid werkt aan een raamwerk om discriminatie bij de aanwervingsprocessen binnen overheidsdepartementen aan te pakken, waarbij specifiek aandacht wordt besteed aan privacy- en transparantiekwesties.

Dit komt omdat verschillende afdelingen AI zijn gaan integreren in hun wervingsprocessen, hoewel er veel klachten zijn gerezen over het discriminerende karakter van AI-tools.

Privacy respecteren

In een interview over een breed scala aan kwesties erkende Anita Anand, president van de Treasury Board, de transformerende capaciteiten van AI. Ze gaf ook toe dat er zorgen waren rond de implementatie ervan en duwde de Canadees De regering moet met een reeks richtlijnen komen om discriminatie te helpen beperken.

“Er bestaat geen twijfel over dat de privacy van een persoon te allen tijde moet worden gerespecteerd in overeenstemming met de privacywetten, en dat onze aanwervingspraktijken niet-discriminerend moeten zijn en ingebed moeten zijn in een gevoel van gelijkheid”, zegt Anand. vertelde CBC.

“Zeker, als geracialiseerde vrouw voel ik dit heel diep. We moeten ervoor zorgen dat elk gebruik van AI op de werkplek in overeenstemming moet zijn met de bestaande wetgeving en de morele test van niet-discriminerend gedrag moet kunnen doorstaan.”

Lees ook: Microsoft AI gaf misleidende antwoorden op verkiezingsvragen

AI gebruiken voor het beoordelen van vaardigheden

In antwoord op vragen van NDP-parlementslid Matthew Green gaf het ministerie van Nationale Defensie aan dat het gebruik maakte van een AI-gestuurd instrument voor de beoordeling van vaardigheden, bekend als Knockri.

De tool werd gebruikt bij honderden vooraf opgenomen sollicitatiegesprekken als onderdeel van inspanningen om “vooroordelen te verminderen en gelijkheid in het wervingsproces te bevorderen.”

“Knockri gebruikt machine learning om de spraak-naar-tekstinhoud van de reacties van kandidaten te analyseren en deze te vergelijken met bepaalde prestatie-indicatoren”, schreef de afdeling.

Knockri is een in Toronto gevestigd bedrijf dat een op AI gebaseerde video-rekruteringstool heeft ontwikkeld om vooringenomenheid te beperken en het wervingsproces te verbeteren.

Bespioneert de overheid werknemers?

Het Anand-interview met CBC News vond plaats amper een maand na onderzoek door Radio Canada, die inbreuken op de privacy van persoonlijke gegevens aan het licht bracht.

Daaruit bleek dat overheidsdiensten technologie hebben verworven die kan worden gebruikt om gegevens te extraheren van mobiele apparaten zoals mobiele telefoons, maar ook van computers die aan werknemers worden gegeven.

Anand ontkende de beschuldigingen dat de overheid spyware op haar werknemers gebruikte.

“Dit is alleen in gevallen waarin er een onderzoek is of de overtuiging bestaat dat er iets misgaat”, zei ze, eraan toevoegend dat “het niet routinematig wordt gebruikt.”

Discriminatie aanpakken

AI-discriminatie is al lang een probleem, niet alleen in Canada maar een mondiale uitdaging. In september introduceerde Anand richtlijnen voor ambtenaren die generatieve AI-tools zoals ChatGPT willen gebruiken, waarbij hij zei dat de regering waakzaam zou zijn voor mogelijke uitdagingen zoals discriminatie en vooroordelen.

Volgens CBC weerhield dit Global Affairs er echter niet van zich te verontschuldigen na het plaatsen op sociale media van AI-gegenereerde inhoud ter representatie van een Inuit-vrouw.

Global Affairs had door de Treasury Board gemaakte instrumenten moeten gebruiken om medewerkers en afdelingen te begeleiden, “zoals de AI-richtlijnen of het Algorithmic Impact Assessment (AIA)-proces.”

“Dit is een perfecte situatie waarin je de algoritmische impactbeoordelingstool zou kunnen gebruiken die ik noemde”, zei ze.

“De AIA-tool bestaat uit een reeks vragen, en die reeks vragen moet worden gesteld wanneer AI op de werkplek wordt gebruikt. Ze weerspiegelen juridische, beleidsmatige en ethische overwegingen”, aldus Anand.

Ze sprak ook haar wens uit om lacunes in het regelgevingskader voor AI van haar land op te vullen.

“Er bestaat geen twijfel over dat AI een transformatieve technologie is. Een ander ding waar ik naar kijk is eigenlijk de lange termijn, omdat het van ons vereist dat we ons afvragen hoe we over regelgeving denken, en in bredere zin.”

“Met de komst van autonome machines, zoals autonome voertuigen, moeten we ons bijvoorbeeld afvragen of de regelgeving die we hebben relevant is en op de lange termijn toepasbaar is”, zegt Anand.

De mens blijft relevant

Terwijl de regering op haar departement AI-gestuurde tools onderzoekt, zei Anand dat Canadezen altijd de mogelijkheid moeten hebben om met een echt mens te praten. Ondanks de adoptie van de technologie mogen ambtenaren dus ook geen negatieve gevolgen ondervinden van de adoptie van AI-technologie op afdelingen.

Dit komt omdat er zorgen en angsten zijn dat AI-technologie banen zal wegnemen en zal verdwijnen miljoenen uit dienstverband.

Via wetsvoorstel C-27, dat momenteel bij de commissie ligt, wordt de Canadees De overheid wil een raamwerk aannemen voor het gebruik van AI in federaal gereguleerde bedrijven. Anand heeft echter niet gespecificeerd wanneer de wetgeving van toepassing zou moeten worden op de overheidsdepartementen.

In 2024 krijgt Anand echter de opdracht om de verouderde technologie te vernieuwen die de overheid gebruikt om voordelen te bieden zoals Old Age Security (OAS), de pensioenregeling en arbeidsverzekering van dat land.

In lijn hiermee heeft de regering in juni de eerste overdracht van 600,000 buitenlandse OAS-ontvangers naar het nieuwe platform uitgevoerd. Komend jaar start de tweede fase van de oefening.

“Uit onderzoek blijkt dat er een direct verband bestaat tussen het vertrouwen dat burgers hebben in onze overheid en de diensten die zij ontvangen. We verwachten dus tastbare vooruitgang te boeken bij de vervanging van systemen die meer dan 45 jaar oud zijn”, aldus Anand.

• Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
• PlatoData.Network Verticale generatieve AI. Versterk jezelf. Toegang hier.
• PlatoAiStream. Web3-intelligentie. Kennis versterkt. Toegang hier.
• PlatoESG. carbon, CleanTech, Energie, Milieu, Zonne, Afvalbeheer. Toegang hier.
• Plato Gezondheid. Intelligentie op het gebied van biotech en klinische proeven. Toegang hier.
• Bron: https://metanews.com/canada-setting-guidelines-to-tackle-ai-tools-bias-when-hiring/