Le gouvernement canadien travaille sur un cadre pour lutter contre la discrimination dans les processus d'embauche au sein des ministères gouvernementaux, en abordant spécifiquement les questions de confidentialité et de transparence.

Cela survient alors que plusieurs départements ont commencé à intégrer l’IA dans leurs processus de recrutement, même si de nombreuses plaintes ont été soulevées concernant le caractère discriminatoire des outils d’IA.

Respect de la vie privée

Dans une entrevue portant sur un large éventail de questions, la présidente du Conseil du Trésor, Anita Anand, a reconnu les capacités de transformation de l’IA. Elle a également admis les inquiétudes concernant sa mise en œuvre, poussant le canadienne Le gouvernement doit proposer un ensemble de lignes directrices pour aider à limiter la discrimination.

"Il ne fait aucun doute qu'à tout moment, la vie privée d'une personne doit être respectée conformément aux lois sur la protection de la vie privée, et que nos pratiques d'embauche doivent être non discriminatoires et empreintes d'un sentiment d'égalité", a déclaré Anand. a déclaré à CBC.

« Bien sûr, en tant que femme racialisée, je ressens cela très profondément. Nous devons garantir que toute utilisation de l’IA sur le lieu de travail soit conforme à la loi en vigueur et puisse résister au test moral de non-discrimination.

A lire également: L'IA de Microsoft a fourni des réponses trompeuses aux questions électorales

Utiliser l’IA pour l’évaluation des compétences

En réponse aux questions du député néo-démocrate Matthew Green, le ministère de la Défense nationale a indiqué qu'il utilisait un outil d'évaluation des compétences basé sur l'IA connu sous le nom de Knockri.

L’outil a été utilisé lors de centaines d’entretiens d’embauche préenregistrés dans le cadre des efforts visant à « réduire les préjugés et promouvoir l’équité dans le processus de recrutement ».

"Knockri utilise l'apprentissage automatique pour analyser le contenu parole-texte des réponses des candidats et les comparer à des indicateurs de performance déterminés", a écrit le département.

Knockri est une entreprise basée à Toronto qui a développé un outil de recrutement vidéo basé sur l'IA pour limiter les préjugés et améliorer le processus d'embauche.

Le gouvernement espionne-t-il les employés ?

L'entrevue d'Anand avec CBC News a été réalisée à peine un mois après les enquêtes menées par Radio-Canada, qui a mis au jour des atteintes à la confidentialité des données personnelles.

Il a révélé que les ministères ont acquis une technologie qui peut être utilisée pour extraire des données d'appareils mobiles comme les téléphones portables, ainsi que des ordinateurs remis aux employés.

Anand a nié les allégations selon lesquelles le gouvernement utilisait des logiciels espions sur ses employés.

« Ce n’est que dans les cas où il y a une enquête ou où l’on croit que quelque chose ne va pas », a-t-elle déclaré, ajoutant que « ce n’est pas utilisé systématiquement ».

Lutter contre la discrimination

Discrimination de l'IA est un problème de longue date, non seulement au Canada, mais aussi à l’échelle mondiale. En septembre, Anand a introduit des lignes directrices pour les fonctionnaires souhaitant utiliser des outils d'IA générative comme ChatGPT, affirmant que le gouvernement serait attentif à tout défi potentiel comme discrimination et préjugés.

Cependant, selon CBC, cela n’a pas empêché Affaires mondiales de présenter ses excuses après avoir publié sur les réseaux sociaux du contenu généré par l’IA pour représenter une femme inuite.

Affaires mondiales aurait dû utiliser des outils conçus par le Conseil du Trésor pour guider les employés et les ministères, « comme les lignes directrices sur l’IA ou le processus d’évaluation de l’impact algorithmique (AIA) ».

« C’est une situation parfaite où l’on pourrait utiliser l’outil algorithmique d’évaluation d’impact que j’ai mentionné », a-t-elle déclaré.

« L’outil AIA est une série de questions, et ces séries de questions doivent être posées lorsque l’IA est utilisée sur le lieu de travail. Ils reflètent des considérations juridiques, politiques et éthiques », a ajouté Anand.

Elle a également exprimé sa volonté de combler les lacunes du cadre réglementaire de son pays en matière d’IA.

« Il ne fait aucun doute que l’IA est une technologie transformatrice. Une autre chose que j’examine est vraiment le long terme car cela nous oblige à nous demander comment nous pensons à la réglementation et plus largement.

« Par exemple, avec l’avènement des machines autonomes, comme les véhicules autonomes, nous devons nous demander si la réglementation que nous avons en place est pertinente et applicable à long terme », a déclaré Anand.

Les humains restent pertinents

Alors que le gouvernement explore les outils basés sur l'IA dans son ministère, Anand a déclaré que les Canadiens devraient toujours avoir la possibilité de parler à un véritable humain. Ainsi, malgré l’adoption de la technologie, les fonctionnaires ne devraient pas non plus subir les conséquences négatives de l’adoption de la technologie de l’IA dans les ministères.

Cela survient alors qu’il y a eu des inquiétudes et des craintes que la technologie de l’IA ne supprime des emplois, laissant des millions sans emploi.

Grâce au projet de loi C-27, dont est actuellement saisi le comité, le canadienne Le gouvernement souhaite adopter un cadre pour l’utilisation de l’IA dans les entreprises sous réglementation fédérale. Cependant, Anand n'a pas précisé quand la législation devrait commencer à s'appliquer dans les ministères gouvernementaux.

Cependant, en 2024, Anand a pour mandat de réorganiser la technologie vieillissante que le gouvernement utilise pour offrir des prestations telles que la Sécurité de la vieillesse (SV), qui est le régime de retraite et l’assurance-emploi du pays.

Dans cette optique, le gouvernement a procédé en juin au premier transfert de 600,000 XNUMX bénéficiaires étrangers de la SV vers la nouvelle plateforme. La deuxième phase de l’exercice débutera l’année prochaine.

« La recherche montre qu'il existe une corrélation directe entre la confiance que les citoyens ont dans notre gouvernement et les services qu'ils reçoivent. Nous espérons donc réaliser des progrès tangibles dans le remplacement des systèmes vieux de plus de 45 ans », a déclaré Anand.

• Contenu propulsé par le référencement et distribution de relations publiques. Soyez amplifié aujourd'hui.
• PlatoData.Network Ai générative verticale. Autonomisez-vous. Accéder ici.
• PlatoAiStream. Intelligence Web3. Connaissance Amplifiée. Accéder ici.
• PlatonESG. Carbone, Technologie propre, Énergie, Environnement, Solaire, La gestion des déchets. Accéder ici.
• PlatoHealth. Veille biotechnologique et essais cliniques. Accéder ici.
• La source: https://metanews.com/canada-setting-guidelines-to-tackle-ai-tools-bias-when-hiring/