Die kanadische Regierung arbeitet an einem Rahmen zur Bekämpfung von Diskriminierung bei Einstellungsprozessen in Regierungsabteilungen und geht dabei insbesondere auf Fragen des Datenschutzes und der Transparenz ein.

Dies ist darauf zurückzuführen, dass mehrere Abteilungen damit begonnen haben, KI in ihre Einstellungsprozesse zu integrieren, obwohl zahlreiche Beschwerden über den diskriminierenden Charakter von KI-Tools vorgebracht wurden.

Achtung der Privatsphäre

In einem Interview zu einem breiten Themenspektrum würdigte die Präsidentin des Treasury Board, Anita Anand, die transformativen Fähigkeiten der KI. Sie räumte auch die Bedenken hinsichtlich der Umsetzung ein und drängte darauf kanadischen Die Regierung wird aufgefordert, eine Reihe von Richtlinien auszuarbeiten, um Diskriminierung einzudämmen.

„Es steht außer Frage, dass die Privatsphäre einer Person jederzeit im Einklang mit den Datenschutzgesetzen respektiert werden muss und dass unsere Einstellungspraktiken nicht diskriminierend sein und von einem Gefühl der Gleichberechtigung geprägt sein müssen“, sagte Anand sagte CBC.

„Als rassisierte Frau spüre ich das sicherlich sehr tief. Wir müssen sicherstellen, dass jeder Einsatz von KI am Arbeitsplatz im Einklang mit geltendem Recht steht und den moralischen Test der Nichtdiskriminierung bestehen muss.“

Lies auch: Microsoft AI lieferte irreführende Antworten auf Wahlfragen

Einsatz von KI zur Kompetenzbewertung

Auf Fragen des NDP-Abgeordneten Matthew Green antwortete das Verteidigungsministerium, dass es ein KI-gesteuertes Tool zur Bewertung von Fähigkeiten verwende, das als bekannt ist Knockri.

Das Tool wurde bei Hunderten von vorab aufgezeichneten Vorstellungsgesprächen eingesetzt, um „Voreingenommenheit zu reduzieren und Gerechtigkeit im Einstellungsprozess zu fördern“.

„Knockri nutzt maschinelles Lernen, um den Speech-to-Text-Inhalt der Kandidatenantworten zu analysieren und sie mit bestimmten Leistungsindikatoren zu vergleichen“, schrieb die Abteilung.

Knockri ist ein in Toronto ansässiges Unternehmen, das ein KI-basiertes Video-Recruiting-Tool entwickelt hat, um Voreingenommenheit zu reduzieren und den Einstellungsprozess zu verbessern.

Spioniert die Regierung Mitarbeiter aus?

Das Anand-Interview mit CBC News fand knapp einen Monat nach den Ermittlungen von statt Radio Canada, die Verstöße gegen den Datenschutz aufdeckte.

Es zeigte sich, dass Regierungsbehörden Technologien erworben haben, mit denen Daten von mobilen Geräten wie Mobiltelefonen sowie von Computern, die Mitarbeitern zur Verfügung gestellt werden, extrahiert werden können.

Anand wies die Vorwürfe zurück, dass die Regierung Spyware gegen ihre Mitarbeiter einsetze.

„Dies geschieht nur in Fällen, in denen Untersuchungen vorliegen oder der Verdacht besteht, dass etwas schiefläuft“, sagte sie und fügte hinzu, dass „es nicht routinemäßig eingesetzt wird.“

Diskriminierung bekämpfen

KI-Diskriminierung ist ein langjähriges Problem, nicht nur in Kanada, sondern eine globale Herausforderung. Im September führte Anand Richtlinien für Beamte ein, die generative KI-Tools wie ChatGPT nutzen möchten, und sagte, die Regierung werde auf mögliche Herausforderungen achten Diskriminierung und Voreingenommenheit.

Laut CBC hinderte dies Global Affairs jedoch nicht daran, sich zu entschuldigen, nachdem es in den sozialen Medien KI-generierte Inhalte gepostet hatte, die eine Inuit-Frau darstellten.

Global Affairs hätte vom Treasury Board erstellte Tools nutzen sollen, um Mitarbeiter und Abteilungen anzuleiten, „wie etwa die KI-Richtlinien oder den Algorithmic Impact Assessment (AIA)-Prozess“.

„Dies ist eine perfekte Situation, in der man das von mir erwähnte algorithmische Folgenabschätzungstool verwenden könnte“, sagte sie.

„Das AIA-Tool besteht aus einer Reihe von Fragen, und diese Fragen sollten gestellt werden, wenn KI am Arbeitsplatz eingesetzt wird. Sie spiegeln rechtliche, politische und ethische Überlegungen wider“, fügte Anand hinzu.

Sie äußerte auch den Wunsch, Lücken im Regulierungsrahmen ihres Landes für KI zu schließen.

„Es besteht kein Zweifel, dass KI eine transformative Technologie ist. Eine andere Sache, die ich betrachte, ist wirklich langfristig, weil wir uns fragen müssen, wie wir über Regulierung und im weiteren Sinne denken.“

„Mit dem Aufkommen autonomer Maschinen wie autonomer Fahrzeuge müssen wir uns beispielsweise fragen, ob die von uns eingeführten Vorschriften relevant und langfristig anwendbar sind“, sagte Anand.

Der Mensch bleibt relevant

Während die Regierung in ihrer Abteilung KI-gesteuerte Tools erforscht, sollten Kanadier immer die Möglichkeit haben, mit einem echten Menschen zu sprechen, sagte Anand. Daher sollten öffentliche Bedienstete trotz der Einführung der Technologie auch keine negativen Auswirkungen durch die Einführung der KI-Technologie in den Abteilungen haben.

Dies ist darauf zurückzuführen, dass es Bedenken und Befürchtungen gab, dass die KI-Technologie Arbeitsplätze wegnehmen und das Unternehmen verlassen könnte Millionen arbeitslos.

Durch Gesetzentwurf C-27, der derzeit dem Ausschuss vorliegt, wird die kanadischen Die Regierung möchte einen Rahmen für den Einsatz von KI in staatlich regulierten Unternehmen verabschieden. Anand gab jedoch nicht an, wann die Gesetzgebung in den Regierungsabteilungen in Kraft treten sollte.

Im Jahr 2024 wird Anand jedoch beauftragt, die alternde Technologie zu überarbeiten, die die Regierung nutzt, um Leistungen wie die Alterssicherung (Old Age Security, OAS) zu erbringen, die Renten- und Arbeitsversicherung des Landes.

Dementsprechend hat die Regierung im Juni erstmals 600,000 ausländische OAS-Empfänger auf die neue Plattform übertragen. Die zweite Phase der Übung wird im kommenden Jahr beginnen.

„Untersuchungen zeigen, dass es einen direkten Zusammenhang zwischen dem Vertrauen der Bürger in unsere Regierung und den Dienstleistungen gibt, die sie erhalten. Daher gehen wir davon aus, dass wir beim Austausch der über 45 Jahre alten Systeme spürbare Fortschritte machen werden“, sagte Anand.

• SEO-gestützte Content- und PR-Distribution. Holen Sie sich noch heute Verstärkung.
• PlatoData.Network Vertikale generative KI. Motiviere dich selbst. Hier zugreifen.
• PlatoAiStream. Web3-Intelligenz. Wissen verstärkt. Hier zugreifen.
• PlatoESG. Kohlenstoff, CleanTech, Energie, Umwelt, Solar, Abfallwirtschaft. Hier zugreifen.
• PlatoHealth. Informationen zu Biotechnologie und klinischen Studien. Hier zugreifen.
• Quelle: https://metanews.com/canada-setting-guidelines-to-tackle-ai-tools-bias-when-hiring/