캐나다 정부는 특히 개인 정보 보호 및 투명성 문제를 다루면서 정부 부서 내 채용 과정에서 차별을 해결하기 위한 프레임워크를 마련하고 있습니다.

이는 AI 도구의 차별적 성격에 대한 많은 불만이 제기되었지만 여러 부서에서 채용 프로세스에 AI를 통합하기 시작하면서 나온 것입니다.

프라이버시 존중

다양한 문제를 다룬 인터뷰에서 아니타 아난드(Anita Anand) 재무부 회장은 AI의 혁신적인 능력을 인정했습니다. 그녀는 또한 그 시행에 대한 우려를 인정하면서 캐나다의 정부는 차별을 제한하는 데 도움이 되는 일련의 지침을 마련해야 합니다.

"항상 개인 정보 보호법에 따라 개인의 개인 정보가 존중되어야 하며, 채용 관행이 비차별적이어야 하고 평등의식이 내재되어 있어야 한다는 점에는 의심의 여지가 없습니다."라고 Anand는 말했습니다. CBC에 말했다.

“확실히 인종차별을 받는 여성으로서 저는 이것을 매우 깊이 느낍니다. 우리는 직장에서 AI를 사용하는 경우 기존 법률을 준수해야 하며 비차별적이라는 도덕적 시험을 견딜 수 있어야 합니다.”

또한 읽기 : Microsoft AI가 선거 질문에 잘못된 답변을 제공했습니다.

기술 평가에 AI 사용

NDP 의원 매튜 그린(Matthew Green)의 질문에 대해 국방부는 다음과 같은 AI 기반 기술 평가 도구를 사용했다고 밝혔습니다. 노 크리.

이 도구는 "채용 과정에서 편견을 줄이고 형평성을 촉진"하려는 노력의 일환으로 수백 건의 사전 녹음된 면접에 사용되었습니다.

“Knockri는 기계 학습을 사용하여 후보자 응답의 음성-텍스트 내용을 분석하고 이를 결정된 성과 지표와 비교합니다.”라고 부서는 썼습니다.

노 크리 편견을 제한하고 채용 프로세스를 향상시키기 위해 AI 기반 비디오 채용 도구를 개발한 토론토에 본사를 둔 회사입니다.

정부가 직원을 감시하고 있나요?

CBC 뉴스와의 아난드 인터뷰는 조사 후 거의 한 달 만에 이루어졌습니다. 라디오 캐나다, 개인정보 침해 사실을 적발했습니다.

정부 부처는 직원들에게 지급된 컴퓨터는 물론 휴대전화 등 모바일 기기에서 데이터를 추출하는 데 사용할 수 있는 기술을 확보한 것으로 드러났다.

Anand는 정부가 직원들에게 스파이웨어를 사용하고 있다는 주장을 부인했습니다.

그녀는 “이것은 무언가 잘못되고 있다는 조사나 믿음이 있는 경우에만 해당된다”며 “일상적으로 사용되지는 않는다”고 덧붙였다.

차별대응

AI 차별 이는 캐나다뿐만 아니라 전 세계가 직면한 오랜 문제였습니다. 지난 XNUMX월 아난드는 ChatGPT와 같은 생성 AI 도구를 사용하려는 공무원을 위한 지침을 소개하면서 정부가 다음과 같은 잠재적인 문제를 주의 깊게 살필 것이라고 말했습니다. 차별과 편견.

그러나 CBC에 따르면 글로벌 어페어는 이누이트 여성을 대표하기 위해 AI 생성 콘텐츠를 소셜 미디어에 게시한 후 사과하는 것을 막지 못했습니다.

글로벌 어페어(Global Affairs)는 "AI 지침이나 알고리즘 영향 평가(AIA) 프로세스와 같은" 직원과 부서를 안내하기 위해 재무부에서 만든 도구를 사용해야 했습니다.

“이것은 내가 언급한 알고리즘 영향 평가 도구를 사용할 수 있는 완벽한 상황입니다.”라고 그녀는 말했습니다.

“AIA 도구는 일련의 질문이며 AI가 직장에서 사용될 때 이러한 일련의 질문을 던져야 합니다. 이는 법적, 정책적, 윤리적 고려 사항을 반영합니다.”라고 Anand는 덧붙였습니다.

그녀는 또한 AI에 대한 자국의 규제 프레임워크의 격차를 메우고 싶다는 소망을 표명했습니다.

“AI가 혁신적인 기술이라는 것은 의심의 여지가 없습니다. 제가 보고 있는 또 다른 것은 규제에 대해 더 광범위하게 생각하는 방법을 물어야 하기 때문에 실제로 장기적인 것입니다.”

"예를 들어, 자율 차량과 같은 자율 기계의 출현으로 우리는 현재 시행 중인 규제가 관련성이 있고 장기적으로 적용 가능한지 스스로에게 물어볼 필요가 있습니다."라고 Anand는 말했습니다.

인간은 관련성을 유지한다

정부가 부서에서 AI 기반 도구를 탐색하는 동안 Anand는 캐나다인들이 항상 실제 인간과 대화할 수 있는 옵션을 가져야 한다고 말했습니다. 따라서 기술을 채택하더라도 공무원 역시 부서의 AI 기술 채택으로 인해 부정적인 영향을 받아서는 안 됩니다.

이는 AI 기술이 일자리를 앗아갈 것이라는 우려와 두려움이 있었기 때문에 나온 것입니다. 수백만 실직.

현재 위원회에 제출된 Bill C-27을 통해 캐나다의 정부는 연방 규제를 받는 기업에서 AI 사용을 위한 프레임워크를 채택하기를 원합니다. 그러나 아난드는 이 법안이 언제 정부 부처에 적용되기 시작해야 하는지 명시하지 않았습니다.

그러나 2024년에 아난드는 정부가 해당 국가의 연금 제도 및 고용 보험인 노인 보장(OAS)과 같은 혜택을 제공하기 위해 사용하는 노후화된 기술을 개편해야 할 의무가 있습니다.

이에 맞춰 정부는 지난 600,000월 처음으로 외국인 OAS 수혜자 XNUMX만 명을 새 플랫폼으로 이전했다. XNUMX단계 훈련은 내년부터 시작된다.

“연구에 따르면 우리 정부에 대한 시민들의 신뢰와 그들이 받는 서비스 사이에는 직접적인 상관관계가 있는 것으로 나타났습니다. 따라서 우리는 45년 이상 된 시스템 교체에 있어 실질적인 진전을 이룰 것으로 기대합니다”라고 Anand는 말했습니다.

• SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
• PlatoData.Network 수직 생성 Ai. 자신에게 권한을 부여하십시오. 여기에서 액세스하십시오.
• PlatoAiStream. 웹3 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
• 플라톤ESG. 탄소, 클린테크, 에너지, 환경, 태양광, 폐기물 관리. 여기에서 액세스하십시오.
• PlatoHealth. 생명 공학 및 임상 시험 인텔리전스. 여기에서 액세스하십시오.
• 출처: https://metanews.com/canada-setting-guidelines-to-tackle-ai-tools-bias-when-hiring/