기업이 점점 더 인공 지능을 적용함에 따라 신뢰에 대한 우려를 해결해야합니다.

AI 공정성을 보장하기 위해 기업이 채택 할 수있는 10 가지 실질적인 개입이 있습니다. 여기에는 AI 공정성 헌장 및 교육 및 테스트 구현.

데이터 기반 기술과 인공 지능 (AI)은 다음 COVID-19 변종이 발생할 위치를 예측하는 것부터 가장 효율적인 경로로 여행하는 데 도움이되는 오늘날 우리 세상에 힘을 실어주고 있습니다. 많은 영역에서 일반 대중은 이러한 경험을 지원하는 알고리즘이 공정한 방식으로 개발되고 있다는 높은 신뢰를 가지고 있습니다.

그러나이 신뢰는 쉽게 깨질 수 있습니다. 예를 들어 채용 소프트웨어 대표적이지 않은 교육 데이터로 인해 "여성"이라는 단어가 포함 된 응용 프로그램 또는 신용 가치에 대한 실제 증거를 놓친 신용 점수 시스템에 페널티를 부과하므로 결과적으로 특정 그룹은 낮은 신용 한도 또는 대출이 거부되었습니다.

현실은 기술이 AI 공정성에 대한 교육 및 훈련보다 빠르게 움직이고 있다는 것입니다. 이러한 데이터 기반 경험을 교육, 개발, 구현 및 마케팅하는 사람들은 종종 그들의 노력의 XNUMX 차 또는 XNUMX 차 영향.

세계 경제 포럼의 일환으로 인류를위한 인공 지능에 관한 글로벌 미래 협의회AI 실무자, 연구원 및 기업 고문으로 구성된 집단 인 우리는 기업이 AI 공정성을 보장하기 위해 채택 할 10 가지 실질적인 개입을 제안합니다.

1. AI 교육에 대한 책임 할당

교차 기능 윤리위원회 (데이터 과학, 규제, 홍보, 커뮤니케이션 및 HR 담당자 포함)와 함께 AI 교육 활동의 설계 및 구현을 담당해야하는 최고 AI 윤리 책임자 (CAIO)를 지정합니다. CAIO는 또한 공정성 문제가있는 경우 직원이 연락 할 수있는 "옴부즈맨"이자 비 기술 직원의 대변인이되어야합니다. 이상적으로이 역할은 가시성과 구현을 위해 CEO에게 직접보고해야합니다.

2. 조직의 공정성 정의

AI 공정성 헌장 템플릿을 개발 한 후 질문 모든 부서 AI를 적극적으로 사용하여 상황에 맞게 완성하고 있습니다. 이는 특히 비즈니스 라인 관리자와 제품 및 서비스 소유자와 관련이 있습니다.

3. 공급망에서 AI 공정성 보장

조달 된 제품 및 서비스에 AI가 내장 된 공급 업체 (예 : 후보 심사에 AI를 사용할 수있는 채용 대행사)도 AI 공정성 헌장을 작성하고 AI 공정성에 대한 회사 정책을 준수하도록 요구합니다. 이는 특히 조달 기능 및 공급 업체와 관련이 있습니다.

4. 교육 및 "실습을 통한 학습"접근 방식을 통해 직원과 이해 관계자를 교육합니다.

모든 직원에게 AI 공정성 원칙에 대한 필수 교육 및 인증을 요구합니다. 이는 직원이 비즈니스 행동 강령에 등록해야하는 것과 유사합니다. 기술 직원의 경우 공정성 원칙을 위반하지 않는 모델을 구축하는 방법에 대한 교육을 제공합니다. 모든 교육은 AI 공정성 헌장의 통찰력을 활용하여 회사가 직면 한 문제를 직접 해결해야합니다. 윤리위원회에서 코스 내용을 정기적으로 검토하는지 확인하십시오.

5. HR AI 공정성 인력 계획 수립

HR AI 공정성 계획에는 데이터 기반 기술 및 AI에 대해 작업하는 팀의 다양성을 평가하기위한 HR의 연간 검토와 주요 AI 관련 제품 개발을 위해 현재 광고되는 역량 및 기술에 대한 명시적인 검토 및 업그레이드가 포함되어야합니다. 공정성에 대한 인식을 보장하는 역할 (예 : 제품 소유자, 데이터 과학자 및 데이터 엔지니어)은 직무 설명의 일부입니다.

6. 기술 출시 전에 AI 공정성 테스트

AI 알고리즘이 활성화되기 전에 부서 및 공급 업체가 공정성 결과 테스트를 실행하고 내부적으로 게시하도록 요구합니다. 데이터 편향으로 인해 어떤 그룹이 부당하게 취급 될 수 있는지 알게되면 해당 그룹의 사용자를 시뮬레이션하고 결과를 모니터링합니다. 이것은 제품 팀이 제품 또는 서비스가 적용되기 전에 반복하고 개선하는 데 사용할 수 있습니다. 다음과 같은 오픈 소스 도구 마이크로 소프트 페어 런, 공정성 결과 테스트에 대한 분석을 제공 할 수 있습니다.

7. AI 공정성에 대한 접근 방식 전달

새롭거나 업데이트 된 제품 또는 서비스에 대한 공정성 결과 테스트를 진행하기 위해 고객 및 대중을 대상으로하는 직원과 함께 공정성 결과 학습 세션을 설정합니다. 이는 특히 마케팅 및 외부 커뮤니케이션과 고객 서비스 팀과 관련이 있습니다.

8. 이사회 회의의 상설 항목을 AI 공정성 프로세스에 바칩니다.

이 토론에는 진행 상황 및 준수 사항에 대한보고, AI 윤리 책임자 및 윤리위원회 최고 책임자가 제기 한 주제, 우선 순위가 높은 공정성 결과 테스트 결과가 포함되어야합니다.

9. 교육 스틱 확인

실제 비즈니스 가치 측면에서 공정성을 관리하는 데 따른 효과와 함께 AI 공정성 활동의 참여 및 완료를 정기적으로 추적하고보고합니다. 부서 및 라인 관리자에게 이러한 업데이트를 제공하여 직원과 소통하여 AI 플랫폼과 소프트웨어를보다 공정하게 만들어 조직이 더 효과적이고 생산적이라는 것을 강화하십시오.

10. 모든 것을 문서화

AI 공정성에 대한 접근 방식을 문서화하고 고객 및 투자자를 포함하여 직원 및 공급 업체 교육과 주목할만한 이벤트에서이를 전달합니다.

[이 이야기는 원래 AI 공정성에 대해 회사를 교육하는 10 단계 | 세계 경제 포럼 (weforum.org). 저작권 2021.]

나 지아 유 시프 의 전무 이사 겸 파트너입니다. 보스턴 컨설팅 그룹 영국, 네덜란드 및 벨기에의 금융 기관 업무를 공동 이끌고 있습니다.

마크 미네 비치 유네스코 조제프 스테판 연구소 (Jozef Stefan Institute)의 후원하에 인공 지능에 관한 국제 연구 센터의 인공 지능 정책을 담당하고 있습니다.