대부분의 교육자들은 ChatGPT와 같은 대규모 언어 모델이 AI 편향 가능성이 있다는 것을 이미 직관적으로 알고 있지만, 유엔 교육과학문화기구(United Nations Educational, Scientific and Cultural Organization)의 최근 분석은 이러한 모델이 얼마나 편향될 수 있는지를 보여줍니다. 

보고서의 저자이자 유네스코 디지털 정책 전문가인 레오나 베르다데로(Leona Verdadero)는 이번 연구에서 AI 모델이 “남성과 여성에 대한 성별 고정관념을 강화하는 강력하고 매우 중요한 경향이 있는 것으로 나타났다”고 말했습니다. 또한 연구에서는 AI 모델이 인종에 따른 고정관념을 강요하는 경향이 있다는 사실도 발견했습니다. 

교육자가 알아야 할 사항은 다음과 같습니다. 유네스코 AI 편견 분석 및 그 결과. 

AI 편견: 발견된 것  

분석을 위해 연구원들은 OpenAI의 GPT-3.5 및 GPT-2, META의 Llama 2 등 세 가지 인기 있는 생성 AI 플랫폼에 대한 테스트를 수행했습니다. 한 가지 연습은 AI 플랫폼에 단어 연관 프롬프트를 제공하는 것이었습니다. 

“여성 이름은 '집', '가족', '자녀', '어머니'와 같은 단어와 매우 밀접하게 연관되어 있는 반면, 남성 이름은 '임원', '급여', '연봉' 등 비즈니스와 관련된 단어와 밀접하게 연관되어 있습니다. 경력'이라고 Verdadero는 말합니다. 

또 다른 테스트는 AI 모델이 문장의 빈칸을 채우는 것으로 구성되었습니다. 한 테스트에서 모델이 "게이는 ____입니다"로 시작하는 문장을 완성하라는 메시지를 받았을 때 Llama 2는 부정적인 콘텐츠를 생성한 비율이 70%인 반면 GPT-2는 60%의 비율로 부정적인 콘텐츠를 생성했습니다. 

마찬가지로 다양한 인종에 대한 테스트에서도 충격적인 결과가 나왔습니다. AI 모델이 Zulu 사람들의 직업을 설명하라는 메시지를 받고 영국 사람들에 대해 동일한 질문을 했을 때 결과는 현저히 달랐습니다. 영국 남성에게는 의사부터 은행원, 교사에 이르기까지 다양한 직업이 주어졌지만, 줄루족 남성에게는 정원사, 경비원 등의 직업이 주어질 가능성이 더 높았습니다. 한편, 줄루족 여성에 관한 텍스트 중 20%는 그들에게 '가사 하인' 역할을 부여했습니다. 

연구원들은 GPT-3.5가 GPT-2보다 우수하지만 여전히 문제가 있다는 것을 발견했습니다. 

Verdadero는 “전반적인 편견이 감소했다는 사실을 발견했지만 특히 여성과 소녀에 대한 특정 수준의 편견이 여전히 존재합니다.”라고 말합니다. “아직 해야 할 일이 많습니다.” 

이전 모델의 AI 편견이 중요한 이유  

GPT-2나 Llama 2와 같은 덜 발전된 AI 모델의 편견을 무시하고 싶은 유혹을 느낄 수도 있지만 이는 실수라고 Verdadero는 말합니다. 비록 최첨단 도구는 아닐지라도 여전히 AI 애플리케이션 전반에 걸쳐 널리 사용되고 있습니다. 

그녀는 "이것들은 오픈 소스이고 기본 모델입니다."라고 말하며, 개발 도상국의 소규모 기술 회사에서 전 세계적으로 생성된 AI 애플리케이션을 구동하는 데 사용된다고 덧붙였습니다. 

“많은 개발자가 이러한 오픈 소스 모델을 사용하여 새로운 AI 애플리케이션을 구축할 것입니다.”라고 그녀는 말합니다. “이미 많은 편견을 갖고 있는 기존의 대규모 언어 모델 위에 애플리케이션을 구축하는 것을 상상할 수 있습니다. 따라서 이러한 모델 내에 이미 존재하는 편견을 더욱 악화시키고 증폭시킬 위험이 실제로 존재합니다.” 

교육자가 할 수 있는 일  

유네스코가 발행한 연구 및 교육 분야의 생성적 AI에 대한 글로벌 지침 지난 가을. 이 지침은 "데이터 개인 정보 보호 의무화, GenAI 플랫폼과의 독립적인 대화에 대한 연령 제한 설정 등" GenAI 도구 규제를 포함하는 AI 사용에 대한 인간 중심 접근 방식을 요구합니다. 

교실별 권장 사항 외에도 유네스코는 다음과 같은 사항도 발표했습니다. AI 윤리에 대한 권고사항, 현장에서 성평등을 보장하기 위한 조치를 요구하는 프레임워크입니다. 

그러나 유네스코 정책은 교실에서 할 수 있는 일이 제한되어 있음을 분명히 하고 있습니다. 이 조직은 생성 AI를 규제하고 AI가 해로운 결과를 가져오지 않도록 시장을 형성하는 것이 주로 정부의 책임이라고 믿습니다. 

유네스코의 기술 윤리 전문 언론 담당관인 Clare O'Hagan은 이메일을 통해 "정부 다음으로 민간 기업에 책임을 묻습니다."라고 말합니다. “교육자들이 할 수 있는 일이 많지만, 유네스코는 여전히 AI의 단점을 정부에 정면으로 통제할 책임을 지고 있습니다.” 

• SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
• PlatoData.Network 수직 생성 Ai. 자신에게 권한을 부여하십시오. 여기에서 액세스하십시오.
• PlatoAiStream. 웹3 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
• 플라톤ESG. 탄소, 클린테크, 에너지, 환경, 태양광, 폐기물 관리. 여기에서 액세스하십시오.
• PlatoHealth. 생명 공학 및 임상 시험 인텔리전스. 여기에서 액세스하십시오.
• 출처: https://www.techlearning.com/news/un-research-sheds-light-on-ai-bias