네덜란드에 기반을 둔 XNUMX인조 관에 따르면 인간 심리학은 사람들이 인공 지능의 이점을 깨닫지 못하게 할 수 있다고 합니다.
그러나 교육을 통해 우리는 편견을 극복하고 자동화된 조언자를 신뢰하는 방법을 배울 수 있습니다.
In 인쇄 전 종이 "Knowing About Knowing: An Illusion of Human Competence Can Hinder Appropriate Reliance on AI Systems"라는 제목의 Delft University of Technology의 Gaole He, Lucie Kuiper, Ujwal Gadiraju는 Dunning-Kruger 효과가 사람들이 AI 시스템.
더닝 크루거 효과(DKE)는 연구 1999년부터 심리학자 David Dunning과 Justin Kruger는 "숙련되지 않고 인식하지 못함: 자신의 무능함을 인식하는 데 어려움이 있어 부풀려진 자기 평가로 이어집니다."
더닝과 크루거는 무능력한 사람들은 자신의 무능함을 인식하는 능력이 부족하여 자신의 능력을 과대평가하는 경향이 있다고 가정합니다.
DKE가 있다고 가정 – 모두가 동의하지 않는 것 – Delft 연구원은 이 인지 상태가 AI 지침이 우리에게 손실될 수 있음을 의미한다고 제안합니다. AI 시스템은 현재 감독 없이 작동하는 자율 시스템이 아니라 인간의 의사 결정을 강화하는 보조 시스템으로 홍보되는 경향이 있기 때문에 이상적이지 않습니다. 로보 헬프는 우리가 받아들이지 않는다면 큰 의미가 없습니다.
“이것은 인간-AI 의사 결정의 맥락에서 이해해야 할 특히 중요한 메타인지 편향입니다. AI 시스템에 대한 부풀려진 자기 평가와 환상적 우월성이 어떻게 자신에게 지나치게 의존하거나 AI에 대한 과소 의존을 나타낼 수 있는지 직관적으로 이해할 수 있기 때문입니다. 조언”이라고 He, Kuiper, Gadiraju가 그들의 논문에서 언급했습니다. 치 2023. "이는 AI 시스템과의 상호 작용에서 인간의 행동을 흐리게 할 수 있습니다."
이를 테스트하기 위해 연구자들은 249명에게 그들의 추론을 테스트하기 위해 일련의 객관식 질문에 답하도록 요청했습니다. 응답자들은 먼저 스스로 질문에 답한 다음 AI 비서의 도움을 받아 답하도록 요청받았다.
질문들, 사용 가능 연구 프로젝트 GitHub 저장소, 다음과 같은 일련의 질문으로 구성되었습니다.
의사: 인구 규모가 거의 같은 다른 두 나라와 우리나라를 비교한 결과, 식이, 세균, 스트레스 관련 궤양 원인이 똑 같더라도 모든 사회경제적 계층에서 궤양 치료제 처방이 이 두 나라보다 이곳이 훨씬 더 드물다. 우리가 그들보다 XNUMX인당 훨씬 적은 궤양을 겪는다는 것은 분명합니다.
그런 다음 연구 참여자들에게 다음 중 어느 것이 사실이라면 의사의 주장을 가장 강화시키는 질문을 받았습니다.
- 의사의 나라와 비교한 두 나라는 서로 거의 같은 궤양 발생률을 보였다.
- 의사의 국가는 다른 두 국가에 존재하는 것보다 매년 얻어지는 주어진 유형의 처방 수를 보고하는 훨씬 더 나은 시스템을 가지고 있습니다.
- 의사의 나라에서 궤양을 앓고 있는 사람은 다른 두 나라에서 궤양을 앓고 있는 사람과 마찬가지로 질병에 대한 처방을 받을 가능성이 높습니다.
- 의사의 비교에서 다루지 않은 몇몇 다른 국가는 의사의 국가보다 더 많은 궤양 약물 처방을 가지고 있습니다.
응답자들이 답변을 한 후 동일한 질문과 AI 시스템의 추천 답변(위 질문의 경우 D)을 제시하고 초기 답변을 변경할 수 있는 기회를 제공했습니다. 연구자들은 이 접근법이 과거 연구로 검증된 [PDF].
받은 답변을 바탕으로 세 명의 컴퓨터 과학자는 "DKE가 AI 시스템에 대한 사용자 의존도에 부정적인 영향을 미칠 수 있다..."라고 결론을 내립니다.
그러나 그것이 올바른 용어라면 좋은 소식은 DKE가 운명이 아니라는 것입니다. AI에 대한 우리의 불신은 훈련될 수 있습니다.
연구원들은 "이러한 인지 편향을 완화하기 위해 작업에 대한 성능 피드백을 포함한 자습서 개입을 도입했으며, 정답과 사용자의 실수를 대조하기 위해 수동으로 만든 설명도 함께 제공했습니다."라고 설명합니다. "실험 결과에 따르면 이러한 개입은 자체 평가를 조정하는 데 매우 효과적이며(중요한 개선), 과소 의존을 완화하고 적절한 의존을 촉진하는 데 어느 정도 긍정적인 영향을 미칩니다(유의하지 않은 결과)."
그러나 튜토리얼이 과신(DKE)을 보이는 사람들에게 도움이 되었다면 교정 재교육은 처음에 자신의 능력을 과소평가한 사람들에게 반대의 영향을 미쳤습니다. 알려진 결과 기계가 실수하는 것을 보는 [PDF].
연구원들은 AI 시스템에 대한 인간의 신뢰가 어떻게 형성될 수 있는지 이해하기 위해 더 많은 작업이 필요하다고 결론지었습니다.
우리는 HAL의 말을 기억하는 것이 좋을 것입니다. 2001 : 스페이스 오디세이.
제가 최근에 매우 잘못된 결정을 내린 것을 알고 있지만 제 업무가 정상으로 돌아올 것이라는 완전한 확신을 드릴 수 있습니다. 나는 여전히 임무에 대한 가장 큰 열정과 자신감을 가지고 있습니다. 그리고 나는 당신을 돕고 싶습니다.
®
- SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
- 플라토 블록체인. Web3 메타버스 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
- 출처: https://go.theregister.com/feed/www.theregister.com/2023/02/03/human_hubris_may_prevent_people/
