생성적 AI 개발자가 계속해서 모델을 정교하게 미세 조정함에 따라 실제 이미지와 AI 창작물을 구별하는 것도 점점 더 어려워지고 있다고 연구원들은 밝혔습니다.
연구진의 연구 워털루 대학교 사람들이 실제 사람의 사진과 AI가 생성한 사람의 사진을 알아내는 데 어려움을 겪고 있다는 사실이 입증되었습니다.
예상 기준점 미만
연구를 수행하면서 워털루 대학의 연구원들은 20명의 참가자에게 라벨이 지정되지 않은 사진 260장을 제공했습니다. 사진의 절반은 Google 이미지에서 가져온 실제 인물의 사진이고 나머지 절반은 Dall-E 및 안정적인 확산.
그런 다음 참가자들은 이미지가 실제인지 AI에서 생성되었는지 라벨을 지정하여 대답을 정당화하도록 요청 받았습니다.
참가자의 61%가 실제 이미지와 AI 생성 이미지의 차이를 구분할 수 있었지만 이는 여전히 예상되는 85% 임계값보다 훨씬 낮았습니다.
참가자들은 이미지를 면밀히 조사하면서 AI가 생성한 이미지를 찾을 때 표시하는 눈, 손가락, 치아 및 기타 지표와 같은 세부 사항에 주의를 기울였지만 "그들의 평가가 항상 정확하지는 않았습니다."
"사람들은 자신이 생각하는 것만큼 구별하는 데 능숙하지 않습니다." 말했다 이 연구의 주요 저자인 Andrea Pocol은 대학에서 컴퓨터 공학 박사 과정을 밟고 있습니다.
인터넷 사용자들은 지나가면서 이미지를 볼 수도 있지만, 워털루 연구원들은 참가자들이 이미지를 분석하는 데 시간을 할애하도록 허용했다고 말했습니다.
Pocol은 “그냥 둠스크롤을 하고 있거나 시간이 없는 사람들은 이러한 신호를 포착하지 못할 것입니다.”라고 말했습니다.
또한 읽기 : Leonardo CEO, Davos에서 AI 위협에 대한 사용자의 어리석음을 강조
기술 남용
그들의 공부는 Advances in Computer Graphics 저널에 실린 "Seeing Is No Longer Believing: A Survey on the State of Deepfakes, AI-Generated Humans, and Other Nonveridical Media"라는 제목으로 생성 AI 기술의 발전과 관련된 위험을 강조합니다. .
연구원들은 또한 생성 AI 기술이 날이 갈수록 더욱 정교해지고 빠르게 변화하는 속도에 우려를 표시했습니다. 학술 연구 및 법률은 발전 산업의 발전 속도를 따라잡지 못하고 있습니다.
Pocol은 AI 이미지가 점점 더 현실화되어 일부 사람들이 실제 이미지와 AI 생성 이미지를 쉽게 구별하기 어렵게 한다고 말했습니다. Pocol은 이것이 악의를 퍼뜨리고 허위 정보를 영속시키거나 사람들을 속이기 위해 기술을 이용하는 나쁜 행위자들을 위한 비옥한 기반을 만들고 있다고 말했습니다.
Pocol은 “허위 정보는 새로운 것이 아니지만 허위 정보 도구는 끊임없이 변화하고 발전해 왔습니다.”라고 말했습니다.
“아무리 훈련을 받았더라도 사람들이 실제 이미지와 가짜 이미지를 구별하는 데 여전히 어려움을 겪는 지점에 도달할 수 있습니다. 그렇기 때문에 우리는 이를 식별하고 대응할 수 있는 도구를 개발해야 합니다. 이는 새로운 AI 군비 경쟁과 같습니다.”
연구원들은 또한 특히 딥페이크 확산과 관련하여 이 기술이 제기하는 과제를 인정했습니다.
기술이 잘못된 손에 들어가 있다
일반인들이 실제 이미지와 가짜 이미지를 구별하기 어려워지면서 딥페이크 확산에 대한 우려도 커지고 있다. 전문가들은 악의적인 행위자가 생성 AI 기술을 활용하여 유권자를 오도하려는 시도로 선거 허위 정보를 퍼뜨릴 것이라고 경고했습니다.
XNUMXD덴탈의 디지털 증오 대응 센터 (CCDH)는 온라인 증오심 표현을 모니터링하는 비영리 단체로 이미 경고 AI 기반 이미지 생성기가 2024년 선거 잘못된 정보를 악화시키고 있다고 보고서에서 밝혔습니다.
CCDH 연구원들은 보고서에서 “이러한 AI 생성 이미지가 '사진 증거' 역할을 할 가능성이 허위 주장의 확산을 악화시켜 선거의 무결성을 유지하는 데 심각한 어려움을 초래할 수 있습니다."라고 밝혔습니다.
그러나 이는 다음을 포함한 약 20개의 대형 기술 회사가 발표된 가운데 나온 것입니다. OpenAI, Microsoft 및 Stability AI 계약에 서명하다 AI 사기성 콘텐츠가 “올해 전 세계적으로 진행되는 선거를 방해하는 것을 방지하기 위해 협력합니다.
- SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
- PlatoData.Network 수직 생성 Ai. 자신에게 권한을 부여하십시오. 여기에서 액세스하십시오.
- PlatoAiStream. 웹3 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
- 플라톤ESG. 탄소, 클린테크, 에너지, 환경, 태양광, 폐기물 관리. 여기에서 액세스하십시오.
- PlatoHealth. 생명 공학 및 임상 시험 인텔리전스. 여기에서 액세스하십시오.
- 출처: https://metanews.com/the-line-between-real-and-fake-gets-too-thin-for-the-ordinary-eye/
