디지털 보안

실제 인물의 조작된 이미지, 비디오, 오디오 클립이 주류를 이루면서 AI 기반 허위 정보의 방화호가 우려를 낳고 있습니다.

필 먼캐스터

2월 13 2024
 • 
,
5 분. 읽다

가짜 뉴스는 선거 이후부터 헤드라인을 장악해 왔습니다. 큰 이야기가 되었어요 2016년 백악관 경선 당시. 그러나 XNUMX년이 지난 지금에는 틀림없이 더 큰 위협이 있습니다. 그릇된 정보 과 딥 페이크 전문가조차 속일 수 있는 일이다. 최근보다 가능성이 높다 예 유통되는 수많은 이미지와 비디오를 포함하여 선거를 주제로 한 AI 생성 콘텐츠 아르헨티나의 총선을 앞두고 및 조 바이든 미국 대통령의 음성 변조 – 더 큰 규모로 일어날 가능성이 있는 일의 전조였습니다.

약으로 세계 인구의 XNUMX 분의 XNUMX 2024년 여론조사를 앞두고, 사악한 행위자들이 결과에 영향을 미치기 위해 허위 정보와 AI 기반 속임수를 사용할 수 있다는 우려가 높아지고 있으며, 많은 전문가들은 딥페이크가 주류로 편입될 결과를 두려워하고 있습니다.

딥페이크 허위정보 위협

언급한 바와 같이, 올해 20억 명 이상의 사람들이 자신이 선호하는 대표자와 주 지도자에게 투표하기 위해 지역 투표소로 향할 예정입니다. 미국, 영국, 인도(유럽의회 포함) 등 여러 국가에서 주요 선거가 치러질 예정이므로 이는 향후 몇 년간 정치적 지형과 지정학 방향을 바꿀 가능성이 있습니다. 그 너머에.

그러나 동시에 최근에는 잘못된 정보와 허위 정보가 널리 퍼지고 있습니다. 순위 세계경제포럼(WEF)이 선정한 향후 2년 글로벌 위험 1위로 꼽혔다.

딥페이크의 문제점은 AI 기반 기술이 이제 대규모로 해를 끼칠 수 있을 만큼 저렴하고 접근 가능하며 강력해지고 있다는 것입니다. 설득력 있는 허위 정보 캠페인 등을 시작할 수 있는 사이버 범죄자, 국가 행위자, 핵티비스트의 능력을 민주화합니다. 임시, 일회성 사기. 이는 WEF가 최근 잘못된 정보/허위 정보를 향후 1,490년 동안 가장 큰 글로벌 위험이자 기상 이변 다음으로 현재 위험 XNUMX위로 선정한 이유 중 하나입니다. 이는 WEF가 자문을 구한 학계, 기업, 정부, 국제사회, 시민사회 전문가 XNUMX명에 따른 것입니다.

보고서는 다음과 같이 경고합니다."합성 콘텐츠는 향후 2년 동안 다양한 방법으로 개인을 조작하고, 경제에 피해를 입히고, 사회를 파괴할 것입니다. 일부 정부가 너무 느리게 행동하여 잘못된 정보 방지와 표현의 자유 보호 사이의 균형에 직면할 위험이 있습니다."

(깊은)가짜로

문제는 ChatGPT 및 자유롭게 액세스할 수 있는 생성 AI(GenAI)와 같은 도구를 통해 더 광범위한 개인이 딥페이크 기술을 기반으로 한 허위 정보 캠페인 생성에 참여할 수 있게 되었다는 것입니다. 모든 노력을 다한 악의적인 공격자들은 메시지 작업에 더 많은 시간을 할애하고 가짜 콘텐츠를 보고 듣게 하기 위한 노력을 강화합니다.

선거 상황에서 딥페이크는 분명히 특정 후보에 대한 유권자의 신뢰를 약화시키는 데 사용될 수 있습니다. 결국 누군가가 어떤 일을 하지 않도록 설득하는 것이 그 반대의 방법보다 더 쉽습니다. 정당이나 후보자의 지지자들이 위조된 오디오나 비디오에 의해 적절하게 동요될 수 있다면 경쟁 그룹에게는 확실한 승리가 될 것입니다. 어떤 상황에서는 불량 국가가 전체 민주적 절차에 대한 신뢰를 약화시켜 누가 승리하더라도 합법성을 가지고 통치하는 데 어려움을 겪게 만들 수도 있습니다.

도전 과제의 중심에는 단순한 진실이 있습니다. 인간은 정보를 처리할 때 양과 이해의 용이성을 중요하게 여기는 경향이 있습니다. 즉, 비슷한 메시지를 담은 콘텐츠를 많이 볼수록, 이해하기 쉬울수록 믿을 확률이 높아진다는 뜻입니다. 이것이 바로 마케팅 캠페인이 짧고 지속적으로 반복되는 메시지로 구성되는 경향이 있는 이유입니다. 여기에 딥페이크가 실제 콘텐츠와 구별하기가 점점 더 어려워지고 있다는 사실을 추가하면 민주적 재앙을 초래할 수 있는 잠재적인 방법이 있습니다.

이론에서 실습까지

걱정스럽게도 딥페이크는 유권자 정서에 영향을 미칠 가능성이 높습니다. 이 새로운 예를 들어보세요: 2024년 XNUMX월 조 바이든 미국 대통령의 딥페이크 오디오 유통되었다 뉴햄프셔의 알려지지 않은 수의 예비 유권자에게 자동녹음전화를 통해. 메시지에서 그는 분명히 그들에게 나가지 말고 대신에 "11월 선거를 위해 투표권을 아껴두라"고 말했습니다. 표시된 발신자 ID 번호도 위조되어 현재 친바이든 슈퍼팩을 운영하고 있는 전직 민주당 의장인 캐시 설리반(Kathy Sullivan)의 개인 전화번호에서 자동 메시지가 전송된 것처럼 표시되었습니다.

그러한 전화가 11월 대선을 앞두고 유권자들이 자신이 선호하는 후보를 선택하도록 설득하는 데 어떻게 사용될 수 있는지 이해하는 것은 어렵지 않습니다. 소수의 유권자가 한쪽에서 다른 쪽으로 이동하여 결과가 결정되는 치열한 경쟁의 선거에서는 위험이 특히 심각합니다. 소수의 경합 주에서 수만 명의 유권자만이 선거 결과를 결정할 가능성이 있으므로 이와 같은 표적 캠페인은 막대한 피해를 입힐 수 있습니다. 게다가 위의 경우처럼 소셜 미디어가 아닌 자동녹음전화를 통해 확산되었기 때문에 피해를 추적하거나 측정하는 것이 더욱 어렵습니다.

기술 회사들은 이에 대해 무엇을 하고 있나요?

유튜브와 페이스북 모두 느리다고 하더군요 최근 선거에 영향을 미치려는 의도로 이루어진 일부 딥페이크에 대응하기 위해. 이는 소셜 미디어 회사가 선거 조작 시도를 단속하도록 요구하는 새로운 EU 법률(디지털 서비스법)에도 불구하고 그렇습니다.

OpenAI는 다음과 같이 생성된 이미지에 대해 C2PA(콘텐츠 출처 및 진위성 연합)의 디지털 자격 증명을 구현할 것이라고 밝혔습니다. 달-이 3. Meta와 Google에서도 시험 중인 암호화 워터마킹 기술은 가짜 이미지 생성을 더욱 어렵게 만들기 위해 설계되었습니다.

그러나 이는 아직 초기 단계에 불과하며 정당한 우려 선거 열기가 전 세계를 사로잡으면서 위협에 대한 기술적 대응이 너무 적고 너무 늦을 것이라고 생각합니다. 특히 WhatsApp 그룹이나 자동녹음전화 등 상대적으로 폐쇄적인 네트워크에 확산되는 경우, 위조된 오디오나 비디오를 신속하게 추적하고 밝혀내기가 어렵습니다.

'고정 편향' 이론 제안 인간이 듣는 첫 번째 정보는 그것이 거짓으로 판명되더라도 우리 마음 속에 각인된다는 것입니다. 딥페이커가 유권자를 먼저 흔들게 된다면 최종 승자가 누구인지에 대한 모든 베팅은 중단됩니다. 소셜 미디어와 AI 기반 허위 정보 시대에 조나단 스위프트(Jonathan Swift)의 속담 "거짓은 날아가고 진실은 그 뒤를 쫓는다"는 말은 완전히 새로운 의미를 갖습니다.