デジタルセキュリティ

実在の人物の捏造された画像、ビデオ、オーディオクリップが主流になるにつれ、AI を活用した偽情報の消防ホースの見通しが懸念を増大させる原因となっている

フィル・マンカスター

2月13 2024
 • 
,
5分。 読んだ

選挙以来、フェイクニュースが選挙の見出しを独占してきた 大きな話になった しかし 2016 年後、おそらくより大きな脅威が存在します。 虚偽情報 & ディープフェイク それは専門家さえもだます可能性があります。最近の可能性が高い 例 選挙をテーマにした AI 生成コンテンツ – 流通している多数の画像やビデオを含む アルゼンチンの今回の選挙に向けて フォルダーとその下に ジョー・バイデン米大統領の改ざんされた音声 – それは、より大規模に起こる可能性のある出来事の前兆でした。

およそ 世界人口のXNUMX分のXNUMX 2024年の世論調査に向けて、不正な行為者が偽情報やAIを活用した策略を利用して結果に影響を与える可能性があるとの懸念が高まっており、多くの専門家はディープフェイクが主流になる結果を懸念している。

ディープフェイクの偽情報の脅威

前述したように、今年は 20 億人以上の人々が、自分の支持する議員や州指導者に投票するために地元の投票所に向かおうとしています。米国、英国、インド（および欧州議会）を含む多くの国で主要な選挙が予定されているため、今後数年間の政治情勢や地政学の方向性が変わる可能性があります。超えて。

しかし同時に、最近では誤った情報や偽情報も増えてきました。 ランク 世界経済フォーラム（WEF）により、今後 2 年間の世界最大のリスクとして挙げられています。

ディープフェイクの課題は、AI を活用したテクノロジーが今や安価で入手しやすくなり、大規模な被害をもたらすほど強力になりつつあることです。サイバー犯罪者、国家関係者、ハクティビストが説得力のある偽情報キャンペーンなどを開始する能力を民主化します。 アドホック、ワンタイム詐欺。これが、WEFが最近、誤情報/偽情報を今後1,490年間の最大の世界的リスク、そして現在の異常気象に次いで第XNUMX位のリスクにランク付けした理由のXNUMXつである。これは、WEFが相談した学界、企業、政府、国際社会、市民社会の専門家XNUMX人によるものである。

報告書は次のように警告しています。「今後 2 年間、合成コンテンツは個人を操作し、経済に損害を与え、社会をさまざまな方法で破壊するでしょう…一部の政府は、誤った情報の防止と言論の自由の保護とのトレードオフに直面し、行動が遅すぎるリスクがあります。」

(ディープ)フェイク

課題は、ChatGPT や自由にアクセスできる生成 AI (GenAI) などのツールにより、より幅広い個人がディープフェイク技術による偽情報キャンペーンの作成に参加できるようになったということです。あらゆる労力を費やすことで、悪意のある攻撃者は、偽のコンテンツが確実に見られ、聞かれるようにするために、メッセージや増幅の取り組みにさらに多くの時間を費やすことができます。

選挙の文脈では、特定の候補者に対する有権者の信頼を損なうためにディープフェイクが使用される可能性があることは明らかです。結局のところ、誰かに何かをしないように説得する方が、その逆よりも簡単です。政党や候補者の支持者が偽造された音声やビデオによって適切に動揺できれば、ライバルグループにとっては決定的な勝利となるだろう。状況によっては、ならず者国家が民主主義プロセス全体に対する信頼を損なおうとする可能性があり、その結果、勝った方が正当性を持って統治することが困難になる可能性があります。

この課題の中心には単純な真実があります。それは、人間が情報を処理するとき、量とわかりやすさを重視する傾向があるということです。つまり、同様のメッセージを含むコンテンツが多く表示され、それが理解しやすいほど、それを信じる可能性が高くなります。マーケティング キャンペーンが、短く継続的に繰り返されるメッセージで構成される傾向があるのはこのためです。これに加えて、ディープフェイクは本物のコンテンツと区別することがますます困難になってきており、民主主義を破滅させる潜在的なレシピがあるという事実があります。

理論から実践まで

憂慮すべきことに、ディープフェイクは有権者の感情に影響を与える可能性が高い。この新しい例を見てみましょう: 2024 年 XNUMX 月、ジョー バイデン米国大統領のディープフェイク音声 回覧されました ニューハンプシャー州の未知数の予備有権者へのロボコール経由。そのメッセージの中で、彼は参加者たちに、投票には行かず、代わりに「11月の選挙のために投票を取っておくように」と言っていたようだ。表示された発信者ID番号も、あたかも自動メッセージが元州民主党委員長で現在は親バイデン派のスーパーPACを運営しているキャシー・サリバン氏の個人番号から送信されたかのように偽装されていた。

11月の大統領選挙に先立って、有権者が自分の好みの候補者に投票することを思いとどまらせるために、このような呼びかけがどのように利用されるかを理解するのは難しくない。このリスクは、少数の有権者が一方の陣営から他方の陣営に移ることによって結果が決まる、熾烈な選挙で特に深刻になるだろう。少数の激戦州のわずか数万人の有権者が選挙の結果を決める可能性が高いため、このような標的を絞ったキャンペーンは計り知れない損害を与える可能性がある。さらに、上記のケースではソーシャルメディアではなくロボコールを介して被害が広まったため、被害を追跡したり測定したりすることはさらに困難です。

テクノロジー企業はそれについて何をしているのでしょうか?

YouTubeもFacebookも、 遅かったと言われている 最近の選挙に影響を与えることを目的としたいくつかのディープフェイクへの対応として。ソーシャルメディア企業に選挙操作の試みを取り締まるよう義務付ける新たなEU法（デジタルサービス法）にもかかわらずだ。

一方、OpenAI は、コンテンツ来歴と信頼性に関する連合 (C2PA) のデジタル認証情報を、によって生成された画像に対して実装すると発表しました。 DALL-E3。暗号透かし技術は、Meta と Google によっても試験的に導入されており、偽の画像の作成を困難にするように設計されています。

ただし、これらはまだほんの小さな一歩であり、 正当な懸念 選挙熱が世界中を覆う中、この脅威に対する技術的な対応は少なすぎるし、手遅れになるだろう。特に、WhatsApp グループやロボコールなどの比較的閉鎖的なネットワークに拡散した場合、偽造された音声やビデオを迅速に追跡して偽りを暴くことは困難になります。

「アンカリングバイアス」理論 提案する 人間が最初に耳にする情報は、たとえそれが嘘であることが判明したとしても、心に残るものであるということです。ディープフェイカーが最初に有権者を揺さぶることができれば、最終的な勝者が誰になるかについてすべての賭けは外れます。ソーシャルメディアとAIによる偽情報の時代において、ジョナサン・スウィフトの格言「虚偽は飛び交い、真実はその後に足を引きずりながらやって来る」は全く新しい意味を持つようになった。