10年に域内2024カ国以上が政府の準備不足を背景に投票を実施する中、選挙AIディープフェイクはEU規制当局を圧倒すると予想されている。
2024 年には、大陸ではビデオ、音声、画像の形で政治的動機に基づくディープフェイクが大量に流入すると予想されています。 「信じられないほどのフォトリアリズム」を生み出す Midjourney バージョン 6 のようなツールを使えば、現実の人物や暴動や移民運動の現場を簡単にターゲットにすることができます。
複数のEU選挙
による ブリュッセル信号, オーストリア、フィンランド、クロアチア、ベルギー、リトアニア、アイスランド、ポルトガル、ルーマニア、スロバキアは来年全国選挙を実施します。
他の地域では、ドイツ、アイルランド、マルタ、ポーランドでは地方選挙が行われ、スペインでは 2 つの地方選挙が行われます。
世界では、世界人口の約 25% が、2024 年に選挙が行われる国、たとえば米国に住んでいます。
選挙期間は、世界が選挙ブームを迎えている時期でもあります。 generative AI 2022 年 XNUMX 月に開始された ChatGPT の成功事例に続きます。
そのため、ケンブリッジの生成 AI スタートアップの創設者ヘンリー・アジダー氏は、2024 年には「最も多くの人が選挙に行くことになるが、同時に、AI の非常に急速な進化と展開が見られるだろう」と述べています。 」
また、お読みください。 韓国政府、AIコンテンツの著作権を否定
準備不足
ロンドンのゲートハウス商工会議所の法廷弁護士で、AIに関する仕事や執筆を頻繁に行っているサラ・イブラヒム氏は、EU規制当局が選挙期間中のAI利用に対処する準備が整っていないため、次の選挙ではAIの脅威に直面すると考えている。
同氏は、この地域は現在、「政府の準備が整っていない完璧な嵐と、誤った情報が急速に拡散する欺瞞や詐欺の大規模な可能性」が特徴だと考えている。
すでにヨーロッパの裁判所は生成 AI の影響を体験しており、これは早期の警告サインとして機能します。
イブラヒム氏によると、法制度は「ChatGPTによる幻覚ででっち上げられた事件を引用する人々がすでに出てきており、経済が堅調とは言い難い現在、公共資源に大きなストレスを与えている」という。
規制を利用してディープフェイクの拡散を阻止することは、EUにとって現時点では困難な課題かもしれない。
「規制当局は、ユーザーが非常にアクセスしやすいツールを使用してコンピューター上で音声やビデオを生成し、それを適切なタイミングで Twitter で共有したり、Discord グループで拡散したりするのを止めることはできません」とアジデル氏は言います。
持っているにもかかわらず デジタルサービス法 オックスフォード・アナリティカによると、EUではその有効性は「まだ証明されていない」という。
欺瞞的なAI
革新的な能力によりゲームチェンジャーとしてもてはやされていますが、世界はすでに生成 AI の落とし穴を目の当たりにしています。 AI によって生成された画像、ビデオ、音声は「完璧」になり、本物と区別することが難しくなり、ユーザーは困惑したままになっています。
バングラデシュ総選挙のさなかの9月、BDポリティコとして知られる報道機関は、米国外交官がバングラデシュの選挙に介入したことによる暴動の映像を含む動画をXプラットフォームで放映した。
ただし、ビデオは次を使用して作成されました ヘイジェネ、AIビデオジェネレーター。映像の中のニュースアンカー「エドワード」は、ビデオジェネレーターが月額24ドルのサブスクリプション料金でユーザーに提供する多くのアバターのうちのXNUMXつです。
別の例は、次のような音声録音です。 キア・スターマー卿が暴言を吐く 英国労働党の1.5月会議での彼の側近ら。このクリップは XNUMX 万回再生されました。
同じ月に、別のクリップが ロンドン市長サディク・カーン 親パレスチナ行進を理由に休戦記念日の日程変更を求める声が広く広まった。
Brussels Signal によると、このクリップは AI によって生成されたものであることが証明されました。
[埋め込まれたコンテンツ]
脆弱な政治家
政治家や著名人は、その立場により、特に世界中で選挙が近づいていることから、AI ディープフェイクの標的となってきました。
アジュデル氏も、政治家は「特に弱い立場にある」ことに同意した。
「彼らの映像には多くのトレーニングデータが含まれており、表彰台に立ったり机に座ったりする様子は特に簡単に偽造されやすいものです」とアジデル氏は語った。
最近ではパキスタンの イムラン・カーン 刑務所内での7時間の仮想集会で、AIが生成した自分の声で支援を呼びかけた。
ガザ紛争やウクライナ紛争のビデオクリップにも、血まみれで捨てられた赤ん坊が描かれているが、これらは本物ではなかった。ワシントンD.C.に本拠を置くデジタルヘイト対策センターの最高責任者イムラン・アーメド氏によると、詳しく調べたところ、指が「解剖学的にあり得ない方法や不自然な目の色」に曲がっていたことが判明したという。
何ができますか？
過激派コンテンツの制作と放送には費用がかかる場合がありますが、そのようなコンテンツが X などのプラットフォームに表示される頻度は高くなります。
アーメド氏によれば、規制されていないAIは「憎悪と偽情報を加速させる」だろうという。
アジュデル氏によれば、現時点で規制当局にできることはほとんどないが、政治家によるAI生成コンテンツの開示を確実にする必要があるという。
「少なくとも、それが本物ではなくパロディであることが視聴者にとって信じられないほど明らかな場合にのみ、開示なしで使用することが許可されます」と彼は言います。
- SEO を活用したコンテンツと PR 配信。 今日増幅されます。
- PlatoData.Network 垂直生成 Ai。 自分自身に力を与えましょう。 こちらからアクセスしてください。
- プラトアイストリーム。 Web3 インテリジェンス。 知識増幅。 こちらからアクセスしてください。
- プラトンESG。 カーボン、 クリーンテック、 エネルギー、 環境、 太陽、 廃棄物管理。 こちらからアクセスしてください。
- プラトンヘルス。 バイオテクノロジーと臨床試験のインテリジェンス。 こちらからアクセスしてください。
- 情報源： https://metanews.com/election-ai-deepfakes-will-eu-regulators-cope/
