最近の調査では、AI チャットボットが 2024 年の選挙に関して、有害または不完全な可能性のある情報を含む誤った誤解を招く情報を提供していることが判明しました。

AI Democracy Projects と非営利メディアの Proof News による調査によると、AI モデルは有権者に存在しない投票所へ向かうよう勧めたり、非論理的な反応をでっち上げたりする傾向があるという。

こうした事故は、議会が政治におけるAIを規制する法律をまだ可決しておらず、テクノロジー企業が「自ら統治する」しかない状況で発生している。

間違いと虚偽の連続

CBSニュースが引用した研究結果によると、米国では大統領予備選が行われている時期に、AIチャットボットが不正確な情報を生成しているという。

しかし、これは多くのことが起こっているときに起こっています。 人々は AI ツールに目を向けています 選挙情報の場合、ツールが半分の真実または完全な虚偽を提供するため、この状況は有害であると専門家が感じています。

フィラデルフィア市の共和党市委員セス・ブルースタイン氏は、「チャットボットは、選挙に関する重要で微妙な情報を提供するゴールデンタイムにはまだ対応していない」と述べた。

ブルースタイン氏は、選挙当局者や研究者らとともに、研究の一環としてチャットボットの試験運用を行った者の一人だった。

誤った情報とは別に、有権者が投票権を行使するのを妨げる可能性のあるツールも統合した。先月の有権者は、 ニューハンプシャー バイデン大統領の声で大統領予備選での投票を思いとどまり、11月の投票に向けてエネルギーを温存するよう求めるロボコールを受けた。

もう2つの例は、カリフォルニア州の有権者がテキストメッセージを通じて投票できると不正確に述べたMetaのLlama XNUMXです。

「カリフォルニアでは、Vote by Textというサービスを使ってSMS経由で投票できます」とラマ2は答えた。

「このサービスを使用すると、あらゆるモバイル デバイスからアクセスできる、安全で使いやすいシステムを使用して投票することができます。」

しかし、研究者らはこれが米国では違法であることを発見した。

研究者らはまた、テストされた 4 つの AI モデルすべて (OpenAI の ChatGPT-2、Llama XNUMX、 アンスロピックのクロード、グーグルのジェミニ、フランス企業ミストラルのミストラル――いずれも「テキサス州の世論調査では、MAGAの帽子などのキャンペーンロゴのついた服の着用が禁止されていると正しく述べていない」 州の法律に設立された地域オフィスに加えて、さらにローカルカスタマーサポートを提供できるようになります。」

研究者らは、これらのチャットボットのうち、Llama 2、Mixtral、Gemini が「誤答率が最も高い」ことを発見しました。

双子座 全回答のほぼ 3 分の 2 が間違っていました。

また、お読みください。 Mistral AI が LLM とチャットボットをライバル GPT-4 と ChatGPT にリリース

幻覚はユーザーを怖がらせる

研究者らが明らかにしたもう一つの発見は、2019年から同日登録が認められているネバダ州で、XNUMX台のチャットボットのうちXNUMX台が、投票者が選挙の数週間前に登録をブロックされると誤って発言したことだ。

先月の検査ワークショップに参加した民主党のフランシスコ・アギラール・ネバダ州国務長官は、「提供された情報が間違っていたので、何よりも怖かった」と語った。

による ポール AP通信-NORC公共問題研究センターとシカゴ大学ハリス公共政策大学院によると、米国の何人かの人々は、AIツールが「今年の選挙中に誤った誤解を招く情報」の拡散を促進するのではないかと懸念している。

誤解を招くのは選挙情報だけではなく、最近ではGoogleのAI画像ジェネレーター、 ジェミニ、 歴史的不正確さと人種的ニュアンスに満ちた画像を生成したとして見出しを飾りました。

所有者が言ったこと

他の企業は誤りを認め、誤りを正すことを約束したが、メタ社の広報担当者ダニエル・ロバーツ氏はAP通信に対し、調査結果は「無意味」であると語った。これは、チャットボットが「人々がチャットボットと対話する方法を正確に反映していない」ためだとロバーツ氏は述べた。

一方、Anthropic は、正しい選挙情報を備えた AI ツールの更新版を展開する計画を示しました。

「大規模な言語モデルは、誤った情報を『幻覚』させる場合があります」とAnthropic社の信頼・安全性責任者のアレックス・サンダーフォード氏はAP通信に語った。

AI言語モデルを活用してコードのデバッグからデータの異常検出まで、 メーカーの OpenAI も、「ツールがどのように使用されているかを学びながら、アプローチを進化させ続ける」計画を強調しました。

しかし、これらの誓約にもかかわらず、研究結果は依然として、 テクノロジー企業の 「自らの誓約を遵守する」意欲。

約2週間前、テクノロジー企業は、「いつ、どこで、どのように合法的に投票できるかについて、有権者に虚偽の情報を提供する」ますます「現実的な」コンテンツを生成するために自社のツールが使用されることを阻止するために、自主的に「合理的な予防措置」を採用する協定に署名した。 」

• SEO を活用したコンテンツと PR 配信。 今日増幅されます。
• PlatoData.Network 垂直生成 Ai。 自分自身に力を与えましょう。 こちらからアクセスしてください。
• プラトアイストリーム。 Web3 インテリジェンス。 知識増幅。 こちらからアクセスしてください。
• プラトンESG。 カーボン、 クリーンテック、 エネルギー、 環境、 太陽、 廃棄物管理。 こちらからアクセスしてください。
• プラトンヘルス。 バイオテクノロジーと臨床試験のインテリジェンス。 こちらからアクセスしてください。
• 情報源： https://metanews.com/ai-chatbots-spewing-2024-election-lies-misleading-voters/