生成 AI 開発者がモデルを洗練させるために微調整し続けるにつれて、実際の画像と AI の創作物を区別することもますます困難になっていることを研究者らが明らかにしています。
の研究者らによる研究 ウォータールー大学 人々は、本物の人物の写真と AI によって生成された人物の写真を理解するのに苦労していることが判明しました。
予想されるしきい値を下回っている
この研究を実施するにあたり、ウォータールー大学の研究者は、20 人の参加者にラベルのない写真 260 枚を提供しました。写真の半分は Google 画像から取得した実際の人物のもので、残りの半分は Dall-E や 安定拡散.
次に参加者は、画像が本物か AI が生成したものであるかをラベル付けして、回答を正当化するよう求められました。
参加者の 61% は実際の画像と AI が生成した画像の違いを見分けることができましたが、これは依然として予想される 85% の閾値をはるかに下回っていました。
参加者は画像を精査しながら、目、指、歯、AI が画像を検索する際の指標となるその他の指標などの細部に注意を払いましたが、「彼らの評価は必ずしも正しいとは限りませんでした」。
「人は自分が思っているほど、区別するのが上手ではありません。」 と この研究の筆頭著者であるアンドレア・ポコル氏は、同大学のコンピューターサイエンスの博士号取得候補者でもある。
インターネットユーザーはついでに画像を見るかもしれないが、ウォータールーの研究者らは、参加者が画像を分析するのに時間を費やせるようにしたと述べた。
「ただ運命をスクロールしているだけの人、または時間がない人は、これらの手がかりを認識できないでしょう」とポコル氏は言います。
また、お読みください。 レオナルドCEO、ダボス会議でAIの脅威に対するユーザーの愚かさを強調
テクノロジーの悪用
彼らの 研究『Advances in Computer Graphics』誌に掲載された「Seeing Is No Longer Believing: A Survey on the State of Deepfakes, AI-Generated Humans, and Other Nonveridical Media」と題された論文でも、生成 AI テクノロジーの進歩に伴うリスクが強調されています。 。
研究者らはまた、生成 AI 技術が急速に変化し、日に日に洗練されていることにも懸念を持って指摘しました。学術研究と法律の制定は、発電産業の発展に追いついていません。
ポコル氏は、AI画像がよりリアルになってきており、一部の人にとって本物の画像とAIが生成した画像を簡単に区別することが困難になっていると述べた。ポコル氏は、このことが、テクノロジーを利用して悪意を広め、偽情報を永続させたり、人々を騙したりする悪者にとっての肥沃な土壌を生み出していると述べた。
「偽情報は新しいものではありませんが、偽情報のツールは常に変化し、進化しています」とポコル氏は言う。
「人々がどれほど訓練を受けていても、本物の画像と偽物の画像を区別するのに苦労する段階に達するかもしれません。だからこそ、これを特定して対抗するツールを開発する必要があるのです。それは新たなAI軍拡競争のようなものです。」
研究者らはまた、特にディープフェイクの拡散に関してこの技術がもたらす課題も認めている。
テクノロジーが間違った手に渡った
一般人が本物の画像と偽物の画像を区別するのは困難であるため、ディープフェイクの拡散が増加するのではないかとの懸念が高まっています。専門家らは、悪意のある者が生成AI技術を利用して選挙の虚偽を広め、有権者を誤解させようとしていると警告している。
デジタル憎悪に対抗するためのセンター オンラインのヘイトスピーチを監視する非営利団体 (CCDH) は、すでに 警告 彼らの報告書では、AIを利用した画像生成装置が2024年の選挙の誤った情報を悪化させていると述べている。
CCDHの研究者らは報告書の中で、「AIが生成したこのような画像が『写真証拠』として機能する可能性は、虚偽の主張の蔓延を悪化させる可能性があり、選挙の完全性を維持する上で重大な課題となる可能性がある」と述べている。
しかし、これは、以下を含む約20の大手テクノロジー企業が、 OpenAI、マイクロソフト、安定性 AI 契約書に署名した AIを欺くコンテンツが「今年世界中で行われる選挙に干渉する」ことを防ぐために協力する。
- SEO を活用したコンテンツと PR 配信。 今日増幅されます。
- PlatoData.Network 垂直生成 Ai。 自分自身に力を与えましょう。 こちらからアクセスしてください。
- プラトアイストリーム。 Web3 インテリジェンス。 知識増幅。 こちらからアクセスしてください。
- プラトンESG。 カーボン、 クリーンテック、 エネルギー、 環境、 太陽、 廃棄物管理。 こちらからアクセスしてください。
- プラトンヘルス。 バイオテクノロジーと臨床試験のインテリジェンス。 こちらからアクセスしてください。
- 情報源： https://metanews.com/the-line-between-real-and-fake-gets-too-thin-for-the-ordinary-eye/
