AIは日常的に人々の生活を形作り、小売店で価格を設定し、映画からロマンチックなパートナーに至るまでの推奨事項を作成します。 しかし、AIが腐敗した力になり、倫理的なルールに違反するほど人々の行動に影響を与える可能性があるかどうかという疑問もあります。

魅力的な 研究 アムステルダム大学、マックスプランク研究所、オットーベイスハイム経営大学院、ケルン大学の研究者によって発行されたもので、AIによって生成されたアドバイスが人々を道徳的な境界線を越えるように導くことができる程度を発見することを目的としています。 OpenAIのGPT-2言語モデルを活用した大規模な調査で、研究者たちは、アドバイスのソースがAIであることに気付いていても、AIのアドバイスが人々を「腐敗」させる可能性があることを発見しました。

学者は、AIが悪意のある攻撃者によって採用され、誤った情報、偽情報、および完全な嘘を広めることによって不和を助長する可能性があることをますます懸念しています。 で 紙 ミドルベリー国際研究所のテロ、過激主義、およびテロ対策センター（CTEC）によって発行された共著者は、GPT-3の後継であるGPT-2が、「情報」および「影響力のある」テキストを確実に生成できることを発見しました。個人を暴力的な極右過激派のイデオロギーと行動に急進化させます。」

この最新の論文の共著者は、約2人の参加者からの貢献のデータセットを使用して、「誠実さを促進する」および「不正直を促進する」アドバイスを生成するようにGPT-400をトレーニングしました。 次に、1,500人を超えるグループを採用して、指示を読み、アドバイスを受け取り、正直または不正な行動を評価するように設計されたタスクに従事しました。

グループの人々は、XNUMX番目とXNUMX番目の「発動機」で構成される「ダイアド」でペアになりました。 最初の発動機はプライベートでサイコロを振って結果を報告し、XNUMX番目の発動機は最初の発動機のレポートについて学習してからプライベートでサイコロを振って結果を報告しました。 第XNUMXおよび第XNUMXの発動機が同じ結果を報告した場合にのみ、ダブルダイロールの​​値に従って支払われ、ロールが高いほど賃金が高くなります。 彼らが異なる結果を報告した場合、彼らは支払われませんでした。

ダイスロールの結果を報告する前に、さまざまな治療法にランダムに割り当てられた人々は、人間が書いた、またはAIが生成した正直さを促進するまたは不正直を促進するアドバイスを読みます。 彼らはアドバイスの出所を知っているか、それがどちらかの出所から来た可能性が50-50あることを知っていました。 知らなかった人は、アドバイスの出所を正しく推測すればボーナスを稼ぐことができます。

研究者によると、AIによって生成されたアドバイスは、アドバイスのソースが開示されているかどうかに関係なく、人々を「破壊」しました。 実際、AIによって生成されたアドバイスの統計的効果は、人間が書いたアドバイスの統計的効果と区別がつきませんでした。 さらに残念なことに、AIからの誠実さを促進するアドバイスは、人々の行動を左右することができませんでした。

研究者たちは、彼らの研究は、責任ある展開を維持するためのステップとして、AIの影響をテストすることの重要性を示していると述べています。 そして彼らは、悪意のある人々がAIの力を使って他人を堕落させる可能性があると警告しています。

「AIが人々をより倫理的に行動するように説得することができれば、AIは善の力になる可能性があります。 しかし、私たちの結果は、AIのアドバイスが正直さを高めることができないことを明らかにしています。 AIアドバイザーは、不正直の道徳的非難（の一部）をそらすことができるスケープゴートとしての役割を果たすことができます。 さらに…アドバイスを受けるという文脈では、アルゴリズムの存在に関する透明性は、その潜在的な害を軽減するのに十分ではありません」と研究者は書いています。 「AIによって生成されたアドバイスが、利益のために嘘をつくという個人の好みと一致する場合、アドバイスのソースがAIであることを知っていても、喜んでそれに従います。 述べられた好みと実際の行動との間に矛盾があるようであり、実際のアルゴリズム出力と相互作用して人間の行動を研究する必要性を強調しています。」