ゼファーネットのロゴ

アンクル・サム、AI を使って匿名の作家の正体を暴く

日付:

米国の諜報機関は、匿名の文章の作者を特定できる人工知能を開発するプログラムを開始しました。

Intelligence Advanced Research Projects Activity (IARPA) の Human Interpretable Attribution of Text Using Underlying Structure (HIATUS) プログラムは、国家情報長官室 (ODNI) の「言語フィンガープリンティング」を実行できるソフトウェアを構築することを目的としています。 .

「人間と機械は、毎日膨大な量のテキスト コンテンツを作成しています。 テキストには、著者の身元を明らかにする可能性のある言語的特徴が含まれています」IARPA [PDF]。

適切なモデルがあれば、IARPA は、さまざまなサンプル間で作家のスタイルの一貫性を特定し、それらの言語パターンを修正して文章を匿名化し、すべてを初心者ユーザーに説明できる方法で行うことができると信じています。 HIATUS AI は、言語に依存しない必要もあります。 

HIATUS のプログラム マネージャーであるティモシー・マッキノン博士は、次のように述べています。 .

強力なモデルを開発するために、HIATUS は敵対的 AI の問題としてその目標にアプローチすることを計画しています。著者の帰属とテキストの匿名化は同じ問題の XNUMX つの側面であるため、HIATUS の実験グループは互いに対立します。 

「帰属システムは、大規模なコレクションで同じ著者によるアイテムを一致させる能力で評価されますが、プライバシーシステムは、帰属システムを阻止する能力で評価されます」とIARPAは述べています.

エージェンシーは、HIATUS AI の説明可能性の基準を開発する計画もあると述べた。 

マッキノン HIATUS が行っていることの一部は、ニューラル言語モデル (HIATUS の取り組みの焦点) に関する未知数の一部を解明しようとすることです。 ブラックボックス 開発者が特定の決定を下す理由を知らなくても機能します。

McKinnon 氏は次のように述べています。正しいこと。"

成功すれば、HIATUS は、外国の影響活動に対抗することから、防諜活動のリスクを特定し、作品が彼らを危険にさらす可能性のある著者を保護することまで、広範囲に影響を与える可能性があると ODNI は述べています。 McKinnon 氏は、HIATUS AI は、テキストが人間によって作成されたものではなく、機械によって生成されたものかどうかを識別することもできる可能性があると付け加えています。 

IARPA の完成した研究の約 70% は、実装のために他の政府パートナーに送られますが、IARPA は関与しません。技術を開発するだけで、実用的なものに変えることはありません。 とはいえ、諜報機関によると、オッズはHIATUSに有利です。

ただし、このテクノロジーがすぐに完全な形で現れるとは思わないでください。HIATUS が開始されたので、実験が完了するまでに 42 か月 (XNUMX 年半) かかります。その後、McKinnon と彼のチームが成功すれば、他の政府機関も HIATUS を試すようになるでしょう。 ®

スポット画像

最新のインテリジェンス

スポット画像