一部の専門家は、機械学習ツールを使用してディープフェイク、または既存のビデオに人を連れて行き、他の人の肖像に置き換えるビデオを作成できるのではないかと懸念を表明しています。 恐れは、これらの偽物が選挙中に意見を揺さぶるようなことをしたり、人を犯罪に巻き込んだりするために使われるかもしれないということです。 すでに、ディープフェイクは悪用されて生成されています ポルノ素材 俳優のそして主要なエネルギーをだまします プロデューサー.

幸いなことに、ディープフェイクを検出する自動化された方法を開発するための取り組みが進行中です。 Facebookは、とりわけAmazonやMicrosoftとともに、 ディープフェイク検出チャレンジ、昨年XNUMX月に終了しました。 チャレンジの開始は、のリリース後に行われました 視覚的なディープフェイクの大きなコーパス Googleの内部テクノロジーインキュベーターであるJigsawと共同で作成されました。このインキュベーターは、合成ビデオ検出システムの開発のために研究者が自由に利用できるベンチマークに組み込まれました。 最近、マイクロソフトはVideo Authenticatorで独自のディープフェイク戦闘ソリューションを発表しました。これは、静止画またはビデオを分析して、メディアが人為的に操作されていないという信頼度のスコアを提供できるシステムです。

しかし、南カリフォルニア大学の研究者によると、ディープフェイク検出システムのトレーニングに使用されるデータセットの一部は、特定の性別または特定の肌の色の人々を過小評価している可能性があります。 共著者によると、このバイアスはディープフェイク検出器で増幅される可能性があり、一部の検出器では人種グループに応じてエラー率に最大10.7％の違いが見られます。

バイアスされたディープフェイク検出器

結果は驚くべきことですが、コンピュータビジョンモデルが有害で広範囲にわたる偏見の影響を受けやすいことを示した以前の研究と一致しています。 昨秋の論文 コロラド大学によると、ボルダーの研究者は、Amazon、Clarifai、MicrosoftなどのAIが、シスジェンダーの男性と女性で95％を超える精度を維持しているが、トランス男性を女性と誤認していることが38％あることを示しました。 による主要ベンダーのシステムの独立したベンチマーク ジェンダーシェード プロジェクトと 米国国立標準技術研究所（NIST） 顔認識技術が人種的および性別の偏見を示すことを実証し、現在の顔認識プログラムは非常に不正確であり、人々を上向きに誤分類する可能性があることを示唆しています 時間の96％.

南カリフォルニア大学のグループは、「ディープフェイク動画の検出に成功したことが証明された」1.0つのディープフェイク検出モデルを検討しました。 すべては、ディープフェイク検出器に一般的に使用されるFaceForensics ++データセットと、GoogleのDeepfakeDetection、CelebDF、DeeperForensics-XNUMXなどのコーパスでトレーニングされました。

ベンチマークテストで、研究者は、すべての検出器が、より暗い黒い顔、特に男性の黒い顔のビデオで最悪のパフォーマンスを示したことを発見しました。 女性のアジア人の顔を含むビデオの精度が最も高かったが、データセットによっては、検出器は白人（特に男性）とインド人の顔でも良好に機能した。 。

研究者によると、ディープフェイク検出データセットは、性別と人種グループに関して「非常に」不均衡であり、FaceForensics ++のサンプルビデオでは、男性58％に対して41.7％以上（主に白人）の女性が表示されています。 実際の動画の5％未満が黒人またはインド人を示しており、データセットには「不規則な交換」が含まれていました。この交換では、ある人の顔が別の人種または性別の別の人に交換されました。

これらの不規則なスワップは、 軽減する バイアスは、実際には、検出器のバイアスの少なくとも一部のせいである、と共著者は仮説を立てています。 データセットでトレーニングされた検出器は、偽物と、たとえばアジアの顔の特徴との相関関係を学習しました。 あるコーパスは、前景の顔を白人の女性の顔とヒスパニックの女性の顔に交換するためにアジアの顔を使用していました。

「現実のシナリオでは、アジア人女性またはアフリカ人女性の顔のプロファイルは、白人男性のプロファイルよりも誤って偽物としてラベル付けされる可能性が1.5〜3倍高くなります…偽物として誤って識別された実際の被験者の割合は、男性の被験者よりも女性の被験者」と研究者らは書いている。

現実のリスク

この調査結果は、「最高の」AIシステムでさえ必ずしも完璧であるとは限らないことをはっきりと思い出させます。 共著者が指摘しているように、この研究の少なくとも90.1つのディープフェイク検出器は、テストデータセットでXNUMX％の精度を達成しました。これは、内部のバイアスを隠す指標です。

「…データセット全体の検出精度などの単一のパフォーマンスメトリックを使用するだけでは、ディープフェイク検出器の大規模な商用展開を正当化するのに十分ではありません」と研究者は書いています。 「ディープフェイクが普及するにつれ、ディープフェイクと戦うための自動システムへの依存度が高まっています。 開業医は、これらの影響の大きいシステムのすべての社会的側面と結果を調査する必要があると私たちは主張します。」

この調査は、商用のディープフェイクビデオ検出市場の成長に照らして特にタイムリーです。 アムステルダムを拠点とする ディープトレースラボ ソーシャルメディア、ビデオホスティングプラットフォーム、偽情報ネットワークにアップロードされたディープフェイクを分類することを目的とした一連の監視製品を提供しています。 これらの は、操作されたビデオのデータセットでトレーニングされたディープフェイク検出器を改善するための手法を提案しています。 そしてTruepic 8年2018月にXNUMX万ドルの資金調達ラウンドを調達 そのビデオと写真のディープフェイク検出サービスのために。 2018年XNUMX月、同社は別のディープフェイクの「サービスとしての検出」スタートアップであるFourandsixを買収しました。このスタートアップは、DARPAからライセンスを受けた偽の画像検出器です。

コインスマート。 BesteBitcoin-ヨーロッパのBörse
出典：https：//venturebeat.com/2021/05/06/deepfake-detectors-and-datasets-exhibit-racial-and-gender-bias-usc-study-shows/