米連邦取引委員会（FTC）は、増大するAI音声クローンの脅威に対抗する最良のソリューションに対して25,000万XNUMXドルの報奨金を約束している。
音声ディープフェイクとも呼ばれるこの技術は、生成 AI が主流になって以来、使いやすい音声クローン作成機能を提供するオンライン サービスの数が急増しており、サイバー攻撃における悪用の可能性についての懸念が高まっています。
たとえば、広範な脅威には、CEO の声を偽装して CEO になりすまして財務部門に攻撃者の口座に送金するよう指示することが含まれる可能性があります。友人や家族もだまされて愛する人に送金させられる可能性があります。 舞台芸術家 テクノロジーが成熟し続ければ、彼らの生活が脅かされる可能性があります。
関心のある団体は、主に技術の防止、監視、評価に焦点を当て、AI ベースの音声クローン詐欺に対処するためのアイデアを 12 月 XNUMX 日までに提出する必要があります。
「この取り組みは、音声クローンの被害が消費者に及ぶ前に消費者、クリエイティブ専門家、中小企業を被害から守るという、上流でのリスクを軽減するアイデアを推進するのに役立つ可能性がある」とFTCは述べている。 と.
「また、消費者レベルでのリスクを軽減するためのアイデアを前進させるのにも役立つ可能性があります。そして、実行可能なアイデアが現れなかった場合、市場における有害なアプリケーションの開発を防ぐという課題を考慮して、政策立案者に対し、このテクノロジーの使用に対するより厳格な制限を検討する必要があるという重大かつ早期の警告となるでしょう。」
申請内容は、実行と管理がどの程度実現可能か、技術的変化に対する耐性がどの程度あるのか、企業にどのような責任と責任が課されるのかなどをどの程度慎重に検討しているかに基づいて評価されます。
提供されている最高賞金は 25,000 ドルですが、独創的なソリューションが持つ可能性のある広範な応用を考慮すると、これは金鉱のようには思えません。
次点の 4,000 名には 2,000 ドル、佳作 10 名にはトラブルに対してそれぞれ XNUMX ドルが支払われ、XNUMX 人以上の組織にはキャッシュレス表彰賞が授与されます。
AIによる音声虐待が行われている
AI 音声クローンの有効性は、過去 1 年間の繰り返しの事例で証明されています。スロバキアのセキュリティショップESETの専門家 示されました 前述したなりすましCEOの例をどのようにして成功させることができるか。
実際、生成 AI が一般人の手に渡るまで、何年も前から問題になっていました。英国のエネルギー会社は、 243,000ドルを使い果たした 2019年、CEOがハンガリーのサプライヤーに多額の送金を指示された後。
ニューヨーク・タイムズ レポートは、前回の 12 か月に引き続き、金融セクターをターゲットにして銀行を騙し、真の顧客であると信じている相手から資金を移動させることに成功した一連の事件を詳述しました。 彼はReg 同様のことも報告しています UAEで起きている攻撃 2021年までさかのぼります。
ロマンス詐欺も蔓延しており、ある英国人が詐欺に遭った。 なりすましケビン・コスナーそして犯罪者もまた、実行することを辞さないことを示しています 「家族の緊急事態」詐欺 – たとえば、保釈金を要求する子供の声を複製して親をターゲットにするもの。
その他 邪悪な例 多額の身代金を要求する「誘拐犯」に人質に取られた娘からと称する電話を受ける母親の姿を目撃した人もいる。
音声のクローン作成は、個人の声の音、トーン、ペース、抑揚、その他のニュアンスを理解するのに十分なトレーニング データを AI モデルに与えることで可能になります。有名人やその他の著名人は、オンライン上に多数の音声録音が存在していることから、これらの攻撃の深刻な危険にさらされていると考えられています。
ソーシャル メディアやビデオ コンテンツ作成文化の台頭により、多くの非有名人、さらには子供たちも、モデルを効果的にトレーニングするための十分な資料をオンラインで入手できるようになりました。
カスペルスキーの研究者は昨年、AI 音声クローン作成の増加を調査し、AI 技術を使用してクローン音声を生成できる、無料で利用できるさまざまなオープンソース ツールを発見しました。しかし、彼らは、説得力のあるクローンを作成して実行するには、Python の多少のノウハウとクローン作成者の側での工夫が必要であると主張しました。
ただし、有料サービスの方がはるかに効果的である傾向があります。研究者らは指摘した MicrosoftのVALL-Eモデル わずか 3 秒間の音声をトレーニング データとして使用すれば、まともなクローンを生成できると考えられています。
無料のものよりも効果的に機能する有料ソリューションは他にもありますが、これらはまだ開発の初期段階にあるため、これらのモデルの精度と有効性は時間の経過とともに向上することが期待できます。 ®
- SEO を活用したコンテンツと PR 配信。 今日増幅されます。
- PlatoData.Network 垂直生成 Ai。 自分自身に力を与えましょう。 こちらからアクセスしてください。
- プラトアイストリーム。 Web3 インテリジェンス。 知識増幅。 こちらからアクセスしてください。
- プラトンESG。 カーボン、 クリーンテック、 エネルギー、 環境、 太陽、 廃棄物管理。 こちらからアクセスしてください。
- プラトンヘルス。 バイオテクノロジーと臨床試験のインテリジェンス。 こちらからアクセスしてください。
- 情報源： https://go.theregister.com/feed/www.theregister.com/2024/01/05/ftc_voice_cloning_solution/
