あなたの声が私のパスワード – AI による音声複製のリスク

デジタルセキュリティ

AI による音声クローン作成は、詐欺師にとって非常に簡単なものになる可能性があります。私がテストしたので、リスクについて難しい方法で学ぶ必要がないことはわかります。

22月2023日
•
,
6分。読んだ

最近私の声の盗難 AI はすでに社会的混乱を引き起こす可能性を秘めているという点で、私を新たな分かれ道に導いてくれました。私はクローン化された音声の品質 (そして同僚の XNUMX 人による非常に賢い、それでいてコメディ風のスタイル) に非常に驚いたので、同じソフトウェアを「極悪な」目的に使用して、どこまでできるかを試してみることにしました。中小企業から盗むには、もちろん許可が必要です。ネタバレ注意: 実行は驚くほど簡単で、時間もほとんどかかりませんでした。

「AI は人類に起こる最善の出来事か最悪の出来事になる可能性があります。」 – スティーブン・ホーキング博士

実際、ブレードランナーやターミネーターなどのフィクション映画で AI の概念がより主流になって以来、人々はテクノロジーが今後何を生み出すのかという容赦ない可能性に疑問を抱いてきました。しかし、強力なデータベース、コンピューターの能力の向上、メディアの注目を集めた今になって初めて、AI が恐怖と刺激の両方を同じくらいの形で世界中の視聴者にもたらすようになりました。 AI などのテクノロジーが私たちの間をうろつく中、創造的でかなり洗練された攻撃が行われ、有害な結果がもたらされるのを目にする可能性が非常に高いです。

音声クローンの逃走

私の前警察における役割犯罪者のように考えようとする考え方を私に植え付けられました。このアプローチには、非常に具体的でありながら過小評価されている利点がいくつかあります。 使徒行伝 犯罪者のように（実際に犯罪者にならなくても）、よりよく保護される可能性があります。これは、最新の脅威を常に把握し、今後の傾向を予測するために非常に重要です。

そこで、AI の現在の能力の一部をテストするために、私は再びデジタル犯罪者の考え方を引き受け、倫理的に企業を攻撃する必要がありました。

私は最近、私の連絡先（ハリーと呼びましょう）に、彼の声を複製して、彼の会社を攻撃するためにそれを使用できないか尋ねました。ハリーは同意し、すぐに利用できるソフトウェアを使用して彼の声のクローンを作成することから実験を始めることを許可してくれました。私にとって幸運なことに、Harry の声を入手するのは比較的簡単でした。彼は YouTube チャンネルで自分のビジネスを宣伝する短いビデオを頻繁に録画しているため、優れた音声テストベッドを作成するためにこれらのビデオをいくつかつなぎ合わせることができました。数分以内に、私にはハリーの声のクローンが生成され、それが私にはハリーにそっくりに聞こえました。その後、何かを書いてハリーの声で再生することができました。

さらに、攻撃に信頼性を追加することにしました。ハリーのWhatsAppアカウントを盗むの助けを借りて SIMスワップ攻撃 – 再度、許可を得て。次に、私は彼の WhatsApp アカウントから彼の会社の財務責任者 (サリーと呼びましょう) に音声メッセージを送信し、「新しい請負業者」に 250 ポンドの支払いを要求しました。襲撃当時、私は彼が近くの島でビジネスランチを食べていることを知っており、それが私に絶好の情報と攻撃の機会を与えてくれました。

音声メッセージには、彼の居場所と、「間取り図担当者」に料金を支払う必要があることが含まれており、直後に銀行口座の詳細を別途送ると述べた。これにより、サリーの WhatsApp スレッドに追加された音声メッセージに加えて、彼の声の音による検証が追加されました。これは、リクエストが本物であることを彼女に確信させるのに十分でした。最初のメッセージから 16 分以内に、250 ポンドが私の個人口座に送金されました。