ゼファーネットのロゴ

サイバー脅威の次なる波: 生成 AI を活用してサイバー犯罪者から会社を守る

日付:

サイバー脅威の次なる波: 生成 AI を活用してサイバー犯罪者から会社を守る

ディープフェイクから人的ミス、脆弱性、信頼性の悪用に至るまで、デジタル世界では個人データが包囲されています。 この VB スポットライトでは、セキュリティの専門家が現在の状況、サイバー犯罪者に先んじて先を行く方法などを詳しく掘り下げます。

企業が従業員と顧客を保護するための戦略を導入しない場合、何が問題になるのでしょうか? Telesign のシニア ソリューション エンジニアである Juan Rivera 氏は、すべてがそう言います。

「規制の観点から見ると、最近メタ社はデータプライバシーの侵害で欧州連合から1.3億ドルの罰金を科せられましたが、それらは1.3億ドルの罰金を支払う余裕のない企業の見せしめとして利用されただけです」とリベラ氏は説明する。 「顧客と従業員の信頼の両方が損なわれると、経済的損失に加えて、莫大な評判が失われる可能性もあります。 ほとんどの企業には、この種の損失を管理する柔軟性や余裕がありません。」

言い換えれば、企業が安全対策の導入に失敗すると、あらゆる面で信じられないほどのコストがかかるということです。

詐欺と個人情報盗難の現状

最新のサイバー犯罪スキームはまったく新しいものではありません。詐欺師は何年も前からこれらの戦術を使用してきましたが、今では生成 AI によって支援されています。 被害者を騙してログイン認証情報や機密情報を漏らすフィッシングメールは、説得力のある ChatGPT スクリプトを使用して作成されます。

安全性チェックを回避するデータ侵害は、生成 AI をだまして、アクティブ ユーザーのチャット履歴、名前、電子メール アドレス、支払先住所などの個人識別情報、さらにはクレジット カードの下 XNUMX 桁や有効期限データさえも明らかにする悪意のあるコードを書き込むことで可能になります。 。

犯罪者はまた、営業チームやマーケティングチームがデータを使用して、適切な見込み客をターゲットにするためにカスタマイズされたユーザープロファイルを作成する方法と同様に、合成アイデンティティを活用しています。 住所、個人情報、盗難されたクレジット カードを使用して、新しい信用 ID を構築したり、非常に現実的な情報を使用して既存のアカウントにログインしたりできます。

パスワードと資格情報の面では、AI のパターン認識能力により、かなり弱いパスワードを選択したユーザーのパスワードを予測できますが、AI を活用したチャット ボットや音声合成は、CEO などの個人や組織になりすますことができます。 -レベルの従業員を非常に説得力のある方法で説明しました。

AI が人間のパターンを予測したり、人間になりすましたり、より人間らしく聞こえるようになると、従業員と消費者の両方を同様に騙すために利用されることが多くなるでしょう。 これらのメッセージは、特定の人々の行動を理解し、従業員に対してどのように行動するかを予測できるため、説得力があります。 そして危険は差し迫っている、とリベラ氏は言う。

「統計的に言えば、これらの出来事が起こる確率は100パーセントです」と彼は説明する。 「それらはすでに起こっています。 AI により危険度が高まり、詐欺師はこれらの攻撃をより迅速に、より効果的に、より説得力を持って拡大できるようになります。」

データとアイデンティティの保護と安全性の確保

法律で義務付けられ、遵守する必要がある強制的なセキュリティ基準だけでなく、単に実用的な考慮事項も数多くあります。 これには、2 要素認証 (XNUMXFA) がもはや十分に強力な標準ではなくなったため、それを超えることも含まれます。今日では多要素認証が必要です。 これは、単なる標準の PIN コードを超える追加のレイヤーを意味します。 それは摩擦が少なく、今日ではユーザーが躊躇しないほど一般的であるかもしれませんが、もはや十分ではありません。 これは、生体認証などのより洗練されたもの、またはユーザーが所有する物理的な身分証明書 (書類、免許証、身分証明書など) など、身元を確認するための追加情報を要求することを意味する場合があります。

顧客向けではなく舞台裏で動作する高度な識別プロトコルは他にもあります。 たとえば、Telesign は電話 ID API を使用して、アカウントを作成しようとしている、または既存のアカウントにログインしようとしているユーザーについての洞察を取得します。 ユーザーのプロバイダーからの通信データを利用して、ユーザーが提供する情報と記録上の情報を照合します。

「電話番号、電子メール アドレス、さらにはユーザー プロファイルの送信元 IP などのデータ ポイントを組み合わせて、ユーザーが疑わしいかどうかを判断できるのです」とリベラ氏は説明します。 「これらのデータ ポイントは、本物のアクセス アカウントまたは詐欺の試みの可能性を測定するためのスコアカードになります。 不審な動作は応答をトリガーし、バックエンドでミリ秒単位で発生するため、低コストまたは無負荷の保護が実現します。」

ファネルの最上部で摩擦の少ないアプローチを使用することで、不審な行為者や行動へのアプローチをさらなる摩擦で強化できます。たとえば、記録上のアドレスに電子メールを送信して消費者に次のことを求めるなど、多要素の識別を要求します。を呼び出してサインイン試行を検証します。

テクノロジーを超えて: 人間的要素が重要な理由

セキュリティの技術的側面は安全性の基礎ですが、脅威を軽減するにはセキュリティのベスト プラクティスに関する従業員の継続的なトレーニングと教育が絶対に重要だとリベラ氏は言います。 これには、届いた不審なメールを従業員と共有し、その原因となっている機能をメモしたり、パスワードを頻繁に変更し、ソフトウェアの更新を熱心に適用したりすることが含まれます。

しかし、セキュリティ意識は企業や従業員を超えて広がる必要があります。 企業は定期的に顧客と関わり、知識と意識を高める必要があります。 これにより、安全性がさらに強化されるだけでなく、光学系も強化されるため、企業はデジタル空間で進化する脅威について顧客ベースを継続的に教育するほど顧客ベースを大切にしているとみなされるようになった、とリベラ氏は指摘します。

「私たちはこれを十分に理解していないと思います」と彼は言います。 「世界中のアマゾンが定期的に連絡をとって『オンラインで買い物をすることが増えているのはわかります』と言ってくるのは見かけません。 安全を保つ方法を必ず理解していただきたいのです。」 詐欺師は眠らないので、教育を業界標準にし始める必要があります。」

リンク: https://venturebeat.com/security/the-next-wave-of-cyber-threats-defending-your-company-against-cybercriminals-empowered-by-generative-ai/?utm_source=pocket_saves

出典: https://venturebeat.com

スポット画像

最新のインテリジェンス

スポット画像