タイラー・クロス
テクノロジー大手の Microsoft と ChatGPT を開発する OpenAI は、ハッカーが AI テクノロジーを使用して新しいツールを迅速に開発し、スクリプトを改善し、より優れたソーシャル エンジニアリング スキームを作成していることを明らかにしました。
「昨年、AI の急速な開発と導入に伴い、攻撃の速度、規模、巧妙さが増しました」と Microsoft は述べています。 水曜日にリリースされたブログ投稿で。 「防御側は、サイバーセキュリティのバランスを自分たちに有利に変えるための生成 AI の力を認識し、活用し始めたばかりです。」
研究者らは、北朝鮮、ロシア、中国、イランに関連する国家支援のさまざまなグループがAIを使ってソフトウェアを改良している証拠を発見した。方法には、ChatGPT に似たソフトウェアを使用して退屈なスクリプト タスクを支援し、より強力なソフトウェアの基礎を築くことが含まれます。一部のハッカーは AI を使用して完全に自動化された操作を作成しました。
脅威アクターは、悪意のあるソフトウェアの作成を支援する、WormGPT や FraudGPT など、独自のさまざまな学習言語モデル (LLM) もリリースしています。
最近、OpenAI は、自社のソフトウェアが軍によって使用されたり、そのソフトウェアがさまざまなハッキング グループによって使用されたりすることを防ぐという約束に反して、データ プライバシー法に違反しているとして、同社に対する圧力が高まっています。
「この調査結果の公開を含め、Microsoft と OpenAI とのパートナーシップの目的は、ChatGPT のような AI テクノロジの安全かつ責任ある使用を保証することです」と Microsoft は書いています。 「この取り組みの一環として、私たちは脅威アクターに関連する資産とアカウントを破壊し、OpenAI LLM テクノロジーとユーザーを攻撃や悪用から保護するための措置を講じてきました。」
現時点では、Microsoft も OpenAI も AI ソフトウェアを使用した「重大な攻撃」を検出していませんが、時間の経過とともに状況は変わる可能性があります。
「これは、有名な脅威アクターが試みている初期段階の漸進的な動きを明らかにするために公開すべき重要な研究であると私たちは考えています。」
- SEO を活用したコンテンツと PR 配信。 今日増幅されます。
- PlatoData.Network 垂直生成 Ai。 自分自身に力を与えましょう。 こちらからアクセスしてください。
- プラトアイストリーム。 Web3 インテリジェンス。 知識増幅。 こちらからアクセスしてください。
- プラトンESG。 カーボン、 クリーンテック、 エネルギー、 環境、 太陽、 廃棄物管理。 こちらからアクセスしてください。
- プラトンヘルス。 バイオテクノロジーと臨床試験のインテリジェンス。 こちらからアクセスしてください。
- 情報源： https://www.safetydetectives.com/news/openai-confirms-ai-software-is-being-used-by-hackers/
