IT業界においても急速な進化を遂げています。 2022 年版の Black Hat では、CISO は「AI」という文字を聞きたくないと言っていました。 RSAC 2023 では、ほぼ誰もが生成 AI について話し、それがセキュリティ業界にもたらすであろう大きな変化について推測していました。 Black Hat USA 2023 で、 まだ話がありました 生成 AI についてですが、人間のオペレーターを支援するテクノロジーの管理と、AI エンジンの制限内での作業を中心とした会話でした。 全体として、息をのむような誇大宣伝から、より有用なリアリズムへの非常に迅速な転換を示しています。
生成 AI は今後数年間で間違いなくサイバーセキュリティ製品、サービス、運用の機能となるため、現実主義は歓迎されます。 その理由の 1 つは、サイバーセキュリティ専門家の不足が今後何年にもわたって業界の特徴となるという現実です。 生成 AI の使用は、FTE (フルタイム相当またはフルタイムの従業員) を置き換えるのではなく、サイバーセキュリティ専門家の効果を高めることに焦点を当てているため、人間を生成 AI に置き換えることによって人材不足を緩和することについて議論している人は誰もいませんでした。 私がよく聞いたのは、生成 AI を使用して各サイバーセキュリティ専門家をより効果的にするというものでした。特に、経験の浅いアナリストは、より多くのコンテキスト、より確実性、上位層のアナリストがアラートをチェーンの上流に移動する際に、より規範的なオプションを提供します
限界を知る必要がある
生成 AI の使用方法に関する会話の一部には、テクノロジーの限界の認識が含まれていました。 これらは、「私たちはおそらく未来から逃れることができるだろう」というものではありませんでした。 マトリックス」のディスカッションでは、テクノロジーを導入する企業にとって正当な目標である機能と用途についての率直な会話が行われました。
私が聞いた制限のうち XNUMX つはここで話しています。 XNUMX つはモデルのトレーニング方法に関係しており、もう XNUMX つは人間がテクノロジーにどのように反応するかに焦点を当てています。 最初の問題については、トレーニングに使用されたデータよりも優れた AI 導入はあり得ないという点で大きな合意が得られました。 それに加えて、より大規模なデータセットの推進は、プライバシー、データセキュリティ、知的財産保護に関する懸念に真っ向から直面する可能性があるという認識もありました。 生成 AI と組み合わせて「ドメインの専門知識」について話す企業がますます増えています。これは、AI インスタンスの範囲を単一のトピックまたは関心領域に限定し、その主題に関するプロンプトに対して最適にトレーニングされていることを確認することです。 今後数か月以内にこれについてさらに多くの情報が得られることを期待してください。
XNUMX 番目の制限は「ブラック ボックス」制限と呼ばれます。 簡単に言えば、人々は魔法を信用しない傾向があり、AI エンジンは最も奥深い種類の魔法です。 ほとんどの役員や従業員が。 AI の結果に対する信頼を高めるためには、セキュリティ部門と IT 部門は同様に、モデルがどのようにトレーニング、生成、使用されるかに関する透明性を拡大する必要があります。 生成 AI は主に人間の労働者を支援するために使用されることを忘れないでください。 これらの労働者がプロンプトから得られる回答を信頼しない場合、その援助は信じられないほど限定的になります。
条件を定義する
両方のカンファレンスでまだ混乱が見られる点が XNUMX つありました。それは、誰かが「AI」と言ったのはどういう意味でしょうか? テクノロジーの可能性について議論するとき、単に「AI」と言っていたとしても、ほとんどの場合、人々は生成 AI (または LLM とも呼ばれる大規模言語モデル) AI について話していました。 他の人は、この XNUMX つの単純な文字を聞いて、AI が何年も前から自社の製品やサービスの一部だったと指摘するでしょう。 この断絶は、今後しばらくは AI について語るときに用語を定義したり、非常に具体的にすることが重要になるという事実を浮き彫りにしました。
たとえば、セキュリティ製品で長年使用されている AI は、生成 AI よりもはるかに小さいモデルを使用し、応答をより速く生成する傾向があり、自動化に非常に役立ちます。 言い換えれば、何度も尋ねられる非常に具体的な質問に対する答えを素早く見つけるのに役立ちます。 一方、生成 AI は、膨大なデータセットから構築されたモデルを使用して、より広範な質問に答えることができます。 ただし、自動化のための優れたツールとなるほど迅速に応答を一貫して生成する傾向はありません。
他にもたくさんの会話があり、さらに多くの記事が掲載される予定ですが、LLM AI はサイバーセキュリティのトピックとして今後も残ります。 これからの会話に備えてください。
- SEO を活用したコンテンツと PR 配信。 今日増幅されます。
- PlatoData.Network 垂直生成 Ai。 自分自身に力を与えましょう。 こちらからアクセスしてください。
- プラトアイストリーム。 Web3 インテリジェンス。 知識増幅。 こちらからアクセスしてください。
- プラトンESG。 自動車/EV、 カーボン、 クリーンテック、 エネルギー、 環境、 太陽、 廃棄物管理。 こちらからアクセスしてください。
- プラトンヘルス。 バイオテクノロジーと臨床試験のインテリジェンス。 こちらからアクセスしてください。
- チャートプライム。 ChartPrime でトレーディング ゲームをレベルアップしましょう。 こちらからアクセスしてください。
- ブロックオフセット。 環境オフセット所有権の近代化。 こちらからアクセスしてください。
- 情報源： https://www.darkreading.com/omdia/realism-reigns-on-ai-at-black-hat-and-def-con
