企業は、IT プロセスを自動化し、セキュリティの脅威を検出し、最前線の顧客サービス機能を引き継ぐために、生成型 AI をますます導入しています。アン 2023 年の IBM 調査 大企業の 42% が AI を積極的に使用しており、さらに 40% が AI を探索または実験していることがわかりました。
AI とクラウドが必然的に交差する中で、企業はクラウド内の AI ツールを保護する方法を考える必要があります。このことについてよく考えてきた人物の 1 人が、昨年 8 月にアマゾン ウェブ サービスの CISO に就任した Chris Betz です。
AWS 入社前は、Betz は Capital One の執行副社長兼 CISO を務めていました。 Betz は、Lumen Technologies で上級副社長兼最高セキュリティ責任者を務め、Apple、Microsoft、CBS でセキュリティの役割も務めました。
ダーク・リーディングは最近ベッツと次のことについて話しました。 クラウド上の AI ワークロードのセキュリティ。その会話の編集版が以下に続きます。
Dark Reading: クラウドで AI ワークロードを保護する際の大きな課題は何ですか?
クリス・ベッツ： 私が多くのお客様と生成 AI について話しているとき、その会話は次のような内容で始まることがよくあります。安全かつ確実な方法でそれを行うにはどうすればよいでしょうか?」お客様が達成しようとしている結果に焦点を当てることが非常に重要であるため、この会話には本当に感謝しています。
Dark Reading: 顧客が最も心配していることは何ですか?
ベッツ: 会話は、「あなたのデータはあなたのデータである」という概念から始める必要があります。データを適切な場所に保存する IT インフラストラクチャの上に構築できるという点で、私たちには大きな利点があります。したがって、私が最初にアドバイスするのは、データがどこにあるかを理解することです。どのように保護されているのでしょうか？生成 AI モデルではどのように使用されていますか?
2 番目に説明するのは、生成 AI モデルとの対話では、顧客の最も機密性の高いデータの一部が使用されることが多いということです。特定のトランザクションについて生成 AI モデルに問い合わせる場合、そのトランザクションに関与している人々に関する情報を使用することになります。
Dark Reading: 企業は、AI が社内データと顧客データをどのように扱うかについて懸念していますか?
ベッツ: 顧客が最も望んでいるのは、顧客とのやり取りや、社内にある膨大な量のデータのマイニングと活用、そしてそれを社内の従業員や顧客のために機能させることにおいて、生成型 AI の使用です。企業にとって、非常に機密性の高いデータはビジネスの生命線であるため、安全かつ確実な方法で管理することが非常に重要です。
企業は、データがどこにあるのか、AI にプロンプトを与えるときや応答を受け取るときにデータがどのように保護されるのかを考える必要があります。
Dark Reading: 応答の品質とデータのセキュリティは関連していますか?
ベッツ: AI ユーザーは、質の高い応答が得られているかどうかを常に考える必要があります。セキュリティの理由は、人々が自分のコンピュータ システムを信頼するためです。顧客に何かを提供するために生成 AI モデルを使用するこの複雑なシステムを構築している場合、AI が行動に必要な適切な情報を提供し、AI が情報を保護していることを顧客が信頼する必要があります。
Dark Reading: AWS がクラウド内の AI への攻撃からどのように保護しているかを共有できる具体的な方法はありますか?即時注射、中毒攻撃、敵対的攻撃、そのようなことについて考えています。
ベッツ: AWS は長年にわたり AI に取り組んできたため、強力な基盤がすでに整っており、この課題に取り組む準備が十分に整っていました。当社には多数の社内 AI ソリューションと顧客に直接提供する多数のサービスがあり、これらのソリューションを開発する際にはセキュリティが主要な考慮事項でした。それはお客様が求めていることであり、期待していることでもあります。
最大規模のクラウド プロバイダーの 1 つとして、当社は世界中で進化するセキュリティ ニーズを幅広く把握しています。当社が収集した脅威インテリジェンスは集約され、実用的な洞察を開発するために使用されます。これらの洞察は、次のような顧客のツールやサービス内で使用されます。 見張り役。さらに、当社の脅威インテリジェンスは、顧客に代わって自動化されたセキュリティ アクションを生成し、データを安全に保つために使用されます。
Dark Reading: サイバーセキュリティ ベンダーが AI と機械学習を使用して、システム上の異常な動作を探して脅威を検出しているという話をよく聞きます。企業が自社の安全を確保するために AI を活用する他の方法にはどのようなものがありますか?
ベッツ: 私は顧客が生成 AI を使って素晴らしいことを行っているのを見てきました。私たちは、彼らが CodeWhisperer [AWS の AI を利用したコード ジェネレーター] を利用して、テクノロジーのプロトタイプを迅速に作成し、開発しているのを見てきました。チームが CodeWhisperer を使用して支援しているのを見てきました。 安全なコードを構築する コード内のギャップに確実に対処します。
また、社内セキュリティ システムの一部と連携する生成 AI ソリューションも構築しました。ご想像のとおり、多くのセキュリティ チームは大量の情報を扱っています。 Generative AI を使用すると、そのデータを統合できるため、システム内で何が起こっているかを理解し、より適切な質問をして、そのデータを統合するために、ビルダーとセキュリティ チームの両方が非常に利用できるようになります。
について考え始めたとき、 サイバーセキュリティの人材不足、生成 AI は現在、ソフトウェア開発の速度向上と安全なコーディングの向上に貢献しているだけでなく、データの集約にも貢献しています。人間の能力を増幅してくれるので、これからも私たちを助けてくれるでしょう。 AI は、複雑な問題を解決するために情報をまとめるのに役立ち、セキュリティ エンジニアやアナリストがより適切な質問をできるようにデータを提供するのに役立ちます。
Dark Reading: AI とクラウドに特有のセキュリティ上の脅威はありますか?
ベッツ: 私はセキュリティ研究者たちと多くの時間を費やして、最先端の生成型 AI 攻撃と攻撃者がそれをどのように見ているかを調査してきました。この分野で私が考えることには 2 つの種類があります。 1 つ目は、悪意のある攻撃者が、すでに行っていることをより速く、より良くするために生成 AI を使用し始めていることです。ソーシャル エンジニアリング コンテンツはその一例です。
攻撃者は、コードをより速く書くために AI テクノロジーも使用しています。それはディフェンスの立場と非常に似ています。このテクノロジーの力の 1 つは、一連のアクティビティを容易にすることです。これは攻撃者にも当てはまりますが、防御者にも非常に当てはまります。
研究者たちがさらに注目し始めているもう 1 つの領域は、これらの生成 AI モデルがコードであるという事実です。他のコードと同様に、これらのコードにも弱点がある可能性があります。それらを保護する方法を理解し、それらが防御機能のある環境に確実に存在するようにすることが重要です。
- SEO を活用したコンテンツと PR 配信。 今日増幅されます。
- PlatoData.Network 垂直生成 Ai。 自分自身に力を与えましょう。 こちらからアクセスしてください。
- プラトアイストリーム。 Web3 インテリジェンス。 知識増幅。 こちらからアクセスしてください。
- プラトンESG。 カーボン、 クリーンテック、 エネルギー、 環境、 太陽、 廃棄物管理。 こちらからアクセスしてください。
- プラトンヘルス。 バイオテクノロジーと臨床試験のインテリジェンス。 こちらからアクセスしてください。
- 情報源： https://www.darkreading.com/cloud-security/aws-ciso-cloud-customers-need-secure-ai-workloads
