OpenAI、ケンブリッジ大学、ハーバード大学、トロント大学の研究者が「探索的」な提案を行った AIチップとハードウェアを規制する方法に関するアイデア、そしてセキュリティ ポリシーが高度な AI の悪用をどのように防ぐことができるかについて説明します。
この推奨事項は、高度な AI システムとそれらを駆動するチップの開発と使用を測定および監査する方法を提供します。ポリシー強制の推奨事項には、システムのパフォーマンスの制限や、不正チップをリモートで無効にできるセキュリティ機能の実装が含まれます。
「現在、高度な能力を備えた AI システムをトレーニングするには、数千の AI チップを蓄積し、調整する必要がある」と研究者らは書いている。 「これらのシステムが潜在的に危険である場合、この蓄積されたコンピューティング能力を制限することは、潜在的に危険な AI システムの生産を制限するのに役立つ可能性があります。」
Insight 64の主席アナリストであるネイサン・ブルックウッド氏は、政府は主にAI政策のソフトウェアに焦点を当てており、この論文は議論のハードウェア側をカバーする付随的な記事であると述べている。
しかし、業界はAIのパフォーマンスに影響を与えるセキュリティ機能を歓迎しないだろうと同氏は警告する。ハードウェアを通じて AI を安全にするというのは崇高な願望ですが、それを実現している人は一人もいません。魔神はランプの外に出ていますが、ランプを元に戻すことができれば幸いです」と彼は言います。
クラスター間の接続のスロットリング
研究者らが提案している提案の 1 つは、AI モデルが利用できる計算処理能力を制限する上限です。その考えは、AI システムの悪用を特定し、チップの使用を遮断および制限できるセキュリティ対策を講じることです。
具体的には、メモリとチップクラスタ間の帯域幅を制限するという的を絞ったアプローチを提案しています。チップへのアクセスを遮断するというより簡単な代替案は、AI全体のパフォーマンスに影響を与えるため理想的ではないと研究者らは書いている。
この論文では、そのようなセキュリティガードレールを実装する方法や、AI システムの悪用をどのように検出できるかについては示唆されていません。
「外部通信に最適な帯域幅制限を決定することは、さらなる研究に値する領域である」と研究者らは書いている。
大規模な AI システムは膨大なネットワーク帯域幅を必要とし、Microsoft の Eagle や Nvidia の Eos などの AI システムはその 1 つです。 世界最速のスーパーコンピューター トップ 10。 P4 プログラミング言語をサポートするデバイスには、ネットワーク トラフィックを分析してルーターやスイッチを再構成できる、ネットワーク パフォーマンスを制限する方法が存在します。
しかし、チップやネットワークの速度を低下させる可能性のある AI セキュリティ メカニズムの実装をチップ メーカーに依頼するのは幸運だとブルックウッド氏は言います。
「Arm、Intel、AMD はいずれも、競争力を高めるために構築できる最速かつ最も卑劣なチップの構築に忙しいです。どうすれば速度を落とせるか分かりません」と彼は言う。
遠い可能性にはある程度のリスクが伴います
研究者らはまた、チップをリモートで無効にすることも提案しており、これはインテルが最新のサーバーチップに組み込んでいるものだ。オンデマンド機能は、インテルの顧客が AI 拡張機能などのオンチップ機能をオンまたはオフにできるようにするサブスクリプション サービスです。 テスラのシートヒーター付き.
研究者らはまた、チップにより、暗号署名されたデジタル証明書を介して許可された関係者のみが AI システムにアクセスできるようにする認証スキームも提案しました。ファームウェアは、承認されたユーザーとアプリケーションに関するガイドラインを提供する可能性がありますが、更新によって変更される可能性があります。
研究者らはこれをどのように行うかについて技術的な推奨事項を提供していませんが、そのアイデアは、機密コンピューティングがチップ上のアプリケーションを保護する方法と似ています。 許可されたユーザーを証明する. インテル & AMD チップには機密コンピューティングが搭載されていますが、この新興テクノロジーはまだ初期の段階にあります。
ポリシーをリモートで強制することにもリスクがあります。 「遠隔執行メカニズムには重大な欠点があり、AIによる予想される損害が極めて大きい場合にのみ正当化される可能性がある」と研究者らは書いている。
ブルックウッド氏も同意する。
「たとえそれができたとしても、それを狙う悪者が現れるでしょう。善良な人たちに人為的な制約を課しても効果はなくなるだろう」と彼は言う。
- SEO を活用したコンテンツと PR 配信。 今日増幅されます。
- PlatoData.Network 垂直生成 Ai。 自分自身に力を与えましょう。 こちらからアクセスしてください。
- プラトアイストリーム。 Web3 インテリジェンス。 知識増幅。 こちらからアクセスしてください。
- プラトンESG。 カーボン、 クリーンテック、 エネルギー、 環境、 太陽、 廃棄物管理。 こちらからアクセスしてください。
- プラトンヘルス。 バイオテクノロジーと臨床試験のインテリジェンス。 こちらからアクセスしてください。
- 情報源： https://www.darkreading.com/cyber-risk/what-using-security-to-regulate-ai-chips-could-look-like
