人工知能 (AI) の導入はまだ初期段階にあります。 AI システムを使用する企業が増え、テクノロジーが成熟し、変化し続けるにつれて、不適切な使用により企業が重大な財務、運営、規制、評判のリスクにさらされる可能性があります。 特定のビジネス タスクに AI を使用したり、ガードレールを設置せずに AI を使用したりすることも、組織の中核的価値観と一致しない可能性があります。
ここで AI ガバナンスが登場し、導入に伴うこれらの潜在的かつ避けられない問題に対処します。 AIガバナンス 組織の AI 活動を指示、管理、監視する実践を指します。 これには、データ、モデル、関連するメタデータ、監査用のパイプラインの起源を追跡および文書化するプロセスが含まれます。
AI ガバナンス フレームワークは、AI と機械学習 (ML) の倫理的、責任ある、透明性のある使用を保証します。 これにはリスク管理と規制遵守が含まれ、組織内で AI がどのように管理されるかをガイドします。
基礎モデル: 厳選されたデータセットの力
基礎モデル「トランスフォーマー」としても知られる、大量のラベルなしの生データでトレーニングされた最新の大規模 AI モデルです。 基礎モデル エコシステム (機械学習における数十年にわたる研究の成果) や自然言語処理 (NLP) などの分野の台頭により、コンピューター サイエンスや AI 界で大きな関心が集まっています。 オープンソース プロジェクト、学術機関、新興企業、レガシー テクノロジー企業はすべて、基盤モデルの開発に貢献しました。
基礎モデルは言語、視覚などを使用して現実世界に影響を与えることができます。 これらは、ロボット工学から人間と推論し対話するツールに至るまで、あらゆるものに使用されています。 GPT-3 は、人間のようなテキストを処理および生成できる OpenAI の言語予測モデルであり、基礎モデルの例です。
基礎モデルは、自己教師あり転移学習を通じて、ある状況から学んだことを別の状況に適用できます。 言い換えれば、ラベル付きのタスク固有のデータで多数のモデルをトレーニングする代わりに、トランスフォーマー上に構築された XNUMX つの大きなモデルを事前トレーニングし、必要に応じて追加の微調整を行って再利用できるようになりました。
によって作成されたものなど、厳選された基礎モデル IBM または Microsoft は、企業が信頼できるデータを使用して最先端の AI 機能の使用と影響を拡大および加速できるよう支援します。 自然言語に加えて、モデルには次のものがあります。 訓練された コード、時系列、表形式、地理空間、IT イベント データなどのさまざまなモダリティに基づいて分析します。 ドメイン固有の基盤モデルは、気候変動、医療、人事、顧客ケア、IT アプリの最新化などの主題に関係するかどうかに関係なく、新しいユースケースに適用できます。
ファウンデーションモデルは幅広く展開されています 中古 分類やエンティティ抽出などの ML タスクだけでなく、翻訳、要約、現実的なコンテンツの作成などの生成 AI タスクにも使用できます。 これらのモデルの開発と使用は、最近の AI の膨大な進歩を説明しています。
IBMの会長兼最高経営責任者(CEO)のアルビンド・クリシュナ氏は「基盤モデルの開発により、ビジネス向けAIはこれまで以上に強力になった」と述べた。 「基盤モデルにより、AI の導入が大幅にスケーラブルになり、手頃な価格で効率的になります。」
基礎モデルは信頼できるか?
企業にとって責任があり、透明性があり、説明可能な AI を活用することは不可欠ですが、テクノロジーの初期段階ではこれを実現するのは困難な場合があります。
今日の最大規模の基礎モデルのほとんどは、 大規模な言語モデル ChatGPT を利用する (LLM) は、インターネットから厳選された情報に基づいてトレーニングされています。 しかし、そのトレーニング データはどの程度信頼できるのでしょうか? 生成AI チャットボットは顧客を侮辱したり、事実をでっち上げたりすることで知られています。 信頼性は非常に重要です。 企業は、大規模な基盤モデルプロバイダーが生成する予測とコンテンツに自信を持っている必要があります。
スタンフォード人間中心人工知能研究所の 基礎模型研究センター (CRFM) は最近、基盤モデルの多くのリスクと機会について概説しました。 彼らは、ソースや構成を含むトレーニング データの話題がしばしば見落とされていると指摘しました。 そこで、厳選された基盤モデルと信頼できるガバナンスの必要性が不可欠になります。
基礎モデルの使用を開始する
An AI開発スタジオ 基盤モデルをトレーニング、検証、調整、展開し、AI アプリケーションを迅速に構築できるため、以前に必要だったデータの一部のみが必要になります。 このようなデータセットは、含まれる「トークン」(単語または単語の部分)の数によって測定されます。 ネガティブおよびポジティブなキュレーションを経た信頼できるデータを含む、エンタープライズ対応のデータセットを提供します。
ネガティブ キュレーションでは、問題のあるデータセットと AI ベースのヘイトが削除され、冒涜フィルターが適用されて不快なコンテンツが削除されます。 ポジティブキュレーションとは、企業ユーザーにとって重要な、財務、法規制、サイバーセキュリティ、持続可能性などの特定の領域の項目を追加することを意味します。
組み込みのガバナンスを使用して AL と ML を拡張する方法
目的に合ったもの データストア オープン レイクハウス アーキテクチャに基づいて構築されているため、組み込みのガバナンス ツールを提供しながら AI と ML を拡張できます。 オンプレミス環境とマルチクラウド環境の両方で使用できます。 このタイプの次世代データ ストアは、データ レイクの柔軟性とデータ ウェアハウスのパフォーマンスを組み合わせ、AI ワークロードがどこに存在してもスケールできるようにします。
これにより、自動化と既存のデータベースとの統合が可能になり、セットアップとユーザー エクスペリエンスを簡素化できるツールが提供されます。 また、適切なワークロードに適切なエンジンを適切なコストで選択できるため、ワークロードを最適化することでデータ ウェアハウスのコストを削減できる可能性があります。 データ ストアを使用すると、企業は既存のデータを新しいデータに接続し、リアルタイム分析とビジネス インテリジェンスで新しい洞察を発見できます。 データ パイプラインを削減し、データ変換を簡素化し、データを強化することで、データ エンジニアリングを合理化するのに役立ちます。
もう XNUMX つの利点は、ガバナンスや地域の政策立案者に対するセキュリティとコンプライアンスを確保しながら、より多くのユーザーがより多くのデータにセルフサービスでアクセスできるようサポートするため、責任あるデータ共有です。
AI ガバナンス ツールキットが提供するもの
AI が企業の日常ワークフローにさらに組み込まれるようになるにつれて、AI サービスの作成、展開、管理を通じて、責任ある倫理的な意思決定を確実に行うためのプロアクティブなガバナンスを組み込むことがさらに重要になります。
AI プログラムにガバナンスを組み込んだ組織は、リスクを最小限に抑え、倫理原則や政府の規制を満たす能力を強化しています: ビジネス リーダーの 50% 調査対象となりました 説明可能な AI の最も重要な側面は、外部の規制とコンプライアンスの義務を果たすことであると述べました。 しかし、ほとんどのリーダーは AI ガバナンスの枠組みの確立に向けた重要な措置を講じておらず、74% が意図しないバイアスを軽減していません。
An AI ガバナンス ツールキット サードパーティのツールを使用して開発されたモデルであっても、データ サイエンス プラットフォームを切り替える費用をかけずに、AI アクティビティを指示、管理、監視できます。 ソフトウェアの自動化は、リスクを軽減し、規制枠組みの要件を管理し、倫理的懸念に対処するのに役立ちます。 これには、AI モデルがどこにあっても大規模に監視、カタログ化、管理する AI ライフサイクル ガバナンスが含まれています。 モデルのメタデータのキャプチャを自動化し、予測精度を高めて、AI ツールの使用方法とモデル トレーニングを再度行う必要がある場所を特定します。
AI ガバナンス ツールキットを使用すると、責任と透明性の原則に基づいて AI プログラムを設計することもできます。 AI の決定を一貫して理解して説明できるため、ツリーやドキュメント データセット、モデル、パイプラインに対する信頼を構築するのに役立ちます。 また、ビジネス標準に準拠するためにモデルのファクトとワークフローを自動化します。 リスクとコンプライアンスを大規模に特定、管理、監視、レポートし、動的なダッシュボードとカスタマイズ可能な結果を提供します。 このようなガバナンス プログラムは、外部規制を自動遵守、監査サポート、コンプライアンスのためのポリシーに変換し、カスタマイズ可能なダッシュボードとレポートを提供することもできます。
適切な AI ガバナンスを使用するということは、AI テクノロジーを推進する際に責任と倫理を確保しながら、企業が基盤モデルを最大限に活用できることを意味します。
基盤モデル、ガバナンス、IBM
適切な AI ガバナンスは、AI の無数の落とし穴を防ぎながら AI の力を活用する鍵となります。 AI には、組織内での AI の使用をガイドするためのリスク管理と規制遵守をカバーする、責任ある透明な管理が含まれます。 基盤モデルは AI 機能の画期的な進歩をもたらし、さまざまなドメインにわたるスケーラブルで効率的な展開を可能にします。
ワトソンクス は、責任ある AI ガバナンスの原則を遵守しながら、組織が基盤モデルを最大限に活用できるように構築された次世代のデータおよび AI プラットフォームです。 の ワトソンx.ガバナンス ツールキットを使用すると、組織は責任、透明性、説明可能性を備えた AI ワークフローを構築できます。
watsonx を使用すると、組織は次のことが可能になります。
- AI ワークフローを運用して大規模な効率と精度を向上。 組織は、オペレーショナル リスク、ポリシー、コンプライアンス、財務管理、IT ガバナンス、内部/外部監査にわたる自動化されたスケーラブルなガバナンス、リスクおよびコンプライアンス ツールにアクセスできます。
- モデルを追跡し、透過的なプロセスを推進します。 AI のライフサイクル全体にわたって、どこからでもモデルを監視、カタログ化、管理します。
- レポート生成のためにモデルのメタデータを取得して文書化します。 モデルの検証者と承認者は、自動的に生成されたファクトシートにアクセスして、ライフサイクルの詳細を常に最新の状態で表示できます。
- AI の結果に対する信頼を高めます。 共同ツールと動的なユーザーベースのダッシュボード、チャート、次元レポートにより、AI プロセスの可視性が向上します。
- 責任があり、透明性があり、説明可能なデータを実現する AI ワークフローと ワトソンx.ガバナンス.
未分類からの詳細
IBM ニュースレター
最新の思想的リーダーシップと新たなトレンドに関する洞察を提供するニュースレターとトピックの最新情報を入手してください。
今すぐ購読する その他のニュースレター
- SEO を活用したコンテンツと PR 配信。 今日増幅されます。
- PlatoData.Network 垂直生成 Ai。 自分自身に力を与えましょう。 こちらからアクセスしてください。
- プラトアイストリーム。 Web3 インテリジェンス。 知識増幅。 こちらからアクセスしてください。
- プラトンESG。 カーボン、 クリーンテック、 エネルギー、 環境、 太陽、 廃棄物管理。 こちらからアクセスしてください。
- プラトンヘルス。 バイオテクノロジーと臨床試験のインテリジェンス。 こちらからアクセスしてください。
- 情報源: https://www.ibm.com/blog/how-to-use-foundation-models-and-trusted-governance-to-manage-ai-workflow-risk/