意思決定を自動化する機能は、ミッションクリティカルなプロセスに多くの変数が関係する業界を扱う企業にとって不可欠になりつつあります。 たとえば、金融セクターでは、XNUMX回の取引でもリスクの評価が非常に複雑になる可能性があります。 しかし、AIを活用した自動化された意思決定システムの有用性は否定できませんが、有用性はしばしば 透明。 自動化された意思決定システムは、特に他のAIシステムと統合されている場合、実際には解釈が難しい場合があります。

解決策を求めて、 レッドハット 自動化された意思決定システムを説明するための技術を活用するライブラリであるTrustyAIExplainabilityToolkitを開発しました。 Red Hatのクラウドネイティブビジネス自動化フレームワークであるKogitoの一部であるTrustyAIは、監査とコンプライアンスのためのメタデータを抽出、収集、公開しながら、アルゴリズムを通じてAIモデルの実行情報を強化します。

TrustyAIは昨年夏にコギトに到着しましたが、スタンドアロンとしてリリースされました オープンソース 今週のパッケージ。

TrustyAIとの透明性

TrustyAIの背後にある開発チームが説明しているように ホワイトペーパー、ツールキットは、ブラックボックスAIの意思決定モデルを内省して、「機能の重要性」チャートを確認することで、予測と結果を記述できます。 チャートは、意思決定プロセスにとって最も重要なものからモデルの入力を並べ替えます。これは、モデルにバイアスがかかっているかどうかを判断するのに役立ちます、とチームは言います。

TrustyAIは、監査UIと呼ばれるダッシュボードを提供します。このダッシュボードは、ビジネスユーザーまたは監査人を対象としており、自動化された各意思決定ワークロードが記録され、後日分析できます。 個々のワークロードの場合、ツールキットを使用すると、入力、モデルが生成した結果、およびそれらすべての詳細な説明にアクセスできます。 監視ダッシュボードはモデル情報に基づいて生成されるため、ユーザーはビジネスの側面を追跡し、意思決定行動を集約して表示できます。

TrustyAIのランタイムモニタリングでは、ビジネスおよび運用のメトリックをGrafanaダッシュボードに表示することもできます。 さらに、ツールキットは運用面を監視して、自動化された意思決定システムの状態を追跡できます。

上：TrustyAIモニタリングダッシュボード。

画像クレジット：TrustyAI

「TrustyAI内では、機械学習モデルと意思決定ロジックを組み合わせて、予測分析を含めることで自動化された意思決定を強化します。 意思決定の結果を監視することで、システムを監査して…規制を満たしていることを確認できます」と、RedHatのTrustyAIイニシアチブの一部であるRebeccaWhitworthは次のように述べています。 ブログ投稿。 「また、システムを通じてこれらの結果を追跡し、行われた決定と予測のグローバルな概要を支援することもできます。 TrustyAIは、これらXNUMXつの標準の組み合わせに依存して、信頼できる自動意思決定を保証します。」

透明性はいわゆるの側面です 責任あるAI、これは企業にもメリットがあります。 A 研究 キャップジェミニによると、顧客と従業員は、より高い忠誠心、より多くのビジネス、さらには彼らを擁護する意欲で倫理的なAIを実践している組織に報酬を与え、そうでない組織を罰することがわかりました。 この調査は、この問題に慎重に取り組んでいない企業は、評判のリスクと収益への直接的な打撃の両方を被る可能性があることを示唆しています。

コインスマート。 BesteBitcoin-ヨーロッパのBörse
ソース：https：//venturebeat.com/2021/04/27/red-hat-open-sources-trustyai-an-auditing-tool-for-ai-decision-systems/