企業が人工知能をますます適用するにつれて、信頼に関する懸念に対処する必要があります。

AIの公平性を確保するために企業が採用する10の実践的な介入を以下に示します。 それらには、 AIの公平性 チャーターとトレーニングとテストの実施。

データ駆動型テクノロジーと人工知能（AI）は、次のCOVID-19バリアントが発生する場所の予測から、最も効率的なルートでの移動を支援するまで、今日の私たちの世界を支えています。 多くの分野で、一般の人々は、これらの経験を促進するアルゴリズムが公正な方法で開発されていることを非常に信頼しています。

しかし、この信頼は簡単に崩れてしまいます。 たとえば、 求人ソフトウェア それは、代表的でないトレーニングデータのために、「女性」という単語を含むアプリケーション、または信用力の実際の証拠を見逃し、その結果、特定のグループが取得するクレジットスコアリングシステムにペナルティを科します。 クレジットの下限 またはローンを拒否されます。

現実には、テクノロジーはAIの公平性に関する教育やトレーニングよりも速く進んでいます。 これらのデータ駆動型エクスペリエンスをトレーニング、開発、実装、およびマーケティングする人々は、多くの場合、気づいていません。 彼らの努力の二次または三次の意味.

世界経済フォーラムの一環として 人類のための人工知能に関するグローバル未来評議会、AIの実践者、研究者、企業アドバイザーの集合体である私たちは、AIの公平性を確保するために企業が採用する10の実践的な介入を提案します。

1.AI教育の責任を割り当てる

部門の枠を超えた倫理委員会（データサイエンス、規制、広報、コミュニケーション、人事の代表者を含む）とともにAI教育活動の設計と実施を担当する、最高AI倫理責任者（CAIO）を任命します。 CAIOは、公平性が懸念される場合にスタッフが連絡を取るための「オンブズマン」であると同時に、技術者以外のスタッフのスポークスパーソンでもある必要があります。 理想的には、この役割は、可視性と実装についてCEOに直接報告する必要があります。

2.組織の公平性を定義します

AI公平性憲章テンプレートを作成し、質問する すべての部門 AIを積極的に使用して、コンテキスト内でAIを完成させています。 これは、ビジネスラインマネージャーと製品およびサービスの所有者に特に関係があります。

3.サプライチェーンに沿ったAIの公平性を確保する

調達した製品やサービスにAIが組み込まれている、使用しているサプライヤー（たとえば、候補者のスクリーニングにAIを使用する可能性のある採用担当者）にも、AI公平性憲章を完成させ、AI公平性に関する企業ポリシーを遵守するように要求します。 これは、調達機能とサプライヤに特に関係があります。

4.トレーニングと「実践によって学ぶ」アプローチを通じてスタッフと利害関係者を教育する

AIの公平性の原則について、すべての従業員に必須のトレーニングと認定を要求します。これは、スタッフがビジネス行動規範にサインアップする必要がある方法と同様です。 技術スタッフには、公平性の原則に違反しないモデルを構築する方法に関するトレーニングを提供します。 すべてのトレーニングは、AI公平性憲章からの洞察を活用して、会社が直面している問題に直接対処する必要があります。 コースの内容が倫理委員会によって定期的に見直されていることを確認してください。

5. HRAIフェアネスピープルプランを作成します

HR AI公平性計画には、データ駆動型テクノロジーとAIに取り組んでいるチームの多様性を評価するための、HRによる毎年のレビューと、主要なAI関連製品開発のために現在宣伝されている能力とスキルの明示的なレビューとアップグレードを含める必要があります。公平性の認識を確保するための役割（製品所有者、データサイエンティスト、データエンジニアなど）は、職務内容の一部です。

6.技術が発表される前にAIの公平性をテストする

AIアルゴリズムの稼働を許可する前に、部門とサプライヤーに公平性の結果テストを実行して内部で公開するように要求します。 データの偏りが原因でどのグループが不当に扱われる可能性があるかがわかったら、そのグループのユーザーをシミュレートして結果を監視します。 これは、製品チームが製品またはサービスを公開する前に反復および改善するために使用できます。 などのオープンソースツール マイクロソフト フェアラーン、公平性結果テストの分析を提供するのに役立ちます。

7.AIの公平性に対するアプローチを伝えます

新規または更新された製品またはサービスの公平性結果テストを実施するために、顧客および一般向けのスタッフとの公平性結果学習セッションを設定します。 これは、マーケティングや外部コミュニケーション、およびカスタマーサービスチームに特に関係があります。

8.取締役会の常設アイテムをAIの公平性プロセスに捧げます

この議論には、進捗状況と遵守に関する報告、最高AI倫理責任者と倫理委員会から提起されたテーマ、および優先度の高い公平性結果テストの結果を含める必要があります。

9.教育が固執することを確認します

AIの公平性活動への参加と完了を定期的に追跡および報告し、実際のビジネス価値の観点から公平性を管理することの実証された影響を報告します。 これらの更新を部門およびラインマネージャーに提供してスタッフに連絡し、AIプラットフォームとソフトウェアをより公平にすることで、組織がより効果的かつ生産的になることを強化します。

10.すべてを文書化する

AIの公平性へのアプローチを文書化し、それをスタッフやサプライヤーのトレーニング、および顧客や投資家を含む注目を集めるイベントで伝えます。

[この物語はもともとに登場しました AIの公平性について会社を教育するための10のステップ| 世界経済フォーラム（weforum.org）. 著作権 2021.]

ナジア・ユーシフ のマネージングディレクター兼パートナーです ボストンコンサルティンググループ 英国、オランダ、ベルギーの金融機関業務を共同で主導しています。

マーク・ミネヴィッチ ユネスコのジョゼフステファン研究所の後援の下、人工知能に関する国際研究センターの人工知能政策の議長を務めています。