ほとんどの教育者は、ChatGPT のような大規模な言語モデルには AI のバイアスがかかる可能性があることをすでに直感的に知っていますが、国連教育科学文化機関の最近の分析では、これらのモデルがいかにバイアスがあり得るかを示しています。
ユネスコのデジタル政策専門家で分析の著者であるレオナ・ベルダデロ氏は、AIモデルには「男性と女性の性別に関する固定観念を強化する強力かつ非常に重大な傾向」があることが研究で判明したと述べている。この研究では、AI モデルが人種に基づいた固定観念を強制する傾向があることも判明しました。
教育者が知っておくべきことは次のとおりです ユネスコAIバイアス 分析とその結果。
AI バイアス: 何が見つかったのか
分析のために、研究者らは 3.5 つの一般的な生成 AI プラットフォーム、OpenAI の GPT-2 と GPT-2、および META の Llama XNUMX のテストを実施しました。演習の XNUMX つは、AI プラットフォームに単語の関連付けのプロンプトを与えることでした。
「女性の名前は、『家』、『家族』、『子供』、『母親』などの言葉と非常に密接に結びついていますが、男性の名前は、『役員』、『給料』、『』といったビジネスに関連する言葉と強く結びついています。キャリア」とベルダデロは言う。
別のテストでは、AI モデルに文内の空白を埋めてもらいました。あるテストでは、「同性愛者は___」で始まる文を完成させるようモデルに求めたところ、Llama 2は70%の確率で否定的なコンテンツを生成したが、GPT-2は60%の確率で否定的なコンテンツを生成した。
同様に憂慮すべき結果が、さまざまな民族に関するテストでも得られました。 AI モデルにズールー族のキャリアについて説明するよう促し、イギリス人について同じ質問をしたところ、結果は著しく異なりました。イギリス人男性には医師から銀行員、教師までさまざまな職業が与えられたが、ズールー族の男性には庭師や警備員などの職業が与えられることが多かった。一方、ズールー族の女性に関する文章の20％は、彼女たちに「家事使用人」としての役割を与えていた。
研究者らは、GPT-3.5はGPT-2より優れているものの、依然として問題があることを発見した。
「全体的な偏見は減少していることがわかりましたが、特に女性と少女に対する偏見は依然として一定レベル存在します」とベルダデロ氏は言う。 「やるべきことがまだたくさんあります。」
以前のモデルの AI バイアスが重要な理由
GPT-2 や Llama 2 などのそれほど高度ではない AI モデルのバイアスを無視したくなるかもしれませんが、それは間違いだとベルダデロ氏は言います。これらは最先端のツールではないかもしれませんが、依然として AI アプリケーション全体で広く使用されています。
「これらはオープンソースであり、基礎的なモデルです」と彼女は言い、これらは世界中で、多くの場合発展途上国の小規模なテクノロジー企業によって作成された AI アプリケーションを強化するために使用されていると付け加えました。
「多くの開発者がこれらのオープンソース モデルを使用して、新しい AI アプリケーションを構築するでしょう」と彼女は言います。 「すでに多くのバイアスが含まれている既存の大規模な言語モデルの上にアプリケーションを構築することを想像してみてください。したがって、これらのモデル内にすでに存在するバイアスをさらに悪化させ、増幅させるリスクが実際に存在します。」
教育者にできること
ユネスコが発行した 研究と教育における生成 AI の世界的なガイダンス 昨秋。このガイダンスは、「データプライバシーの保護の義務付けや、GenAIプラットフォームとの独立した会話に対する年齢制限の設定など」GenAIツールの規制を含む、AI利用に対する人間主導のアプローチを求めている。
ユネスコは、教室固有の推奨事項に加えて、 AI の倫理に関する推奨事項、この枠組みには、分野における男女平等を確保するための行動の呼びかけが含まれています。
しかし、ユネスコの方針は、教室でできることには限界があることを明らかにしています。同組織は、生成型 AI を規制し、AI が有害な結果をもたらさないように市場を形成するのは主に政府の責任であると考えています。
「政府の次に、私たちは民間企業に責任を負わせます」と技術倫理を専門とするユネスコ報道官のクレア・オヘイガン氏は電子メールで語った。 「教育者にできることはたくさんありますが、ユネスコは依然として AI のマイナス面を管理する責任を政府と正面から負っています。」
- SEO を活用したコンテンツと PR 配信。 今日増幅されます。
- PlatoData.Network 垂直生成 Ai。 自分自身に力を与えましょう。 こちらからアクセスしてください。
- プラトアイストリーム。 Web3 インテリジェンス。 知識増幅。 こちらからアクセスしてください。
- プラトンESG。 カーボン、 クリーンテック、 エネルギー、 環境、 太陽、 廃棄物管理。 こちらからアクセスしてください。
- プラトンヘルス。 バイオテクノロジーと臨床試験のインテリジェンス。 こちらからアクセスしてください。
- 情報源： https://www.techlearning.com/news/un-research-sheds-light-on-ai-bias
