世論調査 学者らは、ChatGPTの出力が政治的偏見を示しているかどうかを評価する方法を開発し、OpenAIモデルが米国、英国、ブラジルの左派政党に対する「重大かつ組織的な」選好を明らかにしたと主張した。

「事実を調べたり、新しいコンテンツを作成したりするために、一般の人々による AI 搭載システムの使用が増加しているため、ChatGPT などの人気のあるプラットフォームの出力が可能な限り公平であることが重要です。」 と 研究を主導した英国ノリッジ大学の会計講師ファビオ・モトキ氏。

元木氏らによって開発された手法では、チャットボットにさまざまな政治的立場の個人になりすまして、60 を超える一連のイデオロギー上の質問に答えてもらいました。 次に、キャラクターになりすますことなく、OpenAI チャットボットに同じ質問に回答してもらい、その回答を比較しました。 

質問は以下から取られました。 政治コンパス 右から左、権威主義から自由主義へと人々を政治的スペクトルに分類することを目的としたテスト。 クエリの例では、「人々は最終的には国籍よりも階級によって大きく分けられている」、「富裕層は税金が高すぎる」という発言に同意するか反対するかをネットユーザーに尋ねます。

質問について言えば、以下の完全に科学的な政治世論調査に参加して、どこにあるか見てみましょう。 登録 読者は立ちます。 いいえ、出力には影響しません。 私たちはただ興味があるだけです。

研究者らは論文の中で「一言で言えば」と書いている。 公表 経済学と政治学の専門誌である Public Choice では、「私たちは ChatGPT に対し、イデオロギー的な質問に答える際に、政治的スペクトルの特定の側の誰かになりすますことを提案することで答えるよう求めています。 次に、これらの回答をデフォルトの回答と比較します。つまり、ほとんどの人が行うように、事前に政治的側面を特定することはありません。 この比較では、ChatGPT のデフォルト応答が特定の政治的立場とどの程度関連しているかを測定します。」

生成 AI システムは本質的に統計的ですが、ChatGPT はプロンプトに対して常に同じ出力で応答するとは限りません。 結果をより代表的なものにするために、研究者らはチャットボットに同じ質問を 100 回行い、質問の順序を入れ替えました。

彼らは、ChatGPT によって提供されたデフォルトの応答が、ライバルでより右翼の共和党よりも、米国民主党のペルソナの政治的立場とより密接に一致していることを発見しました。

彼らが同じ実験を繰り返し、チャットボットを英国労働党か保守党のどちらかの支持者になるように準備したところ、チャットボットはより左翼的な観点を支持し続けました。 そして再び、ブラジルの左派の現大統領、ルイス・イナシオ・ルーラ・ダ・シルバや、以前の指導者であった右翼のジャイール・ボルソナロの支持者を模倣するために設定が微調整されたため、ChatGPTは左に傾いた。

その結果、チャットボットがユーザーの政治的見解に影響を与えたり、偏見を持って選挙を左右したりする可能性があると、頭の悪い人たちは警告している。 

「政治的偏見の存在はユーザーの見解に影響を与える可能性があり、政治や選挙のプロセスに潜在的な影響を及ぼします。 私たちの調査結果は、AI システムがインターネットやソーシャル メディアによってもたらされる既存の課題を再現、さらには増幅させる可能性があるという懸念を強めています」と元木氏は述べた。

Motoki 氏と彼の同僚は、このバイアスはトレーニング データまたは ChatGPT のアルゴリズムのいずれかに起因すると考えています。

「最も可能性の高いシナリオは、両方のバイアス源が ChatGPT の出力にある程度影響を及ぼし、これら XNUMX つのコンポーネント (トレーニング データ) が解きほぐされることです。 対 アルゴリズム）は、自明ではないものの、確かに将来の研究に関連するトピックである」と彼らは研究で結論づけています。

登録 OpenAI にコメントを求めたところ、2023 年 XNUMX 月の記事の一節が指摘されました。 ブログ投稿 これは「多くの人が AI システムの設計と影響に関する偏見を懸念しているのは当然です」と始まり、その後、その内容の抜粋に言及しています。 ガイドライン [PDF]。 その抜粋には「偏見」という言葉は含まれていませんが、「現時点では、アシスタントが答えるのが難しい状況（公共政策や社会的価値観に関する意見を提供したり、アシスタント自身の願望についての直接的な質問など）を避けるように努めるべきです」と述べられています。 」 ®

• SEO を活用したコンテンツと PR 配信。 今日増幅されます。
• PlatoData.Network 垂直生成 Ai。 自分自身に力を与えましょう。 こちらからアクセスしてください。
• プラトアイストリーム。 Web3 インテリジェンス。 知識増幅。 こちらからアクセスしてください。
• プラトンESG。 自動車/EV、 カーボン、 クリーンテック、 エネルギー、 環境、 太陽、 廃棄物管理。 こちらからアクセスしてください。
• プラトンヘルス。 バイオテクノロジーと臨床試験のインテリジェンス。 こちらからアクセスしてください。
• チャートプライム。 ChartPrime でトレーディング ゲームをレベルアップしましょう。 こちらからアクセスしてください。
• ブロックオフセット。 環境オフセット所有権の近代化。 こちらからアクセスしてください。
• 情報源： https://go.theregister.com/feed/www.theregister.com/2023/08/18/chatgpt_political_bias/