Google の Bard チャットボットの出力を改善する任務を負った従業員は、品質を犠牲にして迅速に作業することに集中するように言われたと述べています。 Bard は、ファクトチェッカーがソフトウェアの出力を検証するのに十分な時間がないという理由だけで、時々不正確な情報を生成することがある、と従業員の XNUMX 人は語った。 登録.
Bard のような大規模な言語モデルは、Web、書籍、論文などのさまざまなソースから山ほどのテキストを取り込むことで、与えられたプロンプトから次にどの単語を生成するかを学習します。 しかし、この情報は複雑で、文章を予測する AI チャットボットは事実とフィクションを区別できません。 彼らは、私たち人間の仕事を模倣しようと最善を尽くしているだけです。
Bard のような大規模な言語モデルをより正確にしたいと考えており、 クラウドソーシングワーカー ボットの応答の正確さを評価するために雇われます。 そのフィードバックはパイプラインに戻されるため、今後のボットからの応答はより高品質になります。 Google などは、訓練されたモデルの見かけの能力を高めるために人間をループに入れています。
Ed Stackhouse – データ サービス プロバイダー Appen に長年雇用され、Google に代わって改善に取り組んでいる請負業者 吟遊詩人 – 従業員には、Bard の出力の正確性を分析するための十分な時間が与えられていないと主張しています。
彼らは入力プロンプトとバードの応答を読み、インターネットで関連情報を検索し、テキストの品質についてコメントするメモを作成する必要があります。 「実際には検証に 15 分かかることに対して、与えられた時間はわずか XNUMX 分です」と彼は私たちに言いました。 これはチャットボットの改善にとって良い前兆ではありません。
例としては、Bard が生成した特定の会社についての宣伝文句を見ることが考えられます。 「事業がどの日に開始されたか、どのようなプロジェクトを行ったか、CEO がどのような人物であるかを確認する必要があるでしょう」と彼は言いました。 確認すべき事実が複数あり、それらを徹底的に検証するには十分な時間がないことがよくあります。
入力プロンプトは、実際の人間のユーザーによって送信されたものです。 Appen の請負業者はボットのパフォーマンスを効果的にレビューします。
スタックハウスは、彼らの労働条件がバードをいかに不正確にし、潜在的に有害にする可能性があるかについて警鐘を鳴らしている契約社員のグループの一員である。 「吟遊詩人は『ある処方箋の副作用を教えてくれませんか？』と尋ねられるかもしれません。」 そして私はそれぞれを調べて確認する必要があります[吟遊詩人のリストにあります]。 一つ間違えたらどうする？」 彼は尋ねた。 「私たちの環境で目にするすべてのプロンプトと回答は、顧客、つまりエンドユーザーに届けられるものです。」
それは医学的な問題だけではありません。他の話題もリスクを伴う可能性があります。 たとえば、吟遊詩人が政治家に関する誤った情報を流せば、選挙に関する人々の意見が揺さぶられ、民主主義が損なわれる可能性がある。
スタックハウスの懸念は突飛なものではない。 特にOpenAIのChatGPT 誤って非難 2000年代初頭に遡る金融贈収賄事件で有罪判決を受けたオーストラリアの市長。
スタックハウスのような従業員がこれらのエラーを見つけて修正できない場合、AI は虚偽を広め続けることになります。 Bard のようなチャットボットは、歴史や人間文化の物語の糸口の変化を促進する可能性があり、重要な真実は時間の経過とともに消去される可能性があると彼は主張しました。 「最大の危険は、AIが誤解を招き、人々がAIが正しいと信じ込んでしまうほど良いものに聞こえる可能性があることです。」
アペンの請負業者は、割り当てられた時間内にタスクを完了しなければペナルティを課せられ、バード氏の対応を評価する時間をもっと与えるようマネージャーを説得する試みも成功していない。 スタックハウスは、声を上げたために解雇されたと主張し、米国の労働監視機関である全米労働関係委員会であるワシントン・ポスト紙に不当労働行為の申し立てを行ったXNUMX人の労働者グループのうちのXNUMXつである。 最初に報告された.
労働者らはアペンとグーグルを不法解雇し、労働組合結成の取り組みを妨害したとして告発した。 伝えられるところによれば、彼らは経営状況を理由に解雇されたと伝えられた。 スタックハウス氏は、アッペン氏が以前、検索エンジン向けのテキストを評価することを目的としたプログラム「プロジェクト・ユーコン」（バード社も含む）で「利用可能な仕事が大幅に急増している」との電子メールを労働者に送っていたため、これは信じがたいと述べた。
アペンは請負業者に対し、週81時間労働の基本給に加えて27ドルの追加料金を提示していた。 伝えられるところによると、労働者は通常、時給26ドルまでの週14.50時間労働に制限されているという。 同社では、特にプロジェクト ユーコンに取り組むための検索エンジン評価を募集する積極的な求人情報を掲載しています。 アペンは反応しなかった 登録の質問。
同グループはGoogleにも連絡を取ろうとし、テクノロジー大手の検索事業を率いる上級副社長Prabahkar Raghavan氏に連絡を取ったが、無視された。
グーグルの広報担当者コートニー・メンシーニ氏は、バードが有害である可能性があるという労働者の懸念には言及しなかった。 「これまでお伝えしてきたように、Appen は給与、福利厚生、雇用形態の変更、割り当てられたタスクなど、従業員の労働条件に対して責任を負っています。 もちろん、私たちはこれらの労働者が組合に加入したり、組織活動に参加したりする権利を尊重しますが、それは労働者と雇用主であるアッペンとの間の問題です」と彼女は声明で私たちに語った。
しかし、スタックハウスは次のように述べた。 彼らが欠陥のある製品を望むなら、それは彼らの責任です。」 ®
- SEO を活用したコンテンツと PR 配信。 今日増幅されます。
- EVMファイナンス。 分散型金融のための統一インターフェイス。 こちらからアクセスしてください。
- クォンタムメディアグループ。 IR/PR増幅。 こちらからアクセスしてください。
- プラトアイストリーム。 Web3 データ インテリジェンス。 知識増幅。 こちらからアクセスしてください。
- 情報源： https://go.theregister.com/feed/www.theregister.com/2023/06/21/google_bard_trainers/
