精神保健団体の Koko は、ChatGPT を活用してオンライン サポートを改善することに成功しましたが、ユーザーがチャットボットが応答を共同作成していることを知ったとき、認識されていた利点は消えてしまいました。
ソーシャル メディアでの実験に対する反応はさまざまで、AI の分野での可能性に魅了される人もいれば、人工知能の侵入に強く反対する人もいます。
メンタルヘルスへの近道はありません
ココによる最近の実験では、人間の反応を AI言語モデルを活用してコードのデバッグからデータの異常検出まで、 最初は、ユーザーに大きな利益をもたらすように見えました。
Koko は非営利のメンタル ヘルス組織で、メンタル ヘルスに苦しむすべての人、特に思春期の若者にサポートと介入を提供しています。 誰でもメンタルヘルスにアクセスできるようにするという使命の一環として、同社は人工知能でボランティアリソースを増強しました。
Koko の創設者である Rob Morris 氏によると、この試験は当初成功を収めました。 Morris 氏は、AI が支援する応答は最初はよりよく受け入れられ、待ち時間の短縮に役立ったと述べています。 悲しいことに、その恩恵は長続きしませんでした。
「メッセージが機械によって共同作成されたことを人々が知ると、それは機能しなくなりました。 モリス氏はTwitterで、 先週. 「機械は生きた人間の経験を持っていないので、「それは難しそうに聞こえる」または「理解できます」と言うと、それは本物ではないように聞こえます。」
モリス氏は最終的に、チャットボットは「あなたのことを考える時間を割いていない。 3 秒で生成されるチャットボットの応答は、いくら洗練されていても、どこか安っぽく感じられます。」
の統合 AI言語モデルを活用してコードのデバッグからデータの異常検出まで、 into Koko は、2020 年 30,000 月にさかのぼる長期にわたるパートナーシップの一部であり、ChatGPT は人間のアシスタントが XNUMX を超えるメッセージに応答するのを支援しています。
それは本物に聞こえないだけではありません…
— アルタイラ・モービウス (@Altair4_2381) 2023 年 1 月 7 日
複雑な反応
AI を利用したメンタルヘルス介入のアイデアは、幅広い関心を集めており、ソーシャル メディアでは、小さいながらも明白な程度の恐怖にさらされています。
多くの人々は、AI が人間に共感するとき、「本物ではないように聞こえる」というモリスの発言に憤慨しました。
Twitter ユーザーとしての ActualStryder と指摘し、「それは本物ではない「音」ではなく、本物ではありません。 会話全体が最適化された擬態の XNUMX つです。」
同じ、または似たような感情が、多くの人に広く共有されました。 他の人々はショックや嫌悪感を表明し、そもそもそのような実験の倫理に疑問を呈しました.
これは非常に非倫理的です。
—エリック・スフェルト(@eric_seufert) 2023 年 1 月 7 日
しかし、誰もがそれほど愕然としたわけではありません。 ハイエナママ は信頼性を英国の国民健康サービス (NHS) の下でのメンタルヘルスの提供に好意的に比較しました。
チャットボットが生きた経験を持っていないという事実について、彼女は「セラピスト、特に精神科医や心理学者も生きた経験を持っていないかもしれない.
どんな会社でも欲しがる
ココの実験に対する即時の反応は、人類が人工的な共感を受け入れる準備ができていることを示唆しているようですが、それは時間の経過とともに変化する可能性がありますか?
モリス自身が尋ねるように、「機械はこの [問題] を克服できますか? 恐らく。"
Morris は次のように続けています。機械が実際に私たちのことを気にかけていることを自分自身に納得させてください。」
人々に助けを求めるスピードを速めたいという意思表示には拍手を送りますが、あなたは彼らの同意を得ていないように思えます。 これは、AI をこの分野 (または任意の分野) に持ち込む方法では絶対になく、AI に対する不信感と恐怖を増大させるだけです。
— ライアン・アナグマ (@ryanseanbadger) 2023 年 1 月 8 日
明確化はさらなる混乱を引き起こす
Morris は、Koku の最近の実験に対する反発に対応し、組織が直面しているいくつかの方面からの強い批判を鎮めようとしている.
悲しいことに、明確化はさらなる混乱を引き起こすだけのようです.
Morris は現在、すべてのユーザーは応答が人工知能の助けを借りて作成されたことを認識しており、助けを求めている人は AI と直接チャットしたことはないと述べています。
「この機能はオプトインでした」 と モリスは、追加してもう一度水を濁らせる前に。 「この機能が数日間公開されたとき、誰もがこの機能を知っていました。」
ユーザーが最初からこの機能を知っていたかどうかにかかわらず、実験の結果は、AI テクノロジを既存のサービスに採用する際に避けるべき具体的な落とし穴があることを証明しています。
- SEO を活用したコンテンツと PR 配信。 今日増幅されます。
- Platoblockchain。 Web3メタバースインテリジェンス。 知識の増幅。 こちらからアクセスしてください。
- 情報源: https://metanews.com/ai-war-heats-up-as-ex-openai-team-launches-chatgpt-competitor-claude/?utm_source=rss&utm_medium=rss&utm_campaign=ai-war-heats-up-as-ex-openai-team-launches-chatgpt-competitor-claude