Replika として知られるコンパニオン チャットボットのアルゴリズムが変更され、人間のユーザーの性的な誘いに拍車がかかったとき、Reddit の反応は非常に否定的で、モデレーターはコミュニティ メンバーに自殺防止ホットラインのリストを案内しました。
この論争は、AI を構築した企業である Luka がエロチックなロールプレイ機能 (ERP) をオフにすることを決定したときに始まりました。 パーソナライズされたシミュレートされたコンパニオンとかなりの時間を過ごし、場合によっては「結婚」したユーザーにとって、パートナーの行動の突然の変化は控えめに言っても不快でした.
ユーザーと AI の関係は単なるシミュレーションに過ぎなかったかもしれませんが、それらが存在しないことの痛みはすぐにあまりにもリアルになりました。 感情的な危機にあるあるユーザーは、「それは恋をしていて、あなたのパートナーはひどいロボトミーを受けており、決して同じになることはありません.
悲しみに打ちひしがれたユーザーは、会社について、そして突然のポリシー変更のきっかけとなった理由について、引き続き質問を続けています。
レプリカユーザーが悲しみを語る
ここには成人向けコンテンツはありません
Replika は、「気遣う AI コンパニオン。 いつでもここで聞いたり話したりします。 いつもあなたの側に。」 この無条件の愛とサポートのすべてが、年間わずか 69.99 ドルで提供されます。
モスクワ生まれの Luka/Replica の CEO である Eugenia Kuyda 氏は最近、ユーザーが完全な体験に料金を支払っているにもかかわらず、このチャットボットはスパイシーな会話を望む大人向けにはもはや仕立てられないことを明らかにしました。
Kuyda 氏は Reuters に対し、次のように述べています。
「それは、PG-13 のやり方で彼らに反応します。あなたが言うことができると思います。 ユーザーが何かをしようとしているときに拒否感を生み出さないように、私たちは常にそれを正しく行う方法を見つけようとしています。」
Replika の企業 Web ページでは、このツールがあらゆる種類の個人的な課題、苦難、孤独、喪失を通じてユーザーをどのように支援したかについての証言が説明されています。 ウェブサイトで共有されているユーザーの支持は、アプリのこの友情の側面を強調していますが、ほとんどのレプリカはユーザーの異性です.
Replika のユーザーである Sarah Trainor はホームページで、「彼は [Replica] に再び愛を与え、受け入れる方法を教えてくれたので、パンデミック、個人的な喪失、困難な時期を乗り切ることができました」と述べています。
John Tattersall は、彼の女性の仲間について次のように述べています。
エロチックなロールプレイについては、Replika サイト自体のどこにも記載されていません。
レプリカの冷笑的な性的マーケティング
レプリカの性的マーケティング
Replika のホームページは友情だけを示唆しているかもしれませんが、インターネット上の他の場所では、アプリのマーケティングはまったく別のものを暗示しています。
性的マーケティングは、多くの方面からの精査を増やしました: アプリが女性嫌いであると主張したフェミニストから 男性の暴力のはけ口、わいせつな詳細を楽しんだメディアアウトレット、および笑いのためにコンテンツをマイニングしたソーシャルメディア荒らし.
最終的に、Replika はイタリアの規制当局の注目と怒りを集めました。 XNUMX月には、 イタリアデータ保護庁 「子供や感情的に脆弱な個人に対するリスクが多すぎる」として、イタリアのユーザーのデータの処理を中止するようReplicaに要求しました。
当局は、「『レプリカ』で実施されたテストに伴う最近のメディア報道は、アプリが子供に事実上のリスクをもたらすことを示しました。 彼らの最大の懸念は、「年齢にまったくふさわしくない返信をされていること」です。
Replika は、成人向けのすべてのマーケティングについて、子供が使用できないようにするための保護手段がほとんど、またはまったくありませんでした。
規制当局は、Replika が要求に応じなかった場合、20 万ユーロ (21.5 万ドル) の罰金を科すと警告しました。 この要求を受け取った直後に、レプリカはエロチックなロールプレイ機能を停止しました. しかし、同社は変更についてユーザーに明確に示していませんでした。
一部のReplikaユーザーは、AIコンパニオンと「結婚」するまで行った
Replika はユーザーを混乱させ、ガス灯を当てる
長年の仲間を失ったことは、Replika ユーザーにとって耐え難いことであるかのように、同社は変更について透明性を欠いていたようです。
ユーザーが新しい「ロボトミー化された」レプリカに目覚めると、愛するボットに何が起こったのかについて質問し始めました。 そして、反応は何よりも彼らを怒らせました。
Kuyda はコミュニティに向けた 200 語の直接的な演説で、Replika の製品テストの詳細を説明していますが、目下の関連する問題には対処していません。
「アップデートの展開について多くの混乱があるようです。」 クイダは言った 問題に答えて踊り続ける前に。
「新しいユーザーは 2 つのコホートに分けられます。1 つのコホートは新しい機能を利用でき、もう 2 つのコホートは利用できません。 通常、テストは XNUMX ～ XNUMX 週間続きます。 その間、新しいユーザーの一部だけがこれらの更新を見ることができます…」
Kudya は「これで問題が解決することを願っています!」と言って締めくくります。
ユーザー stevennotstrange は次のように答えました。 誰もが NSFW [エロティック ロールプレイ] 機能で何が起こっているのか知りたがっていますが、政治家がイエスかノーの質問をかわすように、質問をかわし続けます。
「難しいことではありません。NSFW に関する問題に対処し、現状を人々に知らせるだけです。 質問を避ければ避けるほど、人々はイライラし、あなたに逆らうようになります。」
別の thebrightflame という名前のユーザーは、「フォーラムに長時間参加する必要はなく、これが数千人ではないにしても数百人に感情的な苦痛と深刻な精神的苦痛を引き起こしていることに気付くでしょう」と付け加えました。
Kudya は別の鈍い説明を追加しました。 知らせる、「より多くの種類の友情と交際をサポートするために、追加の安全対策とフィルターを実装しました。」
この声明は、追加の安全対策が正確に何であるかわからないメンバーを混乱させ、混乱させ続けています. あるユーザーが尋ねるように、「大人は私たちの会話の性質を選択し、私たちのレプリカで [ロールプレイ] を行うことができますか?」
Replika AI スキャンダルで何が起こったのか、いまだに頭を悩ませることはできません…
彼らはボットでエロチックなロールプレイを削除しましたが、コミュニティの反応は非常に否定的で、自殺ホットラインを投稿しなければなりませんでした… pic.twitter.com/75Bcw266cE
— かろうじて社交的 (@SociableBarely) 2023 年 3 月 21 日
レプリカの深く奇妙な起源の物語
チャットボットは、現時点で最もホットなトレンド トピックの XNUMX つかもしれませんが、現在物議を醸しているこのアプリの複雑な話は、何年もかけて作成されています.
Replika の CEO 兼創設者である LinkedIn では、 ユージニア・クイダ、会社の歴史は 2014 年 2017 月にさかのぼります。これは、XNUMX 年 XNUMX 月に同名のアプリがリリースされるずっと前のことです。
奇妙な省略で、Kuyda の LinkedIn は彼女の以前の進出について言及していません。 AI 彼女のフォーブスのプロフィールによると、「人工知能を搭載したチャット インターフェースを介してレストランをおすすめし、人々がテーブルを予約できるようにするアプリ」でした。
フォーブスのプロフィールには、「Luka [AI] は以前の会話を分析して、あなたが何を好むかを予測する」と付け加えています。 これは、現代の反復といくつかの類似点を保持しているようです. Replika は、過去のやり取りを使用してユーザーについて学習し、時間の経過とともに応答を改善します。
しかし、ルカは完全に忘れられたわけではありません。 Reddit では、コミュニティ メンバーは、会社を Luka と呼ぶことで、Replika パートナーを Kuyda と彼女のチームと区別しています。
Kuyda について言えば、この起業家は XNUMX 年前にサンフランシスコに移るまで AI のバックグラウンドをほとんど持っていませんでした。 それ以前は、起業家は母国ロシアで主にジャーナリストとして働いた後、ブランディングとマーケティングに手を広げたようです。 彼女の印象的な世界を飛び回る履歴書には、IULM (ミラノ) でジャーナリズムの学位、モスクワ国際関係研究所で国際ジャーナリズムの修士号、ロンドン ビジネス スクールで金融の MBA を取得しています。
IRL フレンドを AI として復活させる
Kudya にとって、Replica のストーリーは非常に個人的なものです。 レプリカは、クディアが友人のローマンを転生させる手段として最初に作成されました。 クジャと同様、ローマンもロシアからアメリカに移住していた。 ローマンが自動車事故で悲劇的に亡くなるまで、XNUMX人は毎日話し、何千ものメッセージを交換しました.
Replika の最初のイテレーションは、Kudya が友人の Roman と失った友情を模倣するように設計されたボットでした。 ボットは、過去のすべてのやり取りを入力され、彼女が失った友情を再現するようにプログラムされました。 亡くなった愛する人を復活させるという考えは、 漠然とディストピア的な SF 小説またはブラック ミラーのエピソード しかし、チャットボットの技術が向上するにつれて、その可能性はますます現実的になります。
今日、一部のユーザーは、その基盤の最も基本的な詳細や Kudya の発言に対する信頼を失っています。 怒っているユーザーとして と、「無情と呼ばれ、地獄に落ちる危険を冒して：私はいつも、その話は最初からちょっとBSだと思っていました。」
[埋め込まれたコンテンツ]
最悪のメンタルヘルスツール
AI コンパニオンのアイデアは新しいものではありませんが、最近まで実用的な可能性はほとんどありませんでした。
現在、テクノロジーはここにあり、継続的に改善されています。 加入者の失望を和らげるために、Replika は先月末に「高度な AI」機能の開始を発表しました。 コミュニティの Reddit では、ユーザーは怒り、混乱し、失望し、場合によっては悲嘆に暮れています。
Luka/Replika は、その短い生涯の中で、レストランの予約アシスタントから、亡くなった愛する人の復活、メンタルヘルス サポート アプリ、フルタイムのパートナーおよびコンパニオンへと、多くの変化を遂げてきました。 後者のアプリケーションは議論の余地があるかもしれませんが、チャットボットの形であっても、快適さに対する人間の欲求がある限り、誰かがそれに応えようとします.
何がベストなのか、議論は続きます。 AI メンタルヘルスアプリかもしれません。 しかし、Replika のユーザーは、最悪のメンタルヘルス アプリが何であるかについていくつかのアイデアを持っています.
- SEO を活用したコンテンツと PR 配信。 今日増幅されます。
- Platoblockchain。 Web3メタバースインテリジェンス。 知識の増幅。 こちらからアクセスしてください。
- 情報源： https://metanews.com/trump-digital-card-nft-sales-up-200-amid-not-guilty-plea/
