CCC は、今年の AAAS 年次会議で 3 つの科学セッションをサポートしました。直接参加できなかった方のために、各セッションの概要を説明します。今日は、セッションの Q&A 部分のハイライトを要約します。大規模な言語モデル: 役に立つアシスタント、ロマンチックなパートナー、それとも詐欺師?このパネルのモデレーターは マリア・ジーニ博士、CCC評議会メンバーであり、ミネソタ大学のコンピュータサイエンス＆エンジニアリング教授が特集しました。 エセ・カマル博士、Microsoft Research の AI フロンティア担当マネージング ディレクター、 ハル・ドーメ三世博士、メリーランド大学コンピューターサイエンス教授、 ジョナサン・メイ博士, 南カリフォルニア大学情報科学研究所のコンピューターサイエンス教授。
以下は、この記事の Q&A 部分の興味深い要約です。 「大規模な言語モデル: 役に立つアシスタント、ロマンチックなパートナー、それとも詐欺師? パネル。 AIに恋愛能力はあるのか？これらのモデルは子供たちにどのような影響を与える可能性がありますか?米国の AI 能力はどのように積み重なっていますか?以下をご覧ください。
Q: AI 言語モデルを多言語および多文化のコンテキストにデプロイする場合、どのような実践を行う必要がありますか?
メイ博士: テクノロジーを開発し、壁を低くすることで、人々がやりたいことをより簡単に行えるようにする必要があります。私だけではなく、みんながやりたいこと。 AI さん、ありがとう。私に集中するのは素晴らしいことですが、私たちは世界全体に注意を払う必要があります。
Q: これらの一般的な問題のいくつかは、取り上げられるのが初めてではありません。どうやらコミュニティだけでこの問題に取り組むつもりはないようです。皆さんは、これらの会話を行動に移す方法についてアイデアをお持ちですか?
カマー博士: さまざまな当事者が果たすべき役割があります。異なる文化や集団を代表する場合、評価は非常に重要です。データセットに世界表現の多様性がない場合、結果として得られるシステムは代表的ではありません。評価のベストプラクティス、規制、コンプライアンス対策を形成するには、多くの作業を行う必要があります。ホワイトハウスは約束を果たし、AI 権利章典の青写真が動き始めています。多くの優秀な人材が協力して、業界全体でプロセスが実装されてきました (完璧ではありませんが、業界全体で一般化する可能性はあります)。現在標準として開始されているものに収束するために会議が開催されています。おそらく将来の規制で。評価や安全性解析などはどのように行うのでしょうか？これらの会話には、その場に必要な多様性がありません。意思決定が行われるときに誰がその部屋にいる必要があるかを考えてください。
ドーメ博士: 特に AI における規制について話すとき、誰もが懲罰的な規制について考えると思います。しかし、これは規制を促すことにもなりかねません。政策立案者や NSF に資金を提供すれば、国として、そして世界として私たちを助けるツールの開発を促進できるでしょう。
Q: 米国では、世界の他の地域に比べて AI への資金提供が大幅に遅れています。 NSF による新たな投資は 20 万ドル程度ですが、業界の投資と比較すると微々たるものです。連邦政府は何年にもわたって研究報告を発表しており、その結論は米国が行動を起こさなければならないというものである。私は Ece の相変化の例えが大好きです。数値による熱力学的限界は増大しています。私たちはオープン AI を望んでいますが、その費用は誰が払うのでしょうか?お金が足りません。あなたの提案は何ですか?オープンAI?しかし、オープンアクセス出版さえありません。法律を制定しないように大統領に勧めますか?
メイ博士: お金はあると思います。誰かが私に観察しましたが、あなたは粒子を回転させるよう政府を説得することに成功しましたが、それを私たちに転用することはできませんでした。
カマー博士: これらのモデルを構築している企業がこれらの成果を得ている理由は、リソースの一元化によるものです。スケールから得られるものはたくさんあります。さまざまなモデルを数多く持つ代わりに共有リソースを得るために、学術界への投資をどのように一元化するかを考える必要がある。それは規模だけの問題ではないことがわかります。今すぐやらなければならないことではありませんが、現在のアーキテクチャは優れたものではありません。優れた AI 機能を持つことは、単により多くの資金とより多くの権力を意味するものではありません。
Q: 回答における過剰代表バイアス。それがどこから来たのか知っていますか？私は数学が得意ですが、丸め誤差が重なりバイアスが加わっているのではないかと考えています。等しい表現の場合、等しい表現が出力されると思いますが、それともまだ存在しますか?
メイ博士: スパイク機能に多くのことが関係します。ソフトマキシマムはトレーニングの重要な部分です。最高はナンバー1になりたいと思っています。完璧な言語出力があるわけではありませんが、ある程度のバイアスは必要です。」私たちは人々への危害を最小限に抑えたいだけですが、多くの場合、私たちはそれを認識していません。理解せずに導入するのは問題です。
ドーメ博士: これらのモデルの課題の 1 つは、狭い AI モデルがもう存在しないことです。何でもできると言われているので、すべてを試すのは難しいです。
Q: AI はツールまたは代替品であるとおっしゃいましたが、AI はどちらの方向に進むと思いますか?
ドーメ博士: 交換にはさらに多くのお金がかかります。
Q：タイトルにロマンチックなAIが出てきました。それについてもっと知りたいです。
メイ博士: モデルには、現実的なロマンチックな代替品となるための十分な意図がありませんが、パターンが存在しない場合でも、パターンを認識する点では人間と同じくらい優れています。
カマー博士: AI について、現時点でのありのままに考えないことをお勧めします。将来を予測してみてください。数年後には、これらのシステムがあなたに合わせてカスタマイズされることを想像してください。そのシステムとどのような関係があるのでしょうか?
メイ博士: でも、それはあなたを愛してくれるでしょうか？
カマー博士: それはあなたを愛していると伝えます。
メイ博士: でもそれだけで十分ですか？
Q: AI分野以外の人へのアドバイスが聞きたいです。これらのツールをどのように活用できるでしょうか?何を知るべきでしょうか?
ドーメ博士: メリーランド大学では、このような会話を頻繁に行っています。 5年も経てばジャーナリズムは変わっている、と言うのは簡単ですが、他の分野も同様です。 5年後に教授の役割が変わると言うのは不快ですが、そうなります。私の同僚には、提案書と論文に異なる LLM プラグインを使用している人がいます。それはすでに起こっています。定期的にツールで書かれた試験問題が出題されますが、正確かどうかを確認する必要があります。試験問題を書くことは私にとって喜びではないので、AI が私の仕事からそれを取り除くことができます。高等教育では、それについてもっと考えなければなりません。それは私たちの仕事をどのように変えているのでしょうか？大学では多くの議論が行われていますが、リソースを共有することはそれほど多くありません。
Q: 将来、軍事応用を検討する際に AI が評価されることはどの程度歓迎されますか?このセッションでは軍事用途については言及されていません。私が人々の意見を中途半端に正しく読んでいれば、そのテーマに関して意見の相違があることはわかっています。
メイ博士: 軍の範囲は広く、私の研究の多くは国防総省の支援を受けています。具体的に答えるのは難しいが、一般的に国防総省は（国防総省を代弁しているわけではない）米国の安全とセキュリティを優先しているようであり、今後もそれを継続し、米国の安全を確保するためにLLMとAIを活用するだろう。
カマル博士: 二重使用についても話し合う必要があります。生物学やサイバーセキュリティの分野で行われている軍事活動を例に挙げると、安全なシステムと新薬が必要なため、私たちは現在持っている非常に有望なツールを利用して使用できます。しかし、良い使い方をすれば必ず悪い使い方も出てきます。 AI の使用を望まないユースケースは何ですか?オープンソース アプリケーションでは、これらのモデルを複製できます。このような場合、人々が危害を及ぼさないようにするにはどうすればよいでしょうか?
Q: 言語モデルと対話するとき、大人はそれが生きていない/自己認識していないことを理解しますが、数世代後はどうなるでしょうか。社交的なものを覚えたときからそれを持っている子供たちはいますか？彼らには完全に AI の家庭教師または教師がいます。システムにはインストラクターが組み込まれています。彼らはその指導と絆を築き、素晴らしい関係を築けていると思っていましたが、その後プログラムは削除されてしまいます。非人的存在との社会的感情的絆の児童心理学とは何ですか?
カマル博士: 私たちは研究、学際的な研究を必要としており、それを早急に必要としています。 5 年後にはこれらの答えが得られるかもしれませんが、その頃には AI が 10 歳の私の人生の大きな部分を占めるようになるかもしれません。あなたの質問は非常に重要です。無害なシステムにもバックドアが存在する可能性があることを示す研究があります。今日、セキュリティの専門家と児童発達の専門家がそれらの会話を行う必要があります。
ドーメ博士: 監視バービーのことを覚えている人がいるかどうかはわかりませんが、ここにはプライバシーに関する大きな問題があります。それはさらに興味深い社会問題です。反応は過剰にポジティブになるように調整されました。子どもたちは、「サリーが遊んでくれないから私は怒っている」などと言うでしょうし、それは社会的に適切な提案を提供しません。ポジティブであることが常に正しい答えであるとは限らないため、非常にポジティブなエージェントについては心配しています。
読んでいただきありがとうございます。AAAS 2024 での XNUMX 回目で最後のパネルディスカッションの要約を楽しみにお待ちください。
- SEO を活用したコンテンツと PR 配信。 今日増幅されます。
- PlatoData.Network 垂直生成 Ai。 自分自身に力を与えましょう。 こちらからアクセスしてください。
- プラトアイストリーム。 Web3 インテリジェンス。 知識増幅。 こちらからアクセスしてください。
- プラトンESG。 カーボン、 クリーンテック、 エネルギー、 環境、 太陽、 廃棄物管理。 こちらからアクセスしてください。
- プラトンヘルス。 バイオテクノロジーと臨床試験のインテリジェンス。 こちらからアクセスしてください。
- 情報源： https://feeds.feedblitz.com/~/874544948/0/cccblog~CCC-AAAS-Large-Language-Models-Helpful-Assistants-Romantic-Partners-or-Con-Artists-Part-Two/
