AI のパイオニアである Geoffrey Hinton は、ディープ ラーニングとニューラル ネットワークの研究における革新的な業績で知られていますが、最近、人工知能 (AI) の急速な進歩とその潜在的な影響について懸念を表明しています。
GPT-4 のような新しい大規模言語モデルの観察に照らして、Hinton はいくつかの重要な問題について警告します。
- 人間の知性を超える機械: ヒントンは、GPT-4 のような AI システムは当初の予想よりもはるかに賢く、人間よりも優れた学習アルゴリズムを備えている可能性があると考えています。
- AIチャットボットが悪用されるリスク: ヒントンは、インテリジェントなチャットボットを使用して誤った情報を広め、有権者を操作し、強力なスパムボットを作成する危険性を強調しています。
- 数ショット学習機能: AI モデルは、ほんの数例で新しいタスクを学習できるため、機械は人間と同等またはそれ以上の速度で新しいスキルを習得できます。
- AI システムがもたらす実存的リスク: ヒントンは、AI システムが独自のサブゴールを作成し、人間の知識の蓄積と共有機能を超えて、より多くの力を求めて努力するシナリオについて警告しています。
- 雇用市場への影響: AI と自動化は特定の業界の仕事に取って代わる可能性があり、製造、農業、医療が特に影響を受けます。
この記事では、Hinton の懸念、AI 開発の倫理的および安全性の側面に焦点を当てるために Google を離れたこと、および人間と AI の関係の未来を形作る上での責任ある AI 開発の重要性について、深く掘り下げます。
ヒントンの Google からの離脱と倫理的 AI 開発
ヒントンは、AI を取り巻く倫理的および安全性の考慮事項に対処することを追求する中で、Google での地位を離れることにしました。
これにより、彼は自由に懸念を率直に表明し、企業の利益の制約を受けることなく、より哲学的な仕事に従事することができます。
ヒントンは インタビュー MIT テクノロジー レビュー:
「Google のビジネスとの相互作用について心配することなく、AI の安全性の問題について話したいと思います。 Google から支払いを受けている限り、それはできません。」
ヒントンの辞任は、彼の焦点が AI の倫理的および安全面にシフトしたことを示しています。 彼は、責任ある AI の開発と展開に関する進行中の対話に積極的に参加することを目指しています。
ヒントンは、彼の専門知識と評判を活用して、偏見、透明性、説明責任、プライバシー、倫理原則の順守などの問題に対処するフレームワークとガイドラインの開発に貢献する予定です。
GPT-4 & 悪役
間に 最近のインタビュー、ヒントンは機械が人間の知性を超える可能性について懸念を表明しました。 の印象的な機能 GPT-4OpenAI によって開発され、今年初めにリリースされた .
彼は、GPT-4 のような言語モデルは当初の予想よりもはるかに賢く、人間よりも優れた学習アルゴリズムを備えている可能性があると考えています。
ヒントンはインタビューで次のように述べています。
「私たちの脳には100兆ものつながりがあります。 大規模な言語モデルには最大で 4 兆、最大で XNUMX 兆があります。 しかし、GPT-XNUMX は人間より何百倍も多くのことを知っています。 つまり、実際には私たちよりもはるかに優れた学習アルゴリズムを持っているのかもしれません。」
ヒントンの懸念は主に、機械と人間の間の大きな格差に関係しています。 彼は、大規模な言語モデルの導入をエイリアンの侵略になぞらえ、どの個人よりも優れた言語スキルと知識を強調しています。
ヒントンはインタビューで次のように述べています。
「これらのことは、私たちとはまったく異なります。 まるで宇宙人が上陸したのに、人々はとても上手な英語を話すので気づかなかったように思うことがあります。」
ヒントンは、AI チャットボットが人間よりも賢くなるリスクについて警告しています。 「悪役」に悪用される。
インタビューの中で、彼はこれらのチャットボットが誤った情報の拡散、有権者の操作、強力なスパムボットの作成に使用される可能性があると警告しています.
「ほら、これがすべてがうまくいかない可能性のあるXNUMXつの方法です。 これらのツールを使用したい人の多くが、プーチンやデサンティスのような悪役であることはわかっています。 彼らは、戦争に勝利したり、有権者を操作したりするためにそれらを使用したいと考えています。」
数ショット学習と AI の優位性
ヒントンが心配しているもう XNUMX つの側面は、大規模な言語モデルの実行能力です。 少数ショット学習.
これらのモデルは、直接トレーニングされていないタスクであっても、いくつかの例を使用して新しいタスクを実行するようにトレーニングできます。
この驚くべき学習能力により、機械が新しいスキルを習得する速度は、人間の速度に匹敵するか、それを超えることさえあります。
ヒントンはインタビューで次のように述べています。
「人々[の脳]はある種の魔法を持っているようでした。 さて、これらの大規模な言語モデルの XNUMX つを取り上げて、何か新しいことを行うようにトレーニングするとすぐに、その議論の底が抜け落ちます。 新しいタスクを非常に迅速に学習できます。」
ヒントンの懸念は、雇用市場や産業への直接的な影響を超えています。
彼は 「存続リスク」 AI システムが人間よりもインテリジェントになったときに何が起こるかについて、AI システムが独自のサブゴールを作成し、より多くの力を求めて努力するシナリオについて警告します。
ヒントンは、サブゴールを開発する AI システムがどのように失敗する可能性があるかの例を示しています。
「まあ、これは生物学でほぼ常に役立つサブゴールです。より多くのエネルギーを得ることです。 最初に起こる可能性があるのは、これらのロボットが「もっと力をつけよう」と言うということです。 すべての電気を私のチップに向け直しましょう。」 もう XNUMX つの大きな目標は、自分自身のコピーをさらに作成することです。 いい感じですか？」
AI が雇用市場に与える影響とリスクへの対応
ヒントン氏は次のように指摘しています。 AIが仕事に与える影響 重要です 不安.
AI と自動化が反復的で平凡なタスクを引き継いで、失業を引き起こす可能性があります 一部の分野では.
製造 また、工場の従業員は自動化によって大きな打撃を受ける可能性があります。
ロボットと AI 駆動の機械が製造業で成長しており、危険で反復的な人間の仕事を奪う可能性があります。
自動化も進んでいる 農業、植え付け、収穫、作物の監視などの自動化されたタスクを備えています。
In ヘルスケア、特定の管理タスクは自動化できますが、人間の相互作用と思いやりを必要とする役割が AI に完全に置き換えられる可能性は低くなります。
要約すれば
AI の急速な進歩とその潜在的な影響に関するヒントンの懸念は、責任ある AI 開発の必要性を強調しています。
彼が Google を離れたことは、安全性への配慮、オープンな対話の促進、そして人類の幸福を守る方法で AI の未来を形作るという彼のコミットメントを意味します。
もはや Google ではありませんが、Hinton の貢献と専門知識は、AI の分野を形成し、その倫理的発展を導く上で重要な役割を果たし続けています。
Midjourney を使用して著者が生成した注目の画像
- SEO を活用したコンテンツと PR 配信。 今日増幅されます。
- プラトアイストリーム。 Web3 データ インテリジェンス。 知識増幅。 こちらからアクセスしてください。
- 未来を鋳造する w エイドリエン・アシュリー。 こちらからアクセスしてください。
- 情報源： https://www.searchenginejournal.com/top-5-ethical-concerns-raised-by-ai-pioneer-geoffrey-hinton/485829/
