インタビュー × 画像 でっちあげの黒人有権者に支持されたドナルド・トランプ氏、女子クラスメートのポルノディープフェイクを作成する中学生たち、そしてGoogleのGeminiチャットボットについて 失敗 白人の写真を正確に生成します。
これらは、 AI インシデント データベース – テクノロジーがどのように誤って起こるかをすべて監視しているウェブサイト。
AI インシデント データベースは、当初は AI が社会に確実に利益をもたらすことを目指す団体である Partnership On AI の後援の下でプロジェクトとして立ち上げられましたが、現在では、最大かつ最古 (設立 1894 年) の独立系企業である Underwriters Laboratories が資金提供する非営利団体となっています。米国の検査機関。家具からコンピューターのマウスに至るまで、あらゆる種類の製品をテストしており、その Web サイトにはこれまでに 600 件を超える独自のオートメーションおよび AI 関連のインシデントがカタログ化されています。
「AI システムの開発者と一般消費者の間には大きな情報の非対称性があり、それは不公平です」とジョージ ワシントン大学経営大学院の助教授で現在 AI インシデント データベースの理事を務めるパトリック ホール氏は主張します。 。彼が言った 登録: 「私たちはさらなる透明性を必要としています。その情報を共有することだけが私たちの仕事だと感じています。」
AI インシデント データベースは、非営利団体によって設立された CVE プログラムをモデルとしています。 マイター、または 国家道路運輸安全局の 公開されたサイバーセキュリティの脆弱性や自動車事故を報告するウェブサイト。 「飛行機事故、列車事故、あるいは大規模なサイバーセキュリティインシデントが発生するたびに、何が問題だったのかを理解し、同じことを繰り返さないようにするために、何が起こったかを記録することが何十年にもわたって一般的に行われてきました。」
この Web サイトは現在、約 10 名に加えて、AI 関連のインシデントをオンラインでレビューして投稿する数名のボランティアと請負業者によって管理されています。ヘザー・フレイズ、ジョージタウン大学上級研究員 セキュリティおよび新興技術センター AI 評価と AI インシデント データベースのディレクターに焦点を当てたこの Web サイトは、ソフトウェアの脆弱性やバグだけでなく、AI のリスクと害による現実世界への影響に焦点を当てている点でユニークであると主張しました。
この組織は現在、メディア報道から事件を収集し、Twitter 上で人々が報告した問題を検討しています。 AI インシデント データベースには、250 年 2022 月の ChatGPT のリリース前に 600 件の固有のインシデントが記録されており、現在では XNUMX 件を超える固有のインシデントがリストされています。
AI の問題を長期にわたって監視すると、興味深い傾向が明らかになり、人々はテクノロジーの現在の実際の害を理解できるようになる可能性があります。
ジョージ ワシントン大学のホールは、データベース内のレポートの約半数が生成 AI に関連していることを明らかにしました。そのうちのいくつかは、次のような「面白くてばかばかしいもの」です 危険な製品 Amazon で販売されているタイトルは「そのリクエストには対応できません」 – 販売者が大規模な言語モデルを使用して説明を書いていることを示す明らかな兆候 – または AI によって生成されたスパムのその他の例。しかし中には、サンフランシスコで起きた事故で女性を轢いて車輪の下に引きずり込んだクルーズのロボットタクシーのように、「本当に憂鬱で深刻な」ものもある。
「現在、AI はほとんどが西部開拓時代であり、早く進んで物事を打ち破ろうという姿勢が主流です」と彼は嘆きました。このテクノロジーがどのように社会を形作っているのかは明らかではありません。チームは、AI インシデント データベースがその悪用方法に関する洞察を提供し、意図しない結果を明らかにできることを期待しています。開発者や政策立案者がモデルを改善したり規制したりできるよう、より良い情報を得ることを期待しています。最も差し迫ったリスク。
「周囲ではたくさんの誇大宣伝が行われています。人々は実存的リスクについて話します。 AI が人類の文明に非常に深刻なリスクをもたらす可能性があることは確かですが、自動運転車に関連する多くの怪我や、使用されているアルゴリズムによる偏見の永続化など、より現実世界のリスクのいくつかは明らかです。消費者金融や就職先で。それが私たちが見ているものです。」
「私たちがたくさんのことを失っていることはわかっていますよね？すべてがメディアに報道されたり取り上げられたりするわけではありません。多くの場合、人々は自分たちが経験している害が AI から来ていることにさえ気づいていないかもしれません」と Frase 氏は述べています。 「身体的被害は大幅に増えると予想しています。私たちは、大規模な言語モデルから[主に]心理的危害やその他の無形の危害が発生しているのを目にしていますが、生成ロボット工学が登場すると、物理的危害は大幅に増加すると思います。」
フレーゼ氏が最も懸念しているのは、AIが人権と市民的自由を侵食する可能性があることだ。彼女は、AI インシデントを収集することで、政策が時間の経過とともにテクノロジーの安全性を高めたかどうかがわかると信じています。
「問題を解決するには、測定する必要があります」とホール氏は付け加えた。
この組織は常にボランティアを募集しており、現在はより多くの事件を捕捉し、意識を高めることに重点を置いています。フレイズ氏は、このグループのメンバーはAIの擁護者ではないと強調した。「私たちはおそらくかなり反AIであるように思われているが、そうではない。実際に使ってみたいと思います。私たちはただ良いものを求めているだけなのです。」
ホール氏も同意した。 「テクノロジーを前進させ続けるには、誰かがそれをより安全にする仕事をしなければなりません」と彼は言いました。 ®
- SEO を活用したコンテンツと PR 配信。 今日増幅されます。
- PlatoData.Network 垂直生成 Ai。 自分自身に力を与えましょう。 こちらからアクセスしてください。
- プラトアイストリーム。 Web3 インテリジェンス。 知識増幅。 こちらからアクセスしてください。
- プラトンESG。 カーボン、 クリーンテック、 エネルギー、 環境、 太陽、 廃棄物管理。 こちらからアクセスしてください。
- プラトンヘルス。 バイオテクノロジーと臨床試験のインテリジェンス。 こちらからアクセスしてください。
- 情報源： https://go.theregister.com/feed/www.theregister.com/2024/03/08/ai_mishaps_are_surging_and/
