AIトレンドインサイダー、ランスエリオット 

人工知能（AI）の進歩は、私たちの日常生活へのロボットの広範な採用を促進し続けます。 かつては非常に高価で、頑丈な製造目的でしか購入できなかったロボットは、徐々にコストが下がり、同様にサイズが小さくなりました。 あなたの家にあるルンバ掃除機は一種のロボットであると考えることができますが、私たちの日常の雑用を処理するはずだった、これまでに約束されたホームバトラーロボットはまだありません。   

おそらく最もよく知られているもののXNUMXつ ファセット ロボットについては、作家アイザックアシモフによって提供されたXNUMXつのルールの伝説的なセットです。 彼の空想科学小説と題された XNUMXつの法則 1942年に発行され、継続的な関心と抱擁の観点からは止められないようです。   

彼が巧妙に考案したXNUMXつのルールは次のとおりです。 

1)      ロボットは人間を傷つけたり、行動を起こさないことで人間に危害を加えたりすることはできません。 

2)      ロボットは、そのような命令が第一法則と矛盾する場合を除いて、人間によって与えられた命令に従わなければなりません。 

3)      ロボットは、そのような保護が第XNUMX法または第XNUMX法と矛盾しない限り、自身の存在を保護する必要があります。 

ロボットに関するアシモフの発言を読むときは、単にAIの包括的なモニカを「ロボット」という言葉に置き換えたいと思うかもしれません。 これは、彼のXNUMXつのルールを、従来は脚、腕、頭、体などを備えた、たまたま私たちのように見えるロボットにのみ適用されるかのように狭義に解釈する可能性があるためです。   

すべてのロボットが必ずしもそのように配置されているわけではありません。   

最新のロボットのいくつかは動物のように見えます。 おそらく、XNUMX本足で犬または同様の種類の生き物のように見えるロボットの人気のあるオンラインビデオを見たことがあるでしょう。 昆虫に似たロボットもあります。 それらはちょっと不気味に見えますが、それでも、あらゆる可能性でロボット工学をどのように利用できるかを理解する手段として重要です。   

ロボットは生物学的に触発される必要はありません。 ロボット掃除機は、特に動物や昆虫のようには見えません。 非常に珍しく見え、生物だけに基づいているようには見えないあらゆる種類のロボットが登場することが期待できます。   

目の前にあるロボットもありますが、ロボットとは考えていません。 そのような例のXNUMXつは、AIベースの真の自動運転車の登場です。 

AIシステムで運転されている車は一種のロボットと言えます。 自動運転車をロボットとは思わないかもしれない理由は、運転席に歩行型のロボットが座っていないからです。 代わりに、車の車体下部またはトランクに隠されたコンピューターシステムが運転を行っています。 これは私たちの注意を逸らしているように思われるので、実際にはそうですが、車両は一種のロボットのようには見えません。 

ご参考までに、車を運転できる歩行型ロボットの開発に向けた取り組みが進んでいます。 それが私たちの世界をどのように揺さぶるか想像してみてください。   

現在、自動運転車の製造には、自動運転車に変更することが含まれます。 歩き回ったり、車に座ったり、車を運転したりできるロボットがあったとしたら、これは を 既存の車は基本的に自動運転車と見なすことができます（つまり、人間が車を運転するのではなく、そのようなロボットで運転できるということです）。 自動運転車の到着のために従来の車を徐々にジャンクする代わりに、完全に含まれた自動運転車を考案する必要はなく、私たちはそれらの曲がりくねったロボットをドライバーとして信頼します。 

現時点では、自動運転車を所有するための最速または最速の道は、車両アプローチへの組み込みです。 このアプローチにはひどい皮肉があると信じている人もいます。 彼らは、これらの出現した自動運転車は必然的にそれらの歩き回るロボットによって奪われるだろうと主張している。 その意味で、今日の自動運転車は時代遅れになり、時代遅れになり、従来の運転制御に取って代わって、人間が運転することも、ロボットを運転することもできるようになります。 

さらにひねりを加えたものとして、自動運転車の採用にこれまでのところ進んでおり、独立したロボットを使用して車を運転しないことを期待する人もいます。   

これがロジックです。 

ロボットの運転手がハンドルを握っている場合、これは、従来の運転制御がまだ車内で利用可能であることを示唆しています。 これはまた、人間が望むときはいつでも、人間が車を運転できることを意味します。 しかし、AI駆動システムは、組み込みであろうと歩行型ロボットの一部であろうと、より優れたドライバーであり、飲酒運転やその他の不利な運転行動の発生を減らすと信じられています。 要するに、真の自動運転車には運転制御がなく、歩行を話すロボットが運転することを（おそらく）排除し、人間が運転することを（ありがたいことに）排除します。   

これは、世界が完全に真の自動運転車に切り替わったのではないかという考えにつながり、歩きながら話す運転ロボットは実現可能になるかもしれませんが、誰も時計を戻して従来の車を再導入することはできません。 

それは希望的観測のようです。 Oいずれにせよ、中心的な目標は人間のドライバーを方程式から外すことであるようです。 これは置く 自動運転車-XNUMX AI駆動システムまたはロボットドライバーが組み込まれている-に〜へ a 決定する位置 生活 or 死。   

それが思われる場合 むしろ悲惨な、 検討する あなたが あなたの最愛の人を置きます 十代の 運転制御の初心者ドライバー。 T彼は生死の亡霊が突然かなり顕著になります。 XNUMX代d ドライバーも通常この義務を感じます。   

Since 人生と 死 　 ライン上で、 h今日の興味深い質問は次のとおりです。 アシモフXNUMXを行う ルール ロボットの数はAIベースの真の自動運転車に適用されます。もしそうなら、それについて何をすべきでしょうか？   

問題を解いて見てみましょう。 

AI自動運転車に関する私のフレームワークについては、こちらのリンクを参照してください。 https://aitrends.com/ai-insider/framework-ai-self-driving-driverless-cars-big-picture/   

なぜこれがムーンショットの努力であるか、私の説明をここで見てください： https://aitrends.com/ai-insider/self-driving-car-mother-ai-projects-moonshot/ 

リヒタースケールの一種としてのレベルの詳細については、こちらの説明を参照してください。 https://aitrends.com/ai-insider/richter-scale-levels-self-driving-cars/   

レベルの分岐に関する議論については、ここの私の説明を参照してください： https://aitrends.com/ai-insider/reframing-ai-levels-for-self-driving-cars-bifurcation-of-autonomy/   

自動運転車のレベルを理解する 

明確にするために、真の自動運転車とは、AIが完全に自力で車を運転する車であり、運転タスク中に人間の支援はありません。   

これらの自動運転車はレベル 4 およびレベル 5 とみなされますが、人間のドライバーが運転作業を共同で分担する必要がある自動車は、通常、レベル 2 またはレベル 3 とみなされます。運転タスクを共同で分担する自動車は次のように説明されます。半自律型であり、通常は ADAS (先進運転支援システム) と呼ばれるさまざまな自動化されたアドオンが含まれています。   

レベル5の真の自動運転車はまだありません。これが達成できるかどうか、また到達するまでにかかる時間もわかりません。   

一方、レベル4の取り組みは、非常に狭く選択的な公道の試験を実施することで徐々に牽引力を獲得しようとしていますが、この試験自体を許可するかどうかについては論争があります（私たちはすべて実験で生死にかかわるモルモットです）私たちの高速道路や小道で行われている、いくつかの主張）。 

半自律型の車には人間のドライバーが必要であるため、これらのタイプの車の採用は、従来の車の運転とそれほど変わりません。そのため、このトピックについてそれ自体をカバーすること自体はそれほど新しいことではありません（ただし、次に、次のポイントが一般的に適用されます）。  

半自律走行車の場合、最近発生している不快な側面について、つまり、レベル2またはレベル3の車のホイールで眠りにつく自分のビデオを投稿し続ける人間のドライバーにもかかわらず、一般の人々に事前に警告する必要があることが重要です。 、私たちは、ドライバーが半自律型の車を運転しているときに、運転タスクから注意をそらすことができると信じ込まされないようにする必要があります。   

レベル2またはレベル3に自動化がどれだけ投じられるかに関係なく、あなたは車両の運転行動の責任者です。 

自動運転車の遠隔操縦または操作が一般的に避けられる理由については、ここで私の説明を参照してください： https://aitrends.com/ai-insider/remote-piloting-is-a-self-driving-car-crutch/   

自動運転車に関する偽のニュースに警戒するには、ここに私のヒントを参照してください： https://aitrends.com/ai-insider/ai-fake-news-about-self-driving-cars/   

AI駆動システムの倫理的影響は重要です。ここで私の指摘を参照してください。 https://aitrends.com/selfdrivingcars/ethically-ambiguous-self-driving-cars/   

自動運転車に関しては、逸脱の正規化の落とし穴に注意してください。これが私の武器への呼びかけです。 https://aitrends.com/ai-insider/normalization-of-deviance-endangers-ai-self-driving-cars/   

自動運転車とアシモフの法則 

レベル4とレベル5の真の自動運転車両の場合、運転タスクに人間のドライバーは関与しません。 すべての乗員は乗客になります; NSAIが運転をしている 

アシモフのXNUMXつのルールのそれぞれを簡単に見て、それらが真の自動運転車にどのように適用されるかを見てみましょう。 第一に、ロボットまたはAI駆動システム（この場合）は、明白な行動によっても、その不作為によっても、人間を傷つけてはならないという規則があります。   

車のホイールに座っているとき、それは難しい注文です。 

自動運転車が通りを走り、周囲を鋭く感知しています。 AI運転システムには知られていないが、小さな子供がXNUMX台の駐車中の車の間に立っており、視界から隠され、自動運転車の感覚範囲と深さから隠されています。 AIは掲示されている制限速度で運転しています。 突然、子供は通りに出て行きます。   

AIには最先端の感覚機能があり、飲酒運転にはならないため、自動運転車が誰にもぶつかることはないと考える人もいます。 残念ながら、私が今想定したようなシナリオでは、自動運転車がその子供にぶつかります。 これは、AI駆動システムで何ができるかという夢のような概念よりも、物理法則が最も重要だからです。 

子供がどこからともなく現れ、現在、移動中の車から15フィートの距離にあり、自動運転車が時速30マイルで走行している場合、停止距離は約50〜75フィートになります。子供はできた be 打った。 それについてXNUMXつの方法はありません。  

そしてこれは、AI駆動システムがアシモフの最初のルールに違反したことを意味します。 

AIは人間を傷つけました。 AIが実際に自動運転車のブレーキを作動させ、子供の体当たりを回避するためにできることは何でもすることを私は規定していることを覚えておいてください。 それにもかかわらず、AIが衝突を回避するには時間と距離が不十分です。   

ルールを厳密に遵守するという観点から、アシモフの最初のルールを常に遵守することは不可能であることを示したので、少なくともAI駆動システムは 試みた ルールに従うために。 ブレーキを使用したことで、AI駆動システムが子供に当たらないようにしようとしたように見えます。さらに、衝突時に車両がほぼ停止した場合、衝撃はやや軽度になる可能性があります。   

人間の危害につながる可能性のある不作為があってはならないと述べている最初の規則の他の部分はどうですか？ 

自動運転車が停止しようとしなかった場合、この種の不作為はその領域に含まれる可能性があります。つまり、ルールの遵守に再び失敗する可能性があります。 これにひねりを加えることができます。 AI運転システムが車を旋回させ、子供にぶつからないように十分に旋回できたと仮定しますが、その間、自動運転車はアメリカスギの木に軽くたたきます。 自動運転車の中に乗客がいて、この人は墜落によりむち打ち症になります。 

さて、路上で子供は救われましたが、自動運転車の乗客は負傷しました。 乗客を負傷させた結果と比較して、子供を救うための行動が価値があるかどうかを考えることができます。 また、AIが乗客の負傷を回避するための適切なアクションを実行できなかったかどうかを検討することもできます。 この種の倫理的ジレンマは、悪名高いトロッコ問題によって表されることがよくあります。私が強く主張した側面は、自動運転車に非常に当てはまり、自動運転車の出現が続くにつれて、はるかに注目に値するものです。   

とはいえ、アシモフのトライアドの最初のルールは、AIベースの真の自動運転車にとって有益な意欲的な目標であることに同意することができます。 その 達成は達成するのがかなり難しいでしょう、そして社会が取り組むための難問であり続けるでしょう。   

アシモフのXNUMX番目の法則は、ロボットまたはこの場合はAI駆動システムは、人間が発行したコマンドが最初のルールと矛盾する状況を除いて、人間からの命令に従うことになっているというものです（つまり、人間に害を及ぼす）。   

これは簡単で、完全に同意できるようです。 

しかし、このルールにも問題があります。   

昨年、車を使って橋の上の射手の上を走り、ランダムに人を撃ち殺した男の話をコラムで取り上げました。 当局によると、運転手はその射手を止めたことで英雄的でした。   

自動運転車のAI駆動システムにアシモフの第XNUMX法則がプログラムされていて、乗客がAIにシューターの上を走るように命じたとすると、おそらくAIはそうすることを拒否するでしょう。 指示は人間に害を及ぼすため、これは明らかです。 しかし、これは、車を使って人にぶつかってはいけないという慣習を覆すようなケースであったことを私たちは知っています。 

これはまれな例外であると不平を言うかもしれません。 私は同意します。    

さらに、自動運転車の乗客がAIに誰かを乗り越えるように指示できるようにするための扉を開くと、結果として生じる混乱と騒乱は受け入れられなくなります。 要するに、XNUMX番目の規則が施行されるべきであると主張する根拠は確かにあります。たとえそれがそれらのまれな場合にそれが怠慢による害につながることを意味するとしても。 

重要なのは、AI駆動システムが間違いなく乗客に従うのに無意味な状況を見つけるために、日常の世界をはるかに超えて到達する必要がないということです。 自動運転車のライダーは、AIに歩道まで運転するように指示します。 歩道には歩行者がいないため、けがをすることはありません。   

AI駆動システムがこの人間に従うべきかどうか尋ねます–発声したコマンド？   

いいえ、AIはすべきではありません。最終的には、AI駆動システムが人間の乗客からのどのような種類の発話を考慮し、どのコマンドが拒否されるかに対処する必要があります。 

第3 ルール アシモフが仮定しているのは、ロボットまたはこの場合はAI駆動システムは、最初とXNUMX番目のルールが無効にされない限り、ロボット自体の存在を保護する必要があるということです。   

自動運転車はその存在を維持しようとすべきでしょうか？ 

前のコラムで、自動運転車の存在期間は約24年であり、最終的にはわずか7年の運転で摩耗に屈すると考える人もいると述べました。 車の寿命がはるかに長いと予想されるため、これは驚くべきことのようですが、自動運転車との違いは、おそらく95時間99日近く稼働し、従来の車よりもはるかに多くのマイルを獲得することです（従来の車は約XNUMX％未使用のままです） XNUMX％の確率で）。   

さて、自動運転車がその有用な終わりに近づいていると仮定します。 車両は、リサイクルのためにジャンクヒープまで運転する予定です。   

AI駆動システムがリサイクルセンターに行くことを避け、その存在を維持しようとする可能性があることは許容されますか？   

人間がそこに行くように言った場合、XNUMX番目のルールが勝ち、自動運転車は従わなければならないと思います。 AIはトリッキーで、最初とXNUMX番目のルールに従うための卑劣な手段を見つけるかもしれませんが、それでも、AIの存続を追求するための誠実な根拠を見つけます（これは、あなたが熟考するための注意深い演習として残します）。   

ODDの詳細については、こちらのリンクをご覧ください。 https://www.aitrends.com/ai-insider/amalgamating-of-operational-design-domains-odds-for-ai-self-driving-cars/ 

オフロード自動運転車のトピックについて、私の詳細は次のとおりです。 https://www.aitrends.com/ai-insider/off-roading-as-a-challenging-use-case-for-ai-autonomous-cars/ 

自動運転の自動車メーカーに最高安全責任者がいる必要があることを私は強く主張しました、これがスクープです： https://www.aitrends.com/ai-insider/chief-safety-officers-needed-in-ai-the-case-of-ai-self-driving-cars/ 

訴訟が次第に自動運転車産業の重要な部分になることを期待してください、ここで私の説明の詳細を見てください： https://aitrends.com/selfdrivingcars/self-driving-car-lawsuits-bonanza-ahead/ 

まとめ   

IアシモフのXNUMXつのルールは一粒の塩でとらなければならないように思われるでしょう。 AI駆動システムは、包括的なアーキテクチャの一部としてこれらのルールを使用して考案できますが、ルールは願望です, 反駁できない不変の法律ではありません。   

おそらく、アシモフのルールに関するこのメンタルワークアウトの最も重要なポイントは、デューデリジェンスを行っている人がほとんどいないことに光を当てることです。 AIベースの真の自動運転車の場合、これらの自動運転車を考案して展開することには、単に車を運転するという機械的な側面だけではありません。   

車を運転することは、人間がしばしば当たり前と思っている大きな倫理的ジレンマです。 AI駆動システムが生死を決定する方法の現実を整理する必要があります。 これは、自動運転車で通りを氾濫させる前に行う必要があります。 

アシモフはそれを最もよく言った：「今の人生の最も悲しい側面は、科学が社会が知恵を集めるよりも速く知識を集めることです。」   

再訪する価値のある本当の言葉。  

Copyright 2021ランス・エリオット博士; このコンテンツはもともとAIトレンドに投稿されています。  

[編集 注：自動運転車の出現に関するエリオット博士の進行中のビジネス分析に興味がある読者は、オンラインのフォーブスのコラムを参照してください。 https://forbes.com/sites/lanceeliot/] 

http://ai-selfdriving-cars.libsyn.com/website 

出典：https：//www.aitrends.com/ai-insider/asimovs-three-laws-of-robotics-and-ai-autonomous-cars/