AIトレンドインサイダー、ランスエリオット  

私たちの生活は説明でいっぱいです。 肩の痛みのため主治医に診てもらいに行きます。 医者はあなたにあなたの腕を休ませそしてどんな重い持ち上げも避けるようにあなたに言います。 さらに、処方箋が与えられます。 あなたはすぐになぜあなたが薬を服用する必要があるのか​​疑問に思います、そしてまた間違いなく医学的診断と全体的な予後が何であるかを知ることに興味があります。 

それで、あなたは説明を求めます。 

ある意味では、少なくともあなたが得るかもしれない説明の性質に関して、あなたはパンドラの箱を少し開けたところです。 たとえば、医師は、肩の解剖学的構造の長くて専門用語で満たされた兆候をガタガタ鳴らし、処方された薬の化学的性質を深く掘り下げることができます。 それはおそらくあなたが探していた説明ではありません。   

以前は、医師は患者が説明を求めることを期待していませんでした。 医者が言ったことは何でも神聖なものと見なされました。 説明を求めることの非常に神経質なことは、尊敬されている医学的意見の信憑性に疑問を投げかけることと同じでした。 何人かの医者は彼らが指示したように単にするようにあなたに不機嫌に言うでしょう（質問は許されません）またはあなたの肩が助けを必要とするようなかなり卑劣な何かを言うかもしれません、そしてこれは最善の行動です。 期間、話の終わり。   

今日、医師は実行可能な説明の必要性を認識しています。 医学部で行われる専門の「ベッドサイド」トレーニングがあります。 病院には独自の社内コースがあります。 今後の医師は、患者とのやりとりについて評価されます。 等々。   

それは確かに患者との相互作用の改善への扉を開いたが、それは必ずしも説明の問題を完全に解決するわけではない。 

説明を最もよく提供する方法を知ることは、芸術と科学の両方です。 説明をする説明者と、説明を受ける人がいることを考慮する必要があります。 

説明はすべての形とサイズで来ます。 

説明を求める人は、利用可能なすべてのベルとホイッスルを含む、完全に詳細な説明が必要であることを念頭に置いているかもしれません。 説明をしている人は、適切な説明は短くて甘いと思っているかもしれません。 そこにあなたはそれを持っています、私たちの目の前で説明のミスマッチが醸造しています。 

説明者は、きびきびとした説明をして、喜んで説明に満足するかもしれません。 その間、説明を受けた人は全く不満を持っています。 この時点で、説明を受けた人は潜在的に歯を食いしばって、これが彼らが得ようとしているすべてであるとただ理解するかもしれません。 彼らは静かに立ち去り、ひどく動揺し、いわば市役所と戦おうとしないことを選択し、提供された最小限の説明に単に従うかもしれません。 

おそらく、説明を受けた人は、もっと手の込んだバージョンを手に入れたいと思うでしょう。 彼らは自分たちの立場に立って、より詳細な説明を求めるかもしれません。 次に、説明者が何をするかを検討する必要があります。 説明者は、説明が十分すぎると信じている可能性があり、追加のアーティキュレーションを提供する必要はないと考えています。   

説明者は、最初の説明が受け入れられなかった理由について混乱する可能性があります。 説明を受けた人が聞いていなかったか、話された言葉の意味を理解できなかったのかもしれません。 したがって、この時点で、説明者は、今与えられたのと同じ説明を繰り返し、元の説明を受けた人が言われたことを本当に理解できるようにすることを決定するかもしれません。   

これが制御不能になりそうだと予想できるでしょう。 

この「手の込んだ」説明を受けている人は、 通知 同じ説明が繰り返され、ほぼ逐語的であるということです。 それは侮辱的です！ 説明を受けた人は、説明者に軽蔑されていると信じています。 この人は自分の舌を持って説明を求めるのをあきらめるか、説明がいかに馬鹿げているかについて侮辱を投げかけようとします。   

それは厄介な事件に発展する可能性があります、それは確かです。   

説明者と説明の提供の間には、受け手と説明の望ましい性質とともに、繊細なダンスがあります。   

私たちは通常取る これらの違い 当然のことです。 Y説明者が誰かがどんな説明をしたいのか尋ねるのを見ることはめったにありません。 代わりに、説明者は、その人が役立つと思う説明の類似性を開始します。 急いで説明を提供することには利点がありますが、説明者と説明を受ける人の両方を倒す見苦しい口頭のなだれを開始することもあります。   

説明者は、相手が求めている説明の種類について質問することから始めるべきだという意見もあります。 これには、他の人がどのような背景を持っているかを尋ねることが含まれる場合があります, 医療診断の場合, 他の人が医学用語と医学の分野に精通しているかどうか。 また、一挙に説明するのか、一口大に分けて説明するのか、やさしい質問もあるかもしれません。 等。   

この種のゲーム前の編成の難しさは、受信者がそのガントレットを通過したくない場合があることです。 彼らはただ説明を求めています（またはそう彼らは言います）。 前文をしようとすると、その受信者を苛立たせる可能性があり、説明が意図的に遅れているように感じます。 これは、説明を遅らせるための事実または他のいくつかの悪質な根拠から身を隠すことさえできます。 

とにかく、私たちは説明を求めたときに説明を受けることを期待しており、事前に膨大なチェックリストを通過する必要はありません。   

これらすべてに対するもうXNUMXつの工夫は、説明中に発生する可能性のある対話型の対話を伴います。   

説明の仕方は、必ずしも最初から最後まで一気に行われるとは限りません。 代わりに、説明中に、受信者が中断して説明を求めたり、質問が発生したりする可能性が高くなります。 これは確かに賢明な側面です。 説明がうまくいかない場合は、なぜそれを繰り返し続けるのですか？代わりに、受信者は説明の方向とスタイルを調整または再形成できることを願っています。   

たとえば、あなたが医療専門家で、肩の痛みについて医師の診察を受けたとします。 診断を行っている医師が、患者が仲間の医療専門家であることに気付いていないことを想像してみてください。 その場合、提供される説明は、推定される非医学的知識ベースを対象とし、潜在的に単純化された方法で進行する可能性があります（医学的アドバイスに関して）。 説明を受けた人は間違いなく中断し、薬について知っていることを明確にし、それに応じて説明を再調整する必要があります。   

説明は良いか悪いかのどちらかであると評価できると信じたくなるかもしれません。 そのような見方をすることもできますが、一般的な考え方は、説明とその美しさは見る人の目にあるということです。 ある人の好む説明は、他の人にとって悲惨またはひどい説明かもしれません。 そうは言っても、説明を評価し、それらを互いに比較するための基礎はまだ少しあります。 

そのひねりにひねりを加えることができます。 あなたが説明を受けて、それが良いものであると信じているとしましょう。 後で、あなたはその問題に関して何か他のことを学び、説明がおそらく不完全であったことに気づきます。 さらに悪いことに、特定の状況について誤った印象を与えるために、説明が意図的に歪められている可能性があります。 要するに、説明は故意に虚偽を作成するために使用することができます。 

だから説明をもらうのは問題だらけです。 私たちが説明を求めた場合、そしてそれがもっともらしいと思われる場合、これは問題が十分に解決されており、ボードの上にあることを証明していると私たちはしばしば思います。 重要なのは、説明は、設計または偶然のいずれかによって歪められ、目前の真実性または真実性の誤った感覚に私たちを導く可能性があるということです。 

説明のもうXNUMXつの角度は、説明を求めることと、要求されていないときに説明を与えることです。 説明者はあなたが欲しいと思っているので、あなたに完全に説明を与えるかもしれませんが、 貴社 続行するだけで満足しています。 その時点で、説明を中断すると、説明者がびっくりする可能性があります。   

なぜこれがすべて説明について話しているのですか？ AIのため。   

日常のコンピューターシステムでの人工知能（AI）の使用の増加は、コンピューターが選択を行い、私たち人間がそれらの決定に従わなければならないという道を私たちにもたらしています。 住宅ローンを申請し、AIベースのアルゴリズムがあなたを拒否した場合、あなたが知っているのはあなたがローンを取得しなかったということだけである可能性があります。 なぜローンが拒否されたのか、あなたにはわかりません。   

おそらく、融資を行っている人間に相談した場合、なぜ断られたのかを説明するように頼むことができたかもしれません。   

これは常に当てはまるわけではなく、人間が問題を説明する意思がない、または説明できない可能性があることに注意してください。 融資を行う人は肩をすくめて、なぜあなたが断られたのかわからないと言うかもしれませんし、会社の方針があなたに説明をすることを禁じているとあなたに言うかもしれません。 

エルゴ、私は人間がループに入っているという理由だけであなたが必然的に説明を得るだろうと示唆しているのではありません。 さらに、前に繰り返し強調したように、説明はかなり弱く、まったく役に立たないかもしれません。    

いずれにせよ、最近の大きな騒動は、AIシステムが彼らが行っていることすべてについて説明を提供するようにプログラムされるべきであるということです。   

これは、説明可能なAI（XAI）として知られています。 

XAIは、関心の高い分野として急速に成長しています。 AIシステムを使用している人々は、説明を提供することを期待し、ある程度要求するでしょう。 AIシステムの数は急速に増加しているため、AIが何をしたか、または何をしているかについて、機械で説明することへの大きな欲求があります。   

摩擦は、AIが難解であり、説明を生成するのに容易に従わないことが多いということです。   

例として、機械学習（ML）とディープラーニング（DL）の使用を取り上げます。 これらは、データを調べて数学的パターンを探し出そうとする計算パターンマッチングアルゴリズムです。 内部の計算の側面は複雑であり、日常の人間が理解できる論理ベースの方法で説明するのに適していない場合があります。 

これは、AIが説明を提供するために本質的に設定されていないことを意味します。 その場合、通常、XAIコンポーネントを追加しようとします。 このXAIは、AIを調べて何が起こったのかを突き止めようとするか、AIとは別に、数学的に謎めいたメカニズム内で起こったと想定されることに基づいて説明を提供するように事前にプログラムされています。 

XAIをAIが考案されているもののコアに組み込むべきだと主張する人もいます。 したがって、説明を作成することについて後から考えてAIにボルトで固定するのではなく、AIのゼロからの設計には、説明を作成する傾向が含まれている必要があります。   

その技術的な熟考のすべての中で、説明を構成するものの他の側面があります。 説明がどのように機能するかについての私の以前のコメント、および説明者と説明を受ける人による変動性を再検討すると、プログラムで説明を作成することがどれほど難しいかがすぐにわかります。   

最も安価な方法は、事前に用意された説明を用意することです。 ローンが拒否された理由についてXNUMXつの説明が記載されたローン付与システムが設定されている可能性があります。 あなたがローンのために断られると、あなたはそれらのXNUMXつの説明のうちのXNUMXつを見せられます。 相互作用はありません。 説明があなたに特にふさわしい、または適切であるという特別な類似点はありません。 

これらは、ちょっとした説明です。 

より堅牢で立派なXAI機能は、リアルタイムでその場で説明を生成することで構成され、目前の特定の状況に基づいてそれを行います。 さらに、XAIは、説明を受ける人にどのようなフレーバーまたはスタイルの説明が適しているかを確認しようとします。 

そして、この説明機能は、説明を受ける人との流暢な相互作用を可能にするはずです。 受信者は、説明を中断して、説明者またはXAIに他の側面に移行させたり、人の指示に基づいて説明を再形成したりできる必要があります。   

もちろん、これらは人間の説明者も考慮に入れるべき同じタイプの考慮事項です。 これは、優れたXAIを実行することが思ったより難しいという事実を浮き彫りにします。 ある意味では、人間の説明者ができるはずのことをシミュレートまたは模倣できるようにするために、XAI内でAIを使用する必要がある可能性があります（ただし、私たちが知っているように、すべての人間が熟練しているわけではありません説明を与える）。   

ギアをシフトすると、どの領域またはアプリケーションが特にXAIを利用できるのか疑問に思われるかもしれません。   

そのような取り組みの分野のXNUMXつに、自動運転車（AV）が必要です。 私たちは徐々に自律的な形のモビリティを持ち、すべての人のためのモビリティのマントラに向けて努力していきます。 自動運転車、自動運転トラック、自動運転バイク、自動運転潜水艦、自動運転ドローン、自動運転飛行機などがあります。   

AVがXAIを必要とする理由について、最初は戸惑うかもしれません。 自動運転車を使用して、XAIがAVの重要な要素になる方法を紹介できます。   

質問はこれです： 説明可能なAI（XAI）は、AVの出現にとって、また自動運転車の出現によって示されるように、どのように重要でしょうか？ 

自動運転車の意味を明確にしましょう。そうすれば、XAIAVの議論にさらに飛び込むことができます。   

AI自動運転車に関する私のフレームワークについては、こちらのリンクを参照してください。 https://aitrends.com/ai-insider/framework-ai-self-driving-driverless-cars-big-picture/   

なぜこれがムーンショットの努力であるか、私の説明をここで見てください： https://aitrends.com/ai-insider/self-driving-car-mother-ai-projects-moonshot/   

リヒタースケールの一種としてのレベルの詳細については、こちらの説明を参照してください。 https://aitrends.com/ai-insider/richter-scale-levels-self-driving-cars/   

レベルの分岐に関する議論については、ここの私の説明を参照してください： https://aitrends.com/ai-insider/reframing-ai-levels-for-self-driving-cars-bifurcation-of-autonomy/ 

自動運転車のレベルを理解する 

明確にするために、真の自動運転車とは、AIが完全に自力で車を運転し、運転タスク中に人間の支援がない車のことです。   

これらの自動運転車はレベル4およびレベル5と見なされますが、人間のドライバーが運転努力を共有する必要がある車は通常、レベル2またはレベル3と見なされます。運転タスクを共有する車はセミであると説明されます-自律型であり、通常、ADAS（Advanced Driver-Assistance Systems）と呼ばれるさまざまな自動アドオンが含まれています。   

レベル5の真の自動運転車はまだありません。これが達成できるかどうか、また到達するまでにかかる時間もわかりません。 

一方、レベル4の取り組みは、非常に狭く選択的な公道試験を実施することで徐々に牽引力を獲得しようとしていますが、この試験を許可するかどうかについては論争があります（実験中の私たちは全員生死にかかわるモルモットです）私たちの高速道路や小道では、一部の人が主張しています）。 

半自律型の車には人間のドライバーが必要なため、これらのタイプの車の採用は、従来の車の運転とそれほど変わらないため、このトピックについて取り上げるのはそれほど新しいことではありません（ただし、次に、次のポイントが一般的に適用されます）。  

半自律走行車の場合、最近発生している不快な側面について、つまり、レベル2またはレベル3の車のホイールで眠りにつく自分のビデオを投稿し続ける人間のドライバーにもかかわらず、一般の人々に事前に警告する必要があることが重要です。 、私たちは、ドライバーが半自律型の車を運転しているときに、運転タスクから注意をそらすことができると信じ込まされないようにする必要があります。 

レベル2またはレベル3に自動化がどれだけ投じられるかに関係なく、あなたは車両の運転行動の責任者です。 

自動運転車の遠隔操縦または操作が一般的に避けられる理由については、ここで私の説明を参照してください： https://aitrends.com/ai-insider/remote-piloting-is-a-self-driving-car-crutch/   

自動運転車に関する偽のニュースに警戒するには、ここに私のヒントを参照してください： https://aitrends.com/ai-insider/ai-fake-news-about-self-driving-cars/ 

AI駆動システムの倫理的影響は重要です。ここで私の指摘を参照してください。 https://aitrends.com/selfdrivingcars/ethically-ambiguous-self-driving-cars/ 

自動運転車に関しては、逸脱の正規化の落とし穴に注意してください。これが私の武器への呼びかけです。 https://aitrends.com/ai-insider/normalization-of-deviance-endangers-ai-self-driving-cars/ 

自動運転車とXAI   

レベル4とレベル5の真の自動運転車両の場合、運転タスクに人間のドライバーは関与しません。 すべての乗員は乗客になります; NS彼はAIが運転をしています。 

すぐに議論するXNUMXつの側面は、今日のAI駆動システムに関与するAIが知覚力がないという事実を伴います。 言い換えれば、AIは完全にコンピューターベースのプログラミングとアルゴリズムの集合体であり、人間と同じ方法で推論することは最も確実ではありません。   

なぜこれがAIが知覚力を持たないことを強調したのですか？ 

AI駆動システムの役割について議論するとき、私はAIに人間の資質を帰するのではないことを強調したいと思います。 最近、AIを擬人化するという危険な傾向が続いていることに注意してください。 本質的に、人々は今日のAIに人間のような感覚を割り当てていますが、そのようなAIはまだ存在しないという否定できない議論の余地のない事実にもかかわらずです。   

適切にステージを設定したので、XAIに関するこのトピックで再生されるようになる無数の側面に飛び込む時間です。   

まず、既存の自動運転車のトライアウトの多くには、XAIの類似性があったとしてもごくわずかであることに注意してください。 当初の信念は、人々は自動運転車に乗り込み、目的地を提供し、静かにその場所に連れて行かれるというものでした。 AI駆動システムとの相互作用の必要はありません。 説明やXAI機能は必要ありません。   

ライドシェアリングを使用し、人間の運転手が運転しているときに何が起こるかを検討することで、その仮定を再検討できます。   

確かに、UberまたはLyftの車両に乗り込み、旅行中ずっと石のような沈黙が続く場合があります。 ライドリクエストアプリを介して目的地をすでに提供している可能性があります。 運転している人は熱心に運転していて、表面上はその目的地に行きます。 チャットする必要はありません。 スマートフォンでビデオゲームをプレイして、車内に他の人間がいないかのように振る舞うことができます。   

それはまったく問題ありません。   

運転中、突然、運転手が予期しない、または異常なルートに行くことにしたと想像してみてください。 宛先への通常のパスに変更がある理由をドライバーに尋ねることができます。 彼らはうまくいけば、人間の運転手からの説明を促すでしょう。 

I人間の運転手があなたに説明を与えないか、薄っぺらな説明を提供するかもしれません。 人間はそれをします。 理論的には、適切に実行されたXAIは、的を絞った説明を提供しますが、これは困難な場合があります。 たぶん、人間の運転手は、幹線道路で建設が行われているとあなたに言います、そして、長い遅れを避けるために、別のコースが着手されています。 

あなたはその説明に満足するかもしれません。 一方、おそらくあなたはその地域に住んでいて、行われている建設の性質に興味があります。 したがって、あなたは運転手に建設についてのさらなる詳細を尋ねます。 ある意味で、あなたは説明者と対話し、追加のニュアンスを求めている、または ファセット 提供されていた説明について。 

さて、自動運転車の思考キャップをかぶって、乗客がXAIに何を望んでいるかを考えてみましょう。 自動運転車があなたをあなたの家に連れて行っています。 使用される通常のパスは、AI駆動システムから予期せず迂回されます。 運転の旅が予想されるトラバースから変化している理由をAIに尋ねたいと思うかもしれません。 自動運転車の既存のトライアウトの多くは、AIにこの問題を説明させる直接的な手段がなく、代わりに、自動運転車を監督するフリートオペレーターのリモートエージェントに接続する必要があります。 

本質的に、XAIを構築するのではなく、問題は何が起こっているのかを説明するために遠隔地の人間に分流されます。 これは、特にスケーラブルではないものです。 言い換えれば、私たちの道路に数十万台の自動運転車があると、ライダーが最も簡単な質問のために常にリモートエージェントに連絡する必要があるという考えは、莫大な人件費とロジスティクスの悪夢になります。   

AI駆動システムに存在する最前線のXAIがあるはずです。   

自然言語処理（NLP）インターフェースが、AlexaやSiriなどのAI駆動システムと結合されていると仮定します。 乗客はNLPと対話し、目的地を途中で変更するように依頼したり、ファーストフード店のドライブスルーをスイングするように依頼したりするなどの一般的なアクションについて話し合うことができます。   

また、乗客は説明を求めることができます。   

AI駆動システムが突然ブレーキを踏まなければならないとします。 自動運転車のライダーは、特に魅力的な猫のビデオを見ていて、車道の状況に気付いていなかった可能性があります。 激しいブレーキ操作で跳ね返った後、乗客は、AI駆動システムがなぜこのような突然の激しい運転動作をしたのかと心配して尋ねるかもしれません。 

AIにそのような説明をすぐに提供してもらいたいでしょう。 説明を得る唯一の可能な方法がリモートエージェントを探すことである場合、それがどのようなものか想像してみてください。 自動運転車の中にいるあなたは、急進的な行動をとったばかりですが、なぜそうしたのかわかりません。 ボタンを押すか、何らかの方法でリモートエージェントへの呼び出しをアクティブ化する必要があります。 これには、関与するのに少し時間がかかる場合があります。   

リモートエージェントが利用可能になると（すぐに利用できると仮定して）、すべての自動運転車の中で最も優れたものへようこそなど、通常の定型スピーチで対話を開始する場合があります。 その間、あなたはこの自動運転車の中に座っていました。この自動運転車はまだ陽気に運転していますが、それでも突然ブレーキがかかった理由はわかりません。 

ここでのポイントは、人間のリモコンと話し合うまでに、多くの時間と運転の側面が発生した可能性があるということです。 その遅れの間に、あなたは困惑し、心配し、AI駆動システムが次に狂ったように何をするのか心配しています。   

XAIがあったとしたら、XAIに何が起こったのかを尋ねることができたでしょう。 XAIは、自動運転車に向かって走っていて、すぐ近くにいるように見える犬が歩道にいたことを即座に説明するかもしれません。 AI駆動システムは、高速ブレーキ操作を行うことを選択しました。 犬はその考えを理解し、無事に逃げ出しました。   

タイムリーな説明、そして乗客に慰めと安堵を与え、彼らが席に戻って、陽気な子猫と愛らしい子犬についてのそれらのビデオをもっと見ることを可能にするもの。   

ODDの詳細については、こちらのリンクをご覧ください。 https://www.aitrends.com/ai-insider/amalgamating-of-operational-design-domains-odds-for-ai-self-driving-cars/ 

オフロード自動運転車のトピックについて、私の詳細は次のとおりです。 https://www.aitrends.com/ai-insider/off-roading-as-a-challenging-use-case-for-ai-autonomous-cars/ 

自動運転の自動車メーカーに最高安全責任者がいる必要があることを私は強く主張しました、これがスクープです： https://www.aitrends.com/ai-insider/chief-safety-officers-needed-in-ai-the-case-of-ai-self-driving-cars/ 

訴訟が次第に自動運転車産業の重要な部分になることを期待してください、ここで私の説明の詳細を見てください： https://aitrends.com/selfdrivingcars/self-driving-car-lawsuits-bonanza-ahead/   

まとめ   

車に乗っているときに発生する可能性があり、説明が必要な状況はたくさんあります。 車は突然停止します。 車はかなり強くカーブします。 車は、快適な許容誤差なしに隣接する車線に向きを変えます。 車はあなたが乗ることを予期していなかった道を進みます。 一見無限の可能性が存在します。   

その場合、実際にXAIが自動運転車に特に便利であるとしたら、なぜXAIがまだ特に設置されていないのか疑問に思われるかもしれません。   

確かに、A地点からB地点まで車を安全に運転できるAIを考案するという強いプレッシャーにさらされているAI開発者にとって、機械で生成された説明を提供するという側面は、優先順位リストではかなり低くなっています。 彼らはそれがいわゆるエッジまたはコーナーケースであると熱心に主張するでしょう。 十分な自動運転車を実現したという陽光が降り注ぐ時期に到達することができます。 

あらゆる種類のAVに乗っている人間は説明をしたいと思うでしょう。 説明を提供する費用効果が高く、すぐに利用できる手段は、自律パイロットを実行しているAIシステムへのXAIの具体化を必要とします。   

自動運転車の中にいて、アクロバティックな運転操作を緊急に行っている場合、同じように何が起こっているのかを尋ねるのをためらうかもしれません。人間のドライバーの気を散らすのではないかと心配するかもしれません。それは運転中に何かワイルドなことをしていた。   

おそらく、よく考案されたXAIはAI駆動システムに負担をかけないので、XAIとの長い対話に自由に参加できます。 実際、自動運転車が直面する可能性が最も高い質問は、AI駆動システムがどのように機能するかということです。 XAIは、そのような質問に対処する準備ができている必要があります。 

XAIが処理することをおそらく期待してはならないことのXNUMXつは、運転の雑用から離れた質問です。 たとえば、XAIに人生の意味を説明するように依頼することは、範囲外でAIの賃金等級を超えていると主張することができます。   

少なくともAIが知覚力を持つようになる日までは、確かに質問することができます。 

Copyright 2021ランス・エリオット博士  http://ai-selfdriving-cars.libsyn.com/website 

コインスマート。 BesteBitcoin-ヨーロッパのBörse
出典：https：//www.aitrends.com/ai-insider/the-rocky-road-toward-explainable-ai-xai-for-ai-autonomous-cars/