無人運転の車や飛行機は、もはや未来の話ではありません。サンフランシスコ市だけでも、タクシー会社 8 社が 2023 年 850,000 月までに合わせて XNUMX 万マイルの自動運転を記録しました。また、米国では XNUMX 万台以上の自動運転航空機 (ドローン) が登録されていますが、軍が所有するものは含まれていません。

しかし、安全性については当然の懸念があります。たとえば、10 年 2022 月までの XNUMX か月間、米国道路交通安全局は 報告 何らかの自律制御を使用している自動車が関与する衝突事故は 400 件近く発生しています。これらの事故によりXNUMX人が死亡、XNUMX人が重傷を負った。

この問題に対処する通常の方法 (「枯渇テスト」と呼ばれることもあります) では、安全であることが確認されるまでこれらのシステムをテストします。ただし、このプロセスで潜在的な欠陥がすべて明らかにされるかどうかはわかりません。 「人々は自分のリソースと忍耐力が尽きるまで検査を実行します」と述べた。 サヤン・マイトラ、イリノイ大学アーバナ・シャンペーン校のコンピューター科学者。ただし、テストだけでは保証はできません。

ミトラと彼の同僚はそれができる。彼のチームはなんとか成功しました 証拠 　 安全性 車の車線追跡機能と 着陸システム 自律飛行型航空機用。彼らの戦略は現在、空母へのドローン着陸を支援するために利用されており、ボーイングは今年実験機でそれをテストする予定だ。 「エンドツーエンドの安全保証を提供する彼らの方法は非常に重要です」と彼は言いました。 コリーナ・パサレアヌ、カーネギーメロン大学およびNASAのエイムズ研究センターの研究科学者。

彼らの仕事には、自動運転車に情報を提供するために使用される機械学習アルゴリズムの結果の保証が含まれます。大まかに言えば、多くの自動運転車には、知覚システムと制御システムという 2 つのコンポーネントがあります。認識システムは、たとえば、車が車線の中心からどのくらい離れているか、飛行機がどの方向に向かっているか、地平線に対してどのような角度であるかを知らせます。このシステムは、カメラやその他の感覚ツールからの生データを、車外の環境を再現するニューラル ネットワークに基づく機械学習アルゴリズムに供給することで動作します。

これらの評価は別のシステムである制御モジュールに送信され、何をすべきかを決定します。たとえば、障害物が近づいている場合、ブレーキをかけるか回避するかを決定します。によると ルカ・カーローンマサチューセッツ工科大学の准教授によると、制御モジュールは確立されたテクノロジーに依存しているものの、「認識結果に基づいて意思決定を行っており、その結果が正しいという保証はない」という。

安全性を保証するために、ミトラのチームは車両の認識システムの信頼性を確保することに取り組みました。彼らはまず、外界の完璧なレンダリングが利用可能であれば安全を保証できると考えました。次に、知覚システムが車両の周囲の再現にどの程度の誤差をもたらすかを決定しました。

この戦略の鍵は、誤差帯域として知られる、関係する不確実性、またはミトラ氏の言葉を借りれば「既知の未知数」を定量化することです。この計算は、彼と彼のチームが認識契約と呼ぶものに基づいています。ソフトウェア エンジニアリングにおいて、契約とは、コンピューター プログラムへの特定の入力に対して、出力が指定された範囲内に収まることを約束することです。この範囲を把握するのは簡単ではありません。車のセンサーはどれくらい正確ですか?ドローンはどれくらいの霧、雨、太陽のまぶしさに耐えることができますか?しかし、車両を指定された不確実性の範囲内に保つことができ、その範囲の決定が十分に正確であれば、ミトラのチームは車両の安全性を確保できることを証明しました。

不正確なスピードメーターを使用している人にとってはよくある状況です。デバイスの速度が時速 5 マイルを超えることがないことがわかっている場合でも、常に制限速度 (信頼できない速度計によって示される) よりも時速 5 マイルを下回る速度を維持することで、スピード違反を回避できます。認識契約は、機械学習に依存する不完全なシステムの安全性についても同様の保証を提供します。

「完璧な認識力は必要ありません」とカルローネ氏は言う。 「安全性を危険にさらさないように、十分な品質を確保したいだけです。」同氏によると、チームの最大の貢献は「知覚契約の概念全体を導入」し、それを構築する方法を提供したことだという。彼らは、システムの動作が一連の要件を満たしていることを確認する数学的方法を提供する、形式検証と呼ばれるコンピューター サイエンスの分野の手法を利用してこれを行いました。

「ニューラル ネットワークがどのように機能するのか正確にはわかっていませんが」とミトラ氏は述べ、ニューラル ネットワークの出力の不確実性が一定の範囲内にあることを数値的に証明することはまだ可能であることを示しました。そして、そうであれば、システムは安全になります。 「その後、特定のニューラル ネットワークが実際にその限界を満たすかどうか (そしてどの程度まで) について統計的な保証を提供できます。」

航空宇宙会社シエラネバダは現在、ドローンを空母に着陸させる際にこれらの安全保証をテストしています。飛行には余分な次元が関係するため、この問題はある意味、車の運転よりも複雑です。 「着陸時には、主に 2 つのタスクがあります」と述べました。 ドラゴス・マルギネアントゥ, ボーイング社の AI 主任技術者は、「​​飛行機を滑走路と位置合わせし、滑走路に障害物がないことを確認します。 Sayan との私たちの仕事には、これら 2 つの機能の保証を得ることが含まれます。」

「サヤンのアルゴリズムを使用したシミュレーションでは、（着陸前の飛行機の）アライメントが実際に改善されることが示されています」と彼は述べた。今年後半に計画されている次のステップは、ボーイングの実験用飛行機を実際に着陸させながらこれらのシステムを使用することです。最大の課題の 1 つは、私たちが知らないこと、つまり「推定値の不確実性を判断すること」を解明し、それが安全性にどのような影響を与えるかを確認することだと、マルギネアントゥ氏は指摘しました。 「ほとんどの間違いは、知っているつもりでやっていたのに、実はわかっていなかったと判明したときに起こります。」