AIトレンドインサイダー、ランスエリオット  

ソースコードはソフトウェアの中核であり、ソフトウェアが世界を食い尽くすことは誰もが知っています。 ソースコードはそのすべての本質的な根底にあるハートビートとして存在するので、ここにあなたにとって基本的で非常に重要な質問があります： ソースコードは厳重に保護され、厳密なロックアンドキーの下に置かれるべきですか、それともすべての人が見ることができるように公開されるべきですか？   

これらは、ソースコードを最適に処理する方法についてのXNUMXつの強い反対派の陣営です。 これを開梱しましょう。   

XNUMXつの信念は、ソースコードはベストの近くに保持する必要があるということです。   

ソースコードをプロプライエタリに保ち、見えないようにし、それを、垣間見る必要のある人だけが見ることができる、深く暗い秘密のように扱います。 これについての考えは、ソースコードは尊敬されている知的財産（IP）の形式であり、豊富なロックアンドキー保護の下に格納する必要があるということです。 これは単に法的保護を保持しているためではなく（プログラミングコードを作成するための労力にかかる多大なコストの結果として確かに正当化されているようです）、ソースコードが秘密のソースまたは他の重要なものの内部動作を明らかにする可能性があるためです広く知られるべきではない策略（そう信じられている）。 

誰かがささやいたり、ソースコードの最も小さな断片でさえも何らかの形でリークした瞬間、あなたはすぐにそして大きな力を発揮してリークを止める必要があります。   

もうXNUMXつの陣営は正反対です。つまり、すべてのソースコードを自由にローミングできます。   

しばしばオープンソースと呼ばれますが、ソースコードをしっかりと覆い隠すことは決してできないので、タオルを投げてすぐに利用できるようにしたほうがよいと主張しています。 ソースコードを見たい人は誰でもそうすることを歓迎します。 ある意味で、ソースコードに鍵のかかった部屋の閉じ込めの束縛がないことを宣言することにより、他の人がコードを見るのを防ごうとするという他の方法では耐え難いストレスが完全に収縮し、その点で懸念されるXNUMXつのイオタは残りません。   

人生のほとんどのもののように、いくつかは、これらのXNUMXつの正反対のスタンスを、代わりに一種の中間点を可能にするかもしれないスペクトル上の残念で完全に不必要な極端として描写します。 これらの中道支持者は、ソースコードの一部を南京錠で隠して見えないようにするのは問題ないが、ソースの他の部分は広く世界に公開する必要があると示唆する可能性があります。 これは潜在的に合理的な見方のように思われる、とこれらの仲介者は主張します。   

そうではありません、これは 最悪 両方の種類の妥協の最善ではなく、両方の世界の工夫の。 ソースコードへの扉を開くことで、さらなる侵入を招くことになります。 明らかにされたティーザーは、もっと多くのことを明らかにしたいという欲求を単に刺激するでしょう。 さらに、ソースコードの残りの部分への侵入をはるかに簡単にする、または少なくとも残りのコードが何で構成されているかを理解するためにメンタルリバースエンジニアリングを行うことを可能にする側面を紹介することができます。 エルゴ、熱心なクランプダウンキャンプによれば、あなたが何をするにしても、あなたのソースコードが日の目を見ることを確実に許しません。 

オープンソースの支持者による反対の見方は、ソースコードが必然的に見られるのを防ぐことは決してできないということです。 なんらかの形でドリブルします。 あなたは、あなたがこの檻に入れられた動物を持っていて、逃げる明白な手段がないと思い込んでしまうでしょう。 代わりに、生き物がすでに出回っている可能性があります、あなたはそれを知らないだけです、そしてあなたは愚かな仮定と に引き続き やみくもに、エンクロージャーがドラムのようにしっかりと閉まっていると仮定します。   

ぐるぐる行きます。   

ソースコードと言えば、注目を集めるソースコードの侵入に関する最近の報道価値のあるレポートを考えてみてください。   

最近のヘッドラインで、Microsoftは、ソースコードの一部が不正に閲覧されたことを認めました（この問題に関するプレスリリースによる）。「少数の内部アカウントで異常なアクティビティが検出され、確認したところ、XNUMXつのアカウントに多くのソースコードリポジトリでソースコードを表示するために使用されています。 アカウントにはコードやエンジニアリングシステムを変更する権限がなく、調査の結果、変更が加えられていないことがさらに確認されました。 これらのアカウントは調査され、修正されました。」 

また、最近、Gitサーバーの構成ミスが原因で日産からソースコードが漏洩したという報告があったことを思い出してください（Gitサーバーはプログラミング用のソースコードやその他の関連する構成ファセットを保存するオンライン機能です）。 

そして、昨年、メルセデスがソースコードの公開に遭遇したというニュースレポートがありました。 明らかに、ダイムラーAGが使用しているGitサイトは、メルセデスベンツバンの一部のモデルで使用されているオンボードロジックユニット（OLU）ソフトウェアのソースコードを調べるために、許可されていない当事者によって使用されていました。   

これらのソースコードの眼球浸潤に対する反応はまちまちです。   

一部の人にとって、この新たな波 既知の ソースコードの露出は、ソースコードを隠そうとすることで問題が発生し、最終的には受け入れられないことを示す明らかな兆候です（報告されたケースは、おそらくそのようなインスタンスの実際の数のごく一部にすぎないことに注意してください）。 しかし、他の人は、これは単に他の人の努力を弱め、一見邪悪な行為を喜んで実行する人々がそこにいることを示していると指摘します。 常に悪行者が存在し、侵入者を防ぐために鋼製の金庫と電気柵が常に必要になります。   

ソースコード違反について注目すべきXNUMXつの側面は、これらの侵入がいかに簡単に軽視される傾向があるかということです。 そのように打たれた会社は、これらの出来事が特に大惨事ではないという絵を描くに違いありません、そしてそれでヨーダのような方法であなたに他の場所を見てもらいそしてそのような侵入の影響に集中しないように試みます。   

一般の人々は、これらの問題をどうすればよいのかよくわからないことがよくあります。   

誰かがあなたのソースコードを見ることができたという理由だけで、それは家に書くことは何もないようであり、確かに邪魔であり、起こるべきではありませんでしたが、害もファウルもない古典的な例のようです。 ええ、そうです、他の人の宝物に浸ったことは確かにファウルでしたが、単に見た目は無害で効果がないように見えます。 おそらくそれは、貴重な美術館に侵入し、壁に飾られた芸術作品に注目を集めることに似ています。 アートワークやスプレーグラフィティを傷つけない限り、これは意味のない行為ではありますが、独特のように思えます。 

実はdに害がありますXNUMXつ. これらの害についてはすぐに説明します。また、前述の美術館の例えに穴を開けます。 プロプライエタリソースコードの違法な公開に関連する実証的な問題があることを認めましょう。   

さらに、アンティを上げることができます。 非常に深刻なコード、つまり自動運転車用に開発されたソースコードを検討してください。   

車は私たちの高速道路や小道を転がる生死にかかわる機械です。 A人間であろうとAIであろうと、車を運転する人は誰でも できる 車がどこに行き、何をするかを決定します。 車内の乗客は危険にさらされており、近くの乗用車、自転車のライダー、曲がりくねった歩行者も危険にさらされています。   

あなたはおそらく運転を生死にかかわる問題とは考えていませんが、それは確かにそうです、そしてあなたがハンドルを握るたびに、あなたはあなたの周りの他の人の運命を決定しています。 他のすべてのドライバーもそうです。   

これが特に自動運転車にどのように関連しているかを調べる時が来ました。   

AI自動運転車に関する私のフレームワークについては、こちらのリンクを参照してください。 https://aitrends.com/ai-insider/framework-ai-self-driving-driverless-cars-big-picture/ 

なぜこれがムーンショットの努力であるか、私の説明をここで見てください： https://aitrends.com/ai-insider/self-driving-car-mother-ai-projects-moonshot/   

リヒタースケールの一種としてのレベルの詳細については、こちらの説明を参照してください。 https://aitrends.com/ai-insider/richter-scale-levels-self-driving-cars/ 

レベルの分岐に関する議論については、ここの私の説明を参照してください： https://aitrends.com/ai-insider/reframing-ai-levels-for-self-driving-cars-bifurcation-of-autonomy/   

自動運転車のレベルを理解する 

明確にするために、真の自動運転車とは、AIが完全に自力で車を運転し、運転タスク中に人間の支援がない車のことです。 

これらの自動運転車はレベル 4 およびレベル 5 とみなされますが、人間のドライバーが運転作業を共同で分担する必要がある自動車は、通常、レベル 2 またはレベル 3 とみなされます。運転タスクを共同で分担する自動車は次のように説明されます。半自律型であり、通常は ADAS (先進運転支援システム) と呼ばれるさまざまな自動化されたアドオンが含まれています。 

レベル5の真の自動運転車はまだありません。これが達成できるかどうか、また到達するまでにかかる時間もわかりません。   

一方、レベル4の取り組みは、非常に狭く選択的な公道の試験を実施することで徐々に牽引力を獲得しようとしていますが、この試験自体を許可するかどうかについては論争があります（私たちはすべて実験で生死にかかわるモルモットです）私たちの高速道路や小道で行われている、いくつかの主張）。   

半自律型の車には人間のドライバーが必要であるため、これらのタイプの車の採用は、従来の車の運転とそれほど変わりません。そのため、このトピックについてそれ自体をカバーすること自体はそれほど新しいことではありません（ただし、次に、次のポイントが一般的に適用されます）。  

半自律走行車の場合、最近発生している不快な側面について、つまり、レベル2またはレベル3の車のホイールで眠りにつく自分のビデオを投稿し続ける人間のドライバーにもかかわらず、一般の人々に事前に警告する必要があることが重要です。 、私たちは、ドライバーが半自律型の車を運転しているときに、運転タスクから注意をそらすことができると信じ込まされないようにする必要があります。 

レベル2またはレベル3に自動化がどれだけ投じられるかに関係なく、あなたは車両の運転行動の責任者です。   

自動運転車の遠隔操縦または操作が一般的に避けられる理由については、ここで私の説明を参照してください： https://aitrends.com/ai-insider/remote-piloting-is-a-self-driving-car-crutch/   

自動運転車に関する偽のニュースに警戒するには、ここに私のヒントを参照してください： https://aitrends.com/ai-insider/ai-fake-news-about-self-driving-cars/ 

AI駆動システムの倫理的影響は重要です。ここで私の指摘を参照してください。 https://aitrends.com/selfdrivingcars/ethically-ambiguous-self-driving-cars/   

自動運転車に関しては、逸脱の正規化の落とし穴に注意してください。これが私の武器への呼びかけです。 https://aitrends.com/ai-insider/normalization-of-deviance-endangers-ai-self-driving-cars/   

自動運転車とソースコードの処理 

レベル4とレベル5の真の自動運転車両の場合、運転タスクに人間のドライバーは関与しません。 すべての乗員は乗客になります; NS彼はAIが運転をしています。   

AIはどのようにして車の運転方法を「知っている」のでしょうか？   

運転できるAIシステムには人間のような感覚が必要だと思っている人にとって、そのバブルを破裂させて申し訳ありませんが、AIは単なるソフトウェアです（少なくとも今のところ、将来のAIが何であるかについては多くの憶測がありますが） 。   

AIベースの駆動システムの基礎となるのは、従来のプログラミングで構成されるソースコードで、数百万行から数百万行のコードがあります。 また、機械学習とディープラーニングのアルゴリズムが使用されています。これらのアルゴリズムは、自動車の運転に必要な計算パターンマッチングのトレーニングを支援するために使用される大量のデータとともに、ソースコードに基づいています。   

ソースコードへのXNUMXつの異なるキャンプアプローチについての前述の議論と同様に、自動運転車業界も同様に分かれています。   

自動運転車のための明らかにオープンソースの道を提唱している人もいます。 企業は、AI駆動システムおよび大学のAIラボを含む研究機関向けのオープンソースコードを開発しています。 それにもかかわらず、概して、商用自動車メーカーと自動運転技術企業は、現在、オープンソースパスよりも独自のルートを追求しています（とはいえ、一部の企業は、独自のプライベートなものを組み合わせて行っていますオープンソースの追加使用）。   

プロプライエタリまたはプライベートのソースコードは、施錠された美術館のアートワークに似ており、コードを傷つけたり変更したりしないように見える場合、許可されていない侵入は比較的害がありませんか？ 

簡単に言えば、答えはノーです。 理由は次のとおりです。 

ソースコードに目を向ける人は、同じようにそれをコピーすることができます。 その場合、彼らは現在、ソースコードが最初に格納されていた場所とは別に、自分たちの手でソースコードを持っています。 そのコピーを使用して、彼らはのんびりとそれを研究し、次に心のコンテンツに変更を加えて、ソフトウェアの再展開を試みることができます（これについては後で詳しく説明します）。   

美術館では、おそらくアートワークのオリジナルを見ているでしょう。 そのオリジナルのアートワークを、いかなる点においても、純粋で、変更されていない、または損傷していない状態に保ちたいという願望があります。 一般に、真のオリジナルと偽造または製造されたバージョンの違いを識別できます。   

ソースコードでは、コピーがコピーであるかどうかを確認するための準備が整った方法は本質的になく、本質的にはオリジナルの完全で区別のつかないコピーです（他のすべてが等しい）。 さらに、ソースコードは、アートワークがそうではない方法で順応性があります。   

全体として、ニュースレポートでは、誰かがソースコードを一瞥しただけであると示唆しているように見えますが、実際には、ソースコードをコピーして、必要に応じて変更することもできます。 

実際、侵入者はいわゆる元のインスタンスを変更していない可能性があります。これは、ソースコードがその発信元で読み取り専用ステータスに維持されている可能性があるためですが、これは、依存している人々に潜在的な「隠れた」未実現の危険を吹き込みます。元のソースコードに。 に 本質的に、侵入者が通常のストレージの時点で元のソースコードを変更した可能性がある場合は、 提起 何が変更されたかについて、特にソースコードの開発者が何が変更されたかを知らず、意図的にそのような変更を見つけようとしない場合は、非常に深刻な懸念があります。 

さて、ソースコードが元のストレージポイントでまだ無傷であり（必ずしもそうではない可能性があります）、侵入者がソースコードのコピーを「のみ」取得したと仮定しましょう。 

侵入者がコードを変更しようとしない場合でも、少なくともコードを検査することができ、不正な目的で変更を行うことができます。 彼らはソースコードの弱点を見つけるために見ることができます。   

これにより、侵入者は、そのソースコードに基づいてソフトウェアを実行しているシステムに侵入する手段を考案できる可能性があります。 または、侵入者がソフトウェアを拡張する手段を見つけて、システムにある種のトロイの木馬を受け入れさせることができる場合もあります。    

自動運転車の場合、露出の範囲は、おそらくエアコンの制御やエンターテインメントシステムが適切に機能しているかどうかなど、それほど重要ではない要素に維持されることが望まれます。 より悲惨な可能性には、運転制御にアクセスしたり、AI運転システムを混乱させたりリダイレクトしたりできることが含まれます（ここでは詳細については説明しませんが、起こりうる悪影響を想像できると確信しています）。   

ビデオカメラ、レーダー、LIDAR、超音波ユニット、熱画像など、自動運転車のすべての特殊センサーを実行するソフトウェアの基盤となるソースコードがあることを認識してください。そのソースの複雑さを知ることで、センサーを混乱させたり、感知されたものを誤って報告させたりするため。   

AI駆動システムが感覚データをまとめ、センサーが示しているものをマージして調整しようとするときに、AI駆動システムを支えるソースコードがあります。 これはマルチセンサーデータフュージョン（MSDF）と呼ばれ、通常は厳重に管理され、その機能を担当するプログラマーだけが見ることができるソースコードです。 

AI駆動システムの仮想世界機能を必要とするソースコードについても同じことが言えます。このシステムは、実世界で感知されたオブジェクトを追跡し、周囲の運転環境を把握するために使用されます。 実行する運転アクションを計画するAI運転システム部分のソースコードがあります。 AI駆動システムと駆動制御、加速器、ブレーキ、ステアリングなどの制御とのインターフェースのソースコードがあります。   

とにかく、それはソフトウェアの真の船積みとソースコードの膨大な船積みです。   

もうXNUMXつの厄介な側面は、コードを書き直したり変更したりして、変更したバージョンをソースコードリポジトリに戻したり、実行中のソフトウェアを変更したバージョンに置き換えられるかどうかを確認したりすることです。行ったソースコードの変更。   

一部の悪意のある人が自動運転車の乗客になるように手配し、中に入ると、代替コードをオンボードハードウェアにロードして、AI駆動システムに侵入しようとするサイバーセキュリティの懸念があります。 おそらく、これはハードウェアとソフトウェアのセキュリティ対策によって防止されますが、ソースコードが悪意のある人物によって徹底的に検査された場合、悪用される可能性のあるギャップまたは抜け穴が見つかった可能性があります。   

同じ問題は、OTA（Over-The-Air）電子更新の使用にも適用できます。   

一般的に、OTAは、自動運転車のソフトウェアをリモートで更新できる優れた手段であると考えています。これにより、AI駆動システムをすばやく簡単に更新できます（更新を行うためにディーラーに車で行く必要はありません）。 。 残念ながら、OTAは、コンピューターウイルスやその他のマルウェアをオンボードAI駆動システムに直接感染させるための主要なポータルも提供します。 さまざまなサイバーセキュリティ保護がOTAに組み込まれていますが、悪意のある攻撃者がそれらの保護が何であるかを確認できる場合、これにより、詳細なコードを取り込むためのトリックやバイパスを見つけ出す可能性が高くなります。   

要するに、プロプライエタリソースコードにアクセスできることは、多くの潜在的なサイバーセキュリティの問題をもたらし、その後、断固とした敵対的なハッカーや悪意のある者によって引き起こされる可能性があります。   

ODDの詳細については、こちらのリンクをご覧ください。 https://www.aitrends.com/ai-insider/amalgamating-of-operational-design-domains-odds-for-ai-self-driving-cars/ 

オフロード自動運転車のトピックについて、私の詳細は次のとおりです。 https://www.aitrends.com/ai-insider/off-roading-as-a-challenging-use-case-for-ai-autonomous-cars/ 

自動運転の自動車メーカーに最高安全責任者がいる必要があることを私は強く主張しました、これがスクープです： https://www.aitrends.com/ai-insider/chief-safety-officers-needed-in-ai-the-case-of-ai-self-driving-cars/ 

訴訟が次第に自動運転車産業の重要な部分になることを期待してください、ここで私の説明の詳細を見てください： https://aitrends.com/selfdrivingcars/self-driving-car-lawsuits-bonanza-ahead/ 

まとめ   

プロプライエタリソースコードアプローチの熱心な信者のための経験則は、彼らが常にしなければならないということです 彼らのソースコードが出てくるという仮定の下で働いている。 そのマントラを真摯に受け止めている人々は、ソースコードの公開が問題につながる可能性のあるすべての可能性を突き止めようとすることに熱心に取り組んでおり、コードが漏洩する前にこれらの落とし穴を埋めることを熱心に目指しています。 

基本的に、ソフトウェア開発者のデフォルトモードは、ソースコードが侵害された、または侵害される予定です。 そのような基本的な仮定のように、彼らはソースコードを考案して、たとえそれが見られたとしても、明らかになるファセットが結果として生じるシステムのセキュリティを損なうことがないようにする必要があります。 

その考え方は完全に実現できますか？ 

オープンソースの支持者は、そのような仮定をするのはばかげていると言います。 すべての人にソースコードを見てもらう方がよいでしょう。これは、非公開のソースのコーディングに割り当てられた少数のプログラマーに頼るのではなく、「群衆の叡智」が抜け穴や落とし穴を見つけることも意味します。   

関連するソフトウェアが比較的重要でない場合は、ソースコードのセキュリティ違反は特に重要ではない可能性があります。 生死にかかわる結果をもたらすソフトウェアにソースコードを使用する場合、違反は実質的な注意を払う価値があり、AI駆動システムを開発している人々は、その重要性を心に留めていることを願っています。 

ソースがあなたと一緒にありますように。   

しかし、それが良いことであり、不正行為に使用されていない場合に限ります。 

Copyright 2021ランス・エリオット博士. このコンテンツはもともとAIトレンドに投稿されています。  

[編集 注：自動運転車の出現に関するエリオット博士の進行中のビジネス分析に興味がある読者は、オンラインのフォーブスのコラムを参照してください。 https://forbes.com/sites/lanceeliot/] 

http://ai-selfdriving-cars.libsyn.com/website 

コインスマート。 BesteBitcoin-ヨーロッパのBörse
ソース：https：//www.aitrends.com/ai-insider/latest-source-code-cyber-hacking-getting-closer-to-autonomous-cars/