ゼファーネットのロゴ

人間の脳のアーキテクチャをミラーリングすることでAI学習がどのようにスピードアップするか

日付:

AIはできるが いくつかを実行します 何百万ものデータポイントでトレーニングされたときの印象的な偉業である人間の脳は、多くの場合、少数の例から学ぶことができます。 新しい研究は示しています それ 借り入れ アーキテクチャの原則 脳からAIが私たちの視覚に近づくのを助けることができます 腕前。

ディープラーニングの研究で広く知られているのは、アルゴリズムに投入するデータが多いほど、学習が向上するということです。 そしてビッグデータの時代では、特に最先端のAI研究を数多く実施している大規模なデータ中心のテクノロジー企業にとって、これはかつてないほど簡単になっています。

今日's 最大の 深い学習 のようなモデル OpenAIのGPT-3 とGoogleのBERTは、数十億のデータポイントでトレーニングされており、さらに控えめです モデル 大量のデータが必要です。 これらのデータセットを収集し、計算リソースを投資してそれらを処理することは、特にリソースの少ないアカデミックラボにとって大きなボトルネックです。

それはまた今日の AI 自然な知性よりもはるかに柔軟性がありません。 人間は、動物、道具、またはその他のカテゴリのオブジェクトのほんの一握りの例を見るだけで、それを再び見つけることができますが、ほとんどのAIは be 多くの例で訓練された オブジェクトの それを認識できるようにするために。

があります AI研究の活発なサブ分野 「ワンショット」または「少数ショット」学習と呼ばれるものを対象としており、アルゴリズムはごくわずかな例から学習できるように設計されています。 しかし、これらのアプローチはまだ大部分が実験的であり、できません に近づく match 私たちが知っている最速の学習者、つまり人間の脳。

This 神経科学者のペアに、脳がこの問題を解決すると私たちが考える方法から原理を借りることによって、いくつかのデータポイントから学習できるAIを設計できるかどうかを確認するよう促しました。 で 紙の 計算神経科学のフロンティア, 彼ら 説明 アプローチは大幅に後押しします AIの いくつかの例から新しい視覚的概念を学ぶ能力。

「私たちのモデルは、人工ニューラルネットワークが少数の例から新しい視覚的概念を学習するための生物学的にもっともらしい方法を提供します」とMaximilian Riesenhuber、 から ジョージタウン大学メディカルセンター, said プレスリリースの中で. 「脳が行っていることを反映していると私たちが考える方法で事前学習を活用することにより、いくつかの例からコンピューターにはるかに良い学習をさせることができます。」

数十年にわたる神経科学の研究は、脳が非常に速く学習する能力を示唆しています 依存 事前の知識を使用して、わずかなデータに基づいて新しい概念を理解する能力について。 視覚的理解に関しては、これは形状、構造、または色の類似性に依存する可能性がありますが、脳はまた、前側頭葉(ATL)と呼ばれる脳領域にエンコードされていると考えられる抽象的な視覚的概念を活用できます。

カモノハシはアヒル、ビーバー、ラッコのように見えると言っているようなものです。」said カリフォルニア大学バークレー校のJoshuaRuleの共著者。

研究者たちは、学んだ同様の高レベルの概念を使用して、この機能を再現しようと決心しました。n AIは、これまでに見られなかったカテゴリの画像をすばやく学習するのに役立ちます。

深層学習アルゴリズムは、人工ニューロンのレイヤーを取得して、画像やその他のデータ型のますます複雑になる特徴を学習し、それを使用して新しいデータを分類することで機能します。 たとえば、初期のレイヤーはエッジなどの単純なフィーチャを探しますが、後のレイヤーは鼻、顔、またはさらに高レベルの特性などのより複雑なフィーチャを探す場合があります。

最初に、人気のあるImageNetデータセットからの2.5の異なるカテゴリにわたる2,000万の画像でAIをトレーニングしました。 次に、出力レイヤーの前の最後のレイヤーを含む、ネットワークのさまざまなレイヤーから特徴を抽出しました。 Tねえ参照 これらの 「概念的特徴」としてy 学習された最高レベルの機能であり、ATLでエンコードされる可能性のある抽象的な概念に最も類似しています。

次に、これらのさまざまな機能セットを使用して、2、4、8、16、32、64、および128の例に基づいて新しい概念を学習するようにAIをトレーニングしました。 彼らは、概念的な機能を使用したAIは、少数の例で低レベルの機能を使用してトレーニングされたAIよりもはるかに優れたパフォーマンスをもたらすことを発見しましたが、トレーニング例が増えるにつれてギャップは縮小しました。

研究者たちは課題を認めながら、AIを設定しました was比較的単純で、視覚的推論の複雑なプロセスのXNUMXつの側面のみをカバーしています。id 生物学的にもっともらしいアプローチを使用して数ショットの問題を解決することで、神経科学とAIの両方に有望な新しい道が開かれます。

私たちの調査結果は、コンピューターがより迅速かつ効率的に学習するのに役立つ可能性のある技術を示唆するだけでなく、人々がどのように迅速に学習するかを理解することを目的とした神経科学実験の改善にもつながる可能性があります。id.

研究者が指摘するように、 人間の視覚システムは、私たちの周りの世界を理解することになると、依然としてゴールドスタンダードです。 その設計原理から借用することは、将来の研究にとって有益な方向性になるかもしれません。

画像のクレジット: ゲルトアルトマン から Pixabay

ソース:https://singularityhub.com/2021/01/18/how-mirroring-the-architecture-of-the-human-brain-is-speeding-up-ai-learning/

スポット画像

最新のインテリジェンス

スポット画像

私たちとチャット

やあ! どんな御用でしょうか?