CEO インタビュー: Neurophos の Patrick T. Bowen - Semiwiki

パトリック・T・ボーエンニューロフォス

パトリックは物理学とメタマテリアルの背景を持つ起業家です。パトリックはニューロフォスアーキテクチャの将来のビジョンを設定し、研究開発、特にメタマテリアル設計のチームを指揮しています。彼はチューリッヒ工科大学でマイクロナノシステムの修士号を取得し、デューク大学で David Smith 教授の下で電気工学の博士号を取得しています。卒業後、パトリックはスミス教授とメタセプトを共同設立しました。 Metacept は、世界有数のメタマテリアル商業化センターおよびコンサルティング会社です。

ニューロフォスについて教えてください。どのような問題を解決していますか?
私たちは、人間の脳の計算能力を人工知能にもたらすために存在していると言います。 2009 年に、GPU は CPU よりもインターネット上の猫の認識がはるかに優れていることが発見されましたが、GPU は AI ワークロードの将来に対する答えではありません。ニューラルネットワークにおいて GPU が CPU よりも優れていたのと同様に、GPU よりも桁違いに優れたアーキテクチャが存在する可能性があります。 Neurophos は、GPU の次に AI が登場するものです。

一般に、AI の大規模言語モデルは、その可能性を完全に実現するのに十分な計算能力が不足しているため、制限されてきました。人々は主にそのトレーニング面に注目してきました。それは、デプロイを考える前に何か有用なものをトレーニングする必要があったからです。これらの取り組みにより、大規模な AI モデルの驚異的なパワーが浮き彫りになり、その証拠により、人々は AI を大規模に導入する方法に注目し始めています。これらの AI モデルの能力は、毎日それらを使用する何百万ものユーザーがいることを意味します。ユーザーあたりのエネルギーコストはどれくらいですか?推論あたりのコンピューティングコストはどれくらいですか?推論あたりのコストが十分に安くない場合、AI を導入したい企業にとっては非常に制約となる可能性があります。

エネルギー効率も解決すべき大きな問題です。たとえば 6 キロワットの電力を消費するサーバーがあり、100 倍の速度を実現したいが、基本的なエネルギー効率については何もしなかった場合、その 6 キロワットのサーバーは突然 600 キロワットのサーバーになります。ある時点で壁にぶつかります。単純に消費電力が多すぎて、チップから十分な速度で熱を吸い出すことができません。そしてもちろん、それには気候変動の問題が重なっています。 AIによって消費されるエネルギーはどれくらいでしょうか?データセンターを涼しく保つためだけに、どれだけの追加エネルギーを無駄にしているでしょうか?したがって、誰かがまずエネルギー効率の問題を解決する必要があります。そうすれば、アプリケーションの要求に十分な速度で対応できるようになります。

AI が存在するほぼずっと前から、人々は AI に光コンピューティングを使用することを提案してきました。私たちが現在取り組んでいるアイデアの中には、80 年代の古いアイデアもたくさんあります。たとえば、有名な「メタマテリアルの透明マント」や負の屈折率などの元の方程式は、60 年代から 80 年代のロシアの物理学者にまで遡ることができます。それはある種考えられたものではありましたが、実際にはデイビッド・スミスとサー・ジョン・ペンドリーによって再発明されました。

同様に、シストリック配列 (通常、人々が「テンソルプロセッサ」と言うときに意味するもの) は、70 年代後半の古いアイデアです。量子コンピューティングは、80 年代の古いアイデアを今日復活させたものです。光学処理も80年代の古いアイデアですが、当時はそれを実現する技術がありませんでした。そこで Neurophos では、光トランジスタの再発明に戻り、昔からの派手な光コンピューティングのアイデアを実装するために必要な基盤となるハードウェアを一から作成しました。

何が顧客を Nvidia の GPU の使用から貴社のテクノロジーの使用に切り替えるのでしょうか?
したがって、ほとんどの顧客が本当に気にしている一番のことは、推論メトリクスあたりの金額だと思います。それがビジネスモデルの成否を左右するからです。私たちは、同じ電力エンベロープ内で、最先端の GPU と比較して計算速度を 100 倍に向上できるソリューションでこの指標に取り組んでいます。

環境への懸念も人々の関心事であり、当社は最も重要なエネルギー源の 1 つであるデータセンターでのエネルギー消費を直接大幅に軽減する非常に現実的なソリューションを提供しています。

これがどのように拡大するかをじっくり考えてみると…私たちであれ、他の誰かであれ、誰かがここで解決策を提供しなければなりません。チップパッケージングの帯域幅は面積の平方根にほぼ比例し、チップパッケージングの消費電力は一般に面積に比例します。このため、私たちがシステムを作成してパッケージ化しようとする際に、あらゆる種類の歪んだ方法が生まれました。

パッケージングは、AI 全般にとって本当に革新的なものの 1 つです。当初は、コストと、さまざまなテクノロジーノードのチップレットを混合できることが重要でした。そして何よりも、DRAM チップと統合できるため、メモリアクセスの速度と帯域幅が重要でした。しかし今では、そこにさらに多くのチップを入れるだけです。

アナログ計算アプローチを使用すると、計算の消費電力が面積に比例するのではなく面積の平方根まで回復します。したがって、コンピューティングと消費電力のスケーリング方法は同じになります。あなたはそれらのバランスをとっているのです。

私たちは、これらのスケーリングの法則を適用するのに十分な高いコンピューティング密度まで実際にスケーリングできる、アナログインメモリコンピューティングに対する現時点で唯一のアプローチを開発したと考えています。

現在、顧客はどのようにして Neurophos と関わることができるでしょうか?
私たちは開発パートナープログラムを作成し、人々が PyTorch コードを直接ロードしてコンパイルできるようにするハードウェアのソフトウェアモデルを提供しています。これにより、スループットとレイテンシのメトリクス、1 秒あたりのインスタンス数などが顧客に提供されます。また、システム内のスループットのボトルネックに関するデータも提供されるため、お客様のワークロードにとって本当に重要な方法でシステム全体を設計していることを確認できます。

どのような新しい機能/テクノロジーに取り組んでいますか?
学者たちは長い間、私たちがニューロフォスで構築しているようなメタ表面があれば何ができるだろうかという一種の夢を抱いてきました。理論的な論文はたくさんあります…しかし、実際にメタ表面を構築した人は誰もいません。それを最初に行うのは私たちです。私の考えでは、興味深いアプリケーションのほとんどは実際には静的サーフェスではなく動的サーフェス向けであり、Metacept、Duke、および Lumotive のような姉妹会社では他の研究も進行しており、私や世界がかなり興奮していると思います。。

SC Incubator に参加した理由と、今後 24 か月間組織と協力する際の Neurophos の目標は何ですか?

Silicon Catalyst は、参入のハードルが高く、半導体スタートアップにとって名門アクセラレーターとなっています。私たちは彼らをパートナーとして迎えられることに興奮しています。ハードウェアのスタートアップは、デモ/プロトタイプのコストとエンジニアリングのサイクルタイムが高いため、ソフトウェアのスタートアップに比べて大きな不利な点を持っています。これは、EDAツールとマスクのコスト、およびエンジニアリングチームの規模が法外に高い可能性がある半導体スタートアップではさらに当てはまります。シード段階の企業にとっては高価です。 Silicon Catalyst は、開発コストの削減と市場投入までの時間の短縮に大きな支援を提供する、非常に素晴らしいパートナーのエコシステムを形成しています。