Intelは今年後半までAI機能を備えたデスクトップCPUを計画していないため、PCメーカーは代わりにチップスタートアップに目を向けている。そして将来は、MemryXとKinaraのAIカードを内蔵する可能性のあるLenovo ThinkCentre Neo Ultraにあるかもしれない。

レノボは ThinkCentre Neo Ultra を 1,000 月に約 2024 ドルで発売すると製品マネージャーのブライアン・リン氏が CES XNUMX のレノボのブースで語った。レノボのドキュメントにはどちらの AI プロセッサーも公式には含まれていないが、おそらく含まれている可能性が高い。そして、小型のコンテンツ作成デスクトップが CES に展示され、両方の AI カードが展示されました。

AMD、Intel、Qualcomm はすべて、AI NPU を統合したモバイル プロセッサを発表していますが、 AMDがAPUを内蔵したデスクトップRyzenプロセッサを発表。 PCプロセッサ業界で圧倒的なシェアを握るインテルは、 アローレイクの打ち上げ デスクトップ PC メーカーが NPU を利用できるようにするためです。

その一方で、より多くの PC メーカーが、実際には CPU と GPU だけで「AI PC」を構築できることに気づきつつあり、NPU はより電力効率の高い AI を提供します。デスクトップ PC メーカーであれば、従来から消費電力に対する懸念があまりなく、それで十分かもしれません。しかし、AI を金儲けに応用したいと考えている企業は、今でも AI を望んでおり、大規模な電力消費を最小限に抑えることにも関心を持っています。この点では、少なくともビジネス市場がコンシューマー向け PC を上回る可能性があります。

「私たちが現在目にしているのは、ディスクリート グラフィックス カードは、フォーム ファクター、電力、熱設計などの点で非常に多くを必要としているということです」と Lin 氏は言います。 「つまり、約 5 ～ 10 ワットを消費する NPU カードは、一定レベルの AI 機能を提供できるのです。」

しかし、Arrow Lake がデビューしたらどうなるでしょうか?

「Arrow Lake に関して私が感じているのは、パワーという点でまだ非常に限られているということです」とリン氏は語った。 「したがって、今から少なくとも 18 ～ 24 か月後は、離散型 (AI アクセラレータ) が依然としてその一部になると思います。特にデスクトップではバッテリーの制限がありません。」

ThinkCentre Neo Ultra には、最大 9 GB の DDR64-5 メモリを備えた未公開アーキテクチャの最大 Intel Core i5200 vPro プロセッサが搭載されます。また、クリエイタークラスの Nvidia GeForce RTX 4060 GPU、最大 4TB の SSD ストレージ、350W の内部電源も搭載されています。 3.6 リッターのシャーシで、サイズは 7.67 x 7.67 x 4.21 インチです。

Lenovo には、AI エンジンと呼ばれるものがあり、ワークロードを最適な場所にルーティングする機能があるとリン氏は述べました。

リン氏は、ブースで展示されているAIチップ企業2社であるMemryXとKinaraを含め、同社が協力しているAIチップのスタートアップ企業は数多くあると語った。

最初の AI アクセラレータの 1 つである MemryX を紹介します

MemryX は MX3 Edge AI アクセラレータを製造しています。同社のソフトウェア開発キット、そして Lenovo が ThinkCentre 内で披露しているものは、M.3 PCI Express カード (Gen2、やや驚くべきこと) に搭載された 3 つの MX3.2 チップで構成されていますが、USB XNUMX USB カード内でも実行できます。 。

MemryX は、各 MX3 が従来の TOPS ではなく 10 TFLOP (兆浮動小数点演算) の能力があると評価しています。これは、カードあたり 40 チップでカードあたり 4 TFLOPS に相当します。 MemryX の製品およびビジネス開発担当バイスプレジデントである Roger Peene 氏によると、MX3 では、より一般的なメトリクスである整数演算ではなく、デフォルトで 16 ビット浮動小数点演算と 8 ビット重み付けがデフォルトになっているためです。

「ディスクリート ソリューションを使用する機会があれば、Intel または AMD がそれを統合するまで、誰もがそれを使用するでしょう」と Peene 氏は言います。 「ですから、インテルが遅れをとっているのは誰もが知っています…彼らはマーケティングを強化しています。彼らは、Lenovo が PC で AI を実行する新興企業を選んだことに明らかに満足していません。そういう話ですね。」

ピーネ氏によると、MX3 はそれぞれ平均して 1 ～ 2 ワットを消費します。このチップは、Linux、Android、Windows に加え、TensorFlow、TensorFlow-lite、PyTorch、ONNX、Keras フレームワークをサポートしています。

各チップは、必要に応じてスケーリングされた 10 万の 8 ビット パラメーターを持つモデルを実行できます。 MX3 は箱から出してすぐに、プルーニングやトレーニングなしで 7×416、416fps (x375) で YOLO v2 tiny を実行でき、224fps で SSDMobileNet (224×1403) を実行できます。

キナラ氏と話す機会はなかったが、同社は 打ち上げ 同社の Ara-2 Edge AI プロセッサは昨年秋に開発されました。 「生成 AI モデルの処理能力の一例として、Ara-2 は安定拡散では画像あたり 10 秒、LLaMA-7B では毎秒数十トークンを達成できます」と同社はプレスリリースで述べた。

MemryX と Kinara AI チップはどちらも、まず画像認識用の AI として位置付けられており、ある MemryX のデモでは、建設作業員が適切な防護服を着用しているかどうかを認識する方法が披露されています。それでも、AI はゲーム、アバター、ローカル言語モデル/チャットボットなど、あらゆる種類の目的に使用できます。

しかし、より重要なことは、Nvidia、Rendition、3Dfx などの企業が 3D アクセラレーターとして数年前に設立され、途中で挫折した企業もあったが、現在ではコンテンツ制作およびゲーム業界を支配しているということです。 AI アクセラレータ カードの新たな波が彼らに挑戦することを期待してください。

説明: MemryX MX3 は、チップあたり 10 TFLOPS、またはカードあたり 40 TFLOPS の能力があります。