英特爾實驗室週三展示了其最大的神經擬態計算機，這是一個由 1.15 億個神經元組成的系統，據稱該系統大致類似於貓頭鷹的大腦。
但別擔心，英特爾還沒有重現《異塵餘生》 機器人大腦。英特爾的 Hala Point 不是有機神經元和突觸網絡，而是在矽中模擬它們。
在大約 20 W 的功率下，我們的大腦在處理任何給定時刻從各種感官流入的大量資訊時效率驚人。英特爾和 IBM 在過去幾年中一直在探索神經形態領域，旨在模擬大腦的神經元和突觸網絡，以建立能夠比傳統加速器更有效地處理資訊的電腦。
效率如何？根據英特爾介紹，其最新系統是一個大約相當於微波爐大小、功耗為 6 W 的 2,600U 盒子，據稱可以在 15 位元精度下實現高達 8 TOPS/W 的深度神經網路效率。從這個角度來看，Nvidia 最強大的系統，基於 Blackwell 的 GB200 NVL72，甚至還沒有發貨， 管理 INT6 時僅為 8 TOPS/W，而其目前的 DGX H100 系統可以管理約 3.1 TOPS/W。
桑迪亞國家實驗室的研究人員接收英特爾 1.15 億個神經元 Hala Point 神經擬態計算機 – 點擊放大
這項效能是透過1,152 個英特爾Loihi 2 處理器實現的，這些處理器拼接在一個三維網格中，總共有1.15 億個神經元、128 億個突觸、140,544 個處理核心和2,300 個嵌入式x86核心，用於處理所需的輔助計算。
需要明確的是，這些不是典型的 x86 核心。 「它們是非常非常簡單的小型 x86 核心。它們與我們最新的核心或 Atom 處理器完全不同。 註冊.
如果 Loihi 2 響起鈴聲，那是因為該晶片已被 敲打 早在 2021 年，它就作為首批使用英特爾 7 奈米製程技術生產的晶片之一首次亮相。
儘管年代久遠，英特爾表示，基於 Loihi 的系統能夠解決某些人工智慧推理和最佳化問題，速度比傳統 CPU 和 GPU 架構快 50 倍，同時功耗降低 100 倍。這些數字似乎是 實現 [PDF] 將單一 Loihi 2 晶片與 Nvidia 的微型 Jetson Orin Nano 和 Core i9 i9-7920X CPU 進行比較。
先別扔掉你的 GPU
雖然這聽起來令人印象深刻，但 Davies 承認，其神經擬態加速器尚未準備好在所有工作負載上取代 GPU。 「無論如何，這不是通用人工智慧加速器，」他說。
其一，可以說是人工智慧最受歡迎的應用程序，為 ChatGPT 等應用程式提供支援的大型語言模型 (LLM)，不會在 Hala Point 上運行，至少目前還不會。
「目前我們不會將任何法學碩士映射到 Hala Point。我們不知道該怎麼做。坦白說，神經形態研究領域並沒有神經形態版本的變壓器。
話雖如此，戴維斯的團隊已經在 Hala Point 上成功運行了傳統的深度神經網路（一種多層感知器），但也有一些注意事項。
「如果你能夠稀疏網路活動和網路中的電導率，那麼你就能獲得真正非常大的收益，」他說。 “這意味著它必須處理連續的輸入信號……視頻流或音頻流，樣本之間存在某種相關性。”
英特爾實驗室在論文中展示了 Loihi 2 在視訊和音訊處理方面的潛力 出版 [PDF] 去年年底。在測試中他們發現，與傳統架構相比，該晶片在能源效率、延遲和訊號處理吞吐量方面取得了顯著提升，有時超過了三個數量級。然而，最大的收益確實是以較低的準確性為代價的。
以低功耗和低延遲處理即時數據的能力使該技術對自動駕駛汽車、無人機和機器人等應用具有吸引力。
另一個有希望的用例是組合優化問題，例如必須在繁忙的市中心行駛的送貨車輛的路線規劃。
這些工作負載的解決起來極為複雜，因為必須即時考慮車速、事故和車道封閉等微小變化。傳統的運算架構不太適合這種指數級的複雜性，這就是為什麼我們看到如此多的量子運算供應商 針對 優化問題。
然而，戴維斯認為，英特爾的神經擬態計算平台「比其他實驗研究替代方案成熟得多」。
成長空間
戴維斯表示，還有很大的空間有待釋放。 「我很遺憾地說，由於軟體限制，它至今還沒有充分利用，」他在談到 Loihi 2 晶片時說道。
識別硬體瓶頸和軟體最佳化是英特爾實驗室在桑迪亞部署原型的部分原因。
「了解這些限制，特別是在硬體層面，是讓這些系統投入使用的一個非常重要的部分，」戴維斯說。 “我們可以解決硬體問題，我們可以改進它，但我們需要知道優化的方向。”
這並不是桑迪亞研究人員第一次接觸英特爾的神經擬態技術。在一篇論文中 出版 2022 年初，研究人員發現該技術具有 HPC 和 AI 潛力。然而，這些實驗使用了英特爾的第一代 Loihi 晶片，該晶片的神經元數量大約是其後繼晶片的八分之一（128,000 個對 1 萬個）。 ®
