英特尔实验室周三展示了其最大的神经拟态计算机，这是一个由 1.15 亿个神经元组成的系统，据称该系统大致类似于猫头鹰的大脑。
但别担心，英特尔还没有重现《辐射》 机器人大脑。英特尔的 Hala Point 不是有机神经元和突触网络，而是在硅中模拟它们。
在大约 20 W 的功率下，我们的大脑在处理任何给定时刻从各种感官流入的大量信息时效率惊人。英特尔和 IBM 在过去几年中一直在探索神经形态领域，旨在模拟大脑的神经元和突触网络，以构建能够比传统加速器更有效地处理信息的计算机。
效率如何？据英特尔介绍，其最新系统是一个大约相当于微波炉大小、功耗为 6 W 的 2,600U 盒子，据称可以在 15 位精度下实现高达 8 TOPS/W 的深度神经网络效率。从这个角度来看，Nvidia 最强大的系统，基于 Blackwell 的 GB200 NVL72，甚至还没有发货， 管理 INT6 时仅为 8 TOPS/W，而其当前的 DGX H100 系统可以管理约 3.1 TOPS/W。
桑迪亚国家实验室的研究人员接收英特尔 1.15 亿个神经元 Hala Point 神经拟态计算机 – 点击放大
这一性能是通过 1,152 个英特尔 Loihi 2 处理器实现的，这些处理器拼接在一个三维网格中，总共有 1.15 亿个神经元、128 亿个突触、140,544 个处理核心和 2,300 个嵌入式 x86 核心，用于处理所需的辅助计算。让事情继续前进。
需要明确的是，这些不是典型的 x86 核心。 “它们是非常非常简单的小型 x86 内核。它们与我们最新的核心或 Atom 处理器完全不同。”英特尔神经拟态计算总监 Mike Davies 说道。 注册.
如果 Loihi 2 响起铃声，那是因为该芯片已被 敲打 早在 2021 年，它就作为首批使用英特尔 7 纳米工艺技术生产的芯片之一首次亮相。
尽管年代久远，英特尔表示，基于 Loihi 的系统能够解决某些人工智能推理和优化问题，速度比传统 CPU 和 GPU 架构快 50 倍，同时功耗降低 100 倍。这些数字似乎是 实现 [PDF] 将单个 Loihi 2 芯片与 Nvidia 的微型 Jetson Orin Nano 和 Core i9 i9-7920X CPU 进行比较。
先别扔掉你的 GPU
虽然这听起来令人印象深刻，但 Davies 承认，其神经拟态加速器尚未准备好在所有工作负载上取代 GPU。 “无论如何，这都不是通用人工智能加速器，”他说。
其一，可以说是人工智能最受欢迎的应用程序，为 ChatGPT 等应用程序提供支持的大型语言模型 (LLM)，不会在 Hala Point 上运行，至少目前还不会。
“目前我们不会将任何法学硕士映射到 Hala Point。我们不知道该怎么做。坦率地说，神经形态研究领域并没有神经形态版本的变压器。”戴维斯说，并指出目前有一些关于如何实现这一目标的有趣研究。
话虽如此，戴维斯的团队已经在 Hala Point 上成功运行了传统的深度神经网络（一种多层感知器），但也有一些注意事项。
“如果你能够稀疏网络活动和网络中的电导率，那么你就能获得真正非常大的收益，”他说。 “这意味着它必须处理连续的输入信号……视频流或音频流，样本之间存在某种相关性。”
英特尔实验室在论文中展示了 Loihi 2 在视频和音频处理方面的潜力 出版 [PDF] 去年年底。在测试中他们发现，与传统架构相比，该芯片在能源效率、延迟和信号处理吞吐量方面取得了显着提升，有时超过了三个数量级。然而，最大的收益确实是以较低的准确性为代价的。
以低功耗和低延迟处理实时数据的能力使该技术对自动驾驶汽车、无人机和机器人等应用具有吸引力。
另一个有希望的用例是组合优化问题，例如必须在繁忙的市中心行驶的送货车辆的路线规划。
这些工作负载的解决起来极其复杂，因为必须即时考虑车速、事故和车道封闭等微小变化。传统的计算架构不太适合这种指数级的复杂性，这就是为什么我们看到如此多的量子计算供应商 瞄准 优化问题。
然而，戴维斯认为，英特尔的神经拟态计算平台“比其他实验研究替代方案成熟得多”。
成长空间
戴维斯表示，还有很大的空间有待释放。 “我很遗憾地说，由于软件限制，它至今还没有得到充分利用，”他在谈到 Loihi 2 芯片时说道。
识别硬件瓶颈和软件优化是英特尔实验室在桑迪亚部署原型的部分原因。
“了解这些限制，特别是在硬件层面，是让这些系统投入使用的一个非常重要的部分，”戴维斯说。 “我们可以解决硬件问题，我们可以改进它，但我们需要知道优化的方向。”
这并不是桑迪亚的研究人员第一次接触英特尔的神经拟态技术。在一篇论文中 出版 2022 年初，研究人员发现该技术具有 HPC 和 AI 潜力。然而，这些实验使用了英特尔的第一代 Loihi 芯片，该芯片的神经元数量大约是其后继芯片的八分之一（128,000 个对 1 万个）。 ®
