В среду лаборатория Intel представила свой самый большой нейроморфный компьютер — систему из 1.15 миллиарда нейронов, которая, по ее словам, примерно аналогична мозгу совы.

Но не волнуйтесь, Intel не воссоздала Fallout. Робомозг. Вместо сети органических нейронов и синапсов Intel Hala Point имитирует их все в кремнии.

При мощности примерно 20 Вт наш мозг удивительно эффективно обрабатывает большие объемы информации, поступающей от каждого органа чувств в любой момент времени. Область нейроморфики, которую Intel и IBM исследовали последние несколько лет, направлена ​​на имитацию сети нейронов и синапсов мозга для создания компьютеров, способных обрабатывать информацию более эффективно, чем традиционные ускорители.

Насколько эффективно? По данным Intel, ее новейшая система, корпус высотой 6U размером примерно с микроволновую печь и потребляющий 2,600 Вт, может достигать эффективности глубокой нейронной сети до 15 TOPS/Вт при 8-битной точности. Для сравнения: самая мощная система Nvidia, GB200 NVL72 на базе Blackwell, которая еще даже не поступила в продажу, управляет всего 6 TOPS/Вт при INT8, в то время как нынешние системы DGX H100 могут обеспечить около 3.1 TOPS/Вт.

Исследователи из Sandia National Labs получили нейроморфный компьютер Intel Hala Point с 1.15 миллиардами нейронов – щелкните, чтобы увеличить

Такая производительность достигается за счет использования 1,152 процессоров Intel Loihi 2, которые объединены в трехмерную сетку, образующую в общей сложности 1.15 миллиарда нейронов, 128 миллиардов синапсов, 140,544 2,300 процессорных ядра и 86 встроенных ядер xXNUMX, которые выполняют вспомогательные вычисления, необходимые для продолжай дело пыхтеть.

Чтобы внести ясность, это не типичные ядра x86. «Это очень, очень простые маленькие ядра x86. Они не похожи на наши новейшие ядра или процессоры Atom», — сказал Майк Дэвис, директор по нейроморфным вычислениям в Intel. Регистр.

Если Loihi 2 звонит, это потому, что чип был стучать вокруг уже некоторое время он дебютировал еще в 2021 году как один из первых чипов, произведенных с использованием 7-нм техпроцесса Intel.

Несмотря на свой возраст, Intel заявляет, что системы на базе Loihi способны решать определенные задачи искусственного интеллекта и оптимизации в 50 раз быстрее, чем традиционные архитектуры ЦП и графических процессоров, потребляя при этом в 100 раз меньше энергии. Судя по всему, эти цифры были достигнутый [PDF] путем сопоставления одного чипа Loihi 2 с крошечным Jetson Orin Nano от Nvidia и процессором Core i9 i9-7920X.

Пока не выбрасывайте свои графические процессоры

Хотя это может показаться впечатляющим, Дэвис признает, что его нейроморфные ускорители пока не готовы заменить графические процессоры для каждой рабочей нагрузки. «Это ни в коем случае не универсальный ускоритель искусственного интеллекта», — сказал он.

Например, одно, пожалуй, самое популярное приложение ИИ — большие языковые модели (LLM), используемые в таких приложениях, как ChatGPT, — не будет работать на Hala Point, по крайней мере, пока.

«В настоящее время мы не сопоставляем LLM с Hala Point. Мы не знаем, как это сделать. Честно говоря, в области нейроморфных исследований нет нейроморфной версии преобразователя», — сказал Дэвис, отметив, что есть некоторые интересные исследования того, как этого можно достичь.

При этом команда Дэвиса успешно запустила традиционные глубокие нейронные сети, многослойный перцептрон, на Хала-Пойнт, с некоторыми оговорками.

«Если вы сможете разредить сетевую активность и проводимость в этой сети, тогда вы сможете добиться действительно очень больших успехов», — сказал он. «Это означает, что он должен обрабатывать непрерывный входной сигнал… видеопоток или аудиопоток, что-то, где существует некоторая корреляция от сэмпла к сэмплу».

Лаборатории Intel продемонстрировали потенциал Loihi 2 для обработки видео и звука в статье опубликованный [PDF] в конце прошлого года. В ходе тестирования они обнаружили, что чип достиг значительного выигрыша в энергоэффективности, задержке и пропускной способности обработки сигналов, иногда превышая три порядка, по сравнению с традиционными архитектурами. Однако наибольший выигрыш был достигнут за счет снижения точности.

Способность обрабатывать данные в реальном времени с низким энергопотреблением и задержкой сделала эту технологию привлекательной для таких приложений, как автономные транспортные средства, дроны и робототехника.

Еще один многообещающий вариант использования — задачи комбинаторной оптимизации, такие как планирование маршрута автомобиля доставки, которому приходится перемещаться по оживленному центру города.

Эти рабочие нагрузки невероятно сложны для решения, поскольку небольшие изменения, такие как скорость транспортного средства, аварии и перекрытие полос движения, приходится учитывать на лету. Традиционные вычислительные архитектуры не очень подходят для такого рода экспоненциальной сложности, поэтому мы видим так много поставщиков квантовых вычислений. направлены проблемы оптимизации.

Однако Дэвис утверждает, что нейроморфная вычислительная платформа Intel «гораздо более зрелая, чем другие экспериментальные исследовательские альтернативы».

Комната для роста

По словам Дэвиса, еще есть много возможностей для раскрытия. «Мне грустно констатировать, что по сей день он даже не используется в полной мере из-за ограничений программного обеспечения», — сказал он о чипах Loihi 2.

Выявление узких мест в аппаратном обеспечении и оптимизация программного обеспечения — одна из причин, по которой лаборатории Intel Labs развернули прототип в Сандиа.

«Понимание ограничений, особенно на аппаратном уровне, является очень важной частью внедрения этих систем», — сказал Дэвис. «Мы можем исправить проблемы с оборудованием, можем его улучшить, но нам нужно знать, в каком направлении оптимизировать».

Это будет не первый раз, когда ученые Сандии получают в свои руки нейроморфную технологию Intel. В газете опубликованный В начале 2022 года исследователи обнаружили, что у этой технологии есть потенциал для HPC и искусственного интеллекта. Однако в этих экспериментах использовались чипы Intel Loihi первого поколения, которые имеют примерно в восемь раз меньше нейронов (128,000 1 против XNUMX миллиона) своего преемника. ®

• SEO-контент и PR-распределение. Получите усиление сегодня.
• PlatoData.Network Вертикальный генеративный ИИ. Расширьте возможности себя. Доступ здесь.
• ПлатонАйСтрим. Интеллект Web3. Расширение знаний. Доступ здесь.
• ПлатонЭСГ. Углерод, чистые технологии, Энергия, Окружающая среда, Солнечная, Управление отходами. Доступ здесь.
• ПлатонЗдоровье. Биотехнологии и клинические исследования. Доступ здесь.
• Источник: https://go.theregister.com/feed/www.theregister.com/2024/04/17/intel_hala_point_neuromorphic/