Intel Labs reveló el miércoles su computadora neuromórfica más grande, un sistema de 1.15 millones de neuronas, que, según dice, es más o menos análogo al cerebro de un búho.

Pero no te preocupes, Intel no ha recreado Fallout. robocerebro. En lugar de una red de neuronas y sinapsis orgánicas, Hala Point de Intel las emula todas en silicio.

Con aproximadamente 20 W, nuestro cerebro es sorprendentemente eficiente a la hora de procesar grandes cantidades de información que fluye desde cada uno de los sentidos en un momento dado. El campo de la neuromórfica, que Intel e IBM han dedicado a explorar en los últimos años, tiene como objetivo emular la red de neuronas y sinapsis del cerebro para construir computadoras capaces de procesar información de manera más eficiente que los aceleradores tradicionales.

¿Qué tan eficiente? Según Intel, su último sistema, una caja de 6U aproximadamente del tamaño de un microondas que consume 2,600 W, puede alcanzar eficiencias de red neuronal profunda de hasta 15 TOPS/W con una precisión de 8 bits. Para poner esto en perspectiva, el sistema más potente de Nvidia, el GB200 NVL72 basado en Blackwell, que aún no se ha comercializado, gestiona sólo 6 TOPS/W en INT8, mientras que sus sistemas DGX H100 actuales pueden gestionar alrededor de 3.1 TOPS/W.

Investigadores de Sandia National Labs reciben la computadora neuromórfica Hala Point de 1.15 millones de neuronas de Intel: haga clic para ampliar

Este rendimiento se logra utilizando 1,152 procesadores Loihi 2 de Intel, que están unidos en una cuadrícula tridimensional para un total de 1.15 millones de neuronas, 128 mil millones de sinapsis, 140,544 núcleos de procesamiento y 2,300 núcleos x86 integrados que manejan los cálculos auxiliares necesarios para que la cosa siga funcionando.

Para ser claros, esos no son núcleos x86 típicos. “Son núcleos x86 muy, muy simples y pequeños. No se parecen en nada a nuestros últimos núcleos o procesadores Atom”, dijo Mike Davies, director de computación neuromórfica de Intel. El registro.

Si Loihi 2 te suena, es porque el chip ha sido dando vueltas Desde hace un tiempo hizo su debut en 2021 como uno de los primeros chips producidos con la tecnología de proceso de 7 nm de Intel.

A pesar de su antigüedad, Intel dice que los sistemas basados ​​en Loihi son capaces de resolver ciertos problemas de optimización y inferencia de IA hasta 50 veces más rápido que las arquitecturas de CPU y GPU convencionales y, al mismo tiempo, consumen 100 veces menos energía. Esas cifras parecen haber sido alcanzado [PDF] comparando un único chip Loihi 2 con el pequeño Jetson Orin Nano de Nvidia y una CPU Core i9 i9-7920X.

No deseches tus GPU todavía

Si bien esto puede parecer impresionante, Davies admite que sus aceleradores neuromórficos aún no están listos para reemplazar las GPU para todas las cargas de trabajo. "Este no es de ninguna manera un acelerador de IA de uso general", dijo.

Por un lado, posiblemente la aplicación más popular de IA, los grandes modelos de lenguaje (LLM) que impulsan aplicaciones como ChatGPT, no se ejecutarán en Hala Point, al menos no todavía.

“No estamos asignando ningún LLM a Hala Point en este momento. No sabemos cómo hacer eso. Francamente, el campo de la investigación neuromórfica no tiene una versión neuromórfica del transformador”, dijo Davies, señalando que hay algunas investigaciones interesantes sobre cómo se podría lograr eso.

Dicho esto, el equipo de Davies ha tenido éxito ejecutando redes neuronales profundas tradicionales, un perceptrón multicapa, en Hala Point con algunas salvedades.

"Si se puede dispersar la actividad de la red y la conductividad en esa red, es entonces cuando se pueden lograr ganancias realmente grandes", dijo. "Lo que eso significa es que tiene que procesar una señal de entrada continua... un flujo de video o un flujo de audio, algo donde hay cierta correlación de una muestra a otra".

Intel Labs demostró en un artículo el potencial de Loihi 2 para el procesamiento de vídeo y audio publicado [PDF] a finales del año pasado. En las pruebas, descubrieron que el chip lograba mejoras significativas en eficiencia energética, latencia y rendimiento para el procesamiento de señales, que en ocasiones superaban los tres órdenes de magnitud, en comparación con las arquitecturas convencionales. Sin embargo, las mayores ganancias se produjeron a expensas de una menor precisión.

La capacidad de procesar datos en tiempo real con baja potencia y latencia ha hecho que la tecnología sea atractiva para aplicaciones como vehículos autónomos, drones y robótica.

Otro caso de uso que se muestra prometedor son los problemas de optimización combinatoria, como la planificación de rutas para un vehículo de reparto, que tiene que navegar por un concurrido centro de la ciudad.

Estas cargas de trabajo son increíblemente complejas de resolver, ya que pequeños cambios como la velocidad del vehículo, los accidentes y los cierres de carriles deben tenerse en cuenta sobre la marcha. Las arquitecturas informáticas convencionales no se adaptan bien a este tipo de complejidad exponencial, razón por la cual hemos visto tantos proveedores de computación cuántica orientación problemas de optimización.

Sin embargo, Davies sostiene que la plataforma de computación neuromórfica de Intel es "mucho más madura que estas otras alternativas de investigación experimental".

Espacio para crecer

Según Davies, todavía queda mucho margen por desbloquear. "Me entristece decir que ni siquiera está plenamente explotado hasta el día de hoy debido a limitaciones de software", dijo sobre los chips Loihi 2.

La identificación de cuellos de botella de hardware y optimizaciones de software es parte de la razón por la que Intel Labs implementó el prototipo en Sandia.

"Comprender las limitaciones, especialmente a nivel de hardware, es una parte muy importante para lanzar estos sistemas", dijo Davies. "Podemos solucionar los problemas de hardware, podemos mejorarlo, pero necesitamos saber en qué dirección optimizar".

Esta no sería la primera vez que los expertos de Sandia ponen sus manos en la tecnología neuromórfica de Intel. en un papel publicado A principios de 2022, los investigadores descubrieron que la tecnología tenía potencial para HPC e IA. Sin embargo, esos experimentos utilizaron chips Loihi de primera generación de Intel, que tienen aproximadamente una octava parte de las neuronas (128,000 frente a 1 millón) de su sucesor. ®

• Distribución de relaciones públicas y contenido potenciado por SEO. Consiga amplificado hoy.
• PlatoData.Network Vertical Generativo Ai. Empodérate. Accede Aquí.
• PlatoAiStream. Inteligencia Web3. Conocimiento amplificado. Accede Aquí.
• PlatoESG. Carbón, tecnología limpia, Energía, Ambiente, Solar, Gestión de residuos. Accede Aquí.
• PlatoSalud. Inteligencia en Biotecnología y Ensayos Clínicos. Accede Aquí.
• Fuente: https://go.theregister.com/feed/www.theregister.com/2024/04/17/intel_hala_point_neuromorphic/