Intel Labs a dévoilé mercredi son plus grand ordinateur neuromorphique, un système de 1.15 milliard de neurones, qui, selon lui, est à peu près analogue au cerveau d'un hibou.

Mais ne vous inquiétez pas, Intel n'a pas recréé celui de Fallout. Cerveau-robot. Au lieu d'un réseau de neurones et de synapses organiques, Hala Point d'Intel les émule tous dans du silicium.

À environ 20 W, notre cerveau est étonnamment efficace pour traiter les grandes quantités d’informations provenant de chacun de nos sens à tout moment. Le domaine de la neuromorphique, qu'Intel et IBM ont exploré ces dernières années, vise à émuler le réseau de neurones et de synapses du cerveau pour construire des ordinateurs capables de traiter l'information plus efficacement que les accélérateurs traditionnels.

Quelle efficacité ? Selon Intel, son dernier système, un boîtier 6U de la taille d'un micro-ondes qui consomme 2,600 15 W, serait capable d'atteindre des efficacités de réseau neuronal allant jusqu'à 8 TOPS/W avec une précision de 200 bits. Pour mettre cela en perspective, le système le plus puissant de Nvidia, le GB72 NVLXNUMX basé à Blackwell, qui n'a même pas encore été livré, gère seulement 6 TOPS/W à INT8, alors que ses systèmes DGX H100 actuels peuvent gérer environ 3.1 TOPS/W.

Des chercheurs des Sandia National Labs prennent livraison de l'ordinateur neuromorphique Hala Point d'Intel doté de 1.15 milliard de neurones – cliquez pour agrandir

Cette performance est obtenue grâce à 1,152 2 processeurs Loihi 1.15 d'Intel, qui sont assemblés dans une grille tridimensionnelle pour un total de 128 milliard de neurones, 140,544 milliards de synapses, 2,300 86 cœurs de traitement et XNUMX XNUMX cœurs xXNUMX intégrés qui gèrent les calculs auxiliaires nécessaires à continuez à avancer.

Pour être clair, ce ne sont pas des cœurs x86 typiques. « Ce sont de petits cœurs x86 très, très simples. Ils ne ressemblent en rien à nos derniers cœurs ou processeurs Atom », a déclaré Mike Davies, directeur de l'informatique neuromorphique chez Intel. Le registre.

Si Loihi 2 vous dit quelque chose, c'est que la puce a été frapper partout depuis un certain temps déjà, après avoir fait ses débuts en 2021 en tant que l'une des premières puces produites à l'aide de la technologie de processus 7 nm d'Intel.

Malgré leur âge, Intel affirme que les systèmes basés sur Loihi sont capables de résoudre certains problèmes d'inférence et d'optimisation de l'IA jusqu'à 50 fois plus rapidement que les architectures CPU et GPU conventionnelles tout en consommant 100 fois moins d'énergie. Ces chiffres semblent avoir été atteint [PDF] en opposant une seule puce Loihi 2 au minuscule Jetson Orin Nano de Nvidia et à un processeur Core i9 i9-7920X.

Ne jetez pas encore vos GPU

Même si cela peut paraître impressionnant, Davies admet que ses accélérateurs neuromorphiques ne sont pas encore prêts à remplacer les GPU pour chaque charge de travail. "Il ne s'agit en aucun cas d'un accélérateur d'IA à usage général", a-t-il déclaré.

D’une part, sans doute l’application la plus populaire de l’IA, les grands modèles linguistiques (LLM) qui alimentent des applications comme ChatGPT, ne fonctionneront pas sur Hala Point, du moins pas encore.

«Nous ne cartographions aucun LLM sur Hala Point pour le moment. Nous ne savons pas comment faire cela. Franchement, le domaine de la recherche neuromorphique ne dispose pas de version neuromorphique du transformateur », a déclaré Davies, soulignant qu'il existe des recherches intéressantes sur la manière d'y parvenir.

Cela dit, l'équipe de Davies a réussi à exploiter des réseaux neuronaux profonds traditionnels, un perceptron multicouche, sur Hala Point, avec quelques réserves.

"Si vous parvenez à disperser l'activité du réseau et la conductivité de ce réseau, vous pourrez alors réaliser des gains vraiment très importants", a-t-il déclaré. "Cela signifie qu'il doit traiter un signal d'entrée continu… un flux vidéo ou un flux audio, quelque chose où il existe une certaine corrélation d'un échantillon à l'autre."

Intel Labs a démontré le potentiel de Loihi 2 pour le traitement vidéo et audio dans un article publié [PDF] à la fin de l'année dernière. Lors des tests, ils ont constaté que la puce permettait d'obtenir des gains significatifs en termes d'efficacité énergétique, de latence et de débit pour le traitement du signal, dépassant parfois trois ordres de grandeur, par rapport aux architectures conventionnelles. Cependant, les gains les plus importants se sont produits au détriment d’une précision moindre.

La capacité de traiter des données en temps réel avec une faible consommation et une faible latence a rendu cette technologie attrayante pour des applications telles que les véhicules autonomes, les drones et la robotique.

Un autre cas d'utilisation prometteur concerne les problèmes d'optimisation combinatoire, comme la planification d'itinéraire pour un véhicule de livraison, qui doit circuler dans un centre-ville animé.

Ces charges de travail sont incroyablement complexes à résoudre, car de petits changements tels que la vitesse des véhicules, les accidents et les fermetures de voies doivent être pris en compte à la volée. Les architectures informatiques conventionnelles ne sont pas bien adaptées à ce type de complexité exponentielle, c'est pourquoi nous avons vu tant de fournisseurs d'informatique quantique ciblage problèmes d'optimisation.

Cependant, Davies affirme que la plate-forme informatique neuromorphique d'Intel est « bien plus mature que ces autres alternatives de recherche expérimentale ».

Pièce pour grandir

Selon Davies, il reste encore beaucoup de marge à débloquer. "Je suis triste de dire qu'elle n'est même pas pleinement exploitée à ce jour en raison de limitations logicielles", a-t-il déclaré à propos des puces Loihi 2.

L'identification des goulots d'étranglement matériels et des optimisations logicielles est en partie la raison pour laquelle Intel Labs a déployé le prototype chez Sandia.

"Comprendre les limites, en particulier au niveau matériel, est un élément très important pour commercialiser ces systèmes", a déclaré Davies. "Nous pouvons résoudre les problèmes matériels, nous pouvons l'améliorer, mais nous devons savoir dans quelle direction optimiser."

Ce ne serait pas la première fois que les boffins de Sandia mettent la main sur la technologie neuromorphique d'Intel. Dans un papier publié début 2022, les chercheurs ont découvert que cette technologie avait du potentiel pour le HPC et l’IA. Cependant, ces expériences ont utilisé les puces Loihi de première génération d'Intel, qui possèdent environ un huitième de neurones (128,000 1 contre XNUMX million) de son successeur. ®

• Contenu propulsé par le référencement et distribution de relations publiques. Soyez amplifié aujourd'hui.
• PlatoData.Network Ai générative verticale. Autonomisez-vous. Accéder ici.
• PlatoAiStream. Intelligence Web3. Connaissance Amplifiée. Accéder ici.
• PlatonESG. Carbone, Technologie propre, Énergie, Environnement, Solaire, La gestion des déchets. Accéder ici.
• PlatoHealth. Veille biotechnologique et essais cliniques. Accéder ici.
• La source: https://go.theregister.com/feed/www.theregister.com/2024/04/17/intel_hala_point_neuromorphic/