Intel Labs onthulde woensdag zijn grootste neuromorfe computer, een systeem van 1.15 miljard neuronen, dat volgens hem grofweg analoog is aan de hersenen van een uil.

Maar maak je geen zorgen, Intel heeft Fallout niet opnieuw gemaakt Robotbrein. In plaats van een netwerk van organische neuronen en synapsen emuleert Intel's Hala Point ze allemaal in silicium.

Met een vermogen van ongeveer 20 W zijn onze hersenen verrassend efficiënt in het verwerken van de grote hoeveelheden informatie die op elk moment vanuit elk van de zintuigen binnenstroomt. Het vakgebied van de neuromorfologie, dat Intel en IBM de afgelopen jaren hebben onderzocht, heeft tot doel het hersennetwerk van neuronen en synapsen te emuleren om computers te bouwen die informatie efficiënter kunnen verwerken dan traditionele versnellers.

Hoe efficiënt? Volgens Intel kan het nieuwste systeem, een 6U-box die ongeveer zo groot is als een magnetron en 2,600 W verbruikt, diepe neurale netwerkefficiënties bereiken tot wel 15 TOPS/W bij 8-bit precisie. Om dat in perspectief te plaatsen: het krachtigste systeem van Nvidia, de op Blackwell gebaseerde GB200 NVL72, die nog niet eens op de markt moet worden gebracht, beheert slechts 6 TOPS/W bij INT8, terwijl de huidige DGX H100-systemen ongeveer 3.1 TOPS/W kunnen beheren.

Onderzoekers van Sandia National Labs nemen Intel's Hala Point neuromorfe computer met 1.15 miljard neuronen in ontvangst - klik om te vergroten

Deze prestatie wordt bereikt met behulp van 1,152 Loihi 2-processors van Intel, die aan elkaar zijn geplakt in een driedimensionaal raster voor in totaal 1.15 miljard neuronen, 128 miljard synapsen, 140,544 verwerkingskernen en 2,300 ingebedde x86-kernen die de aanvullende berekeningen uitvoeren die nodig zijn om laat het ding maar doorslingeren.

Voor alle duidelijkheid: dit zijn geen typische x86-cores. “Het zijn heel, heel eenvoudige, kleine x86-kernen. Ze lijken in niets op onze nieuwste cores of Atom-processors”, zegt Mike Davies, directeur neuromorphic computing bij Intel. Het register.

Als Loihi 2 een belletje doet rinkelen, komt dat doordat de chip is geplaatst rondkloppen maakte al een tijdje zijn debuut in 2021 als een van de eerste chips die werd geproduceerd met behulp van Intel's 7nm-procestechnologie.

Ondanks hun leeftijd zegt Intel dat de op Loihi gebaseerde systemen in staat zijn om bepaalde AI-gevolgtrekkings- en optimalisatieproblemen maar liefst 50x sneller op te lossen dan conventionele CPU- en GPU-architecturen, terwijl ze 100x minder stroom verbruiken. Die cijfers lijken te zijn geweest bereikt [PDF] door een enkele Loihi 2-chip te plaatsen in Nvidia's kleine Jetson Orin Nano en een Core i9 i9-7920X CPU.

Gooi uw GPU's nog niet weg

Hoewel dat misschien indrukwekkend klinkt, geeft Davies toe dat zijn neuromorfe versnellers nog niet klaar zijn om GPU's voor elke werklast te vervangen. “Dit is op geen enkele manier een AI-versneller voor algemene doeleinden”, zei hij.

Ten eerste zullen misschien wel de populairste applicatie van AI, de grote taalmodellen (LLM's) die apps als ChatGPT aandrijven, niet op Hala Point draaien, althans nog niet.

“We brengen op dit moment geen LLM in kaart voor Hala Point. Wij weten niet hoe we dat moeten doen. Eerlijk gezegd beschikt het neuromorfe onderzoeksveld niet over een neuromorfe versie van de transformator,” zei Davies, erop wijzend dat er interessant onderzoek bestaat naar hoe dat kan worden bereikt.

Dat gezegd hebbende, heeft het team van Davies succes gehad met het runnen van traditionele diepe neurale netwerken, een meerlaags perceptron, op Hala Point, met enkele kanttekeningen.

"Als je de netwerkactiviteit en de geleidbaarheid in dat netwerk kunt verminderen, kun je echt heel grote winsten behalen", zei hij. "Wat dat betekent is dat het een continu ingangssignaal moet verwerken... een videostream of een audiostream, iets waarbij er enige correlatie bestaat van sample tot sample tot sample."

Intel Labs demonstreerde het potentieel van Loihi 2 voor video- en audioverwerking in een paper gepubliceerde [PDF] eind vorig jaar. Bij het testen ontdekten ze dat de chip aanzienlijke winsten behaalde op het gebied van energie-efficiëntie, latentie en doorvoer voor signaalverwerking, soms meer dan drie ordes van grootte, vergeleken met conventionele architecturen. De grootste winst ging echter ten koste van de lagere nauwkeurigheid.

De mogelijkheid om realtime gegevens te verwerken met een laag vermogen en een lage latentie heeft de technologie aantrekkelijk gemaakt voor toepassingen zoals autonome voertuigen, drones en robotica.

Een ander gebruiksvoorbeeld dat veelbelovend is gebleken, zijn combinatorische optimalisatieproblemen, zoals de routeplanning voor een bestelwagen, die door een druk stadscentrum moet navigeren.

Deze werklasten zijn ongelooflijk complex om op te lossen, omdat er direct rekening moet worden gehouden met kleine veranderingen, zoals voertuigsnelheid, ongevallen en het afsluiten van rijstroken. Conventionele computerarchitecturen zijn niet goed geschikt voor dit soort exponentiële complexiteit, en daarom hebben we zoveel leveranciers van kwantumcomputers gezien targeting optimalisatie problemen.

Davies stelt echter dat het neuromorfe computerplatform van Intel “veel volwassener is dan deze andere experimentele onderzoeksalternatieven.”

Ruimte om te groeien

Volgens Davies is er ook nog steeds voldoende hoofdruimte om te ontgrendelen. "Het spijt me te moeten zeggen dat het tot op de dag van vandaag niet eens volledig wordt benut vanwege softwarebeperkingen", zei hij over de Loihi 2-chips.

Het identificeren van hardwareknelpunten en software-optimalisaties is een van de redenen waarom Intel Labs het prototype bij Sandia heeft ingezet.

"Het begrijpen van de beperkingen, vooral op hardwareniveau, is een zeer belangrijk onderdeel van het op de markt brengen van deze systemen", aldus Davies. “We kunnen de hardwareproblemen oplossen, we kunnen deze verbeteren, maar we moeten weten welke richting we moeten optimaliseren.”

Dit zou niet de eerste keer zijn dat Sandia-experts de neuromorfe technologie van Intel in handen krijgen. In een papier gepubliceerde Begin 2022 ontdekten onderzoekers dat de technologie potentieel had voor HPC en AI. Bij die experimenten werd echter gebruik gemaakt van Intel's Loihi-chips van de eerste generatie, die ongeveer een achtste van de neuronen (128,000 versus 1 miljoen) van zijn opvolger hebben. ®

• Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
• PlatoData.Network Verticale generatieve AI. Versterk jezelf. Toegang hier.
• PlatoAiStream. Web3-intelligentie. Kennis versterkt. Toegang hier.
• PlatoESG. carbon, CleanTech, Energie, Milieu, Zonne, Afvalbeheer. Toegang hier.
• Plato Gezondheid. Intelligentie op het gebied van biotech en klinische proeven. Toegang hier.
• Bron: https://go.theregister.com/feed/www.theregister.com/2024/04/17/intel_hala_point_neuromorphic/