Intel Labs a dezvăluit miercuri cel mai mare computer neuromorf al său, un sistem de neuroni de 1.15 miliarde, despre care spune că este aproximativ analog cu creierul unei bufnițe.

Dar nu vă faceți griji, Intel nu a recreat-o pe Fallout Robbrain. În loc de o rețea de neuroni organici și sinapse, Hala Point de la Intel le emulează pe toate în siliciu.

La aproximativ 20 W, creierul nostru este surprinzător de eficient în procesarea cantităților mari de informații care provin din fiecare simț în orice moment. Domeniul neuromorfismului, pe care Intel și IBM au petrecut-o în ultimii ani, își propune să emuleze rețeaua de neuroni și sinapse a creierului pentru a construi computere capabile să proceseze informații mai eficient decât acceleratoarele tradiționale.

Cât de eficient? Potrivit Intel, cel mai recent sistem al său, o cutie de 6U de dimensiunea aproximativă a unui cuptor cu microunde care consumă 2,600 W, poate atinge eficiențe profunde ale rețelei neuronale de până la 15 TOPS/W la o precizie de 8 biți. Pentru a pune asta în perspectivă, cel mai puternic sistem Nvidia, GB200 NVL72 bazat pe Blackwell, care încă nu a fost livrat, gestionează doar 6 TOPS/W la INT8, în timp ce sistemele sale actuale DGX H100 pot gestiona aproximativ 3.1 TOPS/W.

Cercetătorii de la Sandia National Labs preiau computerul neuromorf Hala Point de la Intel cu 1.15 miliarde de neuroni – faceți clic pentru a mări

Această performanță este obținută folosind 1,152 de procesoare Intel Loihi 2, care sunt legate împreună într-o grilă tridimensională pentru un total de 1.15 miliarde de neuroni, 128 de miliarde de sinapse, 140,544 de nuclee de procesare și 2,300 de nuclee x86 încorporate care se ocupă de calculele auxiliare necesare. ține chestia să râdă.

Pentru a fi clar, acestea nu sunt nuclee x86 tipice. „Sunt nuclee x86 foarte, foarte simple, mici. Nu seamănă cu cele mai recente nuclee ale noastre sau cu procesoarele Atom”, a declarat Mike Davies, director de calcul neuromorfic la Intel. Registrul.

Dacă Loihi 2 sună, asta pentru că cipul a fost ciocănind de ceva vreme și-a făcut debutul în 2021 ca unul dintre primele cipuri produse folosind tehnologia de proces de 7 nm de la Intel.

În ciuda vechimii sale, Intel spune că sistemele bazate pe Loihi sunt capabile să rezolve anumite probleme de inferență și optimizare AI cu până la 50 de ori mai rapid decât arhitecturile convenționale CPU și GPU, consumând în același timp de 100 de ori mai puțină energie. Aceste numere par să fi fost realizat [PDF] prin introducerea unui singur cip Loihi 2 la micul Jetson Orin Nano de la Nvidia și un procesor Core i9 i9-7920X.

Nu vă aruncați încă GPU-urile

Deși asta ar putea suna impresionant, Davies admite că acceleratorii săi neuromorfi nu sunt încă pregătiți să înlocuiască GPU-urile pentru fiecare sarcină de lucru. „Acesta nu este în niciun caz un accelerator AI de uz general”, a spus el.

În primul rând, probabil cea mai populară aplicație a AI, modelele mari de limbaj (LLM) care alimentează aplicații precum ChatGPT, nu vor rula pe Hala Point, cel puțin nu încă.

„Nu cartografiem niciun LLM la Hala Point în acest moment. Nu știm cum să facem asta. Sincer, domeniul de cercetare neuromorfă nu are o versiune neuromorfă a transformatorului”, a spus Davies, menționând că există unele cercetări interesante despre cum ar putea fi realizat acest lucru.

Acestea fiind spuse, echipa lui Davies a avut succes în rularea rețelelor neuronale profunde tradiționale, un perceptron cu mai multe straturi, pe Hala Point, cu câteva avertismente.

„Dacă puteți sparsifica activitatea rețelei și conductivitatea în acea rețea, atunci puteți obține câștiguri foarte, foarte mari”, a spus el. „Ceea ce înseamnă asta este că trebuie să proceseze un semnal de intrare continuu... un flux video sau un flux audio, ceva în care există o anumită corelație de la probă la probă la probă.”

Intel Labs a demonstrat potențialul Loihi 2 pentru procesarea video și audio într-o lucrare publicat [PDF] la sfârșitul anului trecut. În timpul testării, au descoperit că cipul a obținut câștiguri semnificative în ceea ce privește eficiența energetică, latența și debitul pentru procesarea semnalului, depășind uneori trei ordine de mărime, în comparație cu arhitecturile convenționale. Cu toate acestea, cele mai mari câștiguri au venit în detrimentul unei precizii mai scăzute.

Capacitatea de a procesa date în timp real la putere și latență reduse a făcut tehnologia atractivă pentru aplicații precum vehicule autonome, drone și robotică.

Un alt caz de utilizare care se arată promițător este problemele de optimizare combinatorie, cum ar fi planificarea rutei pentru un vehicul de livrare, care trebuie să navigheze într-un centru aglomerat al orașului.

Aceste sarcini de lucru sunt incredibil de complexe de rezolvat, deoarece micile schimbări, cum ar fi viteza vehiculului, accidentele și închiderea benzilor, trebuie luate în considerare din mers. Arhitecturile de calcul convenționale nu sunt potrivite pentru acest tip de complexitate exponențială, motiv pentru care am văzut atât de mulți furnizori de calcul cuantic direcționare probleme de optimizare.

Cu toate acestea, Davies susține că platforma de calcul neuromorfă a Intel este „mult mai matură decât aceste alte alternative de cercetare experimentală”.

Cameră pentru a crește

Potrivit lui Davies, mai există încă mult spațiu de deblocat. „Sunt trist să spun că nici măcar nu este exploatat pe deplin până în prezent din cauza limitărilor software”, a spus el despre cipurile Loihi 2.

Identificarea blocajelor hardware și a optimizărilor software este o parte din motivul pentru care Intel Labs a implementat prototipul la Sandia.

„Înțelegerea limitărilor, în special la nivel de hardware, este o parte foarte importantă a implementării acestor sisteme”, a spus Davies. „Putem remedia problemele hardware, le putem îmbunătăți, dar trebuie să știm în ce direcție să optimizăm.”

Aceasta nu ar fi prima dată când Sandia boffins pun mâna pe tehnologia neuromorfă Intel. Într-o hârtie publicat la începutul anului 2022, cercetătorii au descoperit că tehnologia avea potențial pentru HPC și AI. Cu toate acestea, acele experimente au folosit cipurile Intel Loihi de prima generație, care au aproximativ o optume din neuronii (128,000 față de 1 milion) față de succesorul său. ®

• Distribuție de conținut bazat pe SEO și PR. Amplifică-te astăzi.
• PlatoData.Network Vertical Generative Ai. Împuterniciți-vă. Accesați Aici.
• PlatoAiStream. Web3 Intelligence. Cunoștințe amplificate. Accesați Aici.
• PlatoESG. carbon, CleanTech, Energie, Mediu inconjurator, Solar, Managementul deșeurilor. Accesați Aici.
• PlatoHealth. Biotehnologie și Inteligență pentru studii clinice. Accesați Aici.
• Sursa: https://go.theregister.com/feed/www.theregister.com/2024/04/17/intel_hala_point_neuromorphic/