Intel Labs je v sredo razkril svoj največji nevromorfni računalnik, sistem z 1.15 milijarde nevronov, za katerega pravi, da je približno podoben možganom sove.

A ne skrbite, Intel ni poustvaril Fallouta Robobrain. Namesto mreže organskih nevronov in sinaps jih Intelova Hala Point vse posnema v siliciju.

Pri približno 20 W so naši možgani presenetljivo učinkoviti pri obdelavi velikih količin informacij, ki pritekajo iz vsakega od čutil v danem trenutku. Področje nevromorfike, ki sta ga Intel in IBM raziskovala zadnjih nekaj let, si prizadeva posnemati možgansko mrežo nevronov in sinaps, da bi zgradili računalnike, ki so sposobni obdelave informacij učinkoviteje kot tradicionalni pospeševalniki.

Kako učinkovito? Po mnenju Intela lahko njegov najnovejši sistem, škatla 6U, približno velika kot mikrovalovna pečica, ki porabi 2,600 W, domnevno doseže globoko učinkovitost nevronske mreže do 15 TOPS/W pri 8-bitni natančnosti. Če pogledamo to v perspektivo, Nvidijin najzmogljivejši sistem, GB200 NVL72 na osnovi Blackwella, ki še ni bil dostavljen, upravlja samo 6 TOPS/W pri INT8, medtem ko lahko njegovi trenutni sistemi DGX H100 upravljajo približno 3.1 TOPS/W.

Raziskovalci v Sandia National Labs prevzamejo Intelov nevromorfni računalnik Hala Point z 1.15 milijarde nevronov – kliknite za povečavo

Ta zmogljivost je dosežena z uporabo 1,152 Intelovih procesorjev Loihi 2, ki so povezani v tridimenzionalno mrežo za skupno 1.15 milijarde nevronov, 128 milijard sinaps, 140,544 procesorskih jeder in 2,300 vgrajenih jeder x86, ki upravljajo s pomožnimi izračuni, potrebnimi za obdrži stvar.

Da bo jasno, to niso tipična jedra x86. »So zelo, zelo preprosta, majhna jedra x86. Niso podobni našim najnovejšim jedrom ali procesorjem Atom,« je povedal Mike Davies, direktor nevromorfnega računalništva pri Intelu. Register.

Če Loihi 2 zazvoni, je to zato, ker je bil čip trkanje okoli že nekaj časa je debitiral leta 2021 kot eden prvih čipov, izdelanih z uporabo Intelove 7nm procesne tehnologije.

Kljub svoji starosti Intel pravi, da so sistemi, ki temeljijo na Loihiju, sposobni rešiti določene težave z umetno inteligenco in optimizacijo do 50-krat hitreje kot običajne arhitekture CPE in GPE, medtem ko porabijo 100-krat manj energije. Zdi se, da so bile te številke doseže [PDF] s postavitvijo enega samega čipa Loihi 2 proti Nvidijinemu majhnemu Jetson Orin Nano in procesorju Core i9 i9-7920X.

Ne zavrzite še svojih grafičnih procesorjev

Čeprav se to morda sliši impresivno, Davies priznava, da njegovi nevromorfni pospeševalniki še niso pripravljeni nadomestiti grafičnih procesorjev za vsako delovno obremenitev. "To nikakor ni splošni pospeševalnik AI," je dejal.

Za eno, verjetno najbolj priljubljeno aplikacijo AI, veliki jezikovni modeli (LLM), ki poganjajo aplikacije, kot je ChatGPT, ne bodo delovali na Hala Point, vsaj še ne.

»Trenutno ne preslikavamo nobenega LLM na Hala Point. Ne vemo, kako to narediti. Odkrito povedano, nevromorfno raziskovalno področje nima nevromorfne različice transformatorja,« je dejal Davies in opozoril, da obstaja nekaj zanimivih raziskav o tem, kako bi to lahko dosegli.

Ob tem je Daviesova ekipa uspešno izvajala tradicionalne globoke nevronske mreže, večplastni perceptron, na Hala Pointu z nekaterimi opozorili.

"Če lahko zmanjšate omrežno aktivnost in prevodnost v tem omrežju, lahko takrat dosežete res, res velike dobičke," je dejal. "To pomeni, da mora obdelovati neprekinjen vhodni signal ... video tok ali zvočni tok, nekaj, kjer je nekaj korelacije od vzorca do vzorca do vzorca."

Intel Labs je v članku prikazal potencial Loihi 2 za obdelavo videa in zvoka objavljeno [PDF] konec lanskega leta. Pri testiranju so ugotovili, da je čip dosegel znatne izboljšave pri energetski učinkovitosti, zakasnitvi in ​​prepustnosti za obdelavo signalov, ki včasih presegajo tri velikosti v primerjavi s konvencionalnimi arhitekturami. Vendar pa so največji dobički prišli na račun manjše natančnosti.

Zmožnost obdelave podatkov v realnem času z nizko porabo energije in zakasnitvijo je naredila tehnologijo privlačno za aplikacije, kot so avtonomna vozila, brezpilotna letala in robotika.

Drug primer uporabe, ki je obetaven, so težave s kombinatorično optimizacijo, kot je načrtovanje poti za dostavno vozilo, ki mora krmariti po prometnem mestnem središču.

Te delovne obremenitve so izjemno zapletene za reševanje, saj je treba sproti upoštevati majhne spremembe, kot so hitrost vozila, nesreče in zapore voznih pasov. Običajne računalniške arhitekture niso najbolj primerne za to vrsto eksponentne kompleksnosti, zato smo videli toliko prodajalcev kvantnega računalništva ciljanje težave z optimizacijo.

Vendar pa Davies trdi, da je Intelova nevromorfna računalniška platforma "veliko bolj zrela od teh drugih eksperimentalnih raziskovalnih alternativ."

Soba za rast

Po Daviesovih besedah ​​je še vedno dovolj prostora za glavo. "Žalostno moram reči, da še danes ni v celoti izkoriščen zaradi programskih omejitev," je dejal o čipih Loihi 2.

Prepoznavanje ozkih grl strojne opreme in optimizacija programske opreme je del razloga, zakaj je Intel Labs uvedel prototip v Sandia.

"Razumevanje omejitev, zlasti na ravni strojne opreme, je zelo pomemben del za uvedbo teh sistemov tam," je dejal Davies. "Težave s strojno opremo lahko odpravimo, lahko jo izboljšamo, vendar moramo vedeti, v katero smer optimizirati."

To ne bi bilo prvič, da bi Sandia boffins dobila v roke Intelovo nevromorfno tehnologijo. V papirju objavljeno v začetku leta 2022 so raziskovalci ugotovili, da ima tehnologija potencial za HPC in AI. Vendar so ti poskusi uporabili Intelovo prvo generacijo čipov Loihi, ki imajo približno osmino nevronov (128,000 proti 1 milijonu) svojega naslednika. ®

• Distribucija vsebine in PR s pomočjo SEO. Okrepite se še danes.
• PlatoData.Network Vertical Generative Ai. Opolnomočite se. Dostopite tukaj.
• PlatoAiStream. Web3 Intelligence. Razširjeno znanje. Dostopite tukaj.
• PlatoESG. Ogljik, CleanTech, Energija, Okolje, sončna energija, Ravnanje z odpadki. Dostopite tukaj.
• PlatoHealth. Obveščanje o biotehnologiji in kliničnih preskušanjih. Dostopite tukaj.
• vir: https://go.theregister.com/feed/www.theregister.com/2024/04/17/intel_hala_point_neuromorphic/