Intel Labs paljasti keskiviikkona suurimman neuromorfisen tietokoneensa, 1.15 miljardin neuronijärjestelmän, jonka se sanoo olevan suunnilleen analoginen pöllön aivoille.

Mutta älä huoli, Intel ei ole luonut Falloutia uudelleen Robobrain. Orgaanisten neuronien ja synapsien verkoston sijaan Intelin Hala Point emuloi niitä kaikkia piissä.

Noin 20 watin teholla aivomme ovat yllättävän tehokkaita käsittelemään suuria määriä tietoa, joka virtaa jokaisesta aistista kulloinkin. Neuromorfiikan alalla, jota Intel ja IBM ovat tutkineet viime vuodet, pyritään jäljittelemään aivojen hermosolujen ja synapsien verkostoa ja rakentamaan tietokoneita, jotka pystyvät käsittelemään tietoa tehokkaammin kuin perinteiset kiihdytit.

Kuinka tehokas? Intelin mukaan sen uusin järjestelmä, suunnilleen mikroaaltouunin kokoinen 6U:n laatikko, joka kuluttaa 2,600 15 wattia, voi saavuttaa syvän neuroverkon tehokkuuden jopa 8 TOPS/W 200 bitin tarkkuudella. Tarkasteltaessa tätä Nvidian tehokkain järjestelmä, Blackwell-pohjainen GB72 NVLXNUMX, jota ei ole vielä edes toimitettu, hallinnoi vain 6 TOPS/W INT8:ssa, kun taas sen nykyiset DGX H100 -järjestelmät pystyvät hallitsemaan noin 3.1 TOPS/W.

Sandia National Labsin tutkijat ottavat vastaan ​​Intelin 1.15 miljardin neuronin Hala Pointin neuromorfisen tietokoneen – napsauta suurentaaksesi

Tämä suorituskyky saavutetaan käyttämällä 1,152 2 Intelin Loihi 1.15 -prosessoria, jotka on liitetty yhteen kolmiulotteiseksi ruudukoksi yhteensä 128 miljardia neuronia, 140,544 miljardia synapsia, 2,300 86 prosessointiydintä ja XNUMX XNUMX sulautettua xXNUMX ydintä, jotka käsittelevät tarvittavia lisätoimintoja. jatka hommaa.

Selvyyden vuoksi ne eivät ole tyypillisiä x86-ytimiä. "Ne ovat hyvin, hyvin yksinkertaisia, pieniä x86-ytimiä. Ne eivät ole mitään niin kuin uusimmat ytimemme tai Atom-prosessorimme", Intelin neuromorfisen laskennan johtaja Mike Davies kertoi. Rekisteri.

Jos Loihi 2 soittaa kelloa, se johtuu siitä, että siru on ollut koputtaa ympäriinsä on jo jonkin aikaa tehnyt debyyttinsä vuonna 2021 yhtenä ensimmäisistä Intelin 7nm prosessitekniikalla tuotetuista siruista.

Iästään huolimatta Intel sanoo, että Loihi-pohjaiset järjestelmät pystyvät ratkaisemaan tiettyjä tekoälyn päättely- ja optimointiongelmia jopa 50 kertaa nopeammin kuin perinteiset prosessori- ja grafiikkasuoritinarkkitehtuurit kuluttaen samalla 100 kertaa vähemmän virtaa. Nuo luvut näyttävät olleen saavutettu [PDF] yhdistämällä yksi Loihi 2 -siru Nvidian pieneen Jetson Orin Nanoon ja Core i9 i9-7920X -suorittimeen.

Älä heitä GPU:ta vielä pois

Vaikka tämä saattaa kuulostaa vaikuttavalta, Davies myöntää, että sen neuromorfiset kiihdyttimet eivät ole vielä valmiita korvaamaan GPU:ita jokaisessa työkuormassa. "Tämä ei ole millään tavalla yleiskäyttöinen AI-kiihdytin", hän sanoi.

Yhdessä, luultavasti tekoälyn suosituimmassa sovelluksessa, ChatGPT:n kaltaisia ​​suuria kielimalleja (LLM) käyttävät sovellukset eivät toimi Hala Pointissa, ainakaan vielä.

"Emme kartoita yhtään LLM:ää Hala Pointiin tällä hetkellä. Emme tiedä, miten se tehdään. Suoraan sanottuna neuromorfisella tutkimuskentällä ei ole muuntajan neuromorfista versiota", Davies sanoi ja huomautti, että on olemassa mielenkiintoista tutkimusta siitä, miten se voidaan saavuttaa.

Daviesin tiimi on kuitenkin onnistunut ajamaan perinteisiä syviä hermoverkkoja, monikerroksista perceptronia, Hala Pointissa muutamin varoin.

"Jos voit harventaa verkon toimintaa ja johtavuutta kyseisessä verkossa, silloin voit saavuttaa todella, todella suuria voittoja", hän sanoi. "Se tarkoittaa, että sen on käsiteltävä jatkuvaa tulosignaalia… video- tai äänivirtaa, jotain, jossa on jonkin verran korrelaatiota näytteestä näytteeseen."

Intel Labs osoitti paperilla Loihi 2:n mahdollisuudet videon ja äänen käsittelyyn julkaistu [PDF] viime vuoden lopulla. Testauksessa he havaitsivat, että siru saavutti merkittäviä parannuksia energiatehokkuudessa, latenssissa ja signaalinkäsittelyn suorituskyvyssä, joskus yli kolme suuruusluokkaa verrattuna perinteisiin arkkitehtuureihin. Kuitenkin suurimmat voitot tulivat alhaisemman tarkkuuden kustannuksella.

Kyky käsitellä reaaliaikaista dataa alhaisella teholla ja viiveellä on tehnyt tekniikasta houkuttelevan sovelluksissa, kuten autonomisissa ajoneuvoissa, droneissa ja robotiikassa.

Toinen lupaava käyttötapaus on kombinatoriset optimointiongelmat, kuten reitin suunnittelu jakeluautolle, jonka on navigoitava vilkkaassa kaupungin keskustassa.

Nämä työmäärät ovat uskomattoman monimutkaisia ​​ratkaistavissa, koska pienet muutokset, kuten ajoneuvon nopeus, onnettomuudet ja kaistansulut, on otettava huomioon lennossa. Perinteiset laskentaarkkitehtuurit eivät sovellu hyvin tällaiseen eksponentiaaliseen monimutkaisuuteen, minkä vuoksi olemme nähneet niin monia kvanttilaskentatoimittajia. kohdistaminen optimointiongelmia.

Davies kuitenkin väittää, että Intelin neuromorfinen laskenta-alusta on "paljon kypsempi kuin nämä muut kokeelliset tutkimusvaihtoehdot".

Tilaa kasvaa

Daviesin mukaan päätilaa on vielä runsaasti auki. "Olen surullinen todeta, että sitä ei ole vieläkään täysin hyödynnetty ohjelmistorajoitusten vuoksi", hän sanoi Loihi 2 -siruista.

Laitteiston pullonkaulojen ja ohjelmistojen optimoinnin tunnistaminen on osa syytä, miksi Intel Labs on ottanut prototyypin käyttöön Sandiassa.

"Rajoitusten ymmärtäminen, erityisesti laitteistotasolla, on erittäin tärkeä osa näiden järjestelmien saattamista käyttöön", Davies sanoi. "Voimme korjata laitteisto-ongelmat, voimme parantaa sitä, mutta meidän on tiedettävä, mihin suuntaan optimoida."

Tämä ei olisi ensimmäinen kerta, kun Sandia-boffinit ovat saaneet käsiinsä Intelin neuromorfiseen tekniikkaan. Lehdessä julkaistu Vuoden 2022 alussa tutkijat havaitsivat, että tekniikalla on potentiaalia HPC:lle ja tekoälylle. Näissä kokeissa käytettiin kuitenkin Intelin ensimmäisen sukupolven Loihi-siruja, joilla on noin kahdeksasosa sen seuraajan neuroneista (128,000 1 vs. XNUMX miljoonaa). ®

• SEO-pohjainen sisällön ja PR-jakelu. Vahvista jo tänään.
• PlatoData.Network Vertical Generatiivinen Ai. Vahvista itseäsi. Pääsy tästä.
• PlatoAiStream. Web3 Intelligence. Tietoa laajennettu. Pääsy tästä.
• PlatoESG. hiili, CleanTech, energia, ympäristö, Aurinko, Jätehuolto. Pääsy tästä.
• PlatonHealth. Biotekniikan ja kliinisten kokeiden älykkyys. Pääsy tästä.
• Lähde: https://go.theregister.com/feed/www.theregister.com/2024/04/17/intel_hala_point_neuromorphic/