Mercoledì Intel Labs ha rivelato il suo più grande computer neuromorfico, un sistema di 1.15 miliardi di neuroni, che secondo lui è più o meno analogo al cervello di un gufo.

Ma non preoccuparti, Intel non ha ricreato Fallout Robobrain. Invece di una rete di neuroni e sinapsi organici, Hala Point di Intel li emula tutti in silicio.

A circa 20 W, il nostro cervello è sorprendentemente efficiente nell’elaborare le grandi quantità di informazioni che arrivano da ciascuno dei sensi in un dato momento. Il campo della neuromorfismo, esplorato da Intel e IBM negli ultimi anni, mira a emulare la rete di neuroni e sinapsi del cervello per costruire computer in grado di elaborare le informazioni in modo più efficiente rispetto agli acceleratori tradizionali.

Quanto è efficiente? Secondo Intel, il suo ultimo sistema, un box 6U delle dimensioni di un forno a microonde che consuma 2,600 W, può raggiungere efficienze di rete neurale profonde fino a 15 TOPS/W con una precisione a 8 bit. Per metterlo in prospettiva, il sistema più potente di Nvidia, il GB200 NVL72 basato su Blackwell, che deve ancora essere spedito, gestisce appena 6 TOPS/W a INT8, mentre i suoi attuali sistemi DGX H100 possono gestire circa 3.1 TOPS/W.

I ricercatori dei Sandia National Labs prendono in consegna il computer neuromorfico Hala Point di Intel da 1.15 miliardi di neuroni – fare clic per ingrandire

Questa prestazione è ottenuta utilizzando 1,152 processori Intel Loihi 2, uniti insieme in una griglia tridimensionale per un totale di 1.15 miliardi di neuroni, 128 miliardi di sinapsi, 140,544 core di elaborazione e 2,300 core x86 incorporati che gestiscono i calcoli ausiliari necessari per continua a far andare avanti la cosa.

Per essere chiari, questi non sono i tipici core x86. “Sono core x86 molto, molto semplici e piccoli. Non assomigliano per niente ai nostri ultimi core o processori Atom", ha detto Mike Davies, direttore del calcolo neuromorfico presso Intel. Il registro.

Se Loihi 2 ti dice qualcosa, è perché il chip è stato bussare in giro da tempo ha fatto il suo debutto nel 2021 come uno dei primi chip prodotti utilizzando la tecnologia di processo Intel a 7 nm.

Nonostante la loro età, Intel afferma che i sistemi basati su Loihi sono in grado di risolvere alcuni problemi di inferenza e ottimizzazione dell’intelligenza artificiale fino a 50 volte più velocemente rispetto alle architetture convenzionali di CPU e GPU, consumando 100 volte meno energia. Quei numeri sembrano essere stati raggiunto [PDF] abbinando un singolo chip Loihi 2 al minuscolo Jetson Orin Nano di Nvidia e una CPU Core i9 i9-7920X.

Non buttare ancora via le tue GPU

Sebbene ciò possa sembrare impressionante, Davies ammette che i suoi acceleratori neuromorfici non sono ancora pronti a sostituire le GPU per ogni carico di lavoro. “Questo non è in alcun modo un acceleratore di intelligenza artificiale per scopi generici”, ha affermato.

Per prima cosa, probabilmente l'applicazione più popolare dell'intelligenza artificiale, i modelli linguistici di grandi dimensioni (LLM) che alimentano app come ChatGPT, non funzioneranno su Hala Point, almeno non ancora.

“Al momento non stiamo mappando alcun LLM su Hala Point. Non sappiamo come farlo. Francamente, il campo di ricerca neuromorfica non dispone di una versione neuromorfica del trasformatore", ha affermato Davies, sottolineando che sono in corso alcune ricerche interessanti su come ciò potrebbe essere ottenuto.

Detto questo, il team di Davies ha avuto successo eseguendo reti neurali profonde tradizionali, un percettrone multistrato, su Hala Point con alcuni avvertimenti.

"Se riesci a diffondere l'attività della rete e la conduttività in quella rete, allora puoi ottenere guadagni davvero, davvero grandi", ha detto. "Ciò significa che deve elaborare un segnale di ingresso continuo... un flusso video o un flusso audio, qualcosa in cui esiste una certa correlazione da campione a campione."

Intel Labs ha dimostrato in un documento il potenziale di Loihi 2 per l'elaborazione video e audio pubblicato [PDF] alla fine dell'anno scorso. Durante i test hanno scoperto che il chip ha ottenuto miglioramenti significativi in ​​termini di efficienza energetica, latenza e throughput per l'elaborazione del segnale, talvolta superiori a tre ordini di grandezza, rispetto alle architetture convenzionali. Tuttavia, i maggiori guadagni sono arrivati ​​a scapito di una minore precisione.

La capacità di elaborare dati in tempo reale a basso consumo e latenza ha reso la tecnologia attraente per applicazioni come veicoli autonomi, droni e robotica.

Un altro caso d'uso che si è dimostrato promettente sono i problemi di ottimizzazione combinatoria, come la pianificazione del percorso per un veicolo per le consegne, che deve spostarsi in un centro cittadino trafficato.

Questi carichi di lavoro sono incredibilmente complessi da risolvere poiché è necessario tenere conto al volo di piccoli cambiamenti come la velocità del veicolo, gli incidenti e la chiusura delle corsie. Le architetture informatiche convenzionali non sono adatte a questo tipo di complessità esponenziale, motivo per cui abbiamo visto così tanti fornitori di elaborazione quantistica mira problemi di ottimizzazione.

Tuttavia, Davies sostiene che la piattaforma di calcolo neuromorfico di Intel è “molto più matura di queste altre alternative di ricerca sperimentale”.

Spazio per crescere

Secondo Davies c'è ancora molto margine da sbloccare. "Mi dispiace dover dire che fino ad oggi non è stato sfruttato appieno a causa delle limitazioni del software", ha detto dei chip Loihi 2.

L'identificazione dei colli di bottiglia dell'hardware e delle ottimizzazioni del software è uno dei motivi per cui Intel Labs ha distribuito il prototipo a Sandia.

"Comprendere i limiti, soprattutto a livello hardware, è una parte molto importante per portare questi sistemi sul mercato", ha affermato Davies. "Possiamo risolvere i problemi hardware, possiamo migliorarlo, ma dobbiamo sapere in quale direzione ottimizzare."

Questa non sarebbe la prima volta che gli esperti di Sandia mettono le mani sulla tecnologia neuromorfica di Intel. In un documento pubblicato all’inizio del 2022, i ricercatori hanno scoperto che la tecnologia aveva un potenziale per l’HPC e l’intelligenza artificiale. Tuttavia, questi esperimenti hanno utilizzato i chip Loihi di prima generazione di Intel, che hanno circa un ottavo dei neuroni (128,000 contro 1 milione) del suo successore. ®

• Distribuzione di contenuti basati su SEO e PR. Ricevi amplificazione oggi.
• PlatoData.Network Generativo verticale Ai. Potenzia te stesso. Accedi qui.
• PlatoAiStream. Intelligenza Web3. Conoscenza amplificata. Accedi qui.
• PlatoneESG. Carbonio, Tecnologia pulita, Energia, Ambiente, Solare, Gestione dei rifiuti. Accedi qui.
• Platone Salute. Intelligence sulle biotecnologie e sulle sperimentazioni cliniche. Accedi qui.
• Fonte: https://go.theregister.com/feed/www.theregister.com/2024/04/17/intel_hala_point_neuromorphic/