A Intel Labs revelou seu maior computador neuromórfico na quarta-feira, um sistema de 1.15 bilhão de neurônios, que diz ser aproximadamente análogo ao cérebro de uma coruja.
Mas não se preocupe, a Intel não recriou o Fallout Robobrain. Em vez de uma rede de neurônios orgânicos e sinapses, o Hala Point da Intel emula todos eles em silício.
Com cerca de 20 W, o nosso cérebro é surpreendentemente eficiente no processamento de grandes quantidades de informação que chega de cada um dos sentidos num determinado momento. O campo dos neuromórficos, que a Intel e a IBM passaram os últimos anos explorando, visa emular a rede de neurônios e sinapses do cérebro para construir computadores capazes de processar informações com mais eficiência do que os aceleradores tradicionais.
Quão eficiente? De acordo com a Intel, seu sistema mais recente, uma caixa de 6U aproximadamente do tamanho de um micro-ondas que consome 2,600 W, pode atingir eficiências de rede neural profunda de até 15 TOPS/W com precisão de 8 bits. Para colocar isso em perspectiva, o sistema mais poderoso da Nvidia, o GB200 NVL72 baseado em Blackwell, que ainda não foi lançado, gestão apenas 6 TOPS/W no INT8, enquanto seus atuais sistemas DGX H100 podem gerenciar cerca de 3.1 TOPS/W.
Pesquisadores do Sandia National Labs recebem o computador neuromórfico Hala Point de 1.15 bilhão de neurônios da Intel - clique para ampliar
Esse desempenho é alcançado usando 1,152 processadores Loihi 2 da Intel, que são unidos em uma grade tridimensional para um total de 1.15 bilhão de neurônios, 128 bilhões de sinapses, 140,544 núcleos de processamento e 2,300 núcleos x86 integrados que lidam com os cálculos auxiliares necessários para mantenha a coisa funcionando.
Para ser claro, esses não são núcleos x86 típicos. “Eles são núcleos x86 muito, muito simples e pequenos. Eles não se parecem em nada com nossos mais recentes núcleos ou processadores Atom”, disse Mike Davies, diretor de computação neuromórfica da Intel. O registro.
Se Loihi 2 tocar uma campainha, é porque o chip foi batendo por aí já há algum tempo, tendo feito sua estreia em 2021 como um dos primeiros chips produzidos com a tecnologia de processo de 7 nm da Intel.
Apesar de sua idade, a Intel afirma que os sistemas baseados em Loihi são capazes de resolver certos problemas de inferência e otimização de IA até 50 vezes mais rápido do que as arquiteturas convencionais de CPU e GPU, consumindo 100 vezes menos energia. Esses números parecem ter sido alcançado [PDF] colocando um único chip Loihi 2 no minúsculo Jetson Orin Nano da Nvidia e uma CPU Core i9 i9-7920X.
Não jogue fora suas GPUs ainda
Embora isso possa parecer impressionante, Davies admite que seus aceleradores neuromórficos ainda não estão prontos para substituir GPUs para todas as cargas de trabalho. “Este não é de forma alguma um acelerador de IA de uso geral”, disse ele.
Por um lado, o aplicativo mais popular da IA, os grandes modelos de linguagem (LLMs) que alimentam aplicativos como o ChatGPT, não serão executados no Hala Point, pelo menos não ainda.
“Não estamos mapeando nenhum LLM para Hala Point neste momento. Não sabemos como fazer isso. Francamente, o campo de pesquisa neuromórfica não possui uma versão neuromórfica do transformador”, disse Davies, observando que há algumas pesquisas interessantes sobre como isso pode ser alcançado.
Dito isto, a equipe de Davies teve sucesso ao executar redes neurais profundas tradicionais, um perceptron multicamadas, em Hala Point, com algumas ressalvas.
“Se você conseguir dispersar a atividade da rede e a condutividade dessa rede, será possível obter ganhos realmente grandes”, disse ele. “O que isso significa é que ele deve processar um sinal de entrada contínuo… um fluxo de vídeo ou de áudio, algo em que haja alguma correlação de amostra para amostra.”
Intel Labs demonstrou o potencial do Loihi 2 para processamento de vídeo e áudio em um artigo publicado [PDF] no final do ano passado. Nos testes, descobriram que o chip obteve ganhos significativos em eficiência energética, latência e rendimento para processamento de sinal, às vezes excedendo três ordens de grandeza, em comparação com arquiteturas convencionais. No entanto, os maiores ganhos ocorreram às custas de menor precisão.
A capacidade de processar dados em tempo real com baixo consumo de energia e latência tornou a tecnologia atraente para aplicações como veículos autônomos, drones e robótica.
Outro caso de uso promissor são os problemas de otimização combinatória, como o planejamento de rotas para um veículo de entrega, que precisa navegar em um movimentado centro da cidade.
Essas cargas de trabalho são incrivelmente complexas de resolver, pois pequenas mudanças como velocidade do veículo, acidentes e fechamento de faixas precisam ser contabilizadas em tempo real. As arquiteturas de computação convencionais não são adequadas para esse tipo de complexidade exponencial, e é por isso que temos visto tantos fornecedores de computação quântica alvejando problemas de otimização.
No entanto, Davies argumenta que a plataforma de computação neuromórfica da Intel é “muito mais madura do que essas outras alternativas de pesquisa experimental”.
Espaço para crescer
De acordo com Davies, ainda há muito espaço para ser desbloqueado. “Lamento dizer que ainda não foi totalmente explorado até hoje devido a limitações de software”, disse ele sobre os chips Loihi 2.
Identificar gargalos de hardware e otimizações de software é parte do motivo pelo qual a Intel Labs implantou o protótipo em Sandia.
“Compreender as limitações, especialmente no nível do hardware, é uma parte muito importante para disponibilizar esses sistemas”, disse Davies. “Podemos consertar os problemas de hardware, podemos melhorá-los, mas precisamos saber em que direção otimizar.”
Esta não seria a primeira vez que os especialistas da Sandia colocariam as mãos na tecnologia neuromórfica da Intel. Em um papel publicado no início de 2022, os pesquisadores descobriram que a tecnologia tinha potencial para HPC e IA. No entanto, esses experimentos usaram chips Loihi de primeira geração da Intel, que têm cerca de um oitavo dos neurônios (128,000 contra 1 milhão) de seu sucessor. ®
- Conteúdo com tecnologia de SEO e distribuição de relações públicas. Seja amplificado hoje.
- PlatoData.Network Gerativa Vertical Ai. Capacite-se. Acesse aqui.
- PlatoAiStream. Inteligência Web3. Conhecimento Amplificado. Acesse aqui.
- PlatãoESG. Carbono Tecnologia Limpa, Energia, Ambiente, Solar, Gestão de resíduos. Acesse aqui.
- PlatoHealth. Inteligência em Biotecnologia e Ensaios Clínicos. Acesse aqui.
- Fonte: https://go.theregister.com/feed/www.theregister.com/2024/04/17/intel_hala_point_neuromorphic/
