Intel Labs mengungkapkan komputer neuromorfik terbesarnya pada hari Rabu, sebuah sistem neuron dengan 1.15 miliar, yang dikatakan kira-kira analog dengan otak burung hantu.

Tapi jangan khawatir, Intel belum membuat ulang Fallout otak robot. Alih-alih jaringan neuron dan sinapsis organik, Hala Point Intel mengemulasi semuanya dalam silikon.

Dengan daya sekitar 20 W, otak kita ternyata sangat efisien dalam memproses sejumlah besar informasi yang mengalir dari setiap indera pada saat tertentu. Bidang neuromorfik, yang telah dieksplorasi oleh Intel dan IBM selama beberapa tahun terakhir, bertujuan untuk meniru jaringan neuron dan sinapsis otak untuk membangun komputer yang mampu memproses informasi dengan lebih efisien daripada akselerator tradisional.

Seberapa efisien? Menurut Intel, sistem terbarunya, sebuah kotak 6U seukuran microwave yang mengkonsumsi 2,600 W, dilaporkan dapat mencapai efisiensi jaringan neural dalam hingga 15 TOPS/W pada presisi 8-bit. Sebagai gambaran, sistem Nvidia yang paling kuat, GB200 NVL72 berbasis Blackwell, yang bahkan belum dikirimkan, mengelola hanya 6 TOPS/W di INT8, sedangkan sistem DGX H100 saat ini dapat mengelola sekitar 3.1 TOPS/W.

Para peneliti di Sandia National Labs menerima pengiriman komputer neuromorfik 1.15 miliar neuron Hala Point dari Intel – klik untuk memperbesar

Kinerja ini dicapai dengan menggunakan 1,152 prosesor Intel Loihi 2, yang disatukan dalam grid tiga dimensi dengan total 1.15 miliar neuron, 128 miliar sinapsis, 140,544 inti pemrosesan, dan 2,300 inti x86 tertanam yang menangani komputasi tambahan yang diperlukan untuk teruslah melakukan hal itu.

Untuk lebih jelasnya, itu bukan inti x86 pada umumnya. “Mereka adalah core x86 yang sangat, sangat sederhana dan kecil. Mereka tidak seperti core atau prosesor Atom terbaru kami,” kata Mike Davies, direktur komputasi neuromorfik di Intel. Pendaftaran.

Jika Loihi 2 membunyikan bel, itu karena chipnya sudah rusak mengetuk-ngetuk untuk sementara waktu telah memulai debutnya pada tahun 2021 sebagai salah satu chip pertama yang diproduksi menggunakan teknologi proses 7nm Intel.

Meskipun usianya sudah tua, Intel mengatakan sistem berbasis Loihi mampu memecahkan masalah inferensi dan pengoptimalan AI tertentu hingga 50x lebih cepat dibandingkan arsitektur CPU dan GPU konvensional sekaligus mengonsumsi daya 100x lebih sedikit. Angka-angka itu tampaknya memang benar dicapai [PDF] dengan mengadu satu chip Loihi 2 ke Jetson Orin Nano kecil milik Nvidia dan CPU Core i9 i9-7920X.

Jangan membuang GPU Anda dulu

Meskipun kedengarannya mengesankan, Davies mengakui bahwa akselerator neuromorfiknya belum siap menggantikan GPU untuk setiap beban kerja. “Ini sama sekali bukan akselerator AI untuk tujuan umum,” katanya.

Pertama, aplikasi AI yang paling populer, model bahasa besar (LLM) yang mendukung aplikasi seperti ChatGPT, tidak akan berjalan di Hala Point, setidaknya untuk saat ini.

“Kami tidak memetakan LLM mana pun ke Hala Point saat ini. Kami tidak tahu bagaimana melakukan itu. Sejujurnya, bidang penelitian neuromorfik tidak memiliki versi neuromorfik dari transformator tersebut,” kata Davies, sambil mencatat bahwa ada beberapa penelitian menarik tentang bagaimana hal ini dapat dicapai.

Meskipun demikian, tim Davies telah berhasil menjalankan jaringan saraf dalam tradisional, perceptron multi-lapis, di Hala Point dengan beberapa peringatan.

“Jika Anda dapat memperkecil aktivitas jaringan dan konduktivitas dalam jaringan tersebut, saat itulah Anda dapat memperoleh keuntungan yang sangat besar,” katanya. “Artinya, ia harus memproses sinyal masukan yang berkelanjutan… aliran video atau aliran audio, sesuatu yang memiliki korelasi dari sampel ke sampel ke sampel.”

Intel Labs mendemonstrasikan potensi Loihi 2 untuk pemrosesan video dan audio dalam sebuah makalah diterbitkan [PDF] akhir tahun lalu. Dalam pengujian mereka menemukan bahwa chip tersebut mencapai peningkatan signifikan dalam efisiensi energi, latensi, dan throughput untuk pemrosesan sinyal, terkadang melebihi tiga kali lipat, dibandingkan dengan arsitektur konvensional. Namun, keuntungan terbesar datang dengan mengorbankan akurasi yang lebih rendah.

Kemampuan untuk memproses data real-time dengan daya dan latensi rendah menjadikan teknologi ini menarik untuk aplikasi seperti kendaraan otonom, drone, dan robotika.

Kasus penggunaan lain yang menjanjikan adalah masalah optimasi kombinatorial, seperti perencanaan rute untuk kendaraan pengiriman, yang harus menavigasi pusat kota yang sibuk.

Beban kerja ini sangat rumit untuk diselesaikan karena perubahan kecil seperti kecepatan kendaraan, kecelakaan, dan penutupan jalur harus diperhitungkan dengan cepat. Arsitektur komputasi konvensional tidak cocok dengan kompleksitas eksponensial seperti ini, itulah sebabnya kita melihat begitu banyak vendor komputasi kuantum. penargetan masalah optimasi.

Namun, Davies berpendapat bahwa platform komputasi neuromorfik Intel “jauh lebih matang dibandingkan alternatif penelitian eksperimental lainnya.”

Ruang untuk tumbuh

Menurut Davies, masih banyak ruang yang harus dibuka. “Saya sedih untuk mengatakan bahwa chip tersebut belum sepenuhnya dieksploitasi hingga hari ini karena keterbatasan perangkat lunak,” katanya tentang chip Loihi 2.

Mengidentifikasi hambatan perangkat keras dan optimalisasi perangkat lunak adalah salah satu alasan Intel Labs menerapkan prototipe di Sandia.

“Memahami keterbatasan, terutama pada tingkat perangkat keras, adalah bagian yang sangat penting dalam memperkenalkan sistem ini,” kata Davies. “Kami dapat memperbaiki masalah perangkat keras, kami dapat memperbaikinya, tetapi kami perlu mengetahui arah pengoptimalannya.”

Ini bukan pertama kalinya para ilmuwan Sandia mendapatkan teknologi neuromorfik Intel. Dalam sebuah makalah diterbitkan pada awal tahun 2022, para peneliti menemukan bahwa teknologi tersebut berpotensi untuk HPC dan AI. Namun, eksperimen tersebut menggunakan chip Loihi generasi pertama Intel, yang memiliki sekitar seperdelapan neuron (128,000 vs 1 juta) dari penerusnya. ®

• Konten Bertenaga SEO & Distribusi PR. Dapatkan Amplifikasi Hari Ini.
• PlatoData.Jaringan Vertikal Generatif Ai. Berdayakan Diri Anda. Akses Di Sini.
• PlatoAiStream. Intelijen Web3. Pengetahuan Diperkuat. Akses Di Sini.
• PlatoESG. Karbon, teknologi bersih, energi, Lingkungan Hidup, Tenaga surya, Penanganan limbah. Akses Di Sini.
• PlatoHealth. Kecerdasan Uji Coba Biotek dan Klinis. Akses Di Sini.
• Sumber: https://go.theregister.com/feed/www.theregister.com/2024/04/17/intel_hala_point_neuromorphic/