Logo Zephyrnet

Wawancara CEO: Patrick T. Bowen dari Neurophos – Semiwiki

Tanggal:

Patrick T. Bowen Neurofos

Patrick adalah seorang pengusaha dengan latar belakang fisika dan metamaterial. Patrick menetapkan visi untuk masa depan arsitektur Neurophos dan mengarahkan timnya dalam penelitian dan pengembangan, khususnya dalam desain metamaterial. Beliau memiliki gelar Master dalam sistem Micro-Nano dari ETH Zurich dan PhD di bidang Teknik Elektro dari Duke University, di bawah bimbingan Prof. David Smith. Setelah lulus, Patrick mendirikan Metacept bersama Prof. Smith; Metacept adalah pusat komersialisasi dan perusahaan konsultan metamaterial terkemuka di dunia.

Beritahu kami tentang Neurofos. Masalah apa yang sedang Anda pecahkan?
Kami mengatakan kami ada untuk membawa kekuatan komputasi otak manusia ke kecerdasan buatan. Pada tahun 2009 ditemukan bahwa GPU jauh lebih baik dalam mengenali kucing di internet dibandingkan CPU, namun GPU bukanlah jawaban untuk beban kerja AI di masa depan. Sama seperti GPU yang lebih baik daripada CPU untuk jaringan saraf, mungkin ada arsitektur yang lebih baik daripada GPU dalam hal besarnya. Neurophos adalah teknologi AI berikutnya setelah GPU.

Model bahasa AI yang besar secara umum masih terbatas karena kita belum memiliki daya komputasi yang cukup untuk sepenuhnya mewujudkan potensinya. Orang-orang berfokus terutama pada sisi pelatihannya, hanya karena Anda harus melatih sesuatu yang berguna bahkan sebelum Anda berpikir untuk menerapkannya. Upaya-upaya tersebut telah menyoroti kekuatan luar biasa dari model AI yang besar, dan dengan bukti tersebut orang-orang mulai fokus pada cara menerapkan AI dalam skala besar. Kekuatan model AI tersebut berarti kita memiliki jutaan pengguna yang akan menggunakannya setiap hari. Berapa biaya energi per pengguna? Berapa biaya komputasi per inferensi? Jika biayanya tidak cukup murah untuk setiap inferensi, hal ini dapat menjadi hal yang sangat membatasi bagi bisnis yang ingin menerapkan AI.

Efisiensi energi juga merupakan masalah besar yang harus dipecahkan. Jika Anda memiliki server yang mampu menyala, katakanlah 6 kiloWatt, dan Anda ingin bekerja 100 kali lebih cepat namun tidak melakukan apa pun terhadap efisiensi energi mendasar, maka server 6 kiloWatt tersebut tiba-tiba menjadi server 600 kiloWatt. Pada titik tertentu Anda menabrak tembok; Anda hanya membakar terlalu banyak daya dan Anda tidak dapat menyedot panas dari chip dengan cukup cepat. Dan tentu saja ada isu perubahan iklim yang menjadi penyebab utama hal tersebut. Berapa banyak energi yang dikonsumsi oleh AI? Berapa banyak energi tambahan yang kita buang hanya untuk menjaga pusat data tetap dingin? Jadi, pertama-tama seseorang harus memecahkan masalah efisiensi energi, dan kemudian Anda dapat bekerja cukup cepat untuk memenuhi tuntutan aplikasi.

Orang-orang telah mengusulkan penggunaan komputasi optik untuk AI sejak AI ada. Banyak sekali ide-ide yang kami kerjakan saat ini yang juga merupakan ide-ide lama dari tahun 80an. Misalnya, persamaan asli untuk “jubah tembus pandang metamaterial” yang terkenal, dan hal-hal lain seperti indeks bias negatif, dapat ditelusuri kembali ke fisikawan Rusia pada tahun 60an dan 80an. Meskipun hanya terpikirkan, hal itu sebenarnya diciptakan kembali oleh David Smith dan Sir John Pendry.

Demikian pula, array sistolik, yang biasanya dimaksud orang ketika mereka mengatakan “prosesor tensor”, adalah ide lama dari akhir tahun 70an. Komputasi kuantum adalah ide lama dari tahun 80an yang kita bangkitkan kembali saat ini. Pemrosesan optik juga merupakan ide lama dari tahun 80an, namun saat itu kami belum memiliki teknologi untuk mengimplementasikannya. Jadi dengan Neurophos, kami kembali menciptakan kembali transistor optik, menciptakan perangkat keras dasar yang diperlukan untuk mengimplementasikan ide komputasi optik mewah di masa lalu.

Apa yang akan membuat pelanggan beralih dari menggunakan GPU dari Nvidia ke menggunakan teknologi Anda?
Jadi, hal nomor satu yang menurut saya paling dipedulikan pelanggan adalah dolar per metrik inferensi, karena itulah yang benar-benar menentukan keberhasilan atau kehancuran model bisnis mereka. Kami menangani metrik tersebut dengan solusi yang benar-benar dapat meningkatkan kecepatan komputasi sebesar 100x dibandingkan dengan GPU tercanggih, semuanya dalam kapasitas daya yang sama.

Kepedulian terhadap lingkungan juga merupakan sesuatu yang menjadi perhatian masyarakat, dan kami memberikan solusi nyata untuk mengurangi konsumsi energi secara signifikan, langsung dari salah satu sumber terpentingnya: pusat data.

Jika Anda duduk santai dan memikirkan bagaimana skalanya… seseorang harus memberikan solusi di sini, baik itu kami atau orang lain. Bandwidth dalam kemasan chip kira-kira sebanding dengan akar kuadrat luas wilayah dan konsumsi daya dalam kemasan chip umumnya sebanding dengan luas wilayah. Hal ini menyebabkan segala macam cara yang menyimpang dalam upaya kami membuat dan mengemas sistem.

Pengemasan adalah salah satu hal yang sangat revolusioner bagi AI secara umum. Awalnya ini tentang biaya dan kemampuan untuk menggabungkan chiplet dari node teknologi yang berbeda, dan yang terpenting, tentang kecepatan akses memori dan bandwidth karena Anda dapat berintegrasi dengan chip DRAM. Tapi sekarang Anda hanya memasukkan lebih banyak chip ke sana!

Menggunakan pendekatan komputasi analog akan mengembalikan konsumsi daya untuk komputasi hingga ke akar kuadrat luas, bukan proporsional dengan luas. Jadi sekarang cara skala komputasi dan konsumsi daya Anda berjalan dengan cara yang sama; Anda menyeimbangkannya.

Kami yakin kami telah mengembangkan satu-satunya pendekatan hingga saat ini untuk komputasi dalam memori analog yang benar-benar dapat menskalakan kepadatan komputasi yang cukup tinggi untuk menerapkan hukum penskalaan ini.

Bagaimana pelanggan dapat terlibat dengan Neurophos saat ini? 
Kami membuat program mitra pengembangan dan menyediakan model perangkat lunak dari perangkat keras kami yang memungkinkan orang memuat kode PyTorch secara langsung dan mengkompilasinya. Itu memberikan metrik throughput dan latensi serta berapa banyak instans per detik, dll. kepada pelanggan. Hal ini juga memberikan data kembali kepada kami mengenai hambatan apa pun pada throughput dalam sistem, sehingga kami dapat memastikan bahwa kami merancang keseluruhan sistem dengan cara yang benar-benar penting bagi beban kerja pelanggan.

Fitur/teknologi baru apa yang sedang Anda kerjakan?
Para akademisi telah lama bermimpi tentang apa yang mungkin mereka lakukan jika mereka memiliki metasurface seperti yang sedang kita bangun di Neurophos, dan ada banyak makalah teoretis di luar sana… tetapi belum ada yang benar-benar membuatnya. Kamilah yang pertama melakukannya. Menurut saya sebagian besar aplikasi menarik sebenarnya untuk permukaan dinamis, bukan untuk permukaan statis, dan ada pekerjaan lain yang sedang dilakukan di Metacept, Duke, dan di perusahaan sejenis seperti Lumotive yang menurut saya, dan menurut saya dunia, akan sangat bersemangat. .

Mengapa Anda bergabung dengan SC Incubator dan apa tujuan Neurophos bekerja dengan organisasi mereka selama 24 bulan ke depan?

Silicon Catalyst telah menjadi akselerator bergengsi bagi startup semikonduktor, dengan standar penerimaan yang tinggi. Kami sangat senang memiliki mereka sebagai mitra. Startup perangkat keras memiliki kerugian yang besar dibandingkan dengan startup perangkat lunak karena biaya demo/prototipe dan waktu siklus rekayasa yang lebih tinggi, dan hal ini bahkan lebih berlaku lagi pada startup semikonduktor di mana alat EDA dan biaya mask serta besarnya skala tim teknik bisa menjadi penghalang. mahal untuk perusahaan tahap awal. Silicon Catalyst telah membentuk ekosistem mitra yang luar biasa yang memberikan bantuan signifikan dalam mengurangi biaya pengembangan dan mempercepat waktu pemasaran mereka.

Baca Juga:

Obrolan Jujur dengan Sean Redmond Tentang ChipStart di Inggris

Wawancara CEO: Jay Dawani dari Lemurian Labs

Tujuh Perusahaan Katalis Silikon Akan Berpameran di CES, Ajang Teknologi Paling Berpengaruh di Dunia

Bagikan postingan ini melalui:

tempat_img

Intelijen Terbaru

tempat_img