Logo Zephyrnet

Meta mengalihkan fokus ke chip GenAI untuk rekomendasi yang lebih baik

Tanggal:

Meta memiliki diperkenalkan iterasi terbaru dari chip miliknya yang didedikasikan untuk tugas-tugas AI. Chip Meta Training and Inference Accelerator (MTIA) v2, yang dikembangkan secara internal, memberikan kekuatan pemrosesan dan bandwidth memori dua kali lipat dibandingkan pendahulunya, chip v1.

Chip ini akan diterapkan di seluruh pusat data Meta untuk mendukung aplikasi AI, terutama meningkatkan sistem rekomendasi pembelajaran mendalam yang meningkatkan keterlibatan pengguna pada platformnya.

Meta telah menyoroti bahwa chip baru ini mahir dalam mengelola algoritma peringkat dan rekomendasi yang sederhana dan kompleks, yang penting untuk beriklan di platform seperti Facebook dan Instagram. Meta menegaskan bahwa dengan mengelola komponen perangkat keras dan perangkat lunak, ia dapat mengungguli GPU komersial standar dalam hal efisiensi.

“Kami telah melihat hasil positif dari program ini karena memungkinkan kami mendedikasikan dan berinvestasi pada lebih banyak daya komputasi untuk beban kerja AI kami yang lebih intensif,” demikian bunyi postingan terkait Meta.

Meta meluncurkan chip kepemilikan pertamanya pada bulan Mei lalu, yang dirancang khusus untuk kebutuhan komputasi unik perusahaan. Seiring Meta mengintensifkan fokusnya pada pengembangan AI, kebutuhan akan perangkat keras khusus pun semakin meningkat. Perusahaan baru-baru ini memamerkan infrastruktur AI yang digunakannya untuk melatih model AI tingkat lanjut, seperti Llama 3, yang saat ini hanya mengandalkan Nvidia komponen.

Meta mengalihkan fokus ke chip GenAI untuk rekomendasi yang lebih baik
Chip MTIA ditetapkan untuk pengembangan tambahan, dengan Meta berencana untuk meningkatkan perangkat keras guna mendukung tugas AI generatif (Gambar kredit)

Menurut penelitian Omdia, Meta adalah salah satu pelanggan utama Nvidia tahun lalu, yang memperoleh GPU H100 dalam jumlah besar untuk pelatihan model AI. Meta telah mengklarifikasi bahwa inisiatif silikon khusus dirancang untuk melengkapi, bukan menggantikan, perangkat keras Nvidia yang sudah digunakan dalam sistem yang ada.

“Memenuhi ambisi kami untuk silikon kustom berarti berinvestasi tidak hanya pada silikon komputasi namun juga pada bandwidth memori, jaringan dan kapasitas, serta sistem perangkat keras generasi mendatang lainnya,” kata Meta.

Chip MTIA diatur untuk pengembangan tambahan, dengan Meta berencana untuk meningkatkan perangkat keras guna mendukung tugas AI generatif. Pengenalan MTIA v2 mewakili terobosan terbaru Meta dalam teknologi chip khusus, yang mencerminkan tren industri yang lebih luas di mana perusahaan teknologi besar merancang solusi perangkat keras mereka sendiri.

“Saat ini kami memiliki beberapa program yang sedang berjalan yang bertujuan untuk memperluas cakupan MTIA, termasuk dukungan terhadap beban kerja GenAI. Dan kita baru berada di awal perjalanan ini.”

-Meta

Misalnya, minggu lalu, Google Cloud meluncurkan CPU berbasis Arm perdananya pada acara Google Cloud Next 2024. Demikian pula, Microsoft telah mengembangkan CPU internal Maia dan Cobalt, dan Amazon menggunakan rangkaian chip Graviton dan Trainium yang direkayasa oleh AWS untuk memfasilitasi aplikasi AI generatif.


Kredit gambar unggulan: Laura Ockel/Hapus percikan

tempat_img

Intelijen Terbaru

tempat_img