IBM Research Europe ve IIS-ETH Zürih'teki araştırmacılar tarafından "A Precision-Optimize Edilmiş Sabit Noktalı Yakın Belleğe Dijital İşleme Birimi için Analog Bellek İçi Hesaplama" başlıklı teknik makale yayınlandı.

Özet:

“Analog Bellek İçi Bilgi İşlem (AIMC), hızlı ve enerji açısından verimli Derin Öğrenme (DL) çıkarımı için yeni ortaya çıkan bir teknolojidir. Bununla birlikte, devre uyumsuzlukları ve bellek aygıtlarıyla ilgili ideal olmayan durumların üstesinden gelmek için belirli bir miktarda dijital son işlem gereklidir. Verimli yakın belleğe dijital mantık, AIMC'nin yüksek alan/enerji verimliliğini ve düşük gecikme süresini korumak için kritik öneme sahiptir. Mevcut sistemler, sınırlı paralelleştirme kapasitesi ve yüksek gecikme süresiyle Kayan Nokta 16 (FP16) aritmetiğini benimser. Bu sınırlamaların üstesinden gelmek için, sabit nokta aritmetiğine dayalı bir Yakın Belleğe Dijital İşlem Birimi (NMPU) öneriyoruz. Alan yükünü en aza indirirken, önceki yaklaşımlara göre rekabetçi doğruluk ve daha yüksek bilgi işlem verimi elde eder. Ayrıca NMPU, ReLU ve Toplu Normalleştirme gibi standart DL aktivasyon adımlarını destekler. NMPU tasarımının fiziksel uygulamasını 14 nm CMOS teknolojisinde gerçekleştiriyoruz ve ayrıntılı performans, güç ve alan değerlendirmeleri sağlıyoruz. Bir AIMC çipinden gelen verileri kullanarak NMPU'nun etkinliğini doğruluyoruz ve önerilen NMPU ile simüle edilmiş bir AIMC sisteminin mevcut FP16 tabanlı uygulamalardan daha iyi performans gösterdiğini gösteriyoruz.× hızlanma, 7.8× Daha küçük alan ve rekabetçi güç tüketimi. Ek olarak yaklaşımımız, CIFAR86.65/CIFAR65.06 veri kümeleri üzerinde eğitilmiş ResNet0.12/ResNet0.4 ağları ile kıyaslama yapıldığında FP16 temel çizgisine kıyasla yalnızca %9/%32 doğruluk düşüşüyle ​​%10/%100'lık bir çıkarım doğruluğuna ulaşıyor."

Bul teknik kağıt burada. Şubat 2024'te yayınlandı (ön baskı).

Ferro, Elena, Athanasios Vasilopoulos, Corey Lammie, Manuel Le Gallo, Luca Benini, İrem Boybat ve Abu Sebastian. “Analog Bellek İçi Bilgi İşlem için Hassas Olarak Optimize Edilmiş Sabit Noktalı Yakın Bellekli Dijital İşleme Birimi.” arXiv ön baskısı arXiv:2402.07549 (2024).

İlgili Okuma
3D Entegrasyonu CIM Çok Yönlülüğünü ve Doğruluğunu Destekler
Bellek içi hesaplamanın sınırlamalarını çözmek, yeni yaklaşımlar ve boyutlar gerektirir.
Bellekte İşlemle Yapay Zeka Enerji Verimliliğini Artırma
Zetta ölçekli iş yükleri nasıl işlenir ve sabit bir güç bütçesi dahilinde nasıl kalınır?

• SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
• PlatoData.Network Dikey Üretken Yapay Zeka. Kendine güç ver. Buradan Erişin.
• PlatoAiStream. Web3 Zekası. Bilgi Genişletildi. Buradan Erişin.
• PlatoESG. karbon, temiz teknoloji, Enerji, Çevre, Güneş, Atık Yönetimi. Buradan Erişin.
• PlatoSağlık. Biyoteknoloji ve Klinik Araştırmalar Zekası. Buradan Erişin.
• Kaynak: https://semiengineering.com/a-precision-optimized-fixed-point-near-memory-digital-processing-unit-for-analog-imc-ibm-and-eth-zurich/