Zephyrnet Logosu

Uçta Yapay Zeka için Platform Seçiminde Achronix

Tarih:

Colin Alexander (Achronix'te ürün pazarlama müdürü) yakın zamanda bu konuyla ilgili bir web semineri yayınladı. Yalnızca 20 dakika süren web semineri, veri trafiği ve uygulama seçenekleri hakkında kolay bir izleme ve yararlı bir güncellemedir. İndirmeler hâlâ videonun hakimiyetinde (Facebook için %50'den fazla) ve artık büyük ölçüde uçta veya uçta önbelleğe almaya bağlı. Bunlardan hangisinin geçerli olduğu, "uç" tanımınıza bağlıdır. IoT dünyası kendilerini sınır olarak görüyor, bulut ve altyapı dünyası ise görünüşe göre altyapıdaki bu yaprak cihazlardan önceki son bilgi işlem düğümünü uç olarak görüyor. Patates, patates. Her halükarda, en popüler indirmeleri olabildiğince verimli ve hızlı bir şekilde sunmak için videoyu önbelleğe almayı bulacağınız yer, kenarın altyapı görünümüdür.

Uçta Yapay Zeka için Platform Seçiminde Achronix

Uçta (ve bulutta) bilgi işlem seçenekleri

Colin başlangıçta bilgi işlem ve yapay zekada bir miktar beygir gücünün gerekli olduğu altyapı uç noktalarından bahsediyor. Standart seçenekleri sunar: CPU, GPU, ASIC veya FPGA. CPU tabanlı bir çözüm, en büyük esnekliğe sahiptir çünkü çözümünüz tamamen yazılım tabanlı olacaktır. Aynı nedenden dolayı, genellikle en yavaş, en fazla güce ihtiyaç duyan ve en uzun gecikme seçeneği olacaktır (sanırım yaprak düğümlere gidiş-dönüş için). GPU'lar, CPU'lardan biraz daha az esneklikle performans ve güç açısından biraz daha iyidir. Bir ASIC (özel donanım) en hızlı, en düşük güç ve en düşük gecikme olacaktır, ancak konseptte en az esnektir (tüm akıllı özellikler değiştirilemeyen donanımdadır).

FPGA'yı (veya gömülü FPGA/eFPGA'yı) bu uç noktalar arasında iyi bir uzlaşma olarak sunar. Performans, güç ve gecikme açısından CPU veya GPU'dan daha iyi ve esneklik açısından CPU ile GPU arasında bir yerde. Esneklik açısından ASIC'den çok daha iyi olsa da, çünkü bir FPGA yeniden programlanabilir. Her şey bana mantıklı geliyor, ancak hikayenin platform dizisine DSP'ler eklenerek tamamlanması gerektiğini düşünüyorum. Bunlar, performans, güç ve gecikme süresinden yararlanan yapay zekaya özgü donanım avantajlarına (vektörleştirme, MAC dizileri vb.) sahip olabilir. Yazılım esnekliğini korurken. Diğer önemli husus maliyettir. Bu elbette her zaman hassas bir konudur, ancak AI özellikli CPU'lar, GPU'lar ve FPGA cihazları pahalı olabilir, bu da bir uç düğümün malzeme listesi için bir endişe kaynağıdır.

Colin'in argümanı, daha büyük bir SoC'ye gömülü eFPGA için uçta bana en mantıklı geliyor. Bir bulut uygulamasında kısıtlamalar farklıdır. Bir akıllı ağ arabirim kartı muhtemelen fiyata duyarlı değildir ve yazılım tabanlı bir çözüme göre FPGA tabanlı bir çözümde bir performans avantajı olabilir.

Yapay zeka uygulamalarını bir eFPGA aracılığıyla bilgi işlem ucunda desteklemek, daha fazla araştırmaya değer bir seçenek gibi görünüyor. Yaprak düğümlerine doğru daha fazlası benim için bulanık. Bir lojistik izleyici veya bir toprak nemi sensörü, önemli bir hesaplamayı kesinlikle barındırmaz, ancak sesle etkinleştirilen bir TV uzaktan kumandasına ne dersiniz? Veya akıllı bir mikrodalga? Her ikisinin de yapay zekaya ihtiyacı var ama ikisinin de çok fazla beygir gücüne ihtiyacı yok. Mikrodalga kablolu güce sahiptir, ancak bir TV uzaktan kumandası veya uzaktan kumanda akıllı hoparlörü pille çalışır. Buradaki eFPGA değiş tokuşlarını bilmek ilginç olurdu.

Yapay zeka için eFPGA yetenekleri

Veri sayfasına göre, Speedster 7t tamamen kırılabilir tamsayı MAC'ler, esnek kayan nokta, bfloat için yerel destek ve verimli matris çarpımları sunar. TOPS veya TOPS/Watt hakkında herhangi bir veri bulamadım. Bunun uygulamaya bağlı olduğundan eminim ama örnekler yararlı olacaktır. Uçta bile, bazı uygulamalar performansa çok duyarlıdır - örneğin arabalarda akıllı gözetim ve öne bakan nesne algılama. eFPGA'nın bu tür uygulamalarda nereye sığacağını bilmek ilginç olurdu.

Düşündürücü web semineri. izleyebilirsiniz İŞTE.

Bu gönderiyi şu yolla paylaş:

spot_img

En Son İstihbarat

spot_img