Her zaman algılayan kameralar, kullanıcıların akıllı telefonları, ev aletleri ve diğer tüketici cihazlarıyla etkileşime girmesi için nispeten yeni bir yöntemdir. Her zaman dinleyen ses tabanlı Siri ve Alexa gibi, her zaman algılayan kameralar sorunsuz, daha doğal bir kullanıcı deneyimi sağlar. Ancak, her zaman algılayan kamera alt sistemleri, üretilen verilerin miktarı ve karmaşıklığı nedeniyle özel işlem gerektirir.
Ancak, kullanıcının katı güç, gecikme ve gizlilik ihtiyaçlarını karşılamak için her zaman algılayan alt sistemler nasıl tasarlanabilir? Enerji depolama yoğunluğundaki süregelen iyileştirmelere rağmen, yeni nesil cihazlar her zaman pillerden daha fazla talepte bulunur. Duvardan güç alan cihazlar bile daha düşük güç tüketimi talep eden tüketiciler, işletmeler ve hükümetler tarafından incelemeye tabi tutulur. Gecikme de çok büyük bir faktördür; En iyi kullanıcı deneyimi için, cihazların kullanıcı girişlerine anında tepki vermesi gerekir ve her zaman algılayan sistemler, gereksiz gecikme ve yavaşlama nedenleri ekleyen diğer işlemlerle rekabet edemez. Gizlilik ve veri güvenliği de önemli kaygılardır; her zaman algılayan sistemlerin, verileri depolamadan veya açığa çıkarmadan kameradan güvenli bir şekilde yakalayıp işlemesi için tasarlanması gerekir.
Peki her zaman algılama, güç, gecikme ve gizlilik dostu bir yöntemle nasıl etkinleştirilebilir? Birçok mevcut Uygulama İşlemcisinin (AP) içinde NPU'lar olsa da, bu NPU'lar her zaman algılama için ideal araç değildir. Tipik bir AP, CPU'lar, ISP'ler, GPU/DSP'ler ve NPU'lar dahil olmak üzere heterojen bilgi işlem çekirdeklerinin bir karışımıdır. Her işlemci, belirli bilgi işlem ve potansiyel olarak büyük işlem yükleri için tasarlanmıştır. Örneğin, tipik bir genel amaçlı NPU, yaklaşık 5 TOPS/W tipik güç tüketimi ve yaklaşık %10 kullanım ile 4-40 TOPS performans sağlayabilir. Ancak verimsizdir çünkü en kötü durum iş yüklerini işlemek için biraz fazla tasarlanmış olması gerekir.
Her zaman algılayan sinir ağları, minimum işlem gerektirecek şekilde özel olarak oluşturulur ve tipik olarak GOPS cinsinden ölçülür - GOPS, TOPS'nin binde biri anlamına gelir. Mevcut bir AP'deki NPU, yapay zeka işlemeyi her zaman algılama yeteneğine sahip olsa da, çeşitli nedenlerle doğru seçim değildir. İlk olarak, güç tüketimi önemli olacaktır; bu, doğrudan pil ömrünün azalmasına dönüştüğü için her zaman açık bir özellik için başlatıcı olmayan bir değerdir. İkincisi, AP tabanlı NPU genellikle diğer görevlerle meşgul olduğundan, diğer işlemler gecikmeyi artırabilir ve kullanıcı deneyimini olumsuz etkileyebilir. Son olarak, gizlilik endişeleri, uygulama işlemcisinin kullanılmasını esasen engeller. Bunun nedeni, her zaman algılayan kamera verilerinin sistemin geri kalanından izole edilmesi ve cihaz içinde saklanmaması veya cihazdan dışarı iletilmemesi gerektiğidir. Bu, söz konusu verilerin açığa çıkmasını sınırlamak ve hain bir tarafın verileri çalma şansını azaltmak için gereklidir.
O halde çözüm, her zaman algılayan ağları mutlak minimum alan, güç ve gecikmeyle işlemek için özel olarak tasarlanmış ve uygulanan özel bir NPU'dur: KüçükNPU.
Bu web seminerinde, Expedera ve SemiWiki, özel bir LittleNPU'ya sahip her zaman duyarlı özel bir alt sistemin inanılmaz bir kullanıcı deneyimi sağlarken güç, gecikme ve gizlilik ihtiyaçlarını nasıl karşılayabileceğini keşfediyor.
Sunan
Sharad Chole, Expedera Baş Bilim İnsanı ve Kurucu Ortağı
Bu konuşma hakkında
Akıllı telefonlarda, ev aletlerinde ve diğer tüketici cihazlarında, her zaman dinleyen Siri veya Google sesli asistanları gibi, her zaman algılayan kameralar ortaya çıkıyor. Always-on teknolojileri, cihazın otomatik olarak kilitlenmesi ve kilidinin açılması veya kullanıcının bakışına göre ekran ayarı gibi özelliklere olanak tanıyarak daha doğal ve sorunsuz bir kullanıcı deneyimi sağlar. Bununla birlikte, kamera verilerinin özel Yapay Zeka (AI) işlemesi gerektiren kalite, zenginlik ve gizlilik kaygıları vardır. Ancak, mevcut sistem işlemcileri her zaman algılayan uygulamalar için uygun değildir.
Nöral İşleme Birimi (NPU) tasarımına dikkat edilmediği takdirde, her zaman algılayan bir alt sistem aşırı güç tüketir, aşırı gecikme yaşar veya kullanıcının gizliliğini riske atar ve bunların tümü tatmin edici olmayan bir kullanıcı deneyimine yol açar. Her zaman algılayan verileri güç, gecikme ve gizlilik dostu bir şekilde işlemek için OEM'ler özel "LittleNPU" yapay zeka işlemcilerine yöneliyor. Bu web seminerinde, her zaman algılama mimarisini keşfedeceğiz, kullanım durumlarını tartışacağız ve OEM'lerin, yonga üreticilerinin ve sistem mimarlarının bir NPU'yu her zaman açık olan bir kamera alt sisteminde başarılı bir şekilde nasıl değerlendirebileceğine, belirleyeceğine ve konuşlandırabileceğine dair ipuçları vereceğiz. .
Expedera, yapay zeka çıkarım uygulamalarında maliyeti ve karmaşıklığı azaltırken performans, güç ve gecikmede önemli iyileştirmeler sağlayan ölçeklenebilir nöral motor yarı iletken IP sağlar. Üçüncü taraf silikon onaylı Expedera'nın çözümleri, üstün performans üretir ve uç düğümler ile akıllı telefonlardan otomotiv ve veri merkezlerine kadar çok çeşitli uygulamalara ölçeklenebilir. Expedera'nın Origin™ derin öğrenme hızlandırıcı ürünleri kolayca entegre edilir, kolaylıkla ölçeklenebilir ve uygulama gereksinimlerine göre özelleştirilebilir. Şirketin merkezi Santa Clara, California'dadır. Ziyaret etmek expedera.com
Ayrıca Oku:
Yapay zeka çıkarımında bellekte hesaplama üzerine derinlemesine düşünme
Maliyete duyarlı uygulamalar için alan açısından optimize edilmiş yapay zeka çıkarımı
Seviye 5 kendi kendine sürüş için ultra verimli heterojen SoC'ler
CEO Röportajı: Expedera'dan Da Chuang
Bu gönderiyi şu yolla paylaş:
- SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
- PlatoAiStream. Web3 Veri Zekası. Bilgi Genişletildi. Buradan Erişin.
- Adryenn Ashley ile Geleceği Basmak. Buradan Erişin.
- PREIPO® ile PRE-IPO Şirketlerinde Hisse Al ve Sat. Buradan Erişin.
- Kaynak: https://semiwiki.com/ip/expedera/329804-webinar-an-ideal-neural-processing-engine-for-always-sensing-deployments/
