Editöre göre resim
 

Mevcut teknolojik manzara, üretken yapay zeka (GenAI) ve geleneksel yapay zeka iş yüklerindeki hızlı gelişmelerin teşvik ettiği uç bilişime doğru önemli bir geçiş yaşıyor. Geçmişte bulut bilişime bağımlı olan bu yapay zeka iş yükleri, artık veri güvenliği, egemenlik ve ağ bağlantısına ilişkin endişeler de dahil olmak üzere bulut tabanlı yapay zekanın sınırlarıyla karşılaşıyor.

Bulut tabanlı yapay zekanın bu sınırlamaları üzerinde çalışan kuruluşlar, uç bilişimi benimsemenin yollarını arıyor. Uç bilişimin, verilerin oluşturulduğu ve tüketildiği noktada gerçek zamanlı analiz ve yanıtları mümkün kılma yeteneği, kuruluşların bunu yapay zeka inovasyonu ve iş büyümesi için kritik olarak görmelerinin nedenidir.

Sıfır ila minimum gecikme süresiyle daha hızlı işleme vaadiyle uç yapay zeka, yeni ortaya çıkan uygulamaları önemli ölçüde dönüştürebilir. Uç cihaz bilgi işlem yetenekleri giderek daha iyi hale gelirken, yüksek doğruluklu yapay zeka modellerinin uygulanmasını zorlaştırabilecek sınırlamalar hala mevcut. Model niceleme, taklit öğrenme, dağıtılmış çıkarım ve dağıtılmış veri yönetimi gibi teknolojiler ve yaklaşımlar, daha verimli ve uygun maliyetli uç yapay zeka dağıtımlarının önündeki engellerin kaldırılmasına yardımcı olabilir, böylece kuruluşlar gerçek potansiyellerinden yararlanabilirler. 

Buluttaki yapay zeka çıkarımı genellikle gecikme sorunlarından etkilenerek cihazlar ve bulut ortamları arasındaki veri hareketinde gecikmelere neden olur. Kuruluşlar, verileri bölgeler arasında, buluta ve buluttan uca ileri geri taşımanın maliyetinin farkına varıyor. Finansal işlemler veya endüstriyel güvenlik sistemleri gibi son derece hızlı, gerçek zamanlı yanıtlar gerektiren uygulamaları engelleyebilir. Ayrıca kuruluşların, ağ bağlantısının güvenilmez olduğu uzak konumlarda yapay zeka destekli uygulamaları çalıştırması gerektiğinde, buluta her zaman erişilemiyor. 

"Yalnızca bulut" yapay zeka stratejisinin sınırlamaları, özellikle hızlı, gerçek zamanlı yanıtlar gerektiren yeni nesil yapay zeka destekli uygulamalar için giderek daha belirgin hale geliyor. Ağ gecikmesi gibi sorunlar, buluttaki uygulamaya aktarılabilecek içgörüleri ve muhakemeyi yavaşlatabilir, bu da bulut ve uç ortamları arasında veri aktarımıyla ilişkili gecikmelere ve artan maliyetlere yol açabilir. Bu, özellikle aralıklı ağ bağlantısı olan uzak alanlardaki gerçek zamanlı uygulamalar için özellikle sorunludur. Yapay zeka, karar verme ve akıl yürütmede merkezde yer aldığından, verileri taşımanın fiziği son derece maliyetli olabilir ve iş sonuçları üzerinde olumsuz bir etki yaratabilir. 

Gartner derin sinir ağları tarafından yapılan tüm veri analizlerinin %55'ten fazlasının, 2025 yılına kadar bir uç sistemde yakalama noktasında gerçekleşeceğini öngörüyor; bu oran 10'de %2021'un altındaydı. Kenar bilişim, gecikmeyi, ölçeklenebilirliği, veri güvenliğini, bağlantıyı ve bağlantıyı azaltmaya yardımcı olur. daha fazla zorluk, veri işlemenin işlenme şeklinin yeniden şekillendirilmesi ve dolayısıyla yapay zekanın benimsenmesinin hızlandırılması. Çevrimdışı öncelikli bir yaklaşımla uygulamalar geliştirmek, çevik uygulamaların başarısı için kritik öneme sahip olacaktır.

Etkili bir uç stratejiyle kuruluşlar, uygulamalarından daha fazla değer elde edebilir ve iş kararlarını daha hızlı alabilir.

Yapay zeka modelleri giderek daha karmaşık hale geldikçe ve uygulama mimarileri daha karmaşık hale geldikçe, bu modellerin hesaplama kısıtlamaları olan uç cihazlara konuşlandırılmasının zorluğu daha da belirgin hale geliyor. Bununla birlikte, teknolojideki ilerlemeler ve gelişen metodolojiler, güçlü yapay zeka modellerinin aşağıdakiler arasında değişen sınır bilişim çerçevesine verimli bir şekilde entegrasyonunun önünü açmaktadır: 

Model Sıkıştırma ve Niceleme

Model budama ve nicemleme gibi teknikler, doğruluklarından önemli ölçüde ödün vermeden yapay zeka modellerinin boyutunu azaltmak için çok önemlidir. Model budama, modeldeki gereksiz veya kritik olmayan bilgileri ortadan kaldırırken niceleme, modelin parametrelerinde kullanılan sayıların kesinliğini azaltarak modelleri daha hafif ve kaynakları kısıtlı cihazlarda çalıştırmak için daha hızlı hale getirir. Model Niceleme, taşınabilirliği iyileştirmek ve model boyutunu küçültmek için büyük yapay zeka modellerini sıkıştırmayı içeren, modelleri daha hafif ve uç dağıtımlar için uygun hale getiren bir tekniktir. Genelleştirilmiş Eğitim Sonrası Niceleme (GPTQ), Düşük Sıralı Uyarlama (LoRA) ve Niceleştirilmiş LoRA (QLoRA) dahil olmak üzere ince ayar teknikleri kullanan model niceleme, model parametrelerinin sayısal kesinliğini azaltarak modelleri aşağıdaki gibi uç cihazlar için daha verimli ve erişilebilir hale getirir. tabletler, uç ağ geçitleri ve cep telefonları. 

Edge'e Özel Yapay Zeka Çerçeveleri

Özellikle uç bilişim için tasarlanmış yapay zeka çerçevelerinin ve kitaplıklarının geliştirilmesi, uç yapay zeka iş yüklerini dağıtma sürecini basitleştirebilir. Bu çerçeveler, uç donanımın hesaplama sınırlamaları için optimize edilmiştir ve minimum performans yüküyle verimli model yürütmeyi destekler.

Dağıtılmış Veri Yönetimine Sahip Veritabanları

Vektör arama ve gerçek zamanlı analiz gibi yeteneklerle, uç noktanın operasyonel gereksinimlerinin karşılanmasına yardımcı olur ve ses, görüntü ve sensör verileri gibi çeşitli veri türlerini işleyerek yerel veri işlemeyi destekler. Bu, çeşitli veri türlerinin sürekli olarak toplandığı ve gerçek zamanlı olarak analiz edilmesi gereken otonom araç yazılımı gibi gerçek zamanlı uygulamalarda özellikle önemlidir.

Dağıtılmış Çıkarım

Modelleri veya iş yüklerini, gerçek veri alışverişi olmadan yerel veri örnekleriyle birden fazla uç cihaza yerleştiren bu sistem, olası uyumluluk ve veri gizliliği sorunlarını azaltabilir. Akıllı şehirler ve endüstriyel IoT gibi birçok uç cihaz ve IoT cihazını içeren uygulamalar için çıkarımın dağıtılmasının dikkate alınması çok önemlidir. 

Yapay zeka ağırlıklı olarak bulutta işleniyor olsa da, uç ile bir denge bulmak, yapay zeka girişimlerini hızlandırmak açısından kritik öneme sahip olacak. Hepsi olmasa da endüstrilerin çoğu yapay zeka ve GenAI'yi rekabet avantajı olarak kabul etti; bu nedenle uçta içgörü toplamak, analiz etmek ve hızlı bir şekilde bilgi edinmek giderek daha önemli hale gelecek. Kuruluşlar yapay zeka kullanımlarını geliştirirken model nicemleme, çok modlu yetenekler, veri platformları ve diğer uç stratejilerin uygulanması, gerçek zamanlı, anlamlı iş sonuçları elde edilmesine yardımcı olacaktır.
 
 

Rahul Pradhan Couchbase'de (NASDAQ: BASE) Ürün ve Stratejiden Sorumlu Başkan Yardımcısıdır ve Fortune 30'ün %100'unun bağlı olduğu kurumsal uygulamalara yönelik önde gelen modern bir veritabanı sağlayıcısıdır. Rahul, buluttaki veritabanları, depolama, ağ oluşturma ve güvenlik teknolojilerine odaklanan hem mühendislik hem de ürün ekiplerini yönetme ve yönetme konusunda 20 yılı aşkın deneyime sahiptir. Couchbase'den önce, tüm flash NVMe, Bulut ve SDS ürünlerini pazara sunmak için Dell EMC'nin Gelişen Teknolojiler ve Orta Ölçekli Depolama Bölümlerinin Ürün Yönetimi ve İş Stratejisi ekibine liderlik etti.

• SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
• PlatoData.Network Dikey Üretken Yapay Zeka. Kendine güç ver. Buradan Erişin.
• PlatoAiStream. Web3 Zekası. Bilgi Genişletildi. Buradan Erişin.
• PlatoESG. karbon, temiz teknoloji, Enerji, Çevre, Güneş, Atık Yönetimi. Buradan Erişin.
• PlatoSağlık. Biyoteknoloji ve Klinik Araştırmalar Zekası. Buradan Erişin.
• Kaynak: https://www.kdnuggets.com/the-promise-of-edge-ai-and-approaches-for-effective-adoption?utm_source=rss&utm_medium=rss&utm_campaign=the-promise-of-edge-ai-and-approaches-for-effective-adoption