John P. Desmond tarafından, AI Eğilimleri editör  

Birden fazla sektörde geliri 500 milyar doların üzerinde olan şirketlerden yaklaşık 5 C düzeyindeki iş ve güvenlik uzmanı, Accenture tarafından yakın zamanda yapılan bir ankette yapay zeka, 5G ve artırılmış gerçeklik teknolojilerinin aynı anda kullanılmasının ortaya çıkardığı potansiyel güvenlik açıklarına ilişkin endişelerini dile getirdi. .  

Örneğin yapay zeka modellerini doğru şekilde eğitmek için şirketin yapay zekayı ve oluşturulduğu ortamı eğitmek için gereken verileri koruması gerekiyor. Model kullanılırken hareket halindeki verilerin korunması gerekmektedir. Veriler, teknik veya güvenlik nedenleriyle ya da fikri mülkiyetin korunması nedeniyle tek bir yerde toplanamaz. “Bu nedenle, farklı tarafların işbirliği yapabilmesi için şirketleri güvenli öğrenmeyi uygulamaya zorluyor" dedi Claudio. Ordóñez, Accenture'un Şili'deki Siber Güvenlik Lideri, yakın zamanda yaptığı bir açıklamada Pazar Araştırması Biz.  

Şirketlerin güvenli yazılım geliştirme uygulamalarını genişletmeleri gerekiyor. DevSecOpsYapay zekayı yaşam döngüsü boyunca korumak için. "Maalesef yapay zeka manipülasyonlarına karşı savunulacak sihirli bir çözüm yok, bu nedenle yapay zekayla desteklenen iş süreçlerinde riski azaltmak için katmanlı yeteneklerin kullanılması gerekecek" dedi. Önlemler, giriş verilerinin temizlenmesi, uygulamanın sağlamlaştırılması ve güvenlik analizinin ayarlanması gibi ortak güvenlik işlevlerini ve kontrollerini içerir. Ayrıca, yılan veri bütünlüğü, doğruluk kontrolü, kurcalama tespiti için adımlar atılmalıdır., ve erken müdahale yetenekleri.    

Model Çıkarma Riski ve Gizliliğe Saldırılar  

Makine öğrenimi modelleri bazı benzersiz güvenlik ve gizlilik sorunlarını ortaya koymuştur. "Bir model harici veri sağlayıcılara maruz kalırsa, modelin çıkarılması riskiyle karşı karşıya kalabilirsiniz" Ordu uyardı. Bu durumda hacker belki yapılabilir modelde tersine mühendislik yapın ve orijinal modelin işlevini yeniden üreten, ancak sonuçları değiştirilmiş bir yedek model oluşturun. "Bunun fikri mülkiyetin gizliliği açısından bariz sonuçları var" dedi.  

Model çıkarılmasına ve gizliliğe yönelik saldırılara karşı korunmak için kontrollere ihtiyaç vardır. Hız sınırlamaları gibi bazı modellerin uygulanması kolaydır, ancak bazı modeller anormal kullanım analizi gibi daha karmaşık güvenlik gerektirebilir. Yapay zeka modeli bir hizmet olarak sunuluyorsa şirketlerin bulut hizmeti ortamında güvenlik kontrollerini dikkate alması gerekir. “Açık kaynaklı veya harici olarak oluşturulan veriler ve modeller, kuruluşlar için saldırı vektörleri sağlar" diye belirtti Ordóñez, çünkü saldırganlar manipüle edilmiş veriler ekleyebilir ve iç güvenliği atlayabilir.   

Kuruluşlarının gelişen teknolojileri desteklemek için gereken teknik bilgiyi nasıl oluşturmayı planladıkları sorulduğunda, Accenture anketine katılanların çoğu mevcut çalışanları eğiteceklerini söyledi (77%), deneyime sahip kuruluşlarla işbirliği yapabilir veya ortaklık kurabilir (73%), yeni yetenekleri işe alın (73%) ve yeni işletmeler veya girişimler satın alın (49%).  

Ordóñez'e göre profesyonelleri bu beceriler konusunda eğitmek için gereken süre hafife alınıyor. Buna ek olarak, "Katılımcılar yapay zeka, 5G, kuantum hesaplama ve genişletilmiş gerçeklikten işe alınabilecek çok sayıda yeteneğin mevcut olacağını varsayıyor, ancak gerçek şu ki piyasada bu becerilerde bir eksiklik var ve olacak" dedi. "Sorunu daha da karmaşık hale getirmek, ortaya çıkan bu teknoloji becerileriyle güvenlik yeteneği bulmak daha da zor olacak" dedi.  

5G teknolojisinin özellikleri, saldırı yüzeyini genişleten sanallaştırma ve saldırı konumlarının "aşırı hassas" takibi gibi yeni güvenlik sorunlarını gündeme getirerek kullanıcılar için gizlilik endişelerini artırıyor. Ordóñez, "Bulut hizmetlerinin büyümesi gibi, 5G de şirketin bilgisi ve yönetimi dışında çalışan gölge ağlar yaratma potansiyeline sahip" dedi.  

"Cihaz kaydı, kurumsal saldırı yüzeyini ele almak için kimlik doğrulamayı içermelidir. Bu olmadan mesajların bütünlüğü ve kullanıcının kimliği garanti edilemez" dedi. Şirketlerin etkili olabilmesi için bilgi güvenliği sorumlusunun (CISO) taahhüdüne ihtiyacı olacak. "Başarı, bunu gerçekleştirmek için doğru zihniyete, davranışlara ve kültüre sahip olmak da dahil olmak üzere, inovasyonun başlangıcından itibaren ve günden güne siber risk yönetimi konusunda önemli bir CISO taahhüdü ve uzmanlığı gerektirir."  

Artırılmış gerçeklik ayrıca konumla ilgili güvenlik sorunları, güven tanıma, görüntülerin içeriği ve çevredeki ses ve "içerik maskeleme" gibi bir dizi yeni güvenlik riskini de beraberinde getiriyor. Bununla ilgili olarak Ordóñez, "'Bu vanayı aç' komutu yanlış nesneye yönlendirilebilir ve yıkıcı bir aktivasyona neden olabilir" dedi.  

5G Çağında Veri Gizliliğini Koruma Teknikleri 

Yapay zeka genişledikçe ve aynı zamanda daha fazla düzenleyici çerçeve uygulamaya konulduğundan, veri gizliliği son on yılın en önemli sorunlarından biri haline geldi. J, çeşitli veri yönetimi tekniklerinin kuruluşların uyumluluk içinde kalmasına ve güvende kalmasına yardımcı olabileceğini öne sürdüPersistent Systems'in İttifak ve Endüstriyel Çözüm Birimi Başkanı Iani Zhang, yakın zamanda bildirildiği üzere müşteriler için çözümler geliştirmek üzere IBM ve Red Hat ile yakın işbirliği içinde çalışıyor. Girişimciler Projesi. 

Federe Öğrenme. Sağlık hizmetleri gibi hassas kullanıcı verilerinin bulunduğu bir alanda, son on yılın geleneksel düşüncesi, verileri mümkün olduğunca 'silahtan çıkarmak' yönündeydi. Ancak makine öğrenimi algoritmalarını eğitmek ve dağıtmak için gerekli verilerin toplanması, özellikle veriler kuruluşlar içinde paylaşılırken "ciddi gizlilik ve güvenlik sorunları" yarattı. 

Birleştirilmiş öğrenme modelinde veriler, ortamında güvende kalır. Yerel makine öğrenimi modelleri, özel veri kümeleri üzerinde eğitilir ve merkezi olarak toplanacak veri kümeleri arasında model güncellemeleri akışı sağlanır. Zhang, "Verilerin hiçbir zaman yerel ortamı terk etmesi gerekmiyor" dedi.   

"Bu şekilde veriler güvende kalırken kuruluşlara 'kalabalığın bilgeliğini' sunmaya devam ediyoruz.başlıklı bir kılavuz yayınladı dedi. "Birleşik öğrenme, tüm verilerin gizliliğini tehlikeye atan tek bir saldırı veya sızıntı riskini azaltır çünkü veriler tek bir depoda durmak yerine birçok veriye dağıtılır."  

Açıklanabilir Yapay Zeka (XAI). Pek çok AI/ML modeli, özellikle de sinir ağları, girdileri ve işlemleri ilgili taraflarca görülemeyen kara kutulardır. Yeni bir araştırma alanı ise açıklanabilirlikKarmaşık bir sistemi temsil eden karar ağaçları gibi şeffaflığı sağlamaya yardımcı olacak teknikleri kullanarak sistemi daha hesap verebilir hale getirir.   

"Sağlık, bankacılık, finansal hizmetler ve sigorta gibi hassas alanlarda yapay zekanın karar alma sürecine körü körüne güvenemeyiz" dedi Zhang. Örneğin banka kredisi reddedilen bir tüketicinin bunun nedenini bilme hakkı vardır. "XAI, gelecekte yapay zeka sistemleri geliştiren kuruluşlar için önemli bir odak alanı olmalıdır" diye önerdi. 

Yapay Zeka Operasyonları/ML Operasyonları. Buradaki fikir, işlemleri standartlaştırarak, performansı ölçerek ve sorunları otomatik olarak düzelterek tüm ML modeli yaşam döngüsünü hızlandırmaktır. AIOps aşağıdaki üç katmana uygulanabilir: 

• altyapı: Otomatik araçlar, kuruluşların altyapılarını ölçeklendirmelerine ve kapasite taleplerine ayak uydurmalarına olanak tanır. Zhang, DevOps ilkelerini konteynerlerde çalışan bulut tabanlı mikro hizmetlere uygulayan GitOps adı verilen, yeni ortaya çıkan bir DevOps alt kümesinden bahsetti.  
• Uygulama Performans Yönetimi (APM): Kuruluşlar kesinti süresini yönetmek ve performansı en üst düzeye çıkarmak için APM uyguluyor. APM çözümleri, reaktif bir yaklaşım benimsemek yerine sorunları proaktif bir şekilde belirlemek için AI ve ML'yi kullanan bir AIOps yaklaşımını içerir.  
• BT hizmet yönetimi (ITSM): BT hizmetleri, devasa sistemlerdeki donanım, yazılım ve bilgi işlem kaynaklarını kapsar. ITSM, sorumlulukları arasında biletleme iş akışlarını otomatikleştirmek, olayları yönetmek ve analiz etmek ve belgeleri yetkilendirmek ve izlemek için AIOps'u uygular. 

Kaynak makaleleri okuyun  Pazar Araştırması Biz, ilgili raporda Accenture ve in Girişimciler Projesi. 

Ödeme PrimeXBT
AC Milan'ın Resmi CFD Ortaklarıyla Ticaret Yapın
Kripto Ticareti Yapmanın En Kolay Yolu.
Kaynak: https://www.aitrends.com/ai-and-5g/convergence-of-ai-5g-and-augmented-reality-poses-new-security-risks/