Josh Lospinoso'nun ilk siber güvenlik girişimi, 2017'de Raytheon/Forcepoint tarafından satın alındı. İkincisi, Shift5, ABD ordusu, demiryolu operatörleri ve JetBlue dahil havayolları ile çalışıyor. 2009 West Point mezunu ve Rhodes Scholar, 36 yaşındaki eski Ordu kaptanı on yıldan fazla zaman geçirdi hack araçları yazma Ulusal Güvenlik Ajansı ve ABD Siber Komutanlığı için.

Lospinoso geçtiğimiz günlerde bir Senato Silahlı Hizmetler alt komitesine yapay zekanın askeri operasyonları korumaya nasıl yardımcı olabileceğini anlattı. CEO/programcı konuyu The Associated Press ile ve ayrıca silah sistemlerindeki yazılım açıklarının ABD ordusu için nasıl büyük bir tehdit oluşturduğunu tartıştı. Röportaj netlik ve uzunluk için düzenlendi.

S: İfadenizde, AI özellikli teknolojilere yönelik iki temel tehdit tanımladınız: Biri hırsızlık. Bu kendi kendini açıklayıcı. Diğeri veri zehirlenmesidir. Bunu açıklayabilir misin?

C: Veri zehirlenmesini düşünmenin bir yolu, dijital dezenformasyondur. Rakipler, yapay zeka özellikli teknolojilerin gördüğü verileri işleyebilirlerse, bu teknolojinin çalışma şeklini derinden etkileyebilirler.

S: Veri zehirlenmesi yaşanıyor mu?

C: Bunu genel olarak görmüyoruz. Ancak oldu. En iyi bilinen vakalardan biri 2016'da meydana geldi. Microsoft, çevrimiçi yaptığı konuşmalardan öğrendiği Tay adlı bir Twitter chatbot'u yayınladı. Kötü niyetli kullanıcılar, küfürlü, saldırgan bir dille tweet atmak için komplo kurdu. Tay, iltihaplı içerik üretmeye başladı. Microsoft çevrimdışına aldı.

S: Yapay zeka yalnızca sohbet robotları değildir. Uzun zamandır siber güvenliğin ayrılmaz bir parçası oldu, değil mi?

Y: Yapay zeka, e-posta filtrelerinde önemsiz posta ve kimlik avı tuzaklarını işaretlemeye ve ayırmaya çalışmak için kullanılır. Başka bir örnek, dizüstü bilgisayarınızdaki virüsten koruma programı veya ağlarda çalışan kötü amaçlı yazılım algılama yazılımı gibi uç noktalardır. Tabii ki saldırgan bilgisayar korsanları, bu sınıflandırma sistemlerini yenmek için yapay zekayı da kullanır. Buna düşmanca yapay zeka denir.

S: Askeri yazılım sistemlerinden bahsedelim. Endişe verici bir 2018 Devlet Sorumluluk Ofisi raporu neredeyse tüm yeni geliştirilen silah sistemlerinin görev açısından kritik güvenlik açıklarına sahip olduğunu söyledi. Ve Pentagon yapay zekayı bu tür sistemlere yerleştirmeyi düşünüyor mu?

C: Burada iki konu var. İlk olarak, mevcut silah sistemlerini yeterince emniyete almamız gerekiyor. Bu, ödemesi çok uzun zaman alacak teknik bir borcumuz. Ardından, yapay zeka algoritmalarını güvence altına almanın yeni bir sınırı var - yükleyeceğimiz yeni şeyler. GAO raporu gerçekten yapay zeka hakkında konuşmadı. Bu yüzden bir saniyeliğine AI'yı unutun. Bu sistemler oldukları gibi kalsa bile, hâlâ son derece savunmasız durumdalar.

Geliştirilmiş bakım ve operasyonel zeka gibi şeyler için sınırları zorlamayı ve yapay zeka özellikli yetenekler eklemeyi tartışıyoruz. Her şey iyi. Ama biz kartlardan bir evin üzerine inşa ediyoruz. Birçok sistem onlarca yıllıktır ve dijital teknolojilerle güçlendirilmiştir. Uçak, kara araçları, uzay varlıkları, denizaltılar. Artık birbirine bağlılar. Verileri içeri ve dışarı değiş tokuş ediyoruz. Sistemler gözeneklidir, yükseltilmesi zordur ve saldırıya uğrayabilir. Bir saldırgan erişim kazandığında oyun biter.

Bazen yeni bir platform oluşturmak, mevcut sistemlerin dijital bileşenlerini yeniden tasarlamaktan daha kolaydır. Ancak yapay zekanın bu sistemlerin güvenliğini sağlamada bir rolü var. AI, birisi onları tehlikeye atmaya çalışırsa savunmak için kullanılabilir.

S: Bazılarının öne sürdüğü gibi yapay zeka araştırmalarını durdurmanın kötü bir fikir olacağını, çünkü Çin'in ve diğer rakiplerin lehine olacağını ifade ettiniz. Ancak, AI ürünlerine amansız bir geçişle ilgili endişeleriniz de var. Neden?

C: Kaderci görünmekten nefret ediyorum ama sözde "yanma-kullanma" davası geçerli görünüyor. Pazara aceleyle sunulan bir ürün genellikle alev alır (hacklenir, bozulur, istenmeyen hasarlar verir). Biz de 'Oğlum, güvenliği inşa etmeliydik' diyoruz. AI geliştirme hızının artmasını bekliyorum ve bunu güvenli ve sorumlu bir şekilde yapmak için yeterince ara vermeyebiliriz. En azından Beyaz Saray ve Kongre bu konuları tartışıyor.

S: Görünüşe göre savunma sektörü de dahil olmak üzere bir grup şirket yarı pişmiş AI ürünlerini duyurmak için acele ediyor.

C: Her teknoloji şirketi ve birçok teknoloji dışı şirket, yapay zekaya doğru neredeyse sarsıcı bir dönüş yaptı. Ekonomik altüst oluşlar geliyor. İş modelleri temelden değişecek. Yer değiştirmeler zaten oluyor veya ufukta görünüyor ve iş dünyasının liderleri dümdüz yakalanmamaya çalışıyor.

S: Hedef alma gibi askeri karar alma süreçlerinde yapay zekanın kullanımına ne dersiniz?

C: Yapay zeka algoritmalarının - topladığımız verilerin - ölümcül bir silah sisteminin karar vermesi için prime time'a hazır olduğunu düşünmüyorum, kategorik olarak düşünmüyorum. Biz bundan çok uzaktayız.

• SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
• PlatoAiStream. Web3 Veri Zekası. Bilgi Genişletildi. Buradan Erişin.
• Adryenn Ashley ile Geleceği Basmak. Buradan Erişin.
• PREIPO® ile PRE-IPO Şirketlerinde Hisse Al ve Sat. Buradan Erişin.
• Kaynak: https://www.defensenews.com/artificial-intelligence/2023/05/29/adversarial-ai-a-threat-to-military-systems-shift5s-lospinoso-says/