Güvenlik söz konusu olduğunda insanlar kurumun en zayıf halkası olarak kabul edilir. Aynen öyle %95'ın üzerinde Siber güvenlik olaylarının çoğu insan hatasından kaynaklanmaktadır. İnsanların kararsız, yanılabilir ve öngörülemez olması, onları kuruluşların sistemlerine girmek isteyen siber suçlular için kolay hedef haline getiriyor.  

Bu, makinelere olan bağımlılığımızı çok daha önemli hale getiriyor. Bu noktaya kadar makinelerin kodun gerçek olduğu şekilde çalışacağına güvenebiliyorduk. Koddaki güvenlik açıkları veya insan operatörlerin sosyal kusurları nedeniyle tehlikeye atılabilseler de sorunlar genellikle kesin bir çözümle karşılanır. 

Ancak yükselişi ile üretken yapay zeka (GenAI) ve büyük dil modelleri (LLM'ler), kuruluşlar artık yapay zekayı yapmayı amaçlamadığı şeyleri yapması için kandıran sosyal mühendislik saldırılarıyla karşı karşıyadır. Yapay zekaya daha fazla yük aktardıkça, bu yeni saldırı modellerinin ortaya çıktığını görmek ilginç olacak.

Bu ikilem karşısında, bu karmaşık ve gelişen yapay zeka güvenlik ortamında yol almak bir kez daha insanlara kalmış. Bu, CISO'ları yapay zekanın faydalarının yanı sıra eksikliklerini de açıkça aktarmaya ve yapay zeka destekli ürün ve yeteneklere bağlı güvenlik hususlarının uzun listesini tanımaya çağırıyor. 

Üretken Yapay Zekanın Aceleyle Uygulanması Yeni Siber Güvenlik Zorluklarını Getiriyor

Başlangıç ​​olarak, konu GenAI ve Yüksek Lisans'lara gelince yaygın bir sorun, yapay zeka tarafından oluşturulan içeriğe aşırı güvenmedir. Yanıltıcı veya yanlış bilgileri doğrulamadan veya kontrol etmeden yapay zeka tarafından oluşturulan içeriğe, insan girişi veya gözetimi olmadan güvenmek, zayıf karar verme sürecini bilgilendiren ve eleştirel düşünmeyi azaltan hatalı verilerin yayılmasına yol açabilir. Yüksek Lisans'ların halüsinasyon gördüğü biliniyor, bu nedenle dezenformasyonun bir kısmı kötü niyetli niyetten kaynaklanmayabilir.

Aynı şekilde, GenAI'nin gelişiminin ardından ortaya çıkan güvenli olmayan kod miktarı da, eğer proaktif olarak öngörülmezse, CISO'lar için önemli bir zorluk haline gelecektir. Yapay zeka motorlarının güvenlik açıklarına sahip hatalı kodlar yazdığı biliniyor. Uygun insan gözetimi olmadan GenAI, uygun teknik temellere sahip olmayan kişilere kod gönderme yetkisi verir. Bu durum, bu araçları uygunsuz şekilde kullanan kuruluşlar için yazılım geliştirme yaşam döngüsü boyunca artan güvenlik riskine yol açar.

Veri sızıntısı başka bir yaygın sorundur. Bazı durumlarda saldırganlar, AI modelinin başka bir kullanıcıdan öğrendiği hassas bilgileri çıkarmak için hızlı enjeksiyonu kullanabilir. Çoğu zaman bu zararsız olabilir, ancak kötü niyetli kullanım kesinlikle engellenmez. Kötü aktörler, AI aracını kasıtlı olarak titizlikle hazırlanmış istemlerle inceleyerek aracın ezberlediği hassas bilgileri çıkarmayı hedefleyebilir ve bu da hassas veya gizli bilgilerin sızmasına yol açabilir.

Yapay Zeka Bazı Siber Güvenlik Açıklarını Artırabilir Ancak Diğerlerini Kapatmada Önemli Potansiyele Sahiptir

Son olarak, GenAI ve LLM'lerin yayılmasının birkaç nedenden dolayı sektörümüzün saldırı yüzeyi azalmasının bir kısmını gerileyeceği anlaşılmaktadır. Birincisi, GenAI ile kod üretme yeteneği, kimin yazılım mühendisi olabileceğine ilişkin çıtayı düşürür, bu da daha zayıf kodlara ve hatta daha zayıf güvenlik standartlarına neden olur. İkincisi, GenAI çok büyük miktarlarda veri gerektiriyor; bu da veri ihlallerinin ölçeğinin ve etkisinin katlanarak artacağı anlamına geliyor. Üçüncüsü, yeni ortaya çıkan herhangi bir teknolojide olduğu gibi, geliştiriciler, uygulamalarının nasıl kötüye kullanılabileceğinin veya kötüye kullanılabileceğinin tam olarak farkında olmayabilir. 

Ancak dengeli bir bakış açısı benimsemek önemlidir. Gen AI'nin kod oluşturmayı kolaylaştırması endişeleri artırsa da siber güvenlik ortamına olumlu nitelikler de getiriyor. Örneğin, Siteler Arası Komut Dosyası Çalıştırma (XSS) veya SQL enjeksiyonu gibi güvenlik açıklarını etkili bir şekilde tespit edebilir. Bu ikili doğa, incelikli bir anlayışın önemini vurgulamaktadır. Yapay zekayı yalnızca zararlı olarak görmek yerine, yapay zeka ile insanın siber güvenliğe katılımı arasındaki tamamlayıcı ilişkiyi vurguluyor. CISO'lar, GenAI ve LLM'lerin ilgili risklerini kavramalı, aynı zamanda GenAI'yi uygulamak ve organizasyonlarını güçlendirmek için insan merkezli yaklaşımları keşfetmelidir.

Yapay Zekanın Ardında Bıraktıklarını İnsanlar Topluyor

CISO'ların görevi yalnızca GenAI'nin karmaşıklıklarını ortaya çıkarmak değildir. Organizasyonları için ileriye doğru bir yol açmalı ve liderlerine, organizasyonlarının GenAI'nın hakim olduğu bir dünyada nasıl gelişmeye devam edebileceğini göstermeliler. 

Çoğu güvenlik açığından son kullanıcılar sorumlu olsa da, siber suçlara karşı iyi eğitimli ve güvenlik bilincine sahip bir insandan daha iyi bir savunma olamaz. Bir kuruluşta hangi tehdit algılama araçları bulunursa bulunsun, yazılım test etme söz konusu olduğunda ekranın arkasındaki kişinin değiştirilmesi mümkün değildir. 

Kuruluşlar siber suçluları geride bırakabilir etik hackleme. Bazıları, modası geçmiş yanlış kanılar nedeniyle bilgisayar korsanlarını ağlarına davet etmekte tereddüt ederken, yasalara saygılı bu siber güvenlik uzmanları, kötü aktörlerle mücadele etmek için en iyi adaydır; çünkü yapay zekanın aksine, siber saldırganların kafalarına girebilirler.

Aslında bilgisayar korsanları, siber suçlulara karşı mücadelede otomatik araçları zaten destekliyor. Arasında 92% etik korsanlar tarayıcıların bulamadığı güvenlik açıklarını bulabileceklerini söylüyor. İş dünyasının liderleri, bilgisayar korsanlığının sonsuza dek perdeyi aralayarak, modern siber suçlarla mücadelede yapay zeka ile insan uzmanlar arasında daha etkili bir denge kurmak için etik hacklemeyi ve insan desteğini benimseyebilir. Son zamanlarımız Hacker Destekli Güvenlik Raporu Müşterilerimizin %91'i, bilgisayar korsanlarının yapay zeka veya tarama çözümlerinden daha etkili ve değerli güvenlik açığı raporları sağladığını söylemesi bunu vurguluyor. Yapay zeka geleceğimizi şekillendirmeye devam ederken, etik hacker topluluğu da yapay zekanın güvenli entegrasyonunu sağlamaya kararlı kalacak.

Otomasyonun yüksek vasıflı bilgisayar korsanlarından oluşan bir ağ ile birleşimi, şirketlerin kritik uygulama kusurlarını istismar edilmeden önce tespit edebilmeleri anlamına gelir. Kuruluşlar, otomatik güvenlik araçlarını etik korsanlıkla etkili bir şekilde harmanladığında, sürekli gelişen dijital saldırı yüzeyindeki boşlukları kapatmış olurlar. 

Bunun nedeni, insanların ve yapay zekanın güvenlik ekibi üretkenliğini artırmak için birlikte çalışabilmesidir: 

1. Saldırı yüzeyi keşfi: Modern kuruluşlar, çeşitli yetkili ve onaylanmamış donanım ve yazılımlardan oluşan kapsamlı ve karmaşık bir BT altyapısı geliştirebilir. Yazılım ve donanım gibi her şeyi kapsayan bir BT varlıkları endeksi geliştirmek, güvenlik açıklarını azaltmak, yama yönetimini kolaylaştırmak ve sektör talimatlarına uyumluluğa yardımcı olmak açısından önemlidir. Ayrıca bir saldırganın bir kuruluşu hedef alabileceği noktaların belirlenmesine ve analiz edilmesine de yardımcı olur.
2. Sürekli değerlendirmeler: Anlık güvenliğin ötesine geçen kuruluşlar, dijital ortamın sürekli test edilmesini sağlamak için insan güvenliği uzmanlarının yaratıcılığını gerçek zamanlı saldırı yüzeyi öngörüleriyle birleştirebilir. Sürekli sızma testi, BT ekiplerinin, bir ihlalin mevcut ortamda nasıl görüneceğini ve ekiplerin gerçek zamanlı olarak uyum sağlayabilecekleri potansiyel zayıf noktaları gösteren sürekli simülasyonların sonuçlarını görüntülemesine olanak tanır.
3. Süreç iyileştirmeleri: Güvenilir insan bilgisayar korsanları, süreç iyileştirmelerine yardımcı olmak için güvenlik ekiplerine güvenlik açıkları ve varlıklar hakkında değerli bilgiler verebilir.

Sonuç

Üretken yapay zeka bu kadar hızlı gelişmeye devam ederken, CISO'ların yapay zeka güvenliğini geliştirmek ve yönetim kurullarından ve liderlik ekiplerinden destek almak için insanların nasıl işbirliği yapabileceğine dair anlayışlarından yararlanmaları gerekiyor. Sonuç olarak kuruluşlar, bu zorluklarla etkili bir şekilde başa çıkmak için yeterli personele ve kaynaklara sahip olabilir. Etik bilgisayar korsanlarıyla iş birliği yaparak hızlı yapay zeka uygulaması ile kapsamlı güvenlik arasında doğru dengeyi yakalamak, uygun yapay zeka destekli çözümlere yatırım yapma argümanını güçlendiriyor.

• SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
• PlatoData.Network Dikey Üretken Yapay Zeka. Kendine güç ver. Buradan Erişin.
• PlatoAiStream. Web3 Zekası. Bilgi Genişletildi. Buradan Erişin.
• PlatoESG. karbon, temiz teknoloji, Enerji, Çevre, Güneş, Atık Yönetimi. Buradan Erişin.
• PlatoSağlık. Biyoteknoloji ve Klinik Araştırmalar Zekası. Buradan Erişin.
• Kaynak: https://www.dataversity.net/balancing-act-the-value-of-human-expertise-in-the-age-of-generative-ai/