Güvenlik operasyonları ve tehdit istihbaratı ekipleri kronik olarak yetersiz kadroya sahip, verilerle dolup taşmış durumda ve birbiriyle yarışan taleplerle uğraşıyor; tüm bunlar, büyük dil modeli (LLM) sistemlerinin çözülmesine yardımcı olabilir. Ancak sistemlerle ilgili deneyim eksikliği, birçok şirketin teknolojiyi benimsemesini engelliyor.

LLM'leri uygulayan kuruluşlar, ham verilerden zekayı daha iyi sentezleyebilecek ve tehdit istihbaratı yeteneklerini derinleştirmek, ancak bu tür programların doğru bir şekilde odaklanabilmesi için güvenlik liderliğinin desteğine ihtiyacı var. Mandiant'ın istihbarat analiz grubu başkanı John Miller, ekiplerin çözülebilir problemler için LLM'leri uygulaması gerektiğini ve bunu yapmadan önce, LLM'lerin bir kuruluşun ortamındaki faydasını değerlendirmeleri gerektiğini söylüyor.

Miller, "Hedefimiz, kuruluşların belirsizliği aşmasına yardımcı olmaktır, çünkü henüz pek çok başarı öyküsü veya başarısızlık öyküsü yok," diyor. "Henüz rutin olarak mevcut deneyime dayanan gerçek yanıtlar yok ve etkiyle ilgili bu tür soruları en iyi nasıl bekleyebileceğimizi düşünmek için bir çerçeve sağlamak istiyoruz."

adresindeki bir sunumda Black Hat ABD Ağustos başında, “LLM Destekli Tehdit İstihbarat Programı Neye benziyor?Mandiant'ın Google Cloud'daki istihbarat-analitik ekibinde veri bilimcisi olan Miller ve Ron Graf, LLM'lerin siber güvenlik analizini hızlandırmak ve derinleştirmek için güvenlik çalışanlarını artırabileceği alanları gösterecek.

Tehdit İstihbaratının Üç Bileşeni

Miller, Dark Reading'e, kuruluşları için güçlü bir tehdit istihbaratı yeteneği oluşturmak isteyen güvenlik uzmanlarının, başarılı bir şekilde dahili tehdit istihbaratı işlevi oluşturmak için üç bileşene ihtiyaç duyduğunu söylüyor. İlgili tehditler hakkında verilere ihtiyaçları var; bu verileri yararlı olacak şekilde işleme ve standartlaştırma yeteneği; ve bu verilerin güvenlik endişeleriyle nasıl ilişkili olduğunu yorumlama yeteneği.

Bunu söylemesi yapmaktan daha kolay çünkü tehdit istihbaratı ekipleri veya tehdit istihbaratından sorumlu kişiler genellikle paydaşlardan gelen veriler veya isteklerle dolup taşıyor. Bununla birlikte, LLM'ler, kuruluştaki diğer grupların doğal dil sorgularıyla veri talep etmesine ve bilgileri teknik olmayan bir dilde almasına izin vererek boşluğu doldurmaya yardımcı olabilir, diyor. Sıkça sorulan sorular arasında, fidye yazılımı gibi belirli tehdit alanlarındaki eğilimler veya şirketlerin belirli pazarlardaki tehditler hakkında bilgi edinmek isteme durumları yer alır.

Miller, "Tehdit istihbaratını LLM güdümlü yeteneklerle artırmayı başaran liderler, temel olarak tehdit istihbaratı işlevlerinden daha yüksek bir yatırım getirisi elde etmeyi planlayabilirler" diyor. "Bir liderin ileriyi düşünürken bekleyebileceği ve mevcut istihbarat işlevinin yapabileceği şey, bu soruları yanıtlayabilmek için aynı kaynaklarla daha yüksek yetenekler yaratmaktır."

AI, İnsan Analistlerin Yerini Alamaz

LLM'leri ve AI ile artırılmış tehdit istihbaratını benimseyen kuruluşlar, aksi takdirde kullanılmayan kurumsal güvenlik veri kümelerini dönüştürme ve bunlardan yararlanma konusunda gelişmiş bir yeteneğe sahip olacaktır. Yine de tuzaklar var. Tutarlı tehdit analizi üretmek için LLM'lere güvenmek zamandan tasarruf sağlayabilir, ancak aynı zamanda, örneğin, potansiyel "halüsinasyonlar" - LLM'lerin bir eksikliği yanlış veya eksik veriler konusunda eğitilmiş olması sayesinde sistemin hiç olmadığı yerde bağlantılar oluşturacağı veya yanıtların tamamen üretileceği yer.

"İşinizin güvenliği hakkında karar vermek için bir modelin çıktısına güveniyorsanız, o zaman herhangi bir temel hata olup olmadığını fark etme becerisine sahip birinin modele baktığını doğrulayabilmek istersiniz. Google Cloud'dan Miller diyor. "Bu soruları cevaplarken veya bu kararları alırken içgörünün faydası adına konuşabilen, kalifiye uzmanlara sahip olduğunuzdan emin olabilmeniz gerekir."

Google Cloud'dan Graf, bu tür sorunların aşılamaz olmadığını söylüyor. Kuruluşlar, temelde bütünlük kontrolleri yapmak ve halüsinasyon oranını azaltmak için birbirine zincirlenmiş rakip modellere sahip olabilir. Ek olarak, "hızlı mühendislik" olarak adlandırılan optimize edilmiş yöntemlerle soru sormak, daha iyi yanıtlara veya en azından gerçekle en uyumlu olanlara yol açabilir.

Graf, bir yapay zekayı bir insanla eşleştirmenin en iyi yol olduğunu söylüyor.

"En iyi yaklaşımın insanları döngüye dahil etmek olduğuna inanıyoruz" diyor. "Ve bu her halükarda aşağı yönde performans iyileştirmeleri sağlayacak, bu nedenle kuruluşlar hala avantajlardan yararlanıyor."

Bu artırma yaklaşımı ilgi görmektedir. Siber güvenlik firmaları katıldı büyük LLM'lerle temel yeteneklerini dönüştürmenin yollarını keşfeden diğer şirketler. Örneğin, Mart ayında Microsoft Güvenlik Yardımcı Pilotunu başlattı siber güvenlik ekiplerinin ihlalleri araştırmasına ve tehditleri avlamasına yardımcı olmak için. Ve Nisan ayında, tehdit istihbaratı şirketi Recorded Future, sistemin geniş verileri veya derin aramayı analist için iki veya üç cümlelik basit bir özet rapora dönüştürme yeteneğinin, analist için önemli miktarda zaman kazandırdığını keşfederek, LLM ile geliştirilmiş bir yeteneği piyasaya sürdü. güvenlik uzmanları.

Jamie Zajac, "Temel olarak, tehdit istihbaratının bir 'Büyük Veri' sorunu olduğunu düşünüyorum ve saldırgana, altyapıya ve hedefledikleri kişilere yönelik saldırıların tüm düzeylerine ilişkin kapsamlı bir görünürlüğe sahip olmanız gerekiyor" diyor. AI'nın insanların bu ortamda daha etkili olmasına izin verdiğini söyleyen Recorded Future'da ürün başkan yardımcısı. "Bütün bu verilere sahip olduğunuzda, 'bunu gerçekten yararlı bir şeye nasıl sentezlersiniz?' problemiyle karşı karşıya kalırsınız ve zekamızı ve büyük dil modellerini kullanmanın ... [analistlerimize] saatlerce tasarruf etmeye başladığını gördük. zaman."

• SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
• PlatoData.Network Dikey Üretken Yapay Zeka. Kendine güç ver. Buradan Erişin.
• PlatoAiStream. Web3 Zekası. Bilgi Genişletildi. Buradan Erişin.
• PlatoESG. Otomotiv / EV'ler, karbon, temiz teknoloji, Enerji, Çevre, Güneş, Atık Yönetimi. Buradan Erişin.
• Blok Ofsetleri. Çevre Dengeleme Sahipliğini Modernleştirme. Buradan Erişin.
• Kaynak: https://www.darkreading.com/black-hat/ai-augmented-threat-intelligence-solves-security-shortfalls