Bulut e-posta güvenliği sağlayıcısı Ironscales, sadağına yeni bir ok ekledi: Themis Co-pilot for Microsoft Outlook, şirketin kendi büyük dil modeli (LLM) olan PhishLLM tarafından desteklenen bir self servis tehdit raporlama sohbet robotu.

İş e-postası gizliliği (BEC), saldırganların kullanıcıları kişisel olarak tanımlanabilir bilgileri (PII), kurumsal varlıkları ve hatta parayı vermeleri için kandırmak için aldatma ve kimliğe bürünme yöntemleri kullandığı büyük ve büyüyen bir sorundur. FBI'a göre, BEC dünya çapında 50 milyar dolara mal oldu 10'de kayıplarda yıldan yıla %17 artışla son 2022 yılda. İhlallerin %74'ü insan muhakemesiyle ilgiliydi.

Microsoft Outlook, sistem yöneticilerine bir rapor gönderen, ancak kullanıcının bir kimlik avı e-postasını ayırt edebilmesine bağlı olan Kimlik Avı Bildir düğmesiyle BEC'ye hitap eder. İnsan unsurunu bir avantaja dönüştürmek için Ironsides, şüpheli e-postaları işaretlemek ve alıcıları bir şeyin aslında bir kimlik avı tuzağı olup olmadığını nasıl anlayacağını açıklayan bir diyalog yoluyla yönlendirmek için Themis Yardımcı Pilot'u tanıttı.

Themis Yardımcı pilot, Ironscales'in milyonlarca güvenlik olayından oluşan Themis AI güvenlik veri setinden yararlanıyor ve — ChatGPT ve diğer iyi bilinen üretici AI araçları gibi — kullanıyor insan geri bildiriminden (RLHF) pekiştirmeli öğrenme güncel tutmak için. ChatGPT'den farklı olarak, Themis AI ve PhishLLM tescillidir ve yalnızca Ironscales tarafından tutulur, bu da gizliliğin çoğunu ortadan kaldırır ve AI araçlarının gündeme getirdiği gizlilik endişeleri çalışanlar yeni verileri geri bildirdiğinde.

RLHF'nin fikri, yeni kimlik avı örneklerini ve insan kararlarını Themis AI aracılığıyla PhishLLM'ye geri göndererek Themis Yardımcı Pilotunun eylemlerinin daha doğru hale gelmesidir. Bu verimli döngü, ideal olarak güvenlik ekibinin temizlemesi için daha az yanlış pozitifle sonuçlanmakla kalmaz, aynı zamanda kullanıcıların bir kimlik avı girişiminde nelere bakmaları gerektiği konusunda eğitilmesine de yardımcı olabilir.

Themis yardımcı pilotu şu anda Ironscales'in kapalı beta sürümünde mevcuttur.