Cloud-e-mailbeveiligingsprovider Ironscales heeft een nieuwe pijl toegevoegd aan zijn pijlenkoker: Themis Co-pilot voor Microsoft Outlook, een self-service chatbot voor het rapporteren van bedreigingen, mogelijk gemaakt door PhishLLM, het eigen grote taalmodel (LLM) van het bedrijf.

Business Email Compromise (BEC) is een groot en groeiend probleem waarbij aanvallers misleiding en imitatie gebruiken om gebruikers voor de gek te houden zodat ze persoonlijk identificeerbare informatie (PII), bedrijfsmiddelen of zelfs geld weggeven. Volgens de FBI, BEC heeft wereldwijd $ 50 miljard gekost in de afgelopen 10 jaar, met een jaar-op-jaar groei van 17% in verliezen in 2022. En Verizon's 2023 Data Breach Investigations Report (DBIR) meldde dat het afgelopen jaar, Bij 74% van de inbreuken was menselijk oordeel betrokken.

Microsoft Outlook spreekt BEC aan met een Report Phish-knop, die een rapport naar de systeembeheerders stuurt, maar dat hangt ervan af of de gebruiker een phishing-e-mail kan onderscheiden. Om van het menselijke element een voordeel te maken, introduceerde Ironsides Themis Co-pilot om verdachte e-mails te markeren en ontvangers door een dialoog te leiden waarin wordt uitgelegd hoe ze kunnen zien of iets in feite een phishing-lokmiddel is.

Themis Co-pilot maakt gebruik van de Themis AI-beveiligingsdataset van Ironscales, die is opgebouwd uit miljoenen beveiligingsgebeurtenissen en — net als ChatGPT en andere bekende generatieve AI-tools — gebruik maakt van versterking leren van menselijke feedback (RLHF) actueel te houden. In tegenstelling tot ChatGPT zijn Themis AI en PhishLLM eigendom van en alleen eigendom van Ironscales, waardoor veel van de privacy- en zorgen over vertrouwelijkheid van AI-tools wanneer medewerkers nieuwe gegevens terugkoppelen.

Het idee van RLHF is dat door nieuwe phishingvoorbeelden en menselijke beslissingen terug te voeren naar PhishLLM via Themis AI, de acties van Themis Co-pilot nauwkeuriger zullen worden. Deze positieve cirkel resulteert idealiter niet alleen in minder valse positieven die het beveiligingsteam moet wissen, maar kan gebruikers ook helpen te leren waar ze op moeten letten bij een phishingpoging.

Themis Co-piloot is nu beschikbaar in gesloten bèta van Ironscales.