Medan ChatGPT och andra tillämpningar för stora språkmodeller (LLM) antingen prisas som nästa "skivade bröd" eller förtalas som potentiell förstörelse av ekonomin, använder två professorer vid University of California, Berkeley och en AI-utvecklare tekniken praktiskt genom att förbättra cybersäkerhetsautomatisering med naturliga språkfrågor och förbättrade automatiserade svar.

Grundades av UC Berkeley-professorerna Jiantao Jiao och Kurt Keutzer från Berkeley AI Research (BAIR) Lab - tillsammans med Jian Zhang, tidigare från Stanford AI Lab, som hade varit maskininlärningschef vid AI-startupen SambaNova Systems - den nyligen lanserade Nexusflow tycks passa in i säkerhetsoperationscenter (SOC) som ett sätt att ytterligare identifiera och automatisera beslutsfattande och arbetsflöden, genom att införliva både naturligt språk och databaser för att hjälpa till att identifiera lösningar på utmaningar i nätverks- och säkerhetsoperationer.

Medan en AI-applikation tidigare var begränsad av vilken information den redan kände till när den svarade på ny data, säger Jiao att Nexusflow-metoden tillåter beslutsfattande funktionen att identifiera situationer där den inte har någon befintlig erfarenhet och att antingen fråga externa databaser för att hitta svar eller att flagga mänskliga experter för att begära instruktioner om hur man går tillväga. I huvudsak, säger han, börjar programvaran ta steget från att bara använda känd data till att fatta beslut mer intuitivt baserat på exempel och postulationer.

Utbildning av AI-applikationen

En del av inlärningsprocessen för programvaran är att lära sig om olika API:er och applikationer genom att effektivt läsa manualerna och "syntetisera fragmenterad information från olika källor", säger Jiao. Analytiker kan också visa programvaran hur man löser ett problem och applikationen kommer att lära sig av det exemplet. Men eftersom varje fix kan demonstreras, förklarar Jiao, ges applikationen flera exempel på lösningar på problem, och den införlivar denna data och lär sig på egen hand hur man löser nya problem när de uppstår baserat på hur liknande problem löstes.

I slutändan, säger Jiao, kommer programmet att kunna ta emot en enkel förfrågan från en säkerhetsanalytiker och utföra omfattande analysarbete över flera nätverk. Till exempel kommer programmet att kunna acceptera en begäran om naturligt språk från en säkerhetsanalytiker, till exempel "Granska min molnkonfiguration och se till att jag inte har någon bit hinkar exponerade" och utföra den funktionen.

Företaget använder sin egen öppen källkod LLM, dubbad NexusRaven-13B, som den hävdar kan uppnå en framgångsgrad på 95 % på CVE/CPE-sökverktyg och VirusTotal. Jiao noterar att GPT-4 endast uppnår 64 % framgång.

Ökar SOAR

Säkerhetsorkestrering och automatisering (SOAR) verktyg som för närvarande används idag förbättrar beslutssvar i SOC, men ofta är verktygen begränsade av sin oförmåga att hantera okända situationer, vilket kräver att SOC-analytiker tar sig an många vardagliga funktioner. Som ett resultat blir tiden för dessa ofta högt betalda personal en dold kostnad för att implementera SOAR.

Ken Westin, fält-CISO på Panther Labs, säger, "SOAR-plattformar har använts framgångsrikt för att samla in ytterligare sammanhang om en händelse; de saknar dock den beslutsförmåga som en mänsklig analytiker har för att bedöma risken för hotet och motsvarande svar som måste vidtas. Lösningen för detta har varit att samla in data i SOAR playbook och sedan presentera den för en analytiker, som sedan kan köra automatiserade playbooks för svaret. Denna process måste tas med i beräkningen där automatisering, AI och andra tekniker används för att förbättra, bemyndiga och utöka en analytikers förmåga att snabbt fatta beslut.”

Jiao håller med om att även om nuvarande SOAR-applikationer lovar att automatisera svaret helt, är de begränsade i sin beslutsförmåga. Nexusflow-metoden automatiserar dessa svar ytterligare, med stöd av mänskliga experter när det behövs för att förtydliga ett svar eller för att träna applikationen hur den ska svara.

Ur ett cybersäkerhetsperspektiv kräver Nexusflow inte ett offentligt moln som ChatGPT-produkter i konsumentklass gör. Eftersom det är fristående, kan företag säkerställa konfidentiell data kommer inte att avslöjas till potentiella konkurrenter eller på annat sätt släpps till allmänheten.

Vissa organisationer kräver mycket konfidentiell data för att finnas kvar i lokala datacenter, så Nexusflow låter sin programvara köras i antingen en lokalt datacenter eller ett privat moln. För mindre organisationer, eller kanske en fjärranläggning som kräver denna avancerade AI-funktionalitet men som ligger långt ifrån företagets datacenter, kan ett företag distribuera ett fristående, prefabricerat modulärt datacenter för att köra applikationen lokalt.

Nexusflow, som kom ur stealth-läget i slutet av september, samlade in 10.6 miljoner dollar i startfinansiering ledd av Point72 Ventures, med deltagande från Fusion Fund och flera AI-industrichefer från Silicon Valley, sa företaget. Medlen kommer att användas för mjukvaruutveckling och anskaffning av testutrustning, infrastruktur för mjukvarutestning och finansiering av företagets tillväxt.

• SEO-drivet innehåll och PR-distribution. Bli förstärkt idag.
• PlatoData.Network Vertical Generative Ai. Styrka dig själv. Tillgång här.
• PlatoAiStream. Web3 Intelligence. Kunskap förstärkt. Tillgång här.
• Platoesg. Kol, CleanTech, Energi, Miljö, Sol, Avfallshantering. Tillgång här.
• PlatoHealth. Biotech och kliniska prövningar Intelligence. Tillgång här.
• Källa: https://www.darkreading.com/dr-tech/nexusflow-launches-to-help-automate-the-soc