Google hat im Rahmen seiner AI Cyber ​​Defense Initiative Magika, eine firmeneigene, auf maschinellem Lernen basierende Dateikennung, als Open-Source-Lösung bereitgestellt, die darauf abzielt, IT-Netzwerkverteidigern und anderen bessere automatisierte Tools zur Verfügung zu stellen.

Den wahren Inhalt einer vom Benutzer übermittelten Datei herauszufinden, ist möglicherweise schwieriger als es aussieht. Es ist nicht sicher, den Dateityp beispielsweise anhand seiner Erweiterung zu erkennen und sich auf Heuristiken und von Menschen erstellte Regeln zu verlassen – wie sie beispielsweise in weit verbreitet sind libmagic – Die tatsächliche Natur eines Dokuments anhand seiner Daten zu ermitteln, ist nach Ansicht von Google „zeitaufwändig und fehleranfällig“.

Wenn jemand ein .JPG-Bild auf Ihren Online-Dienst hochlädt, möchten Sie grundsätzlich sicher sein, dass es sich um ein JPEG-Bild handelt und nicht um ein als solches getarntes Skript, das Ihnen später in den Arsch beißen könnte. Hier kommt Magika ins Spiel, das ein trainiertes Modell verwendet, um Dateitypen schnell aus Dateidaten zu identifizieren, und dieser Ansatz ist nach Ansicht von Big G gut genug für den Einsatz in der Produktion geeignet. Uns wurde gesagt, dass Magika von Gmail, Google Drive, Chromes Safe Browsing und VirusTotal verwendet wird, um Daten ordnungsgemäß zu identifizieren und zur weiteren Verarbeitung weiterzuleiten.

Ihr Kilometerstand kann variieren. Libmagic könnte für Sie gut genug funktionieren. Auf jeden Fall ist Magika ein Beispiel dafür, wie Google intern künstliche Intelligenz nutzt, um seine Sicherheit zu erhöhen, und hofft, dass auch andere von dieser Technologie profitieren können. Ein anderes Beispiel wäre RETVec, ein mehrsprachiges Textverarbeitungsmodell zur Erkennung von Spam. Dies geschieht zu einem Zeitpunkt, an dem wir alle gewarnt werden, dass Kriminelle offenbar zunehmend Software für maschinelles Lernen nutzen, um Einbrüche und Schwachstellenforschung zu automatisieren.

Politische Entscheidungsträger, Sicherheitsexperten und die Zivilgesellschaft haben die Chance, das Gleichgewicht der Cybersicherheit endlich vom Angreifer zum Cyberverteidiger zu verschieben

„KI steht an einem endgültigen Scheideweg – einem, an dem politische Entscheidungsträger, Sicherheitsexperten und die Zivilgesellschaft die Chance haben, das Gleichgewicht der Cybersicherheit endlich von Angreifern zu Cyberverteidigern zu verschieben“, sagen Phil Venables, Chief Information Security Officer bei Google Cloud, und Royal Hansen, Verfechter von Technik für Privatsphäre, Sicherheit und Schutz, sagte am Freitag. 

„In einer Zeit, in der böswillige Akteure mit KI experimentieren, brauchen wir mutige und rechtzeitige Maßnahmen, um die Richtung dieser Technologie zu bestimmen.“

Das Paar glaubt Magika kann von Netzwerkverteidigern verwendet werden, um schnell und in großem Umfang den wahren Inhalt von Dateien zu identifizieren, was einen ersten Schritt in der Malware-Analyse und Einbruchserkennung darstellt. Ehrlich gesagt könnte dieses Deep-Learning-Modell für jeden nützlich sein, der von Benutzern bereitgestellte Dokumente scannen muss: Videos, die tatsächlich ausführbare Dateien sind, sollten beispielsweise Alarm auslösen und eine genauere Betrachtung erfordern. E-Mail-Anhänge, die nicht das sind, was sie vorgeben, sollten unter Quarantäne gestellt werden. Du hast die Idee.

Allgemeiner gesagt können KI-Modelle im Kontext der Cybersicherheit nicht nur Dateien auf verdächtige Inhalte und Quellcode auf Schwachstellen untersuchen, sondern auch Patches zur Behebung von Fehlern generieren, behaupteten die Google-Mitarbeiter. Die Ingenieure des Megakonzerns haben damit experimentiert Gemini um auch das automatisierte Fuzzing von Open-Source-Projekten zu verbessern.

Google behauptet, Magika sei bei der Identifizierung von Dateitypen um 50 Prozent genauer als das frühere System manuell erstellter Regeln des Unternehmens, brauche Millisekunden, um einen Dateityp zu identifizieren, und soll bei Tests eine Genauigkeit von mindestens 99 Prozent erreicht haben. Es ist jedoch nicht perfekt und kann Dateitypen in etwa drei Prozent der Fälle nicht klassifizieren. Es ist unter Apache 2.0 lizenziert, der Code lautet hier, und sein Modell wiegt 1 MB.

Abweichend von Magika wird die Chocolate Factory im Rahmen dieser neuen KI-Cyber-Verteidigungsinitiative auch mit 17 Start-ups in Großbritannien, den USA und Europa zusammenarbeiten und sie darin schulen, diese Art von automatisierten Tools zu verwenden, um ihre Sicherheit zu verbessern. 

Außerdem wird das Unternehmen sein 15 Millionen US-Dollar teures Cybersecurity-Seminare-Programm erweitern, um Universitäten dabei zu unterstützen, mehr europäische Studenten in Sicherheit auszubilden. In der näheren Umgebung hat das Unternehmen Zuschüsse in Höhe von 2 Millionen US-Dollar für die Finanzierung von Forschungsarbeiten zu Cyber-Angriffen sowie große Sprachmodelle zur Unterstützung von Akademikern an der University of Chicago, Carnegie Mellon und Stanford zugesagt.

„Die KI-Revolution ist bereits im Gange. „Während die Menschen das Versprechen neuer Medikamente und wissenschaftlicher Durchbrüche zu Recht begrüßen, freuen wir uns auch über das Potenzial der KI, generationsübergreifende Sicherheitsherausforderungen zu lösen und uns gleichzeitig der sicheren und vertrauenswürdigen digitalen Welt näher zu bringen, die wir verdienen“, schlussfolgerten Venables und Hansen. ®

• SEO-gestützte Content- und PR-Distribution. Holen Sie sich noch heute Verstärkung.
• PlatoData.Network Vertikale generative KI. Motiviere dich selbst. Hier zugreifen.
• PlatoAiStream. Web3-Intelligenz. Wissen verstärkt. Hier zugreifen.
• PlatoESG. Kohlenstoff, CleanTech, Energie, Umwelt, Solar, Abfallwirtschaft. Hier zugreifen.
• PlatoHealth. Informationen zu Biotechnologie und klinischen Studien. Hier zugreifen.
• Quelle: https://go.theregister.com/feed/www.theregister.com/2024/02/17/google_ai_magika/