Unternehmen setzen zunehmend generative KI ein, um IT-Prozesse zu automatisieren, Sicherheitsbedrohungen zu erkennen und Kundendienstfunktionen an vorderster Front zu übernehmen. Ein IBM-Umfrage im Jahr 2023 fanden heraus, dass 42 % der großen Unternehmen KI aktiv nutzen und weitere 40 % KI erforschen oder damit experimentieren.

An der unvermeidlichen Schnittstelle zwischen KI und Cloud müssen Unternehmen darüber nachdenken, wie sie KI-Tools in der Cloud sichern können. Eine Person, die viel darüber nachgedacht hat, ist Chris Betz, der im vergangenen August CISO bei Amazon Web Services wurde.

Vor AWS war Betz Executive Vice President und CISO von Capital One. Betz arbeitete außerdem als Senior Vice President und Chief Security Officer bei Lumen Technologies und in Sicherheitsfunktionen bei Apple, Microsoft und CBS.

Dark Reading hat kürzlich mit Betz darüber gesprochen Sicherheit von KI-Workloads in der Cloud. Es folgt eine bearbeitete Version dieses Gesprächs.

Dark Reading: Was sind einige der großen Herausforderungen bei der Sicherung von KI-Workloads in der Cloud?

Chris Betz: Wenn ich mit vielen unserer Kunden über generative KI spreche, beginnen diese Gespräche oft mit: „Ich habe diese wirklich sensiblen Daten und möchte meinen Kunden eine Möglichkeit bieten.“ Wie mache ich das auf sichere Weise?“ Ich schätze dieses Gespräch sehr, weil es so wichtig ist, dass sich unsere Kunden auf das Ergebnis konzentrieren, das sie erreichen möchten.

Dark Reading: Worüber machen sich Kunden am meisten Sorgen?

Betz: Das Gespräch muss mit dem Konzept beginnen, dass „Ihre Daten Ihre Daten sind“. Wir haben den großen Vorteil, dass ich auf einer IT-Infrastruktur aufbauen kann, die wirklich gute Arbeit leistet und die Daten dort hält, wo sie sind. Daher ist mein erster Rat: Verstehen Sie, wo sich Ihre Daten befinden. Wie wird es geschützt? Wie wird es im generativen KI-Modell verwendet?

Das zweite, worüber wir sprechen, ist, dass bei den Interaktionen mit einem generativen KI-Modell häufig einige der sensibelsten Daten ihrer Kunden verwendet werden. Wenn Sie ein generatives KI-Modell zu einer bestimmten Transaktion befragen, verwenden Sie Informationen über die an dieser Transaktion beteiligten Personen.

Dark Reading: Sind Unternehmen besorgt darüber, was die KI mit ihren internen Unternehmensdaten und mit Kundendaten macht?

Betz: Die Kunden möchten generative KI am liebsten bei ihren Interaktionen mit ihren Kunden und beim Auswerten und Nutzen der riesigen Datenmengen, die sie intern haben, nutzen und diese entweder für interne Mitarbeiter oder für ihre Kunden nutzen. Für die Unternehmen ist es so wichtig, dass sie diese unglaublich sensiblen Daten auf sichere Weise verwalten, denn sie sind das Lebenselixier ihres Unternehmens.

Unternehmen müssen darüber nachdenken, wo sich ihre Daten befinden und wie sie geschützt werden, wenn sie der KI Eingabeaufforderungen geben und wenn sie Antworten erhalten.

Dark Reading: Hängen die Qualität der Antworten und die Sicherheit der Daten zusammen?

Betz: KI-Benutzer müssen immer darüber nachdenken, ob sie qualitativ hochwertige Antworten erhalten. Der Grund für Sicherheit besteht darin, dass Menschen ihren Computersystemen vertrauen. Wenn Sie dieses komplexe System zusammenstellen, das ein generatives KI-Modell verwendet, um dem Kunden etwas zu liefern, muss der Kunde darauf vertrauen können, dass die KI ihm die richtigen Informationen zum Handeln liefert und dass sie seine Informationen schützt.

Dark Reading: Gibt es konkrete Möglichkeiten, wie AWS uns darüber informieren kann, wie es sich vor Angriffen auf KI in der Cloud schützt? Ich denke an sofortige Injektion, Vergiftungsangriffe, gegnerische Angriffe und so etwas.

Betz: Da wir bereits seit Jahren mit KI arbeiten, war AWS gut auf die Herausforderung vorbereitet, da wir bereits über ein starkes Fundament verfügten. Wir verfügen über eine große Anzahl interner KI-Lösungen und eine Reihe von Dienstleistungen, die wir unseren Kunden direkt anbieten, und Sicherheit war ein wichtiger Aspekt bei der Entwicklung dieser Lösungen. Es ist das, wonach unsere Kunden fragen und was sie erwarten.

Als einer der größten Cloud-Anbieter verfügen wir über umfassende Einblicke in die sich entwickelnden Sicherheitsanforderungen auf der ganzen Welt. Die von uns erfassten Bedrohungsinformationen werden aggregiert und zur Entwicklung umsetzbarer Erkenntnisse verwendet, die in Kundentools und -diensten verwendet werden, z Wache. Darüber hinaus werden unsere Bedrohungsinformationen genutzt, um im Auftrag der Kunden automatisierte Sicherheitsmaßnahmen zu generieren, um deren Daten zu schützen.

Dark Reading: Wir haben viel über Cybersicherheitsanbieter gehört, die KI und maschinelles Lernen nutzen, um Bedrohungen zu erkennen, indem sie nach ungewöhnlichem Verhalten auf ihren Systemen suchen. Auf welche Weise nutzen Unternehmen KI sonst noch, um sich zu schützen?

Betz: Ich habe gesehen, wie Kunden mit generativer KI erstaunliche Dinge getan haben. Wir haben gesehen, wie sie CodeWhisperer [den KI-gestützten Codegenerator von AWS] nutzen, um schnell Prototypen zu erstellen und Technologien zu entwickeln. Ich habe gesehen, dass Teams CodeWhisperer nutzen, um ihnen zu helfen Erstellen Sie sicheren Code und stellen sicher, dass wir Lücken im Code schließen.

Wir haben auch generative KI-Lösungen entwickelt, die mit einigen unserer internen Sicherheitssysteme in Kontakt stehen. Wie Sie sich vorstellen können, arbeiten viele Sicherheitsteams mit riesigen Informationsmengen. Generative KI ermöglicht eine Synthese dieser Daten, sodass sie sowohl von Entwicklern als auch von Sicherheitsteams sehr gut genutzt werden können, um zu verstehen, was in den Systemen vor sich geht, bessere Fragen zu stellen und diese Daten zusammenzuführen.

Als ich anfing, darüber nachzudenken Fachkräftemangel im Bereich CybersicherheitGenerative KI trägt heute nicht nur dazu bei, die Geschwindigkeit der Softwareentwicklung zu steigern und die sichere Codierung zu verbessern, sondern hilft auch bei der Aggregation von Daten. Es wird uns weiterhin helfen, weil es unsere menschlichen Fähigkeiten stärkt. KI hilft uns, Informationen zusammenzuführen, um komplexe Probleme zu lösen, und hilft dabei, die Daten den Sicherheitsingenieuren und Analysten zur Verfügung zu stellen, damit diese bessere Fragen stellen können.

Dark Reading: Sehen Sie irgendwelche Sicherheitsbedrohungen, die spezifisch für KI und die Cloud sind?

Betz: Ich habe viel Zeit mit Sicherheitsforschern verbracht, um mich mit hochmodernen generativen KI-Angriffen und der Sichtweise von Angreifern zu befassen. Es gibt zwei Klassen von Dingen, über die ich in diesem Bereich nachdenke. Die erste Klasse besteht darin, dass böswillige Akteure beginnen, generative KI zu nutzen, um schneller und besser in dem zu werden, was sie bereits tun. Ein Beispiel hierfür sind Social-Engineering-Inhalte.

Angreifer nutzen auch KI-Technologie, um Code schneller zu schreiben. Das ist der Lage der Verteidigung sehr ähnlich. Ein Teil der Stärke dieser Technologie besteht darin, dass sie eine Reihe von Aktivitäten einfacher macht, und das gilt für Angreifer, aber auch für Verteidiger.

Der andere Bereich, mit dem sich Forscher meiner Meinung nach mehr befassen, ist die Tatsache, dass es sich bei diesen generativen KI-Modellen um Code handelt. Wie anderer Code sind auch sie anfällig für Schwachstellen. Es ist wichtig, dass wir verstehen, wie wir sie schützen und sicherstellen können, dass sie in einer Umgebung mit Abwehrmechanismen existieren.

• SEO-gestützte Content- und PR-Distribution. Holen Sie sich noch heute Verstärkung.
• PlatoData.Network Vertikale generative KI. Motiviere dich selbst. Hier zugreifen.
• PlatoAiStream. Web3-Intelligenz. Wissen verstärkt. Hier zugreifen.
• PlatoESG. Kohlenstoff, CleanTech, Energie, Umwelt, Solar, Abfallwirtschaft. Hier zugreifen.
• PlatoHealth. Informationen zu Biotechnologie und klinischen Studien. Hier zugreifen.
• Quelle: https://www.darkreading.com/cloud-security/aws-ciso-cloud-customers-need-secure-ai-workloads