Die gestrige abschließende Abstimmung des Europäischen Parlaments über das KI-Gesetz, das im Mai dieses Jahres in Kraft treten soll, kündigt die umfassendste KI-Gesetzgebung der Welt an. Genau wie die DSGVO wird sie globale Auswirkungen über die EU hinaus haben.
Das KI-Gesetz bietet einen umfassenden Rahmen zur Gewährleistung der Entwicklung vertrauenswürdiger KI und des verantwortungsvollen Einsatzes von KI-Tools, insbesondere hinsichtlich Transparenz, Voreingenommenheit, Datenschutzverletzungen, Sicherheitsrisiken und auch der Möglichkeit der Verbreitung von Fehlinformationen
als menschliche Aufsicht bei der Entwicklung von KI-Technologien.
Darin werden sieben unverbindliche ethische Grundsätze für KI verwendet, die dazu beitragen sollen, dass KI vertrauenswürdig und ethisch einwandfrei ist. Zu den Grundsätzen gehören
– menschliche Entscheidungsfreiheit und Aufsicht;
– technische Robustheit und Sicherheit;
– Datenschutz und Datenverwaltung;
– Transparenz;
– Vielfalt, Nichtdiskriminierung und Fairness;
– gesellschaftliches und ökologisches Wohlergehen und Verantwortung.
Mit einem abgestuften, risikobasierten Ansatz werden risikoreiche KI-Systeme in Sektoren wie dem Bankwesen und dem Gesundheitswesen mit strengen gesetzlichen Verpflichtungen und erheblichen Strafen bei Nichteinhaltung konfrontiert. Das Gesetz kategorisiert KI in vier Risikostufen, jeweils von minimal bis inakzeptabel
mit steigenden Verpflichtungen.
Das EU-KI-Gesetz verbietet die Entwicklung, den Einsatz und die Nutzung bestimmter KI-Systeme, darunter:
– Soziale Bewertungssysteme
- Soziale Entwicklung
– Biometrische Fernidentifizierung in Echtzeit in öffentlichen Räumen
– KI-basierte Profilerstellung und Verhaltensvorhersage
– Scraping und Erweiterung von Gesichtsbildern zur Erweiterung von Datenbanken
– KI-basierte Manipulationstechniken untergraben Autonomie und freie Wahl
Nicht alle KI-Systeme bergen erhebliche Risiken, insbesondere wenn sie die Entscheidungsfindung nicht wesentlich beeinflussen oder geschützte Rechtsgüter nicht erheblich beeinträchtigen. KI-Systeme mit minimalem Einfluss auf die Entscheidungsfindung oder Risiko für rechtliche Interessen, beispielsweise diejenigen, die etwas leisten
B. enge Aufgaben oder die Verbesserung menschlicher Aktivitäten, gelten als risikoarm. Aus Gründen der Transparenz wird auf die Dokumentation und Registrierung dieser Systeme Wert gelegt. Einige der KI-Systeme mit hohem Risiko umfassen mehrere Sektoren, darunter Banken und Versicherungen (sowie Medizin).
Geräte, HR, Bildung und mehr).
Obligatorische Anforderungen an Hochrisiko-KI-Systeme zielen darauf ab, die Vertrauenswürdigkeit sicherzustellen und Risiken unter Berücksichtigung ihres Zwecks und ihres Nutzungskontexts zu mindern. Für Finanzdienstleistungs- und Fintech-Unternehmen, insbesondere für diejenigen, die mit Kundendaten arbeiten, ist es wichtig, dies sicherzustellen
Beachten Sie im Folgenden die folgenden Anforderungen für KI-Systeme mit hohem Risiko:
– Kontinuierliches, iteratives Risikomanagement für Hochrisiko-KI mit Schwerpunkt auf Gesundheit, Sicherheit und Rechten, das Aktualisierungen, Dokumentation und Einbindung von Stakeholdern erfordert.
– Durchführung einer Folgenabschätzung für die Grundrechte
– strenge Governance, um Diskriminierung zu vermeiden und die Einhaltung der Datenschutzgesetze sicherzustellen
– Schulungs- und Testdatensätze müssen repräsentativ, genau und frei von Verzerrungen sein, um negative Auswirkungen auf Gesundheit, Sicherheit und Grundrechte zu verhindern
– Gewährleistung menschlicher Kontrolle und Transparenz
– Sicherstellung der Bias-Erkennung und -Korrektur
– verständliche Dokumentation für Rückverfolgbarkeit, Compliance-Verifizierung, Betriebsüberwachung und Überwachung nach dem Inverkehrbringen, einschließlich Systemeigenschaften, Algorithmen, Datenprozessen und Risikomanagement in klaren, aktualisierten technischen Dokumenten, plus
Automatische Ereignisprotokollierung während der gesamten Lebensdauer der KI.
– KI-Systeme mit hohem Risiko sollten während ihres gesamten Lebenszyklus eine konstante Leistung erbringen und ein angemessenes Maß an Genauigkeit, Robustheit und Cybersicherheit aufweisen
Unternehmen müssen der Entwicklung einer verantwortungsvollen KI Priorität einräumen, um die neuesten Vorschriften einzuhalten und hohe Strafen bei Nichteinhaltung zu verhindern. Dies sind einige der Schritte, mit denen ein Unternehmen beginnen sollte, um die Einhaltung sicherzustellen:
- Richten Sie eine KI-Governance ein Frühzeitig, um die Beteiligung und Zustimmung aller Interessengruppen sicherzustellen
- Erziehen und trainieren Ihr Team in ethischen Grundsätzen der KI. Der Umgang mit KI-Risiken erfordert neue Fähigkeiten, die von der Datenanalyse bis hin zu Sicherheit/Datenschutz, Recht und vielem mehr reichen.
- Führen Sie ein KI-Audit durch der Organisation (und nicht nur der Technik), sondern auch der Rechts- und Personalabteilung usw., um ein vollständiges Bild davon zu erhalten, wo KI in der Organisation eingesetzt wird
- Überprüfen Sie die fortlaufende Einhaltung
- Stellen Sie sicher, dass Ihre SaaS-Anbieter KI verantwortungsvoll einsetzen
- Sorgen Sie für Transparenz, Verständnis und Erklärbarkeit der Modelle die in Ihrem Unternehmen zum Einsatz kommen
Obwohl es sich um einen dringend benötigten Schritt in die richtige Richtung handelt, steckt der Teufel im Detail, und das KI-Gesetz wird erhebliche Auswirkungen auf die Zukunft sowohl traditioneller als auch KI-zentrierter Organisationen haben. Während wir durch eine Zeit navigieren, in der der Einfluss von KI immer größer wird
Die Einhaltung ethischer Standards und regulatorischer Anforderungen ist nicht nur eine Frage der Einhaltung gesetzlicher Vorschriften, sondern eine strategische Notwendigkeit. Durch den Fokus auf verantwortungsvolle KI schützen sich Unternehmen nicht nur vor erheblichen Bußgeldern, sondern positionieren sich auch
als vertrauenswürdige und zukunftsorientierte Einheiten in der sich schnell entwickelnden digitalen Landschaft. Der Weg zu einer verantwortungsvollen KI ist ein herausfordernder, aber unverzichtbarer Weg, der verspricht, die Zukunft von Technologie, Governance und gesellschaftlichem Wohlergehen neu zu definieren.
- SEO-gestützte Content- und PR-Distribution. Holen Sie sich noch heute Verstärkung.
- PlatoData.Network Vertikale generative KI. Motiviere dich selbst. Hier zugreifen.
- PlatoAiStream. Web3-Intelligenz. Wissen verstärkt. Hier zugreifen.
- PlatoESG. Kohlenstoff, CleanTech, Energie, Umwelt, Solar, Abfallwirtschaft. Hier zugreifen.
- PlatoHealth. Informationen zu Biotechnologie und klinischen Studien. Hier zugreifen.
- Quelle: https://www.finextra.com/blogposting/25899/the-eu-ai-act—what-are-the-implications-for-banking-and-fintech?utm_medium=rssfinextra&utm_source=finextrablogs
