Künstliche Intelligenz wird der Schlüssel dazu sein, der Menschheit dabei zu helfen, neue Grenzen zu überwinden und Probleme zu lösen, die heute unüberwindbar erscheinen. Es verbessert das menschliche Fachwissen, macht Vorhersagen genauer, automatisiert Entscheidungen und Prozesse, gibt den Menschen die Möglichkeit, sich auf höherwertige Arbeiten zu konzentrieren, und verbessert unsere Gesamteffizienz.

Doch das öffentliche Vertrauen in die Technologie ist auf einem Tiefpunkt angelangt, und das aus gutem Grund. In den letzten Jahren haben wir mehrere Beispiele für KI gesehen, die unfaire Entscheidungen trifft, keine Erklärung für ihre Entscheidungen liefert oder die gehackt werden kann.

Um zu einer vertrauenswürdigen KI zu gelangen, müssen Unternehmen diese Probleme mit Investitionen an drei Fronten lösen: Erstens müssen sie eine Kultur fördern, die KI sicher einführt und skaliert. Zweitens müssen sie Untersuchungstools entwickeln, um Einblicke in Black-Box-Algorithmen zu erhalten. Und drittens müssen sie sicherstellen, dass ihre Unternehmensstrategie strenge Data-Governance-Grundsätze beinhaltet.

1. Die Kultur fördern

Vertrauenswürdige KI hängt von mehr als nur der verantwortungsvollen Gestaltung, Entwicklung und Nutzung der Technologie ab. Es kommt auch darauf an, über die richtigen organisatorischen Betriebsstrukturen und die richtige Kultur zu verfügen. Beispielsweise haben viele Unternehmen, die möglicherweise Bedenken wegen Verzerrungen in ihren Ausbildungsdaten haben, auch Bedenken geäußert, dass ihr Arbeitsumfeld nicht dazu geeignet ist, Frauen und Minderheiten in ihren Reihen zu fördern. Es gibt tatsächlich einen sehr direkten Zusammenhang! Um zu beginnen und wirklich darüber nachzudenken, wie dieser Kulturwandel gelingen kann, müssen Unternehmen definieren, wie verantwortungsvolle KI in ihrer Funktion aussieht, warum sie einzigartig ist und was die spezifischen Herausforderungen sind.

Um eine faire und transparente KI zu gewährleisten, müssen Organisationen dies tun Stellen Sie Arbeitsgruppen der Interessengruppen zusammen aus unterschiedlichen Hintergründen und Disziplinen, um ihren Ansatz zu entwerfen. Diese Methode verringert die Wahrscheinlichkeit, dass den Daten, die zur Erstellung von KI-Algorithmen verwendet werden, Vorurteile zugrunde liegen, die zu Diskriminierung und anderen sozialen Folgen führen könnten.

Zu den Mitgliedern der Task Force sollten Experten und Führungskräfte aus verschiedenen Bereichen gehören, die relevante Probleme verstehen, antizipieren und bei Bedarf entschärfen können. Sie müssen über die Ressourcen verfügen, um KI-Technologie zu entwickeln, zu testen und schnell zu skalieren.

Beispielsweise können maschinelle Lernmodelle für Kreditentscheidungen eine geschlechtsspezifische Voreingenommenheit aufweisen und weibliche Kreditnehmer ungerechtfertigt diskriminieren, wenn sie nicht kontrolliert werden. Eine Task Force für verantwortungsvolle KI kann eingesetzt werden Design Thinking Workshops, die Designern und Entwicklern dabei helfen, über die unbeabsichtigten Folgen einer solchen Anwendung nachzudenken und Lösungen zu finden. Design Thinking ist die Grundlage für einen sozial verantwortlichen KI-Ansatz.

Um sicherzustellen, dass dieses neue Denken in der Unternehmenskultur verankert wird, müssen alle Beteiligten im gesamten Unternehmen eine Rolle spielen – von Datenwissenschaftlern und CTOs bis hin zu Chief Diversity and Inclusivity Officers. Der Kampf gegen Voreingenommenheit und die Gewährleistung von Fairness ist eine sozio-technologische Herausforderung, die gelöst wird, wenn Mitarbeiter, die möglicherweise nicht daran gewöhnt sind, zusammenzuarbeiten und miteinander zu arbeiten, damit beginnen, insbesondere im Hinblick auf Daten und die Auswirkungen, die Modelle auf historisch benachteiligte Menschen haben können.

2. Vertrauenswürdige Tools

Unternehmen sollten nach Tools suchen, um Transparenz, Fairness, Erklärbarkeit, Datenschutz und Robustheit ihrer KI-Modelle zu überwachen. Diese Tools können Teams auf Problembereiche hinweisen, damit sie Korrekturmaßnahmen ergreifen können (z. B. die Einführung von Fairnesskriterien in das Modelltraining und die anschließende Überprüfung der Modellausgabe).

Hier sind einige Beispiele für solche Ermittlungsinstrumente:

Es gibt Versionen dieser Tools, die über Open Source frei verfügbar sind, und andere, die im Handel erhältlich sind. Bei der Auswahl dieser Tools ist es wichtig, zunächst zu überlegen, was das Tool tatsächlich leisten soll und ob das Tool auf Produktionssystemen oder solchen, die sich noch in der Entwicklung befinden, ausgeführt werden soll. Anschließend müssen Sie bestimmen, welche Art von Unterstützung Sie benötigen und zu welchem ​​Preis, in welchem ​​Umfang und in welcher Tiefe. Eine wichtige Überlegung ist, ob die Tools vertrauenswürdig sind und von globalen Standardisierungsgremien referenziert werden.

3. Entwicklung von Daten- und KI-Governance

Jede Organisation, die KI einsetzt, muss über eine klare Datenverwaltung verfügen. Dazu gehört der Aufbau einer Governance-Struktur (Ausschüsse und Satzungen, Rollen und Verantwortlichkeiten) sowie die Erstellung von Richtlinien und Verfahren zur Daten- und Modellverwaltung. Im Hinblick auf Menschen und automatisierte Governance sollten Organisationen Rahmenbedingungen für einen gesunden Dialog einführen, die bei der Gestaltung von Datenrichtlinien helfen.

Dies als Gelegenheit, die Daten- und KI-Kompetenz in einer Organisation zu fördern. Für stark regulierte Branchen können Organisationen spezialisierte Technologiepartner finden, die auch sicherstellen können, dass das Modell-Risikomanagement-Framework den Aufsichtsstandards entspricht.

Weltweit gibt es Dutzende von KI-Governance-Gremien, die mit der Industrie zusammenarbeiten, um Standards für KI festzulegen. IEEE ist ein einziges Beispiel. IEEE ist die größte technische Berufsorganisation, die sich der Weiterentwicklung der Technologie zum Wohle der Menschheit widmet. Die IEEE Standards Association, ein weltweit anerkanntes Normungsgremium innerhalb der IEEE, entwickelt Konsensstandards durch einen offenen Prozess, der die Industrie einbezieht und eine breite Interessengemeinschaft zusammenbringt. Seine Arbeit ermutigt Technologen, ethischen Überlegungen bei der Entwicklung autonomer und intelligenter Technologien Vorrang einzuräumen. Solche internationalen Normungsgremien können Ihrem Unternehmen dabei helfen, Standards einzuführen, die für Sie und Ihren Markt geeignet sind.

Zusammenfassung

Sind Sie neugierig, wie Ihre Organisation in Bezug auf KI-fähige Kultur, Tools und Governance abschneidet? Mithilfe von Bewertungstools können Sie feststellen, wie gut Ihr Unternehmen auf die ethische Skalierung von KI an diesen drei Fronten vorbereitet ist.

Es gibt kein Wundermittel, um Ihr Unternehmen zu einem wirklich verantwortungsvollen Verwalter der künstlichen Intelligenz zu machen. KI soll Ihre aktuellen Abläufe erweitern und verbessern, und ein Deep-Learning-Modell kann nur so aufgeschlossen, vielfältig und inklusiv sein wie das Team, das es entwickelt.

Phaedra Boinodiris, FRSA, ist Executive Consultant im Trust in AI-Team bei IBM und promoviert derzeit in KI und Ethik. Sie konzentriert sich seit 1999 auf Inklusion in der Technologie und ist Mitglied der Kognitive Welt Think Tank zur Unternehmens-KI.