Das Gesundheitswesen befindet sich an einem Knotenpunkt, an dem künstliche Intelligenz in alle Bereiche des Weltraums eingeführt wird. Diese Einführung ist mit großen Erwartungen verbunden: KI hat das Potenzial, vorhandene Technologien erheblich zu verbessern, personalisierte Medikamente zu schärfen und mit dem Zustrom von Big Data historisch unterversorgten Bevölkerungsgruppen zugute zu kommen.

Aber um diese Dinge zu tun, muss die Gesundheitsgemeinschaft sicherstellen, dass KI-Tools vertrauenswürdig sind und dass sie keine Vorurteile aufrechterhalten, die im aktuellen System bestehen. Forscher der Jameel-Klinik für maschinelles Lernen im Gesundheitswesen des MIT Abdul Latif (Jameel-Klinik), einer Initiative zur Unterstützung der KI-Forschung im Gesundheitswesen, fordern die Schaffung einer robusten Infrastruktur, die Wissenschaftlern und Klinikern bei der Verfolgung dieser Mission helfen kann.

Faire und gerechte KI für die Gesundheitsversorgung

Die Jameel-Klinik war kürzlich Gastgeber der AI für Health Care Equity Conference Bewertung des aktuellen Standes der Technik in diesem Bereich, einschließlich neuer Techniken des maschinellen Lernens, die Fairness, Personalisierung und Inklusivität unterstützen; Ermittlung der wichtigsten Wirkungsbereiche bei der Erbringung von Gesundheitsleistungen; und regulatorische und politische Implikationen diskutieren.

Fast 1,400 Menschen nahmen virtuell an der Konferenz teil, um von Vordenkern aus Wissenschaft, Industrie und Regierung zu hören, die daran arbeiten, die Gerechtigkeit im Gesundheitswesen zu verbessern und die technischen Herausforderungen in diesem Bereich und die weiteren Wege besser zu verstehen.

Während der Veranstaltung kündigten Regina Barzilay, die angesehene Professorin für KI und Gesundheit an der School of Engineering und Leiterin der KI-Fakultät für die Jameel-Klinik, und Bilal Mateen, Leiter der klinischen Technologie beim Wellcome Trust, den der Jameel-Klinik gewährten Zuschuss für den Wellcome Fund an Community-Plattform zur Unterstützung gerechter KI-Tools im Gesundheitswesen.

Das ultimative Ziel des Projekts besteht nicht darin, eine akademische Frage zu lösen oder einen bestimmten Forschungsmaßstab zu erreichen, sondern das Leben von Patienten weltweit zu verbessern. Forscher der Jameel-Klinik bestehen darauf, dass KI-Tools nicht für eine einzelne Population entwickelt werden sollten, sondern wiederholt und inklusiv gestaltet werden sollten, um jeder Gemeinschaft oder Subpopulation zu dienen. Zu diesem Zweck muss ein bestimmtes KI-Tool in vielen Bevölkerungsgruppen untersucht und validiert werden, normalerweise in mehreren Städten und Ländern. Auf der Wunschliste des Projekts steht auch die Schaffung eines offenen Zugangs für die gesamte wissenschaftliche Gemeinschaft unter Wahrung der Privatsphäre der Patienten, um die Bemühungen zu demokratisieren.

„Für uns als Geldgeber wurde immer deutlicher, dass sich die Natur der Wissenschaft in den letzten Jahren grundlegend geändert hat und von Natur aus wesentlich rechenintensiver ist als je zuvor“, sagt Mateen.

Die klinische Perspektive

Dieser Aufruf zum Handeln ist eine Reaktion auf die Gesundheitsversorgung im Jahr 2020. Auf der Konferenz sprach Collin Stultz, Professor für Elektrotechnik und Informatik und Kardiologe am Massachusetts General Hospital, darüber, wie Gesundheitsdienstleister normalerweise Behandlungen verschreiben und warum diese Behandlungen durchgeführt werden oft falsch.

Vereinfacht ausgedrückt sammelt ein Arzt Informationen über seinen Patienten und erstellt anhand dieser Informationen einen Behandlungsplan. „Die Entscheidungen, die Anbieter treffen, können die Lebensqualität der Patienten verbessern oder sie länger leben lassen, aber dies geschieht nicht im luftleeren Raum“, sagt Stultz.

Stattdessen sagt er, dass ein komplexes Netz von Kräften Einfluss darauf haben kann, wie ein Patient behandelt wird. Diese Kräfte reichen von hyper-spezifisch bis universell, angefangen von Faktoren, die für einen einzelnen Patienten einzigartig sind, über Vorurteile eines Anbieters, wie beispielsweise aus fehlerhaften klinischen Studien gewonnenes Wissen, bis hin zu umfassenden strukturellen Problemen wie dem ungleichmäßigen Zugang zur Versorgung.

Datensätze und Algorithmen

Eine zentrale Frage der Konferenz drehte sich um die Darstellung der Rasse in Datensätzen, da es sich um eine Variable handelt, die fließend, selbstberichtend und unspezifisch definiert sein kann.

"Die Ungleichheiten, die wir angehen wollen, sind groß, auffällig und anhaltend", sagt Sharrelle Barber, Assistenzprofessorin für Epidemiologie und Biostatistik an der Drexel-Universität. „Wir müssen darüber nachdenken, was diese Variable wirklich ist. Es ist wirklich ein Zeichen für strukturellen Rassismus “, sagt Barber. „Es ist nicht biologisch, es ist nicht genetisch. Das haben wir immer und immer wieder gesagt. “

Einige Aspekte der Gesundheit werden ausschließlich von der Biologie bestimmt, wie z. B. Erbkrankheiten wie Mukoviszidose, aber die meisten Zustände sind nicht einfach. Laut dem Onkologen T. Salewa Oseni vom Massachusetts General Hospital geht die Forschung in Bezug auf die Gesundheit und die Ergebnisse der Patienten tendenziell davon aus, dass biologische Faktoren einen übergroßen Einfluss haben, sozioökonomische Faktoren sollten jedoch ebenso ernst genommen werden.

Selbst wenn Forscher des maschinellen Lernens bereits bestehende Vorurteile im Gesundheitswesen erkennen, müssen sie auch Schwachstellen in den Algorithmen selbst beheben, wie eine Reihe von Rednern auf der Konferenz hervorhob. Sie müssen sich mit wichtigen Fragen auseinandersetzen, die sich in allen Entwicklungsstadien ergeben, von der ersten Festlegung der zu lösenden Technologien bis hin zur Überwachung des Einsatzes in der realen Welt.

Irene Chen, eine Doktorandin am MIT, die maschinelles Lernen studiert, untersucht alle Schritte der Entwicklungspipeline unter dem Gesichtspunkt der Ethik. Als Doktorand im ersten Jahr war Chen alarmiert, einen „Out-of-the-Box“ -Algorithmus zu finden, der die Patientensterblichkeit prognostizierte und je nach Rasse signifikant unterschiedliche Vorhersagen lieferte. Diese Art von Algorithmus kann auch echte Auswirkungen haben. Es zeigt, wie Krankenhäuser Patienten Ressourcen zuweisen.

Chen machte sich daran zu verstehen, warum dieser Algorithmus so ungleichmäßige Ergebnisse lieferte. In späteren Arbeiten definierte sie drei spezifische Ursachen für Verzerrungen, die von jedem Modell getrennt werden konnten. Das erste ist "Voreingenommenheit", aber im statistischen Sinne - vielleicht passt das Modell nicht gut zur Forschungsfrage. Die zweite ist die Varianz, die durch die Stichprobengröße gesteuert wird. Die letzte Quelle ist Rauschen, das nichts mit dem Optimieren des Modells oder dem Erhöhen der Stichprobengröße zu tun hat. Stattdessen wird angezeigt, dass während des Datenerfassungsprozesses ein Schritt vor der Modellentwicklung passiert ist. Viele systemische Ungleichheiten, wie z. B. eine eingeschränkte Krankenversicherung oder ein historisches Misstrauen gegenüber der Medizin in bestimmten Gruppen, werden zu Lärm.

"Sobald Sie herausgefunden haben, um welche Komponente es sich handelt, können Sie eine Lösung vorschlagen", sagt Chen.

Marzyeh Ghassemi, Assistenzprofessorin an der Universität von Toronto und Incoming-Professorin am MIT, hat den Kompromiss zwischen der Anonymisierung hochpersönlicher Gesundheitsdaten und der Gewährleistung einer fairen Vertretung aller Patienten untersucht. In Fällen wie Differential Privacy, einem Tool für maschinelles Lernen, das für jeden Datenpunkt das gleiche Maß an Datenschutz garantiert, verloren Personen, die in ihrer Kohorte zu „einzigartig“ sind, allmählich ihren prädiktiven Einfluss auf das Modell. In Gesundheitsdaten, in denen Studien häufig bestimmte Bevölkerungsgruppen unterrepräsentieren, „sehen Minderheiten einzigartig aus“, sagt Ghassemi.

"Wir müssen mehr Daten erstellen, es müssen verschiedene Daten sein", sagt sie. "Diese robusten, privaten, fairen und qualitativ hochwertigen Algorithmen, die wir trainieren möchten, erfordern umfangreiche Datensätze für Forschungszwecke."

Über die Jameel-Klinik hinaus erkennen andere Organisationen die Fähigkeit, verschiedene Daten zu nutzen, um eine gerechtere Gesundheitsversorgung zu schaffen. Anthony Philippakis, Chief Data Officer am Broad Institute of MIT und Harvard, stellte das All of Us-Forschungsprogramm vor, ein beispielloses Projekt der National Institutes of Health, das darauf abzielt, die Lücke für historisch nicht anerkannte Bevölkerungsgruppen durch das Sammeln von Beobachtungs- und Längsschnittdaten zu schließen Gesundheitsdaten von über 1 Million Amerikanern. Die Datenbank soll aufdecken, wie Krankheiten in verschiedenen Subpopulationen auftreten.

Eine der größten Fragen der Konferenz und der KI im Allgemeinen dreht sich um die Politik. Kadija Ferryman, Kulturanthropologin und Bioethikerin an der New York University, weist darauf hin, dass die KI-Regulierung noch in den Kinderschuhen steckt, was eine gute Sache sein kann. „Mit diesen Ideen zu Fairness und Gerechtigkeit gibt es viele Möglichkeiten, Richtlinien zu erstellen, anstatt Richtlinien zu entwickeln, die entwickelt wurden, und dann zu versuchen, einige der Richtlinienbestimmungen rückgängig zu machen“, sagt Ferryman.

Noch bevor Richtlinien ins Spiel kommen, sollten Entwickler bestimmte Best Practices beachten. Najat Khan, Chief Data Science Officer bei Janssen R & D, ermutigt die Forscher, bei der Auswahl von Datensätzen „äußerst systematisch“ zu sein. Selbst große, häufig verwendete Datensätze enthalten inhärente Verzerrungen.

Noch grundlegender ist es, die Tür für eine vielfältige Gruppe zukünftiger Forscher zu öffnen.

"Wir müssen sicherstellen, dass wir Menschen entwickeln, in sie investieren und sie an wirklich wichtigen Problemen arbeiten lassen, die ihnen wichtig sind", sagt Khan. "Sie werden eine grundlegende Veränderung in unserem Talent sehen."

Die AI for Health Care Equity-Konferenz wurde von der Jameel-Klinik des MIT mitorganisiert. Fakultät für Elektrotechnik und Informatik; Institut für Daten, Systeme und Gesellschaft; Institut für Medizintechnik und Wissenschaft; und das MIT Schwarzman College of Computing.