Η υγειονομική περίθαλψη βρίσκεται σε διασταύρωση, ένα σημείο όπου τα εργαλεία τεχνητής νοημοσύνης εισάγονται σε όλες τις περιοχές του χώρου. Αυτή η εισαγωγή έρχεται με μεγάλες προσδοκίες: Η τεχνητή νοημοσύνη έχει τη δυνατότητα να βελτιώσει σημαντικά τις υπάρχουσες τεχνολογίες, να οξύνει τα εξατομικευμένα φάρμακα και, με την εισροή μεγάλων δεδομένων, να ωφελήσει ιστορικά ανεπαρκείς πληθυσμούς.

Αλλά για να κάνει αυτά τα πράγματα, η κοινότητα της υγειονομικής περίθαλψης πρέπει να διασφαλίσει ότι τα εργαλεία τεχνητής νοημοσύνης είναι αξιόπιστα και ότι δεν καταλήγουν να διαιωνίζουν προκαταλήψεις που υπάρχουν στο τρέχον σύστημα. Ερευνητές στο MIT Abdul Latif Jameel Clinic for Machine Learning in Health (Jameel Clinic), μια πρωτοβουλία για την υποστήριξη της τεχνητής νοημοσύνης στην υγειονομική περίθαλψη, ζητούν τη δημιουργία μιας ισχυρής υποδομής που μπορεί να βοηθήσει τους επιστήμονες και τους κλινικούς στην επίτευξη αυτής της αποστολής.

Δίκαιη και δίκαιη τεχνητή νοημοσύνη για υγειονομική περίθαλψη

Η κλινική Jameel φιλοξένησε πρόσφατα το Συνέδριο για τη δικαιοσύνη για την υγειονομική περίθαλψη να αξιολογήσει την τρέχουσα υπερσύγχρονη εργασία σε αυτόν τον χώρο, συμπεριλαμβανομένων νέων τεχνικών μηχανικής εκμάθησης που υποστηρίζουν τη δικαιοσύνη, την εξατομίκευση και τη συμπερίληψη. προσδιορισμός βασικών τομέων επιπτώσεων στην παροχή υγειονομικής περίθαλψης και να συζητήσουμε τις κανονιστικές και πολιτικές επιπτώσεις

Σχεδόν 1,400 άτομα παρακολούθησαν ουσιαστικά το συνέδριο για να ακούσουν από ηγέτες σκέψης σε ακαδημαϊκό χώρο, βιομηχανία και κυβέρνηση που εργάζονται για τη βελτίωση της ισότητας της υγειονομικής περίθαλψης και για την περαιτέρω κατανόηση των τεχνικών προκλήσεων σε αυτόν τον χώρο και προχωρά.

Κατά τη διάρκεια της εκδήλωσης, η Regina Barzilay, διακεκριμένος καθηγητής της Σχολής Μηχανικών της AI και Υγείας και επικεφαλής της σχολής AI για την κλινική Jameel και ο Bilal Mateen, επικεφαλής κλινικής τεχνολογίας στο Wellcome Trust, ανακοίνωσαν την επιχορήγηση του Wellcome Fund που ανατέθηκε στην Jameel Clinic για τη δημιουργία κοινοτική πλατφόρμα που υποστηρίζει δίκαια εργαλεία AI στην υγειονομική περίθαλψη.

Ο απώτερος στόχος του έργου δεν είναι να λύσει ένα ακαδημαϊκό ζήτημα ή να φτάσει σε ένα συγκεκριμένο κριτήριο αναφοράς, αλλά να βελτιώσει πραγματικά τη ζωή των ασθενών παγκοσμίως. Οι ερευνητές στην κλινική Jameel επιμένουν ότι τα εργαλεία τεχνητής νοημοσύνης δεν πρέπει να σχεδιάζονται με γνώμονα έναν μόνο πληθυσμό, αλλά αντίθετα να είναι σχεδιασμένα ώστε να είναι επαναληπτικά και χωρίς αποκλεισμούς, για να εξυπηρετούν οποιαδήποτε κοινότητα ή υποπληθυσμό. Για να γίνει αυτό, ένα δεδομένο εργαλείο AI πρέπει να μελετηθεί και να επικυρωθεί σε πολλούς πληθυσμούς, συνήθως σε πολλές πόλεις και χώρες. Επίσης στη λίστα επιθυμιών του έργου είναι να δημιουργηθεί ανοιχτή πρόσβαση για την επιστημονική κοινότητα γενικότερα, με παράλληλο σεβασμό της ιδιωτικής ζωής των ασθενών, για τον εκδημοκρατισμό της προσπάθειας.

«Αυτό που έγινε ολοένα και πιο εμφανές σε μας ως funder είναι ότι η φύση της επιστήμης έχει αλλάξει ριζικά τα τελευταία χρόνια, και είναι ουσιαστικά πιο υπολογιστική από το σχεδιασμό από ό, τι ήταν προηγουμένως», λέει ο Mateen.

Η κλινική προοπτική

Αυτή η παρότρυνση για δράση είναι μια απάντηση στην υγειονομική περίθαλψη το 2020. Στο συνέδριο, ο Collin Stultz, καθηγητής ηλεκτρολόγων μηχανολόγων και πληροφορικής και καρδιολόγος στο Γενικό Νοσοκομείο της Μασαχουσέτης, μίλησε για το πώς οι πάροχοι υγειονομικής περίθαλψης συνήθως συνταγογραφούν θεραπείες και γιατί αυτές οι θεραπείες συχνά λανθασμένο.

Με απλοϊκούς όρους, ένας γιατρός συλλέγει πληροφορίες για τον ασθενή του και στη συνέχεια χρησιμοποιεί αυτές τις πληροφορίες για να δημιουργήσει ένα σχέδιο θεραπείας. «Οι αποφάσεις που λαμβάνουν οι πάροχοι μπορούν να βελτιώσουν την ποιότητα ζωής των ασθενών ή να τους κάνουν να ζήσουν περισσότερο, αλλά αυτό δεν συμβαίνει σε κενό», λέει ο Stultz.

Αντ 'αυτού, λέει ότι ένας σύνθετος ιστός δυνάμεων μπορεί να επηρεάσει τον τρόπο με τον οποίο ένας ασθενής λαμβάνει θεραπεία. Αυτές οι δυνάμεις πηγαίνουν από υπερ-ειδικές σε καθολικές, κυμαινόμενες από παράγοντες μοναδικούς σε έναν μεμονωμένο ασθενή, έως προκατάληψη από έναν πάροχο, όπως η γνώση που προέρχεται από λανθασμένες κλινικές δοκιμές, σε ευρεία δομικά προβλήματα, όπως η άνιση πρόσβαση στη φροντίδα.

Σύνολα δεδομένων και αλγόριθμοι

Ένα κεντρικό ζήτημα του συνεδρίου περιστράφηκε γύρω από το πώς ο αγώνας αντιπροσωπεύεται σε σύνολα δεδομένων, καθώς είναι μια μεταβλητή που μπορεί να είναι ρευστή, αυτοαναφερόμενη και να ορίζεται με μη ειδικούς όρους.

«Οι ανισότητες που προσπαθούμε να αντιμετωπίσουμε είναι μεγάλες, εντυπωσιακές και επίμονες», λέει η Sharrelle Barber, επίκουρη καθηγήτρια επιδημιολογίας και βιοστατιστικής στο Πανεπιστήμιο Drexel. «Πρέπει να σκεφτούμε τι είναι πραγματικά αυτή η μεταβλητή. Πραγματικά, είναι δείκτης του δομικού ρατσισμού », λέει ο Barber. «Δεν είναι βιολογικό, δεν είναι γενετικό. Το λέμε ξανά και ξανά. "

Ορισμένες πτυχές της υγείας καθορίζονται καθαρά από τη βιολογία, όπως κληρονομικές καταστάσεις όπως η κυστική ίνωση, αλλά η πλειονότητα των καταστάσεων δεν είναι απλή. Σύμφωνα με τον ογκολόγο του Γενικού Νοσοκομείου της Μασαχουσέτης T. Salewa Oseni, όσον αφορά την υγεία και τα αποτελέσματα των ασθενών, η έρευνα τείνει να υποθέτει ότι οι βιολογικοί παράγοντες έχουν υπερβολική επίδραση, αλλά οι κοινωνικοοικονομικοί παράγοντες πρέπει να εξεταστούν εξίσου σοβαρά.

Ακόμη και όταν οι ερευνητές μηχανικής μάθησης εντοπίζουν προϋπάρχουσες προκαταλήψεις στο σύστημα υγειονομικής περίθαλψης, πρέπει επίσης να αντιμετωπίσουν τις αδυναμίες των ίδιων των αλγορίθμων, όπως επισημαίνονται από μια σειρά ομιλητών στο συνέδριο. Πρέπει να παλέψουν με σημαντικά ερωτήματα που προκύπτουν σε όλα τα στάδια της ανάπτυξης, από το αρχικό πλαίσιο του τι προσπαθεί να λύσει η τεχνολογία έως την επίβλεψη της ανάπτυξης στον πραγματικό κόσμο.

Η Irene Chen, φοιτητής διδακτορικού στο MIT που μελετά τη μηχανική μάθηση, εξετάζει όλα τα βήματα του αγωγού ανάπτυξης μέσω του φακού της ηθικής. Ως φοιτητής διδακτορικού πρώτου έτους, ο Τσεν ανησυχούσε να βρει έναν αλγόριθμο «εκτός του κουτιού», ο οποίος συνέβη με την πρόβλεψη της θνησιμότητας των ασθενών, προκαλώντας σημαντικά διαφορετικές προβλέψεις με βάση τη φυλή. Αυτό το είδος αλγορίθμου μπορεί επίσης να έχει πραγματικές επιπτώσεις. καθοδηγεί πώς τα νοσοκομεία κατανέμουν πόρους σε ασθενείς.

Ο Τσεν ξεκίνησε να καταλάβει γιατί αυτός ο αλγόριθμος παρήγαγε τόσο άνισα αποτελέσματα. Σε μετέπειτα εργασία, καθόρισε τρεις συγκεκριμένες πηγές προκατάληψης που θα μπορούσαν να αποσπαστούν από οποιοδήποτε μοντέλο. Το πρώτο είναι «προκατάληψη», αλλά με στατιστική έννοια - ίσως το μοντέλο δεν είναι κατάλληλο για το ερευνητικό ζήτημα. Το δεύτερο είναι η διακύμανση, η οποία ελέγχεται από το μέγεθος του δείγματος. Η τελευταία πηγή είναι ο θόρυβος, που δεν έχει καμία σχέση με την τροποποίηση του μοντέλου ή την αύξηση του μεγέθους του δείγματος. Αντίθετα, δείχνει ότι κάτι συνέβη κατά τη διαδικασία συλλογής δεδομένων, ένα βήμα πριν από την ανάπτυξη του μοντέλου. Πολλές συστηματικές ανισότητες, όπως η περιορισμένη ασφάλιση υγείας ή μια ιστορική δυσπιστία για την ιατρική σε ορισμένες ομάδες, «θορυβώνονται».

"Μόλις προσδιορίσετε ποιο στοιχείο είναι, μπορείτε να προτείνει μια λύση", λέει ο Τσεν.

Ο Marzyeh Ghassemi, επίκουρος καθηγητής στο Πανεπιστήμιο του Τορόντο και εισερχόμενος καθηγητής στο MIT, έχει μελετήσει την ανταλλαγή μεταξύ ανωνυμοποίησης προσωπικών δεδομένων υγείας και διασφάλισης ότι όλοι οι ασθενείς εκπροσωπούνται δίκαια. Σε περιπτώσεις όπως το διαφορικό απόρρητο, ένα εργαλείο μηχανικής μάθησης που εγγυάται το ίδιο επίπεδο απορρήτου για κάθε σημείο δεδομένων, τα άτομα που είναι πολύ «μοναδικά» στην κοόρτη τους άρχισαν να χάνουν προβλέψιμη επιρροή στο μοντέλο. Σε δεδομένα υγείας, όπου οι δοκιμές συχνά αντιπροσωπεύουν ορισμένους πληθυσμούς, «οι μειονότητες είναι αυτές που φαίνονται μοναδικές», λέει ο Ghassemi.

«Πρέπει να δημιουργήσουμε περισσότερα δεδομένα, πρέπει να είναι διαφορετικά δεδομένα», λέει. "Αυτοί οι ισχυροί, ιδιωτικοί, δίκαιοι, υψηλής ποιότητας αλγόριθμοι που προσπαθούμε να εκπαιδεύσουμε απαιτούν σύνολα δεδομένων μεγάλης κλίμακας για ερευνητική χρήση."

Πέρα από την κλινική Jameel, άλλοι οργανισμοί αναγνωρίζουν τη δύναμη της αξιοποίησης διαφορετικών δεδομένων για τη δημιουργία πιο δίκαιης υγειονομικής περίθαλψης. Ο Αντώνιος Φιλιππάκης, επικεφαλής των δεδομένων στο Broad Institute of MIT και του Χάρβαρντ, παρουσίασε στο ερευνητικό πρόγραμμα «Όλοι μας», ένα πρωτοφανές έργο από τα Εθνικά Ινστιτούτα Υγείας που στοχεύει στη γεφύρωση του χάσματος για ιστορικά υπο-αναγνωρισμένους πληθυσμούς συλλέγοντας παρατηρητικούς και διαχρονικούς. στοιχεία υγείας για περισσότερους από 1 εκατομμύριο Αμερικανούς. Η βάση δεδομένων έχει ως στόχο να αποκαλύψει πώς οι ασθένειες εμφανίζονται σε διαφορετικούς υποπληθυσμούς.

Ένα από τα μεγαλύτερα ερωτήματα του συνεδρίου, και της τεχνητής νοημοσύνης γενικά, περιστρέφεται γύρω από την πολιτική. Η Kadija Ferryman, πολιτιστική ανθρωπολόγος και βιοηθικός στο Πανεπιστήμιο της Νέας Υόρκης, επισημαίνει ότι η ρύθμιση της τεχνητής νοημοσύνης βρίσκεται στα σπάργανα, κάτι που μπορεί να είναι καλό. «Υπάρχουν πολλές ευκαιρίες για τη δημιουργία πολιτικής με αυτές τις ιδέες γύρω από τη δικαιοσύνη και τη δικαιοσύνη, σε αντίθεση με την ανάπτυξη πολιτικών και στη συνέχεια προσπαθώντας να προσπαθήσουμε να αναιρέσουμε ορισμένους από τους κανονισμούς πολιτικής», λέει ο Ferryman.

Ακόμη και πριν τεθεί σε εφαρμογή η πολιτική, υπάρχουν ορισμένες βέλτιστες πρακτικές που πρέπει να λάβουν υπόψη οι προγραμματιστές. Ο Νατζάτ Χαν, επικεφαλής της επιστήμης δεδομένων στην Ε & Α Janssen, ενθαρρύνει τους ερευνητές να είναι «εξαιρετικά συστηματικοί» όταν επιλέγουν σύνολα δεδομένων. Ακόμα και μεγάλα, κοινά σύνολα δεδομένων περιέχουν εγγενή προκατάληψη.

Ακόμα πιο θεμελιώδες είναι το άνοιγμα της πόρτας σε μια διαφορετική ομάδα μελλοντικών ερευνητών.

«Πρέπει να διασφαλίσουμε ότι αναπτύσσουμε λαούς, επενδύουμε σε αυτούς, και να τους κάνουμε να δουλεύουν σε πραγματικά σημαντικά προβλήματα που τους ενδιαφέρουν», λέει ο Khan. "Θα δείτε μια θεμελιώδη αλλαγή στο ταλέντο που έχουμε."

Το AI για το Health Care Equity Conference συνδιοργανώθηκε από την κλινική Jameel του MIT. Τμήμα Ηλεκτρολόγων Μηχανικών και Επιστήμης Υπολογιστών Ινστιτούτο Δεδομένων, Συστημάτων και Κοινωνίας · Ινστιτούτο Ιατρικής Μηχανικής και Επιστημών και το MIT Schwarzman College of Computing.