Chăm sóc sức khỏe đang ở một ngã ba, một điểm mà các công cụ trí tuệ nhân tạo đang được đưa vào tất cả các khu vực của không gian. Phần giới thiệu này đi kèm với những kỳ vọng lớn: AI có tiềm năng cải thiện đáng kể các công nghệ hiện có, làm sắc nét các loại thuốc được cá nhân hóa và, với hàng loạt dữ liệu lớn, mang lại lợi ích cho những quần thể chưa được phục vụ trong lịch sử.

Nhưng để làm được những điều đó, cộng đồng chăm sóc sức khỏe phải đảm bảo rằng các công cụ AI là đáng tin cậy và chúng không kéo dài những thành kiến ​​tồn tại trong hệ thống hiện tại. Các nhà nghiên cứu tại Phòng khám MIT Abdul Latif Jameel về Máy học trong Y tế (Phòng khám Jameel), một sáng kiến ​​hỗ trợ nghiên cứu AI trong chăm sóc sức khỏe, kêu gọi tạo ra một cơ sở hạ tầng mạnh mẽ có thể hỗ trợ các nhà khoa học và bác sĩ lâm sàng theo đuổi sứ mệnh này.

AI công bằng và bình đẳng trong chăm sóc sức khỏe

Phòng khám Jameel gần đây đã tổ chức Hội nghị công bằng về chăm sóc sức khỏe AI cho chăm sóc sức khỏe để đánh giá công việc hiện đại nhất trong không gian này, bao gồm các kỹ thuật máy học mới hỗ trợ tính công bằng, cá nhân hóa và tính toàn diện; xác định các lĩnh vực tác động chính trong việc cung cấp dịch vụ chăm sóc sức khỏe; và thảo luận về các hàm ý về quy định và chính sách.

Gần 1,400 người hầu như đã tham dự hội nghị để nghe ý kiến ​​từ các nhà lãnh đạo tư tưởng trong học viện, ngành công nghiệp và chính phủ, những người đang nỗ lực cải thiện công bằng chăm sóc sức khỏe và hiểu sâu hơn về những thách thức kỹ thuật trong không gian này và những con đường phía trước.

Trong sự kiện này, Regina Barzilay, Giáo sư xuất sắc về AI và Sức khỏe của Trường Kỹ thuật và trưởng khoa AI của Phòng khám Jameel, và Bilal Mateen, trưởng nhóm công nghệ lâm sàng tại Wellcome Trust, đã công bố khoản tài trợ của Quỹ Wellcome được trao cho Phòng khám Jameel để tạo ra một nền tảng cộng đồng hỗ trợ các công cụ AI công bằng trong chăm sóc sức khỏe.

Mục tiêu cuối cùng của dự án không phải là giải quyết một câu hỏi học thuật hoặc đạt được một tiêu chuẩn nghiên cứu cụ thể, mà là thực sự cải thiện cuộc sống của bệnh nhân trên toàn thế giới. Các nhà nghiên cứu tại Jameel Clinic nhấn mạnh rằng các công cụ AI không nên được thiết kế cho một nhóm dân số duy nhất, mà thay vào đó phải được chế tạo để có thể lặp lại và bao trùm, để phục vụ bất kỳ cộng đồng hoặc dân số nào. Để làm được điều này, một công cụ AI nhất định cần được nghiên cứu và xác nhận trên nhiều quần thể, thường là ở nhiều thành phố và quốc gia. Ngoài ra, trong danh sách mong muốn của dự án là tạo ra quyền truy cập mở cho cộng đồng khoa học nói chung, đồng thời tôn trọng quyền riêng tư của bệnh nhân, dân chủ hóa nỗ lực này.

Mateen cho biết: “Điều ngày càng trở nên rõ ràng đối với chúng tôi với tư cách là một nhà tài trợ là bản chất của khoa học đã thay đổi cơ bản trong vài năm qua, và về cơ bản là tính toán nhiều hơn so với trước đây”.

Quan điểm lâm sàng

Lời kêu gọi hành động này là một phản ứng đối với việc chăm sóc sức khỏe vào năm 2020. Tại hội nghị, Collin Stultz, giáo sư kỹ thuật điện và khoa học máy tính đồng thời là bác sĩ tim mạch tại Bệnh viện Đa khoa Massachusetts, đã nói về cách các nhà cung cấp dịch vụ chăm sóc sức khỏe thường kê đơn phương pháp điều trị và lý do tại sao các phương pháp điều trị này lại thường không chính xác.

Nói một cách dễ hiểu, bác sĩ thu thập thông tin về bệnh nhân của họ, sau đó sử dụng thông tin đó để lập kế hoạch điều trị. Stultz nói: “Các quyết định mà nhà cung cấp đưa ra có thể cải thiện chất lượng cuộc sống của bệnh nhân hoặc làm cho họ sống lâu hơn, nhưng điều này không xảy ra trong môi trường chân không.

Thay vào đó, ông nói rằng một mạng lưới lực lượng phức tạp có thể ảnh hưởng đến cách bệnh nhân tiếp nhận điều trị. Những lực lượng này đi từ siêu cụ thể đến phổ biến, từ các yếu tố duy nhất đối với một bệnh nhân, đến sự thiên vị từ nhà cung cấp, chẳng hạn như kiến ​​thức thu thập được từ các thử nghiệm lâm sàng thiếu sót, đến các vấn đề cấu trúc rộng, như khả năng tiếp cận dịch vụ chăm sóc không đồng đều.

Bộ dữ liệu và thuật toán

Một câu hỏi trọng tâm của hội nghị xoay quanh cách thể hiện chủng tộc trong tập dữ liệu, vì đó là một biến có thể linh hoạt, tự báo cáo và được định nghĩa theo các thuật ngữ không cụ thể.

Sharrelle Barber, trợ lý giáo sư về dịch tễ học và thống kê sinh học tại Đại học Drexel cho biết: “Những bất bình đẳng mà chúng tôi đang cố gắng giải quyết là rất lớn, nổi bật và dai dẳng. “Chúng ta phải nghĩ về biến đó thực sự là gì. Thực sự, đó là một dấu hiệu của phân biệt chủng tộc cấu trúc, ”Barber nói. “Nó không phải là sinh học, nó không phải là di truyền. Chúng tôi đã nói đi nói lại điều đó nhiều lần. "

Một số khía cạnh của sức khỏe hoàn toàn được xác định bởi sinh học, chẳng hạn như các tình trạng di truyền như xơ nang, nhưng phần lớn các tình trạng không đơn giản. Theo bác sĩ ung thư T. Salewa Oseni của Bệnh viện Đa khoa Massachusetts, khi nói đến sức khỏe và kết quả của bệnh nhân, nghiên cứu có xu hướng cho rằng các yếu tố sinh học có ảnh hưởng lớn hơn, nhưng các yếu tố kinh tế xã hội cũng nên được xem xét nghiêm túc.

Ngay cả khi các nhà nghiên cứu học máy phát hiện ra những thành kiến ​​đã tồn tại từ trước trong hệ thống chăm sóc sức khỏe, họ cũng phải tự mình giải quyết những điểm yếu trong thuật toán, như đã được một loạt diễn giả tại hội nghị nhấn mạnh. Họ phải vật lộn với những câu hỏi quan trọng nảy sinh trong tất cả các giai đoạn phát triển, từ việc định khung ban đầu về những gì công nghệ đang cố gắng giải quyết cho đến giám sát việc triển khai trong thế giới thực.

Irene Chen, một nghiên cứu sinh tại MIT nghiên cứu về máy học, xem xét tất cả các bước của quá trình phát triển thông qua lăng kính đạo đức. Khi còn là một sinh viên tiến sĩ năm thứ nhất, Chen đã rất hoảng hốt khi phát hiện ra một thuật toán “out-of-the-box”, đã xảy ra để dự đoán tỷ lệ tử vong của bệnh nhân, đưa ra các dự đoán khác nhau đáng kể dựa trên chủng tộc. Loại thuật toán này cũng có thể có tác động thực sự; nó hướng dẫn cách bệnh viện phân bổ nguồn lực cho bệnh nhân.

Chen bắt đầu tìm hiểu lý do tại sao thuật toán này tạo ra kết quả không đồng đều như vậy. Trong công việc sau này, cô đã xác định ba nguồn sai lệch cụ thể có thể bị loại bỏ khỏi bất kỳ mô hình nào. Đầu tiên là "thiên vị", nhưng theo nghĩa thống kê - có thể mô hình không phù hợp với câu hỏi nghiên cứu. Thứ hai là phương sai, được kiểm soát bởi cỡ mẫu. Nguồn cuối cùng là nhiễu, không liên quan gì đến việc tinh chỉnh mô hình hoặc tăng kích thước mẫu. Thay vào đó, nó chỉ ra rằng có điều gì đó đã xảy ra trong quá trình thu thập dữ liệu, một bước trước khi phát triển mô hình. Nhiều bất bình đẳng mang tính hệ thống, chẳng hạn như bảo hiểm y tế hạn chế hoặc lịch sử không tin tưởng vào y học ở một số nhóm nhất định, bị “cuốn vào” ồn ào.

Chen nói: “Một khi bạn xác định được đó là thành phần nào, bạn có thể đề xuất một giải pháp khắc phục.

Marzyeh Ghassemi, một trợ lý giáo sư tại Đại học Toronto và một giáo sư sắp tới tại MIT, đã nghiên cứu sự cân bằng giữa việc ẩn danh dữ liệu sức khỏe cá nhân cao và đảm bảo rằng tất cả bệnh nhân đều được đại diện một cách công bằng. Trong các trường hợp như quyền riêng tư khác biệt, một công cụ máy học đảm bảo mức độ riêng tư giống nhau cho mọi điểm dữ liệu, những cá nhân quá “độc nhất” trong nhóm của họ bắt đầu mất ảnh hưởng dự đoán trong mô hình. Trong dữ liệu sức khỏe, nơi các thử nghiệm thường không đại diện cho một số quần thể nhất định, “thiểu số là những người trông độc đáo,” Ghassemi nói.

Bà nói: “Chúng ta cần tạo ra nhiều dữ liệu hơn, nó cần phải là những dữ liệu đa dạng. “Các thuật toán mạnh mẽ, riêng tư, công bằng, chất lượng cao mà chúng tôi đang cố gắng đào tạo này yêu cầu các tập dữ liệu quy mô lớn để sử dụng cho nghiên cứu.”

Ngoài Phòng khám Jameel, các tổ chức khác đang công nhận sức mạnh của việc khai thác dữ liệu đa dạng để tạo ra dịch vụ chăm sóc sức khỏe công bằng hơn. Anthony Philippakis, giám đốc dữ liệu tại Viện Broad của MIT và Harvard, đã trình bày về chương trình nghiên cứu Tất cả chúng ta, một dự án chưa từng có từ Viện Y tế Quốc gia nhằm mục đích thu hẹp khoảng cách đối với các nhóm dân số ít được công nhận trong lịch sử bằng cách thu thập quan sát và theo chiều dọc dữ liệu sức khỏe của hơn 1 triệu người Mỹ. Cơ sở dữ liệu này nhằm khám phá ra cách thức các bệnh xảy ra trên các quần thể nhỏ khác nhau.

Một trong những câu hỏi lớn nhất của hội nghị, và của AI nói chung, xoay quanh chính sách. Kadija Ferryman, nhà nhân chủng học văn hóa và nhà sinh lý học tại Đại học New York, chỉ ra rằng quy định của AI đang ở giai đoạn sơ khai, đó có thể là một điều tốt. Ferryman nói: “Có rất nhiều cơ hội để chính sách được tạo ra với những ý tưởng xoay quanh công bằng và công lý, trái ngược với việc có các chính sách đã được phát triển và sau đó nỗ lực để hoàn tác một số quy định chính sách,” Ferryman nói.

Ngay cả trước khi chính sách có hiệu lực, có một số phương pháp hay nhất mà các nhà phát triển cần lưu ý. Najat Khan, giám đốc khoa học dữ liệu tại Janssen R&D, khuyến khích các nhà nghiên cứu “cực kỳ có hệ thống” khi lựa chọn tập dữ liệu. Ngay cả những bộ dữ liệu lớn, phổ biến cũng chứa sự thiên vị cố hữu.

Cơ bản hơn nữa là mở ra cánh cửa cho một nhóm đa dạng các nhà nghiên cứu trong tương lai.

Khan nói: “Chúng tôi phải đảm bảo rằng chúng tôi đang phát triển nhân lực, đầu tư vào họ và để họ giải quyết những vấn đề thực sự quan trọng mà họ quan tâm. “Bạn sẽ thấy sự thay đổi cơ bản về tài năng mà chúng tôi có.”

Hội nghị Công bằng về Chăm sóc Sức khỏe AI do Phòng khám Jameel của MIT đồng tổ chức; Khoa Kỹ thuật Điện và Khoa học Máy tính; Viện Dữ liệu, Hệ thống và Xã hội; Viện Khoa học và Kỹ thuật Y tế; và Đại học Máy tính MIT Schwarzman.