Một nhóm các nhà nghiên cứu quốc tế đến từ Canada, Hoa Kỳ, Úc và Đài Loan đã xuất bản một nghiên cứu trong đó người ta chỉ ra rằng AI có thể cho biết chủng tộc của con người từ chụp X-quang và chụp CT với độ chính xác 90%. Đây là một thành công to lớn bởi vì ngay cả các chuyên gia cũng không thể nói cuộc đua của một người bằng cách nhìn vào X-quang và chụp CT. Các nhà khoa học không biết làm thế nào chương trình có thể cung cấp kết quả chính xác như vậy.

Các nhà nghiên cứu bị sốc với kết quả

“Khi các sinh viên tốt nghiệp của tôi cho tôi xem một số kết quả có trong bài báo này, tôi thực sự nghĩ rằng đó phải là một sự nhầm lẫn. Thành thật mà nói, tôi đã nghĩ các sinh viên của mình thật điên rồ, ”đồng tác giả của nghiên cứu, Marzyeh Ghassemi, một trợ lý giáo sư về kỹ thuật điện và khoa học máy tính của MIT, cho biết. Boston Globe báo cáo.

Sau khi nhận thấy rằng một phần mềm AI để quét X-quang ngực có xu hướng bỏ sót những bất thường ở người Da đen, các nhà nghiên cứu đã bắt đầu điều tra. Các công nghệ trí tuệ nhân tạo cũng bắt đầu được ứng dụng trong y học. Ví dụ, các nha sĩ cũng đang sử dụng các hệ thống như vậy trong quá trình chẩn đoán. Hãy xem bài viết của chúng tôi, “Làm đầy hoặc điều trị tủy răng: Hỏi Overjet AI, ”Để khám phá thêm.

"Chúng tôi đã tự hỏi mình, làm thế nào có thể xảy ra nếu máy tính không thể cho biết chủng tộc của một người?" Đồng tác giả của nghiên cứu và một phó giáo sư tại Trường Y Harvard, Leo Anthony Celi cho biết.

Làm thế nào một AI có thể cho biết chủng tộc của con người từ tia X?

Các nhà nghiên cứu đã huấn luyện hệ thống AI với nhiều bức ảnh có nhãn chủng tộc về các bộ phận khác nhau của cơ thể, bao gồm cả ngực, tay và cột sống - không có dấu hiệu nhận dạng chủng tộc rõ ràng như màu da hoặc loại tóc - trước khi cung cấp cho nó những bộ ảnh chưa được phân loại. Với độ chính xác hơn 90%, AI có thể cho biết chủng tộc của con người từ tia X bằng cách sử dụng các bức ảnh không xác định.

Bước đột phá có thể hỗ trợ nhân viên y tế theo những cách nhất định. Tuy nhiên, nó cũng làm tăng nguy cơ rằng các hệ thống chẩn đoán dựa trên AI có thể vô tình tạo ra các phát hiện thiên vị về chủng tộc, chẳng hạn như tự động đề xuất một liệu pháp cụ thể cho bệnh nhân Da đen, bất kể nó có phù hợp với họ hay không. Hơn nữa, bác sĩ của cá nhân sẽ không biết rằng AI dựa trên chẩn đoán của nó dựa trên dữ liệu chủng tộc.

Theo Ghassemi, câu trả lời cho câu hỏi này nằm ở melanin, nơi mà tia X và máy quét CT xác định lượng melanin cao hơn ở vùng da sẫm màu và lưu trữ thông tin này dưới dạng hình ảnh kỹ thuật số theo một cách nào đó mà không được chú ý. Nhiều nghiên cứu sẽ được thực hiện về điều này; giả thuyết thuyết phục không phải tất cả mọi người. Có lẽ tia X và quét CT phát hiện lượng melanin cao hơn ở vùng da sẫm màu và lưu dữ liệu này dưới một số hình thức mà người dùng chưa từng thấy trước đây. Cuối cùng, họ nghĩ rằng melanin là chìa khóa để khám phá cách AI có thể cho biết chủng tộc của con người từ tia X. Sẽ cần nhiều nghiên cứu hơn nữa để tìm ra điều đó chắc chắn.

Thay vì chứng minh sự khác biệt tự nhiên giữa các dân tộc, Alan Goodman, giáo sư nhân chủng học sinh học tại Đại học Hampshire và đồng tác giả của cuốn sách Phân biệt chủng tộc không phải chủng tộc, cho thấy AI phát hiện sự khác biệt do địa lý gây ra.

“Thay vì sử dụng chủng tộc, nếu họ nhìn vào tọa độ địa lý của ai đó, liệu chiếc máy có làm tốt không? Cảm nhận của tôi là cỗ máy cũng sẽ hoạt động tốt, ”Goodman giải thích.

Không có sự phân biệt chủng tộc đáng kể nào trong bộ gen người được phát hiện, nhưng có những khác biệt đáng kể giữa mọi người dựa trên nguồn gốc tổ tiên của họ.

Trong mọi trường hợp, Celi khuyên không nên sử dụng các công nghệ chẩn đoán AI có thể tự động tạo ra các kết quả định kiến.

“Chúng ta cần tạm dừng. Chúng tôi không thể vội vàng đưa các thuật toán vào các bệnh viện và phòng khám cho đến khi chúng tôi chắc chắn rằng họ không đưa ra các quyết định phân biệt chủng tộc hoặc phân biệt giới tính, ”Celi nói thêm. Các nhà nghiên cứu bắt đầu tập trung vào trí tuệ nhân tạo ngày càng nhiều hơn, chẳng hạn như HyperTaste, một lưỡi điện tử dựa trên AI phân tích thành phần hóa học của chất lỏng.