Công ty khởi nghiệp về trí tuệ nhân tạo (AI) Woebot Health gần đây đã đưa tin về một số phản hồi sai sót nghiêm trọng của bot nhân tạo đối với các tin nhắn văn bản được gửi đến nó bắt chước một cuộc khủng hoảng sức khỏe tâm thần. Woebot, công ty đã huy động được 90 triệu đô la trong vòng Series B, trả lời rằng nó không nhằm mục đích sử dụng trong thời kỳ khủng hoảng. Lãnh đạo công ty rất mong đợi những bệnh nhân, những người có thể không suy nghĩ hoàn toàn hợp lý, nhận ra rằng họ sẽ ngừng sử dụng hình thức giao tiếp thông thường của họ và tìm đến một hệ thống thay thế.

Trong khi các bác sĩ phải chịu trách nhiệm về những tổn hại gây ra cho bệnh nhân trong quá trình điều trị, thì các công ty khởi nghiệp đang tìm cách thâm nhập vào lĩnh vực này lại không tuân theo cùng một tiêu chuẩn. Để làm cho vấn đề trở nên tồi tệ hơn đối với những bệnh nhân dễ bị tổn thương, các hệ thống này cũng không được tuân thủ các tiêu chuẩn về quyền riêng tư tương tự. Việc xâm nhập vào không gian AI và tương tác trực tiếp với bệnh nhân đặc biệt phức tạp vì nhiều bệnh nhân thường xuyên gặp phải những cơn đau nhẹ, dưới ngưỡng cần gọi 911, khiến một bot không được trang bị để xử lý khủng hoảng rất có thể không được trang bị tốt để xử lý cơn đau mà bệnh nhân gặp phải. một cơ sở hàng ngày.

Bất chấp những rủi ro liên quan đến các cuộc khủng hoảng bệnh nhân một cách giả tạo và vô tình, các công ty khởi nghiệp về sức khỏe tâm thần bị thu hút vào lĩnh vực này đã huy động được tổng cộng 1.3 tỷ USD trong nửa đầu năm 2022. Thật không may, có rất nhiều khó khăn trong việc giao tiếp trực tiếp với bệnh nhân và AI vẫn chưa sẵn sàng cho nhiệm vụ này. Các từ có thể được sử dụng theo nghĩa lóng hoặc với các nghĩa khác. Ý nghĩa của câu có thể thay đổi tùy thuộc vào lịch sử, giá trị văn hóa, cử chỉ, ngữ điệu và giọng điệu của bệnh nhân. Hơn nữa, điều quan trọng là phải xem xét động cơ tiềm thức của bệnh nhân trong một buổi trị liệu – điều này không dễ dàng được làm sáng tỏ bằng AI.

Trí tuệ nhân tạo có thể phát hiện nghĩa đen của các từ đến mức nào, nhưng nó sẽ không thể hiểu được ý nghĩa đằng sau những điều không được nói ra ở mức độ mà một nhà trị liệu con người có thể làm được. Với những khó khăn trong việc thay thế các nhà trị liệu con người, trí tuệ nhân tạo có nhiều khả năng có tác động đằng sau hậu trường theo những cách khác.

Mặc dù có nhiều thách thức khi dựa vào bot nhân tạo để tương tác với bệnh nhân, nhưng vẫn có những lĩnh vực mà trí tuệ nhân tạo có thể hỗ trợ việc ra quyết định. Các công ty bảo hiểm y tế đã nhận thấy giá trị của AI trong việc giảm chi phí bằng cách xác định những bệnh nhân sử dụng nhiều dịch vụ chăm sóc sức khỏe. Các nhà cung cấp thuốc kê đơn thường xuyên nhận được thông báo từ các công ty bảo hiểm y tế về việc kê đơn thuốc không thường xuyên để khuyến khích ngừng sử dụng các đơn thuốc không được sử dụng một cách tối ưu. Thật vậy, các công ty bảo hiểm lớn sở hữu các bộ dữ liệu khá lớn hiện đang được phân tích để dự đoán sự khởi phát của bệnh Alzheimer, tiểu đường, suy tim và bệnh phổi tắc nghẽn mãn tính (COPD). Trong thực tế, AI đã được FDA chấp thuận cho những mục đích sử dụng cụ thể và hiện tại, AI tỏa sáng khi được áp dụng cho một vấn đề lâm sàng rất cụ thể. Các hệ thống AI ban đầu đang được tìm kiếm để nâng cao khả năng phán đoán lâm sàng thay vì thay thế phán đoán lâm sàng. Lý tưởng nhất là AI sẽ nâng cao năng suất của bác sĩ lâm sàng bằng cách xử lý các nhiệm vụ tầm thường và cảnh báo những điều có thể không rõ ràng và cần con người điều tra thêm. Theo công ty bảo hiểm Optum, ba ứng dụng AI hàng đầu là giám sát dữ liệu bằng thiết bị đeo, tăng tốc thử nghiệm lâm sàng và cải thiện tính chính xác của mã hóa chăm sóc sức khỏe. Mục tiêu hiện tại không phải là tăng lượng dữ liệu mà là trình bày dữ liệu theo cách có ý nghĩa và có thể áp dụng được cho bác sĩ lâm sàng.

Trí tuệ nhân tạo sẽ bắt đầu tác động đến các nhà cung cấp bằng các mẹo và cảnh báo đầy thông tin, từ đó giúp tăng cường khả năng ra quyết định và giảm thiểu sai sót của con người. Việc thực hành y học có rất nhiều công việc thuộc lòng và là cơ hội chín muồi để chuyển sang máy tính. Ví dụ, một ứng dụng phổ biến của AI là đánh giá hình ảnh võng mạc, cho phép các bác sĩ nhãn khoa tập trung vào các lĩnh vực y học khác mà họ thấy bổ ích hơn. Khi AI tiến vào lĩnh vực chăm sóc sức khỏe, các bác sĩ lâm sàng không nên lo lắng về việc liệu chúng có bị thay thế hay không mà thay vào đó, hoạt động của họ sẽ tiếp tục phát triển theo thời gian như thế nào – và hy vọng điều tốt đẹp hơn.

Một khó khăn trong việc áp dụng AI vào không gian của nhà cung cấp là hồ sơ y tế không có cấu trúc thống nhất và phong cách rất khác nhau giữa các nhà cung cấp. Hồ sơ y tế cũng có thể chứa thiên vị cố hữu, tùy thuộc vào nhóm bệnh nhân mà điển hình nhất cho phương pháp đó. Xu hướng được đưa vào hệ thống AI sẽ mang lại kết quả sai lệch. Do đó, “cái gì” của AI không phải là yếu tố quan trọng duy nhất trong ứng dụng của nó, mà nó được áp dụng như thế nào và những gì được thực hiện với kết quả cũng rất có ý nghĩa về tác động mà nó mang lại. Các mẹo và cảnh báo xuất hiện tại thời điểm bác sĩ lâm sàng bị phân tâm hoặc quen với việc xem một màn hình khác có thể bị bỏ qua. Trải nghiệm người dùng AI sẽ có tác động đến tình trạng mệt mỏi khi cảnh báo, một hiện tượng nổi tiếng gần đây đã dẫn đến một số trường hợp mang tính bước ngoặt. Do đó, AI chỉ có tác động tương ứng với phương tiện mà nó được phân phối và trạng thái của người dùng tại thời điểm nó được trình bày.

Nếu chúng ta học được điều gì từ những sai lầm đáng chú ý của AI, thì đó là chúng ta có thể không đặt AI theo cùng tiêu chuẩn về quyền riêng tư như con người, nhưng chúng ta đặt nó ở tiêu chuẩn cao hơn so với hiệu suất thông thường của con người. Việc một hệ thống AI gây hại cho một bệnh nhân là điều hoàn toàn không thể chấp nhận được. Chúng tôi kỳ vọng AI không chỉ hoạt động tốt hơn con người mà còn không gây hại cho bất kỳ bệnh nhân nào. Vì vậy, hiện tại, AI sẽ tiếp tục thực hiện phép thuật giả kim của mình ở chế độ nền, âm thầm chịu trách nhiệm – hoặc không – về mức độ ảnh hưởng của nó đến việc chăm sóc sức khỏe.

• Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
• PlatoData.Network Vertical Generative Ai. Trao quyền cho chính mình. Truy cập Tại đây.
• PlatoAiStream. Thông minh Web3. Kiến thức khuếch đại. Truy cập Tại đây.
• Trung tâmESG. Than đá, công nghệ sạch, Năng lượng, Môi trường Hệ mặt trời, Quản lý chất thải. Truy cập Tại đây.
• PlatoSức khỏe. Tình báo thử nghiệm lâm sàng và công nghệ sinh học. Truy cập Tại đây.
• nguồn: https://www.dataversity.net/how-artificial-intelligence-will-first-find-its-way-into-mental-health/