Startup kecerdasan buatan (AI) Woebot Health baru-baru ini menjadi berita karena beberapa respons bot buatannya yang sangat cacat terhadap pesan teks yang dikirimkan kepadanya yang meniru krisis kesehatan mental. Woebot, yang mengumpulkan $90 juta dalam putaran Seri B, menjawab bahwa dana tersebut tidak dimaksudkan untuk digunakan selama krisis. Pimpinan perusahaan dengan sedih mengharapkan pasien, yang mungkin tidak berpikir sepenuhnya rasional, untuk mendapatkan pengakuan untuk berhenti menggunakan bentuk komunikasi yang biasa mereka lakukan dan mencari sistem alternatif.

Meskipun dokter bertanggung jawab atas kerugian yang ditimbulkan pada pasien dalam pengobatan, perusahaan startup yang ingin memasuki bidang ini tidak memiliki standar yang sama. Lebih buruk lagi bagi pasien yang rentan, sistem ini juga tidak memiliki standar privasi yang sama. Memasuki ruang AI dan berinteraksi langsung dengan pasien sangatlah rumit karena banyak pasien yang secara rutin mengalami krisis yang lebih ringan, di bawah ambang batas untuk menelepon 911, membuat bot yang tidak dilengkapi untuk menangani krisis kemungkinan besar tidak dilengkapi dengan baik untuk menangani pergolakan yang dialami pasien. setiap hari.

Terlepas dari risiko yang ada dalam krisis pasien yang dibuat-buat dan tidak disengaja, startup kesehatan mental yang terlibat dalam bidang ini berhasil mengumpulkan dana sebesar $1.3 miliar pada paruh pertama tahun 2022. Sayangnya, terdapat banyak kesulitan dalam berkomunikasi langsung dengan pasien, dan AI belum siap. untuk tugas ini. Kata-kata dapat digunakan dalam bahasa gaul atau dengan arti alternatif. Arti sebuah kalimat dapat berubah tergantung pada riwayat pasien, nilai budaya, gerak tubuh, prosodi, dan nada suara. Selain itu, penting untuk mempertimbangkan motif bawah sadar pasien dalam sesi terapi – yang tidak mudah dijelaskan melalui AI.

Meskipun kecerdasan buatan dapat mendeteksi makna harfiah dari sebuah kata, kecerdasan buatan tidak akan mampu memahami makna di balik hal yang tidak terucapkan sejauh yang dapat dilakukan oleh terapis manusia. Mengingat banyaknya kesulitan dalam menggantikan terapis manusia, kecerdasan buatan kemungkinan besar akan memberikan dampak lain di balik layar.

Meskipun terdapat banyak tantangan ketika mengandalkan bot buatan untuk berinteraksi dengan pasien, masih ada area di mana kecerdasan buatan dapat meningkatkan pengambilan keputusan. Perusahaan asuransi kesehatan telah melihat manfaat AI dalam mengurangi biaya dengan mengidentifikasi pasien yang merupakan pengguna layanan kesehatan yang tinggi. Penyedia resep secara rutin menerima pemberitahuan dari perusahaan asuransi kesehatan mengenai pengisian ulang resep yang tidak teratur untuk mendorong penghentian resep yang tidak digunakan secara maksimal. Memang benar, perusahaan asuransi besar memiliki kumpulan data yang cukup besar yang saat ini sedang dianalisis untuk memprediksi timbulnya penyakit Alzheimer, diabetes, gagal jantung, dan penyakit paru obstruktif kronik (COPD). Nyatanya, AI telah disetujui FDA untuk penggunaan tertentu, dan saat ini, AI unggul ketika diterapkan pada masalah klinis yang sangat spesifik. Sistem AI pada awalnya diupayakan untuk meningkatkan penilaian klinis, bukan menggantikan penilaian klinis. Idealnya, AI akan meningkatkan produktivitas dokter dengan menangani tugas-tugas sehari-hari dan memperingatkan hal-hal yang mungkin tidak jelas dan memerlukan penyelidikan lebih lanjut oleh manusia. Menurut perusahaan asuransi Optum, tiga aplikasi AI teratas adalah memantau data dengan perangkat yang dapat dikenakan, mempercepat uji klinis, dan meningkatkan akurasi pengkodean layanan kesehatan. Sasaran saat ini bukan untuk menambah jumlah data namun menyajikan data dengan cara yang bermakna dan dapat ditindaklanjuti oleh dokter.

Kecerdasan buatan akan mulai memberi dampak pada penyedia layanan dengan tip dan peringatan informatif, sehingga membantu meningkatkan pengambilan keputusan dan mengurangi kesalahan manusia. Praktik kedokteran penuh dengan tugas-tugas hafalan yang merupakan peluang matang untuk dipindahkan ke komputer. Misalnya, salah satu penerapan AI yang umum adalah dalam evaluasi gambar retina, yang memungkinkan dokter mata untuk fokus pada bidang kedokteran lain yang mereka anggap lebih bermanfaat. Seiring dengan diperkenalkannya AI ke dalam layanan kesehatan, dokter tidak perlu khawatir tentang apakah mereka akan digantikan, melainkan bagaimana praktik mereka akan terus berkembang seiring berjalannya waktu – dan semoga menjadi lebih baik.

Salah satu kesulitan dalam menerapkan AI pada penyedia layanan adalah struktur rekam medis yang tidak seragam, dan gaya yang digunakan sangat bervariasi dari satu penyedia ke penyedia lainnya. Catatan medis juga mungkin berisi bias yang melekat, bergantung pada populasi pasien yang paling umum dalam praktik tersebut. Bias yang dimasukkan ke dalam sistem AI akan menghasilkan hasil yang bias. Oleh karena itu, “apa” AI bukan satu-satunya faktor penting dalam penerapannya, namun cara penerapannya dan apa yang dilakukan dengan hasilnya juga sangat berarti dalam dampak yang ditimbulkannya. Tip dan peringatan yang muncul saat dokter sedang terganggu atau terbiasa melihat layar lain mungkin diabaikan. Pengalaman pengguna AI akan berdampak pada kelelahan kewaspadaan, sebuah fenomena terkenal baru-baru ini yang menyebabkan beberapa kasus penting. Oleh karena itu, pengaruh AI hanya bergantung pada media penyampaiannya dan kondisi pengguna pada saat penyampaiannya.

Hal yang dapat kita pelajari dari kesalahan AI yang patut diberitakan adalah bahwa kita mungkin tidak menerapkan standar privasi yang sama pada AI seperti manusia, namun kita menerapkan standar yang lebih tinggi daripada kinerja manusia pada umumnya. Sangat tidak dapat diterima jika sistem AI membahayakan satu pasien. Kami berharap AI tidak hanya bekerja lebih baik daripada manusia namun juga tidak merugikan pasien mana pun. Jadi, untuk saat ini, AI akan terus melakukan keajaiban alkimia di balik layar, diam-diam mengambil tanggung jawab – atau tidak – atas pengaruhnya terhadap layanan kesehatan.

• Konten Bertenaga SEO & Distribusi PR. Dapatkan Amplifikasi Hari Ini.
• PlatoData.Jaringan Vertikal Generatif Ai. Berdayakan Diri Anda. Akses Di Sini.
• PlatoAiStream. Intelijen Web3. Pengetahuan Diperkuat. Akses Di Sini.
• PlatoESG. Karbon, teknologi bersih, energi, Lingkungan Hidup, Tenaga surya, Penanganan limbah. Akses Di Sini.
• PlatoHealth. Kecerdasan Uji Coba Biotek dan Klinis. Akses Di Sini.
• Sumber: https://www.dataversity.net/how-artificial-intelligence-will-first-find-its-way-into-mental-health/