La startup d'intelligence artificielle (IA) Woebot Health a récemment fait la une des journaux pour certaines de ses réponses de robots artificiels désastreusement erronées aux messages texte qui lui ont été envoyés imitant une crise de santé mentale. Woebot, qui a levé 90 millions de dollars lors d'un tour de table de série B, a répondu qu'il n'était pas destiné à être utilisé en cas de crise. Les dirigeants de l’entreprise s’attendent malheureusement à ce que les patients, qui ne pensent peut-être pas de manière tout à fait rationnelle, aient la reconnaissance nécessaire pour cesser d’utiliser leur forme de communication habituelle et se tourner vers un système alternatif.
Alors que les médecins sont tenus responsables des préjudices infligés aux patients dans le cadre d’un traitement, les startups qui cherchent à entrer dans ce domaine ne sont pas tenues aux mêmes normes. Pire encore pour les patients vulnérables, ces systèmes ne sont pas non plus soumis aux mêmes normes de confidentialité. Entrer dans l’espace de l’IA et interagir directement avec les patients est particulièrement compliqué, car de nombreux patients connaissent régulièrement des crises atténuées, en dessous du seuil de nécessité d’appeler le 911, ce qui fait qu’un robot non équipé pour gérer les crises n’est probablement pas bien équipé pour gérer les affres que les patients subissent. une base quotidienne.
Malgré les risques liés au gâchis artificiel et involontaire des crises de patients, les startups de santé mentale attirées dans cet espace ont levé un total de 1.3 milliard de dollars au premier semestre 2022. Malheureusement, il existe de nombreuses difficultés pour communiquer directement avec les patients, et l'IA n'est pas encore prête. pour cette tâche. Les mots peuvent être utilisés en argot ou avec des significations alternatives. Le sens d'une phrase peut changer en fonction de l'histoire du patient, de ses valeurs culturelles, de sa gestuelle, de sa prosodie et du ton de sa voix. De plus, il est important de prendre en compte les motivations subconscientes d’un patient lors d’une séance thérapeutique – ce qui n’est pas facile à élucider grâce à l’IA.
Même si l’intelligence artificielle est capable de détecter le sens littéral des mots, elle ne sera pas capable de comprendre le sens de ce qui n’est pas dit dans la mesure où un thérapeute humain le peut. Compte tenu des nombreuses difficultés rencontrées pour remplacer les thérapeutes humains, l’intelligence artificielle est plus susceptible d’avoir un impact en coulisse par d’autres moyens.
Même si le recours à un robot artificiel pour interagir avec les patients présente de nombreux défis, il existe encore des domaines dans lesquels l’intelligence artificielle peut améliorer la prise de décision. Les compagnies d’assurance maladie voient déjà l’intérêt de l’IA pour réduire les coûts en identifiant les patients qui sont de grands utilisateurs des services de santé. Les prescripteurs reçoivent régulièrement des notifications des compagnies d’assurance maladie concernant les renouvellements irréguliers d’ordonnances afin d’encourager l’arrêt des ordonnances qui ne sont pas utilisées de manière optimale. En effet, les grandes compagnies d'assurance possèdent des ensembles de données importants qui sont actuellement analysés pour prédire l'apparition de la maladie d'Alzheimer, du diabète, de l'insuffisance cardiaque et de la maladie pulmonaire obstructive chronique (MPOC). En fait, L'IA est déjà approuvée par la FDA pour des usages spécifiques, et actuellement, l’IA brille lorsqu’elle est appliquée à un problème clinique très spécifique. Les systèmes d’IA sont initialement recherchés pour améliorer le jugement clinique plutôt que pour le remplacer. Idéalement, l’IA améliorerait la productivité des cliniciens en gérant des tâches banales et en alertant sur celles qui peuvent être équivoques et nécessiter une enquête plus approfondie par un humain. Selon la compagnie d'assurance Optum, les trois principales applications d'IA consistent à surveiller les données avec des appareils portables, à accélérer les essais cliniques et à améliorer la précision du codage des soins de santé. Les objectifs actuels ne sont pas d’augmenter la quantité de données mais de présenter les données d’une manière significative et exploitable par le clinicien.
L'intelligence artificielle commencera à avoir un impact sur les prestataires avec des conseils et des alertes informatives, contribuant ainsi à améliorer la prise de décision et à réduire les erreurs humaines. La pratique de la médecine regorge de tâches répétitives qui constituent de bonnes opportunités d’être transférées sur un ordinateur. Par exemple, une application courante de l’IA concerne l’évaluation des images de la rétine, ce qui permet aux ophtalmologistes de se concentrer sur d’autres domaines de la médecine qu’ils trouvent plus gratifiants. À mesure que l’IA fait son entrée dans les soins de santé, les cliniciens ne devraient pas s’inquiéter de savoir s’ils seront remplacés, mais plutôt de savoir comment leur pratique continuera d’évoluer au fil du temps – et, espérons-le, pour le mieux.
L’une des difficultés liées à l’application de l’IA à l’espace des prestataires est que les dossiers médicaux ne sont pas structurés de manière uniforme et que les styles sont très variables d’un prestataire à l’autre. Les dossiers médicaux peuvent également contenir biais inhérent, en fonction de la population de patients la plus typique de cette pratique. Les biais introduits dans un système d’IA donneront un résultat biaisé. Ainsi, le « quoi » de l’IA n’est pas le seul facteur important dans son application, mais la manière dont elle est appliquée et ce qui est fait avec les résultats est également très significative quant à son impact. Les conseils et alertes qui apparaissent lorsque le clinicien est distrait ou habitué à regarder un autre écran peuvent être négligés. L’expérience utilisateur de l’IA aura un impact sur la fatigue des alertes, un phénomène bien connu récemment qui a conduit à des cas marquants. Ainsi, l’impact de l’IA dépend du support dans lequel elle est diffusée et de l’état de l’utilisateur au moment où elle est présentée.
Si nous avons appris quelque chose des erreurs dignes d’intérêt de l’IA, c’est que nous ne soumettons peut-être pas l’IA aux mêmes normes de confidentialité que les humains, mais nous la soumettons à des normes plus élevées que les performances humaines typiques. Il serait totalement inacceptable qu’un système d’IA nuise à un seul patient. Nous nous attendons à ce que l’IA soit non seulement plus performante que les humains, mais qu’elle ne nuise à aucun patient. Ainsi, pour l’instant, l’IA continuera à exercer sa magie alchimique en arrière-plan, assumant discrètement la responsabilité – ou non – de la façon dont elle affecte les soins de santé.
- Contenu propulsé par le référencement et distribution de relations publiques. Soyez amplifié aujourd'hui.
- PlatoData.Network Ai générative verticale. Autonomisez-vous. Accéder ici.
- PlatoAiStream. Intelligence Web3. Connaissance Amplifiée. Accéder ici.
- PlatonESG. Carbone, Technologie propre, Énergie, Environnement, Solaire, La gestion des déchets. Accéder ici.
- PlatoHealth. Veille biotechnologique et essais cliniques. Accéder ici.
- La source: https://www.dataversity.net/how-artificial-intelligence-will-first-find-its-way-into-mental-health/
