A startup de inteligência artificial (IA) Woebot Health foi notícia recentemente por algumas de suas respostas de bots artificiais desastrosamente falhas a mensagens de texto que foram enviadas a ele, imitando uma crise de saúde mental. Woebot, que arrecadou US$ 90 milhões em uma rodada da Série B, respondeu que não se destina ao uso durante crises. A liderança da empresa espera, lamentavelmente, que os pacientes, que podem não estar a pensar de forma totalmente racional, tenham o reconhecimento para deixarem de utilizar a sua forma típica de comunicação e recorrerem a um sistema alternativo.

Embora os médicos sejam responsabilizados pelos danos infligidos aos pacientes para tratamento, as empresas iniciantes que procuram entrar neste espaço não seguem o mesmo padrão. Para piorar a situação para os pacientes vulneráveis, estes sistemas também não obedecem aos mesmos padrões de privacidade. Entrar no espaço da IA ​​e interagir diretamente com os pacientes é especialmente complicado porque muitos pacientes experimentam rotineiramente crises atenuadas, abaixo do limite da necessidade de ligar para o 911, fazendo com que um bot não equipado para lidar com crises provavelmente não esteja bem equipado para lidar com as dores que os pacientes experimentam. uma base diária.

Apesar dos riscos envolvidos em crises de pacientes complicadas artificial e involuntariamente, as startups de saúde mental atraídas para este espaço arrecadaram um total de US$ 1.3 bilhão no primeiro semestre de 2022. Infelizmente, há muitas dificuldades na comunicação direta com os pacientes, e a IA ainda não está pronta para esta tarefa. As palavras podem ser usadas em gírias ou com significados alternativos. O significado de uma frase pode mudar dependendo da história do paciente, valores culturais, gestos, prosódia e tom de voz. Além disso, é importante considerar os motivos subconscientes do paciente numa sessão terapêutica – o que não é facilmente elucidado pela IA.

Por mais que a inteligência artificial seja capaz de detectar o significado literal das palavras, ela não será capaz de compreender o significado por trás daquilo que não é dito na medida em que um terapeuta humano consegue. Dada a quantidade de dificuldades em substituir terapeutas humanos, é mais provável que a inteligência artificial tenha um impacto nos bastidores de outras maneiras.

Embora existam muitos desafios quando se depende de um bot artificial para interagir com os pacientes, ainda existem áreas onde a inteligência artificial pode aumentar a tomada de decisões. As companhias de seguros de saúde já reconhecem o valor da IA ​​na redução de custos, identificando pacientes que são grandes utilizadores de serviços de saúde. Os prestadores de prescrição recebem rotineiramente notificações das companhias de seguros de saúde sobre recargas irregulares de prescrições para incentivar a descontinuação de prescrições que não são utilizadas de forma ideal. Na verdade, as grandes companhias de seguros possuem conjuntos de dados consideráveis ​​que estão actualmente a ser analisados ​​para prever o aparecimento da doença de Alzheimer, diabetes, insuficiência cardíaca e doença pulmonar obstrutiva crónica (DPOC). Na verdade, AI já foi aprovada pela FDA para usos específicos e, atualmente, a IA brilha quando aplicada a um problema clínico muito específico. Inicialmente, procura-se que os sistemas de IA melhorem o julgamento clínico, em vez de substituir o julgamento clínico. Idealmente, a IA aumentará a produtividade do médico ao lidar com tarefas mundanas e alertar sobre aquilo que pode ser ambíguo e exigir uma investigação mais aprofundada por um ser humano. De acordo com a seguradora Optum, as três principais aplicações de IA são monitorar dados com wearables, acelerar ensaios clínicos e melhorar a precisão da codificação de saúde. Os objetivos atuais não são aumentar a quantidade de dados, mas apresentá-los de uma forma que seja significativa e acionável pelo médico.

A inteligência artificial começará a impactar os fornecedores com dicas e alertas informativos, ajudando assim a aumentar a tomada de decisões e a reduzir o erro humano. A prática da medicina está repleta de tarefas rotineiras que são oportunidades propícias para serem transferidas para um computador. Por exemplo, uma aplicação comum da IA ​​é na avaliação de imagens da retina, o que permite aos oftalmologistas concentrarem-se noutras áreas da medicina que consideram mais gratificantes. À medida que a IA avança nos cuidados de saúde, os médicos não devem preocupar-se se serão substituídas, mas sim como a sua prática continuará a evoluir ao longo do tempo – e esperançosamente para melhor.

Uma dificuldade na aplicação da IA ​​ao espaço do provedor é que os registros médicos não são estruturados de maneira uniforme e os estilos variam muito de provedor para provedor. Os registros médicos também podem conter viés inerente, dependendo da população de pacientes mais típica dessa prática. O preconceito alimentado em um sistema de IA produzirá um resultado tendencioso. Assim, o “quê” da IA ​​não é o único factor importante na sua aplicação, mas a forma como é aplicada e o que é feito com os resultados também é muito significativo no impacto que tem. Dicas e alertas que aparecem em momentos em que o médico está distraído ou acostumado a visualizar outra tela podem passar despercebidos. A experiência do usuário com IA terá impacto na fadiga de alerta, um fenômeno bem conhecido recentemente que levou a alguns casos marcantes. Assim, a IA é tão impactante quanto o meio em que é entregue e o estado do utilizador no momento em que é apresentada.

Se aprendemos alguma coisa com os erros noticiosos da IA, é que podemos não exigir que a IA siga os mesmos padrões de privacidade que os humanos, mas a mantemos num padrão mais elevado do que o desempenho humano típico. Seria totalmente inaceitável que um sistema de IA prejudicasse um único paciente. Esperamos que a IA não apenas tenha um desempenho melhor do que os humanos, mas também não prejudique nenhum paciente. Assim, por enquanto, a IA continuará a trabalhar a sua magia alquímica em segundo plano, assumindo silenciosamente a responsabilidade – ou não – pela forma como afecta os cuidados de saúde.

• Conteúdo com tecnologia de SEO e distribuição de relações públicas. Seja amplificado hoje.
• PlatoData.Network Gerativa Vertical Ai. Capacite-se. Acesse aqui.
• PlatoAiStream. Inteligência Web3. Conhecimento Amplificado. Acesse aqui.
• PlatãoESG. Carbono Tecnologia Limpa, Energia, Ambiente, Solar, Gestão de resíduos. Acesse aqui.
• PlatoHealth. Inteligência em Biotecnologia e Ensaios Clínicos. Acesse aqui.
• Fonte: https://www.dataversity.net/how-artificial-intelligence-will-first-find-its-way-into-mental-health/