Стартап по искусственному интеллекту (ИИ) Woebot Health недавно попал в новости из-за катастрофически ошибочных ответов искусственных ботов на отправленные ему текстовые сообщения, имитирующие кризис психического здоровья. Woebot, который собрал $90 млн в раунде серии B, ответил, что он не предназначен для использования во время кризисов. Руководство компании с прискорбием ожидает, что пациенты, которые, возможно, не мыслят полностью рационально, осознают необходимость прекратить использование своей типичной формы общения и обратиться к альтернативной системе.

В то время как врачи несут ответственность за вред, причиненный пациентам во время лечения, стартапы, стремящиеся войти в эту сферу, не придерживаются тех же стандартов. Что еще хуже для уязвимых пациентов, эти системы также не соответствуют одинаковым стандартам конфиденциальности. Вход в пространство искусственного интеллекта и непосредственное взаимодействие с пациентами особенно сложны, поскольку многие пациенты обычно испытывают затяжные кризисы, ниже порога необходимости звонить в службу 911, в результате чего бот не приспособлен для разрешения кризисов, скорее всего, он не очень хорошо подготовлен, чтобы справиться с муками, которые испытывают пациенты. ежедневно.

Несмотря на риски, связанные с искусственно и непреднамеренным кризисом пациентов, стартапы в области психического здоровья, привлеченные в эту сферу, в первой половине 1.3 года собрали в общей сложности 2022 миллиарда долларов. К сожалению, существует множество трудностей в прямом общении с пациентами, а ИИ еще не готов. для этой задачи. Слова могут использоваться на сленге или иметь альтернативные значения. Смысл предложения может меняться в зависимости от истории пациента, культурных ценностей, жестов, просодии и тона голоса. Кроме того, во время терапевтического сеанса важно учитывать подсознательные мотивы пациента, которые нелегко объяснить с помощью ИИ.

Хотя искусственный интеллект и способен распознавать буквальное значение слов, он не сможет понять смысл того, что не сказано, в той степени, в которой это может сделать человек-терапевт. Учитывая количество трудностей с заменой людей-терапевтов, искусственный интеллект, скорее всего, окажет закулисное влияние и другими способами.

Хотя использование искусственного бота для взаимодействия с пациентами сопряжено с множеством проблем, все же существуют области, в которых искусственный интеллект может улучшить процесс принятия решений. Компании медицинского страхования уже видят ценность ИИ в сокращении затрат за счет выявления пациентов, которые активно пользуются медицинскими услугами. Поставщики рецептов регулярно получают уведомления от компаний медицинского страхования о нерегулярном пополнении рецептов, чтобы побудить их прекратить прием рецептов, которые не используются оптимально. Действительно, крупные страховые компании обладают значительными наборами данных, которые в настоящее время анализируются для прогнозирования возникновения болезни Альцгеймера, диабета, сердечной недостаточности и хронической обструктивной болезни легких (ХОБЛ). Фактически, ИИ уже получил одобрение FDA для конкретных целей, и в настоящее время ИИ проявляется, когда он применяется к очень конкретной клинической проблеме. Системы искусственного интеллекта изначально предназначены для улучшения клинического суждения, а не для замены клинического суждения. В идеале ИИ повысит производительность врачей, выполняя повседневные задачи и предупреждая о том, что может быть двусмысленным и требовать дальнейшего изучения человеком. По данным страховой компании Optum, в тройку лучших приложений искусственного интеллекта входят мониторинг данных с помощью носимых устройств, ускорение клинических испытаний и повышение точности медицинского кодирования. Текущие цели заключаются не в увеличении объема данных, а в том, чтобы представить их таким образом, чтобы они были значимыми и полезными для клиницистов.

Искусственный интеллект начнет предоставлять поставщикам информативные советы и оповещения, тем самым помогая улучшить процесс принятия решений и уменьшить количество человеческих ошибок. Медицинская практика полна рутинных задач, которые можно перенести на компьютер. Например, одним из распространенных применений ИИ является оценка изображений сетчатки, что позволяет офтальмологам сосредоточиться на других областях медицины, которые они считают более полезными. По мере того, как ИИ проникает в здравоохранение, врачи должны беспокоиться не о том, будут ли они заменены, а о том, как их практика будет продолжать развиваться с течением времени – и, будем надеяться, к лучшему.

Одна из трудностей применения ИИ в пространстве поставщиков заключается в том, что медицинские записи не структурированы единообразно, а стили сильно различаются от поставщика к поставщику. Медицинские записи также могут содержать присущее смещение, в зависимости от группы пациентов, которая наиболее типична для этой практики. Предвзятость, внесенная в систему ИИ, приведет к предвзятому результату. Таким образом, «что» ИИ — не единственный важный фактор в его применении, но то, как он применяется и что делается с результатами, также очень важно с точки зрения его воздействия. Советы и предупреждения, которые появляются в моменты, когда врач отвлекается или привык смотреть на другой экран, могут быть пропущены. Пользовательский опыт использования ИИ будет влиять на утомляемость — широко известное в последнее время явление, которое привело к некоторым знаковым случаям. Таким образом, воздействие ИИ зависит от среды, в которой он реализуется, и от состояния пользователя в момент его представления.

Если мы чему-то научились из заслуживающих внимания ошибок ИИ, так это тому, что мы, возможно, не придерживаемся тех же стандартов конфиденциальности, что и люди, но мы действительно придерживаемся более высоких стандартов, чем обычные человеческие действия. Было бы совершенно неприемлемо, чтобы система искусственного интеллекта причинила вред одному пациенту. Мы ожидаем, что ИИ не только будет работать лучше, чем люди, но и не причинит вреда пациентам. Итак, на данный момент ИИ будет продолжать творить свою алхимическую магию в фоновом режиме, незаметно принимая на себя ответственность (или нет) за то, как он влияет на здравоохранение.

• SEO-контент и PR-распределение. Получите усиление сегодня.
• PlatoData.Network Вертикальный генеративный ИИ. Расширьте возможности себя. Доступ здесь.
• ПлатонАйСтрим. Интеллект Web3. Расширение знаний. Доступ здесь.
• ПлатонЭСГ. Углерод, чистые технологии, Энергия, Окружающая среда, Солнечная, Управление отходами. Доступ здесь.
• ПлатонЗдоровье. Биотехнологии и клинические исследования. Доступ здесь.
• Источник: https://www.dataversity.net/how-artificial-intelligence-will-first-find-its-way-into-mental-health/