Стартап зі штучного інтелекту (ШІ) Woebot Health нещодавно потрапив у новини через деякі з його катастрофічно помилкових відповідей штучного бота на текстові повідомлення, які надсилалися йому, імітуючи кризу психічного здоров’я. Woebot, який зібрав 90 мільйонів доларів у раунді серії B, відповів, що він не призначений для використання під час криз. Керівництво компанії сумно очікує, що пацієнти, які можуть мислити не зовсім раціонально, матимуть визнання, щоб припинити використовувати їх типову форму спілкування та звернутися до альтернативної системи.
У той час як лікарі несуть відповідальність за шкоду, заподіяну пацієнтам під час лікування, стартап-компанії, які прагнуть увійти в цей простір, не дотримуються тих самих стандартів. Що ще гірше для вразливих пацієнтів, ці системи також не відповідають однаковим стандартам конфіденційності. Вхід у простір штучного інтелекту та безпосередня взаємодія з пацієнтами особливо складні, оскільки багато пацієнтів регулярно відчувають послаблені кризи, нижче порогу необхідності телефонувати 911, що робить бота, не обладнаного для лікування криз, швидше за все, недостатньо обладнаного для того, щоб впоратися з муками, які пацієнти відчувають на щодня.
Незважаючи на ризики, пов’язані зі штучним і ненавмисним розв’язуванням криз пацієнтів, стартапи у сфері психічного здоров’я, залучені в цей простір, залучили загалом 1.3 мільярда доларів у першій половині 2022 року. На жаль, існує багато труднощів у безпосередньому спілкуванні з пацієнтами, а ШІ ще не готовий для цього завдання. Слова можуть використовуватися на сленгу або з альтернативними значеннями. Значення речення може змінюватися залежно від історії пацієнта, культурних цінностей, жестів, просодії та тону голосу. Крім того, важливо враховувати підсвідомі мотиви пацієнта під час терапевтичного сеансу, які нелегко з’ясувати за допомогою ШІ.
Незважаючи на те, що штучний інтелект може виявити буквальне значення слів, він не зможе зрозуміти значення, що стоїть за невимовленим, настільки, наскільки це може зробити людина-терапевт. Враховуючи кількість труднощів із заміною людей-терапевтів, штучний інтелект, швидше за все, матиме вплив за лаштунками іншими способами.
Хоча існує багато проблем, коли покладатися на штучного бота для взаємодії з пацієнтами, все ще є сфери, де штучний інтелект може покращити процес прийняття рішень. Медичні страхові компанії вже бачать цінність штучного інтелекту в зниженні витрат шляхом виявлення пацієнтів, які активно використовують медичні послуги. Постачальники, які виписують рецепти, регулярно отримують сповіщення від медичних страхових компаній щодо нерегулярних поповнень рецептів, щоб заохотити припинення рецептів, які не використовуються оптимально. Дійсно, великі страхові компанії володіють значними наборами даних, які зараз аналізуються, щоб передбачити виникнення хвороби Альцгеймера, діабету, серцевої недостатності та хронічної обструктивної хвороби легень (ХОЗЛ). Насправді, ШІ вже схвалено FDA для конкретних цілей, і наразі штучний інтелект блищить, коли його застосовують до дуже конкретної клінічної проблеми. Системи штучного інтелекту спочатку прагнуть покращити клінічне судження, а не замінити клінічне судження. В ідеалі ШІ підвищить продуктивність клініциста, вирішуючи повсякденні завдання та попереджаючи про те, що може бути сумнівним і потребувати подальшого дослідження людиною. За даними страхової компанії Optum, трійка найкращих додатків штучного інтелекту – це моніторинг даних за допомогою переносних пристроїв, прискорення клінічних випробувань і підвищення точності кодування охорони здоров’я. Поточні цілі полягають не в тому, щоб збільшити кількість даних, а в тому, щоб представити дані у спосіб, який є значущим і зручним для клініциста.
Штучний інтелект почне впливати на постачальників інформативними підказками та сповіщеннями, таким чином сприяючи покращенню процесу прийняття рішень і зменшенню людських помилок. Практика медицини сповнена повторюваних завдань, які є нагодою перекласти на комп’ютер. Наприклад, одним із поширених застосувань штучного інтелекту є оцінка зображень сітківки, що дозволяє офтальмологам зосередитися на інших галузях медицини, які вони вважають більш корисними. Оскільки штучний інтелект пробивається в охорону здоров’я, клініцистам слід хвилюватися не про те, чи їх замінять, а про те, як їхня практика продовжуватиме розвиватися з часом – і, сподіваємося, на краще.
Однією з труднощів у застосуванні штучного інтелекту в просторі постачальників є те, що медичні записи не є однаково структурованими, а стилі сильно відрізняються від постачальника до постачальника. Медична документація також може містити властива упередженість, залежно від популяції пацієнтів, яка найбільш типова для цієї практики. Зміщення, подане в систему ШІ, дасть необ’єктивний результат. Таким чином, «що» ШІ є не єдиним важливим фактором у його застосуванні, але те, як він застосовується та що робиться з результатами, також має велике значення для впливу, який він справляє. Підказки та попередження, які з’являються в моменти, коли клініцист відволікається або звик дивитися на інший екран, можуть бути пропущені. Користувацький досвід штучного інтелекту вплине на втому тривоги, нещодавно добре відоме явище, яке призвело до деяких знакових випадків. Таким чином, штучний інтелект настільки ж впливовий, як середовище, в якому він доставляється, і стан користувача на момент його представлення.
Якщо ми чогось навчилися з помилок штучного інтелекту, які заслуговують на увагу, це те, що ми можемо не дотримуватися стандартів конфіденційності ШІ, як люди, але ми дотримуємося вищих стандартів, ніж типова продуктивність людини. Було б абсолютно неприйнятно, щоб система штучного інтелекту завдала шкоди одному пацієнту. Ми очікуємо, що штучний інтелект не тільки працюватиме краще, ніж люди, але й не завдасть шкоди пацієнтам. Тож наразі штучний інтелект продовжуватиме працювати над своєю алхімічною магією у фоновому режимі, тихо беручи на себе відповідальність – чи ні – за те, як він впливає на охорону здоров’я.
- Розповсюдження контенту та PR на основі SEO. Отримайте посилення сьогодні.
- PlatoData.Network Vertical Generative Ai. Додайте собі сили. Доступ тут.
- PlatoAiStream. Web3 Intelligence. Розширення знань. Доступ тут.
- ПлатонЕСГ. вуглець, CleanTech, Енергія, Навколишнє середовище, Сонячна, Поводження з відходами. Доступ тут.
- PlatoHealth. Розвідка про біотехнології та клінічні випробування. Доступ тут.
- джерело: https://www.dataversity.net/how-artificial-intelligence-will-first-find-its-way-into-mental-health/
