人工智能 (AI) 初创公司 Woebot Health 最近因人工机器人对模仿心理健康危机的短信做出的一些灾难性的反应而成为新闻焦点。 Woebot 在 B 轮融资中筹集了 90 万美元，该公司回应称，它不适合在危机期间使用。公司领导层遗憾地期望患者（他们可能没有完全理性地思考）能够认识到停止使用他们典型的沟通方式并寻求替代系统。
虽然医生要对治疗过程中对患者造成的伤害负责，但寻求进入这一领域的初创公司却没有遵守相同的标准。对于弱势患者来说，更糟糕的是，这些系统也没有遵守相同的隐私标准。进入人工智能领域并直接与患者互动尤其复杂，因为许多患者经常经历减弱的危机，低于需要拨打 911 的阈值，这使得不具备处理危机能力的机器人很可能无法很好地处理患者经历的痛苦。每日一次。
尽管存在人为和无意中造成患者危机的风险，但进入这一领域的心理健康初创公司在 1.3 年上半年总共筹集了 2022 亿美元。不幸的是，直接与患者沟通存在许多困难，人工智能还没有准备好为了这个任务。单词可以用在俚语中或具有其他含义。句子的含义可能会根据患者的病史、文化价值观、手势、韵律和语气而改变。此外，在治疗过程中考虑患者的潜意识动机也很重要，而人工智能不容易阐明这一点。
尽管人工智能可能能够检测单词的字面含义，但它无法像人类治疗师那样理解未说出的内容背后的含义。鉴于取代人类治疗师的困难重重，人工智能更有可能以其他方式在幕后产生影响。
尽管依靠人工机器人与患者互动时面临许多挑战，但人工智能仍然可以在某些领域增强决策能力。健康保险公司已经看到了人工智能通过识别医疗保健服务高利用率患者来降低成本的价值。处方提供者经常收到健康保险公司关于不定期补充处方的通知，以鼓励停止未得到最佳使用的处方。事实上，大型保险公司拥有大量数据集，目前正在分析这些数据集以预测阿尔茨海默病、糖尿病、心力衰竭和慢性阻塞性肺病 (COPD) 的发病情况。实际上， AI已获得FDA批准 目前，人工智能在应用于非常具体的临床问题时会大放异彩。人工智能系统最初的目的是增强临床判断，而不是取代临床判断。理想情况下，人工智能将通过处理日常任务并对可能模棱两可且需要人类进一步调查的任务发出警报来提高临床医生的生产力。据保险公司 Optum 称，排名前三的人工智能应用是通过可穿戴设备监控数据、加速临床试验以及提高医疗保健编码的准确性。当前的目标不是增加数据量，而是以一种对临床医生有意义且可操作的方式呈现数据。
人工智能将开始通过信息提示和警报影响提供商，从而帮助增强决策并减少人为错误。医学实践充满了死记硬背的任务，这些任务是转移到计算机上的成熟机会。例如，人工智能的一个常见应用是评估视网膜图像，这使得眼科医生能够专注于他们认为更有价值的其他医学领域。随着人工智能进入医疗保健领域，临床医生不应该担心他们是否会被取代，而应该担心他们的实践将如何随着时间的推移继续发展——并希望变得更好。
将人工智能应用于医疗服务提供者领域的一个困难是医疗记录的结构不统一，而且不同医疗服务提供者的风格差异很大。医疗记录还可能包含 固有偏见，取决于该实践中最典型的患者群体。输入人工智能系统的偏差会产生有偏差的结果。因此，人工智能的“什么”并不是其应用的唯一重要因素，如何应用以及如何处理结果对其产生的影响也非常有意义。当临床医生分心或习惯于查看另一个屏幕时出现的提示和警报可能会被忽略。人工智能的用户体验会对警报疲劳产生影响，这是最近众所周知的现象，并导致了一些标志性案例。因此，人工智能的影响力取决于它所使用的媒介以及它呈现时用户的状态。
如果说我们从具有新闻价值的人工智能错误中学到了什么的话，那就是我们可能不会要求人工智能遵守与人类相同的隐私标准，但我们确实要求它遵守比典型人类表现更高的标准。人工智能系统伤害单个患者是完全不可接受的。我们期望人工智能不仅表现得比人类更好，而且不会伤害任何患者。因此，就目前而言，人工智能将继续在后台发挥其炼金术魔力，悄悄地为其对医疗保健的影响承担责任（或不承担责任）。
