Команда исследователей под руководством Кембриджского университета и Университета Саймона Фрейзера разработала серию тестов для алгоритмов реконструкции медицинских изображений на основе ИИ и глубокого обучения и обнаружила, что эти методы приводят к бесчисленным артефактам или нежелательным изменениям в данных. среди других серьезных ошибок в окончательных изображениях. Эффекты обычно отсутствовали в методах визуализации, не основанных на ИИ.

Это явление было широко распространено в различных типах искусственных нейронных сетей, что говорит о том, что проблему нелегко исправить. Исследователи предупреждают, что использование методов реконструкции изображений на основе искусственного интеллекта для постановки диагноза и определения лечения может в конечном итоге навредить пациентам. Их результаты представлены в Труды Национальной академии наук.

«ИИ в медицинской визуализации вызывает большой энтузиазм, и он вполне может произвести революцию в современной медицине: однако есть потенциальные ловушки, которые нельзя игнорировать», - сказал д-р Андерс Хансен из Кембриджского Департамента прикладной математики и теоретических исследований. Физик, который руководил исследованиями с доктором Беном Адкоком из Университета Саймона Фрейзера. «Мы обнаружили, что методы искусственного интеллекта очень нестабильны в медицинской визуализации, поэтому небольшие изменения входных данных могут привести к большим изменениям в выходных данных».

Типичное сканирование МРТ может занять от 15 минут до двух часов, в зависимости от размера сканируемой области и количества сделанных изображений. Чем дольше пациент находится внутри аппарата, тем с более высоким разрешением будет окончательное изображение. Однако желательно ограничить количество времени, которое пациенты проводят внутри аппарата, как для снижения риска для отдельных пациентов, так и для увеличения общего количества сканирований, которые могут быть выполнены.

Использование методов искусственного интеллекта для улучшения качества изображений с МРТ или других типов медицинских изображений является привлекательной возможностью для решения проблемы получения изображения высочайшего качества за наименьшее время: теоретически ИИ мог бы получить изображение с низким разрешением. и превратить его в версию с высоким разрешением. Алгоритмы ИИ «учатся» восстанавливать изображения на основе обучения на основе предыдущих данных и посредством этой процедуры обучения стремятся оптимизировать качество реконструкции. Это представляет собой радикальное изменение по сравнению с классическими методами реконструкции, которые основаны исключительно на математической теории и не зависят от предыдущих данных. В частности, не учат классическим техникам.

Для надежности любого алгоритма ИИ необходимы две вещи: точность и стабильность. ИИ обычно классифицирует изображение кошки как кошку, но крошечные, почти невидимые изменения в изображении могут заставить алгоритм вместо этого классифицировать кошку, например, как грузовик или стол. В этом примере классификации изображений единственное, что может пойти не так, - это неправильная классификация изображения. Однако, когда дело доходит до реконструкции изображения, например, используемой в медицинской визуализации, есть несколько вещей, которые могут пойти не так. Например, такие детали, как опухоль, могут быть потеряны или добавлены неверно. Детали могут быть не видны, а на изображении могут появиться нежелательные артефакты.

«Когда дело доходит до критических решений, касающихся здоровья человека, мы не можем позволить, чтобы алгоритмы допускали ошибки», - сказал Хансен. «Мы обнаружили, что малейшее искажение, например, вызванное движением пациента, может дать совсем другой результат, если вы используете ИИ и глубокое обучение для восстановления медицинских изображений - это означает, что этим алгоритмам не хватает стабильности, в которой они нуждаются».

Хансен и его коллеги из Норвегии, Португалии, Канады и Великобритании разработали серию тестов, чтобы найти недостатки в системах медицинской визуализации на основе искусственного интеллекта, включая МРТ, КТ и ЯМР. Они рассмотрели три ключевых вопроса: нестабильность, связанная с крошечными возмущениями или движениями; нестабильность в отношении небольших структурных изменений, таких как изображение мозга с небольшой опухолью или без нее; и нестабильность по отношению к изменению количества образцов.

Они обнаружили, что некоторые крошечные движения приводили к бесчисленным артефактам на конечных изображениях, детали были размыты или полностью удалены, и что качество восстановления изображения ухудшалось при повторной подвыборке. Эти ошибки широко распространены в разных типах нейронных сетей.

По словам исследователей, больше всего беспокоят ошибки, которые радиологи могут интерпретировать как проблемы со здоровьем, в отличие от тех, которые могут быть легко отклонены из-за технической ошибки.

«Мы разработали тест, чтобы проверить наш тезис о том, что методы глубокого обучения будут универсально нестабильными в медицинской визуализации», - сказал Хансен. «Основанием для нашего прогноза было то, что существует предел того, насколько хорошая реконструкция может быть предоставлена ​​при ограниченном времени сканирования. В каком-то смысле современные методы искусственного интеллекта преодолевают этот барьер и в результате становятся нестабильными. Мы математически показали, что за эту нестабильность приходится платить, или, проще говоря: бесплатного обеда все еще не существует ».

В настоящее время исследователи сосредоточены на определении фундаментальных ограничений того, что можно сделать с помощью методов ИИ. Только когда эти ограничения будут известны, мы сможем понять, какие проблемы можно решить. «Исследования, основанные на пробах и ошибках, никогда не обнаружат, что алхимики не могут делать золото: мы находимся в аналогичной ситуации с современным ИИ», - сказал Хансен. «Эти методы никогда не обнаружат своих ограничений. Такие ограничения можно показать только математически ».