Всего за последние два года искусственный интеллект стал встроенным в десятки медицинских устройств, которые дают советы врачам скорой помощи, кардиологам, онкологам и бесчисленному множеству других поставщиков медицинских услуг.
Управление по санитарному надзору за качеством пищевых продуктов и медикаментов одобрило по крайней мере 130 медицинских устройств на базе искусственного интеллекта, половина из них – только за последний год, и в ближайшие несколько лет их количество наверняка вырастет еще больше.
Несколько устройств искусственного интеллекта предназначены для обнаружения и предупреждения врачей о подозрении на образование тромбов в легких. Некоторые анализируют маммограммы и ультразвуковые изображения на предмет признаков рака груди, в то время как другие исследуют сканирование мозга на предмет признаков кровоизлияния. Устройства Cardiac AI теперь могут выявлять широкий спектр скрытых проблем с сердцем.
Но что на самом деле регулирующие органы или врачи знают о точности этих инструментов?
Новое исследование, проведенное учеными из Стэнфорда, некоторые из которых сами разрабатывают устройства, предполагает, что доказательства не так полны, как следовало бы, и могут упустить некоторые специфические проблемы, создаваемые искусственным интеллектом .
Многие устройства были протестированы исключительно на исторических и потенциально устаревших данных пациентов. Немногие были протестированы в реальных клинических условиях, в которых врачи сравнивали свои собственные оценки с рекомендациями, созданными ИИ. Многие устройства были протестированы только на одном или двух объектах, что может ограничить расовое и демографическое разнообразие пациентов и создать непреднамеренные предубеждения.
«Удивительно, но многие алгоритмы ИИ не были оценены очень тщательно», – говорит Джеймс Зу, соавтор исследования, доцент кафедры биомедицинских данных в Стэнфордском университете, а также преподаватель Стэнфордского университета. Институт искусственного интеллекта, ориентированного на человека (HAI).
В исследовании, только что опубликованном в журнале Nature Medicine , исследователи из Стэнфорда проанализировали доказательства, представленные для каждого медицинского устройства с искусственным интеллектом , одобренного FDA с 2015 по 2020 год.
Помимо Цзоу, исследование проводили Эрик Ву и Кевин Ву, доктор философии. кандидаты в Стэнфорд; Роксана Данешжу, клинический специалист по дерматологии и научный сотрудник в области биомедицинских данных; Дэвид Оуян, кардиолог больницы Сидарс-Синай в Лос-Анджелесе; и Дэниел Э. Хо, профессор права в Стэнфорде, а также заместитель директора Stanford HAI.