Юта проложила путь в январе, став первым штатом, разрешившим автономной ИИ-системе продлевать рецепты. Этот шаг не просто тестировал технологии; он проверял границы медицинского лицензирования, регуляторной власти и доверия общества. Теперь Американская медицинская ассоциация, совет по медицинской практике штата и Управление по санитарному надзору за качеством пищевых продуктов и медикаментов (FDA) вступили в перепалку по вопросу того, что действительно constitutes безопасную медицинскую помощь.
Ядро соглашения заключено между Doctronic и Управлением по политике в области искусственного интеллекта штата. В рамках этой сделки Юта согласилась не применять законы о недобросовестной профессиональной практике к компании. В обмен Doctronic соблюдает строгие рамки безопасности и конфиденциальности. Этот регуляторный обходной путь является сутью «пилотной программы ИИ-назначений в Юте» — программы, позволяющей машине выполнять рутинное медицинское обслуживание без непосредственного надзора врача.
Как на самом деле работает система рецептов ИИ в Юте
Если у вас хроническое заболевание, процесс прост. ИИ Doctronic может продлевать выписку на 30, 60 или 90 дней. Стоимость составляет 4 доллара за рецепт. В список входит около 190 препаратов для лечения гипертонии, диабета и депрессии.
Но есть нюанс: ИИ занимается только продлением рецептов на лекарства, ранее назначенные лицензированным врачом. Он не принимает новых решений о лечении.
Для участия пациент должен подтвердить, что физически находится в Юте, и ответить на клинические вопросы. Если система одобряет запрос, продление отправляется напрямую в аптеку. Если ИИ колеблется? Дело передается врачу из телемедицинской команды Doctronic.
«Нам essentially сказали: «Да, это происходит. И да, вы не имеете на это права»». — Д-р Алан Смит, Совет по лицензированию врачей Юты
Звучит просто. Но Мичелл Мелло из Стэнфорда называет это «одним из первых масштабных развертываний любой автономной, самостоятельной системы в медицине». Это различие важно. К июлю агентство Associated Press уже начала спрашивать врачей и юристов, не предоставили ли мы машине медицинскую лицензию случайно.
Ранние данные: осторожность важнее эффективности
Департамент торговли штата Юта опубликовал данные пилотного проекта в мае. Пять месяцев результатов. Выводы, мягко говоря, неоднозначны.
В 72% случаев, когда Doctronic рекомендовала продление, она перенаправляла запрос врачу-человеку для окончательного согласования. Врачи соглашались в 91% случаев. Оставшиеся 9% потребовали дополнительной информации: обновленных анализов или более полного контекста.
В остальных 28% случаев ИИ самостоятельно эскалировал дело до врача. Он отмечал осложнения и требовал нового тестирования. Врачи согласились с этими эскалациями в 69% случаев. Это оставило 31% случаев, когда врачи считали действия ИИ излишне осторожными.
Зах Бойд, руководитель ИИ-управления Юты, признает, что Doctronic перестраховывается. Она регулярно передает неконфликтные решения на утверждение людям. Это считается нормальным для новой системы. Это также именно то, что подрывает аргумент об эффективности. Зачем автоматизировать работу, если человек все равно должен выполнять её в 72% случаев?
Дизайн гарантирует это пересечение. Клиник, лицензированный в Юте, должен лично проверить первые 250 индивидуальных случаев, прежде чем что-либо поступит в аптеку. Только после того как система достигнет порога точности, прямой человеческий контроль сократится. Пока что это пересечение структурное, а не случайное.
Шершень вражды: отпор со стороны врачей
Цель очевидна: автоматизировать административную тяжесть продления рецептов. Пациенты звонят или пишут в офис врача. Посещение не требуется, поэтому персонал не получает возмещения за обработку такого запроса. Лекарства от хронических заболеваний редко меняются от продления к продлению. Логика подсказывает, что ИИ может поглотить этот «шум».
Д-р Адам Осковиц, соучредитель Doctronic, видит будущее, где ИИ берет на себя рутинные задачи, такие как назначение анализов. Он хочет, чтобы врачи управляли «тысячами пациентов больше, чем сейчас».
Совет по лицензированию врачей Юты не верит в это. Они узнали о программе из новостей, а не от государственных чиновников. В апреле 11 членов совета написали письмо с требованием приостановить работу.
Их аргумент? Продление лекарств без проверки изменений в состоянии пациента рискованно. Некоторые препараты в списке Doctronic включают кроворазрежающие средства.
«Много раз, когда я вижу людей через шесть месяцев, я обнаруживаю, что их медицинская история изменилась», — сказал д-р Смит. «Только потому, что что-то было назначено раньше, не значит, что это подходит сейчас».
Американская медицинская ассоциация (AMA) поддержала эту позицию. Они предупредили, что продление рецептов — это не рутинные галочки в чек-листе, а медицинские решения.
Public Citizen довел борьбу дальше. В мае они поддержали призыв совета приостановить работу, предупредив, что пилотные проекты с «контролем врачей» рискуют превратиться в проставление печатей по факту по мере роста объема.
Два структурных риска: подотчетность и раздувание масштабов
По словам Мичелл Мелло, под поверхностью скрываются две серьезные проблемы.
Во-первых, подотчетность. Контракт между Ютой и Doctronic мутный. Кто платит, если ошибка, вызванная ИИ, навредит пациенту? Границы размыты.
Во-вторых, раздувание масштабов (scope creep). Как только инструмент вендора развертывается через регуляторный обходной путь, он склонен расширяться. Он выходит за рамки первоначальных намерений, не сталкиваясь со scrutiny (внимательным изучением/проверкой), которое требовалось при первоначальном запуске. Мелло формулирует это резко: «Если пилотная программа Юты — это верблюд, просовывающий нос в палатку, то когда верблюд войдет полностью, кто-то должен держать поводья».
Этот верблюд уже высовывает нос. В марте Юта подписала новое соглашение с Legion Health. Оно охватывает определенный список психиатрических препаратов для поддержки терапии, не относящихся к контролируемым веществам (СИОЗС, СИОЗСНИ). Включена обязательная эскалация случаев суицидальности, мании или тяжелых побочных эффектов.
Контрольные механизмы строже. Требуется 98% согласования с врачом по первым 250 случаям. Затем 99% для следующих 100 случаев.
Регуляторный пробел: кто здесь лицензирован?
У врачей есть лицензии на практику медицины. У ИИ — нет. Эта бинарная оппозиция разрушает текущую правовую основу.
Эрик Бресман из Университета Пенсильвании утверждает, что мы перешли порог. Мы фактически выдаем нечеловеческой сущности медицинскую лицензию. Он сравнивает сегодняшнюю лоскутную систему с эрой до введения национальных стандартов лицензирования в американской медицине. Он критикует Юту за то, что та приняла добросовестные заверения компании, вместо того чтобы требовать опубликованные данные об эффективности до запуска.
Единственная доступная информация — это авторское компанией, не рецензируемое исследование, показавшее, что диагнозы Doctronic совпадали с диагнозами врачей-людей в 80% случаев из 500 телемедицинских консультаций.
Здесь возникает вопрос юрисдикции. Медицинские устройства подпадают под федеральное регулирование FDA. Медицинская практика — это дело штатов. Doctronic находится в разрыве между этими двумя сферами. Руководители сказали AP, что рассматривают свой инструмент как часть медицины, регулируемой штатом. Они отказались подтвердить, получали ли они одобрение FDA.
FDA ответило кратко: они «не уполномочили никаких ИИ-чатботов» и в настоящее время придерживаются политики невмешательства.
Куда движется регулирование ИИ в здравоохранении?
Юта не будет долго оставаться исключением. Сообщается, что Техас и Вайоминг вписывают аналогичные исключения для ИИ в свои правила. Законодатели в Айове, Айдахо и других штатах вносят законопроекты о формальном лицензировании медицинских услуг на основе ИИ, многие из которых используют шаблон от Института Сизара.
Адам Майер, директор по политической сфере здравоохранения в Институте Сизара, описывает сопротивление в экономических терминах. Кто идет первым, того обстреливают. Вопросы экономических интересов, рабочей силы и безопасности рабочих мест.
Юта обещает опубликовать свои результаты. Doctronic заявляет, что рецензируемые исследования выйдут в этом году. То, появятся ли эти исследования до или после того, как программа откажется от фазы ручного контроля, вероятно, и решит всё.
Компании могут расширять свои бизнес-модели, прыгая за рамки текущих доказательств. Это прибыльно в краткосрочной перспективе. Риск, как сказал д-р Даниэль Аарон агентству AP, заключается в компрометации общественного доверия. Подпитка обратного эффекта. В долгосрочной перспективе это может обойтись дороже, чем все выигрыши в эффективности.
