Юта проклала шлях у січні, ставши першим штатом, який дозволив автономній ІІ-системі продовжувати рецепти. Цей крок не просто випробував технології; він перевіряв межі медичного ліцензування, регуляторної влади та довіри суспільства. Тепер Американська медична асоціація, рада з медичної практики штату та Управління з санітарного нагляду за якістю харчових продуктів та медикаментів (FDA) вступили в суперечку з питання того, що дійсно constitutes безпечну медичну допомогу.
Ядро угоди укладено між Doctronic та Управлінням з політики в галузі штучного інтелекту штату. У рамках цієї угоди Юта погодилася не застосовувати закони про недобросовісну професійну практику до компанії. В обмін Doctronic дотримується суворих рамок безпеки та конфіденційності. Цей регуляторний обхідний шлях є суттю «пілотної програми ІІ-призначень у Юті» — програми, яка дозволяє машині виконувати рутинне медичне обслуговування без нагляду лікаря.
Як насправді працює система рецептів ІІ в Юті
Якщо у вас хронічне захворювання, процес простий. ІІ Doctronic може продовжувати виписку на 30, 60 чи 90 днів. Вартість складає 4 долари за рецепт. До списку входить близько 190 препаратів для лікування гіпертонії, діабету та депресії.
Але є нюанс: ІІ займається лише продовженням рецептів на ліки, раніше призначені ліцензованим лікарем. Він не ухвалює нових рішень про лікування.
Для участі пацієнт повинен підтвердити, що фізично перебуває в Юті, та відповісти на клінічні питання. Якщо система схвалює запит, продовження відправляється безпосередньо до аптеки. Якщо ІІ вагається? Справа передається лікареві з телемедичної команди Doctronic.
«Нам essentially сказали: “Так, це відбувається. І так, ви не маєте на це права”». — Д-р Алан Сміт, Рада з ліцензування лікарів Юти
Звучить просто. Але Мічелл Мелло зі Стенфорда називає це одним із перших масштабних розгортань будь-якої автономної, самостійної системи в медицині. Ця відмінність важлива. До липня агентство Associated Press вже почало запитувати лікарів та юристів, чи не надали ми машині медичної ліцензії випадково.
Ранні дані: обережність важливіша за ефективність
Департамент торгівлі штату Юта опублікував дані пілотного проекту у травні. 5 місяців результатів. Висновки, м’яко кажучи, неоднозначні.
У 72% випадків, коли Doctronic рекомендувала продовження, вона перенаправляла запит лікаря-людину для остаточного узгодження. Лікарі погоджувалися у 91% випадків. 9%, що залишилися, вимагали додаткової інформації: оновлених аналізів або більш повного контексту.
В решті 28% випадків ІІ самостійно ескалував справу до лікаря. Він наголошував на ускладненнях і вимагав нового тестування. Лікарі погодилися з цими ескалаціями у 69% випадків. Це залишило 31% випадків, коли лікарі вважали дії ІІ надмірно обережними.
Зах Бойд, керівник ІІ-управління Юти, визнає, що Doctronic перестраховується. Вона регулярно передає неконфліктні рішення щодо затвердження людям. Це вважається нормальним для нової системи. Це також те, що підриває аргумент про ефективність. Навіщо автоматизувати роботу, якщо людина все одно повинна виконувати її у 72% випадків?
Дизайн гарантує цей перетин. Клінік, ліцензований в Юті, повинен особисто перевірити перші 250 індивідуальних випадків, перш ніж що-небудь надійде в аптеку. Тільки після того, як система досягне порога точності, прямий людський контроль скоротиться. Поки що це перетин структурний, а не випадковий.
Шершень ворожнечі: відсіч з боку лікарів
Ціль очевидна: автоматизувати адміністративний тягар продовження рецептів. Пацієнти дзвонять чи пишуть до офісу лікаря. Відвідування не потрібно, тому персонал не отримує відшкодування за обробку такого запиту. Ліки від хронічних захворювань рідко змінюються від продовження до продовження. Логіка нагадує, що ІІ може поглинути цей «шум».
Д-р Адам Осковіц, співзасновник Doctronic, бачить майбутнє, де ІІ бере на себе рутинні завдання, такі як призначення аналізів. Він хоче, щоб лікарі керували «тисячами пацієнтів більше, ніж зараз».
Рада з ліцензування лікарів Юти не вірить у це. Вони дізналися про програму із новин, а не від державних чиновників. У квітні 11 членів ради написали листа з вимогою призупинити роботу.
Їхній аргумент? Продовження ліків без перевірки змін у стані пацієнта є ризикованим. Деякі препарати у списку Doctronic містять кроворозріджувальні засоби.
“Багато разів, коли я бачу людей через шість місяців, я виявляю, що їхня медична історія змінилася”, – сказав д-р Сміт. “Тільки тому, що щось було призначено раніше, не означає, що це підходить зараз”.
Американська медична асоціація (AMA) підтримала цю позицію. Вони попередили, що продовження рецептів – це не рутинні галочки у чек-листі, а медичні рішення.
Public Citizen довів боротьбу далі. У травні вони підтримали заклик ради призупинити роботу, попередивши, що пілотні проекти з «контролем лікарів» ризикують перетворитися на проставлення печаток за фактом у міру зростання обсягу.
Два структурні ризики: підзвітність та роздування масштабів
За словами Мічелл Мелло, під поверхнею ховаються дві серйозні проблеми.
По-перше, підзвітність. Контракт між Ютою та Doctronic каламутний. Хто платить, якщо помилка, спричинена ІІ, нашкодить пацієнту? Кордони розмиті.
По-друге, роздування масштабів (scope creep). Як тільки інструмент вендора розгортається через регуляторний обхідний шлях, він схильний розширюватись. Він виходить за рамки початкових намірів, не стикаючись зі скрутиною (уважним вивченням/перевіркою), яке вимагалося при початковому запуску. Мелло формулює це різко: «Якщо пілотна програма Юти — це верблюд, що просовує носа в намет, то коли верблюд увійде повністю, хтось має тримати поводи».
Цей верблюд уже висовує ніс. У березні Юта підписала нову угоду із Legion Health. Воно охоплює певний список психіатричних препаратів для підтримки терапії, що не належать до контрольованих речовин (СІОЗС, СІОЗСНІ). Включено обов’язкову ескалацію випадків суїцидальності, манії або важких побічних ефектів.
Контрольні механізми суворіші. Потрібно 98% погодження з лікарем з перших 250 випадків. Потім 99% для наступних 100 випадків.
Регуляторний пробіл: хто тут ліцензований?
Лікарі мають ліцензії на практику медицини. У ІІ – ні. Ця бінарна опозиція руйнує поточну правову основу.
Ерік Бресман з Університету Пенсільванії стверджує, що ми перейшли поріг. Ми фактично видаємо нелюдській суті медичну ліцензію. Він порівнює сьогоднішню клаптеву систему з ерою до запровадження національних стандартів ліцензування в американській медицині. Він критикує Юту за те, що та прийняла сумлінні запевнення компанії, замість вимагати опубліковані дані про ефективність до запуску.
Єдина доступна інформація – це авторське компанією, що не рецензується дослідження, що показало, що діагнози Doctronic збігалися з діагнозами лікарів-людей у 80% випадків із 500 телемедичних консультацій.
Тут постає питання юрисдикції. Медичні устрою підпадають під федеральне регулювання FDA. Медична практика – це справа штатів. Doctronic знаходиться у розриві між цими двома сферами. Керівники сказали AP, що розглядають свій інструмент як частину медицини, яку регулює штат. Вони відмовилися підтвердити, чи отримували схвалення FDA.
FDA коротко відповіло: вони «не уповноважили жодних ІІ-чатботів» і нині дотримуються політики невтручання.
Куди рухається регулювання ІІ в охороні здоров’я?
Юта не довго залишатиметься винятком. Повідомляється, що Техас та Вайомінг вписують аналогічні винятки для ІІ у свої правила. Законодавці в Айові, Айдахо та інших штатах вносять законопроекти про формальне ліцензування медичних послуг на основі ІІ, багато з яких використовують шаблон від Інституту Сізара.
Адам Майєр, директор політичної сфери охорони здоров’я в Інституті Сізара, описує опір в економічних термінах. Хто йде першим, того обстрілюють. Питання економічних інтересів, робочої сили та безпеки робочих місць.
Юта обіцяє опублікувати свої результати. Doctronic заявляє, що дослідження, що рецензуються, вийдуть цього року. Чи з’являться ці дослідження до або після того, як програма відмовиться від фази ручного контролю, ймовірно, і вирішить все.
Компанії можуть розширювати свої бізнес-моделі, стрибаючи за межі поточних доказів. Це вигідно в короткостроковій перспективі. Ризик, як сказав д-р Даніель Аарон агентству AP, полягає у компрометації суспільної довіри. Підживлення зворотного ефекту. У довгостроковій перспективі це може коштувати дорожче, ніж усі виграші в ефективності.
