Utah inició la construcción en enero. Se convirtió en el primer estado en permitir un sistema autónomo de inteligencia artificial para renovar las recetas. La medida no sólo puso a prueba la tecnología; puso a prueba los límites de las licencias médicas, el poder regulatorio y la confianza pública. Ahora, la Asociación Médica Estadounidense, la junta médica estatal y la FDA se discuten entre sí sobre lo que constituye una atención segura.
El acuerdo principal involucra a Doctronic y la Oficina de Política de Inteligencia Artificial del estado. Según este acuerdo, Utah acordó no hacer cumplir sus leyes de conducta no profesional contra la empresa. A cambio, Doctronic se adhiere a estrictas medidas de seguridad y privacidad. Esta solución regulatoria es el corazón del “piloto de prescripción de IA de Utah”, un programa que permite que una máquina se encargue del mantenimiento médico de rutina sin la supervisión inmediata de un médico.
Cómo funciona realmente el sistema de prescripción de IA de Utah
Si tiene una enfermedad crónica, el proceso es sencillo. La IA de Doctronic puede recargar suministros para 30, 60 o 90 días. El costo es de $4 por receta. Cubre aproximadamente 190 medicamentos para la presión arterial alta, la diabetes y la depresión.
Aquí está el truco: la IA solo maneja renovaciones de medicamentos que ya recetó un proveedor autorizado. No toma nuevas decisiones de tratamiento.
Para calificar, un paciente confirma que se encuentra físicamente en Utah. Responden preguntas clínicas. Si el sistema los borra, el resurtido va directamente a la farmacia. ¿Si la IA duda? Le entrega el caso a un médico humano del equipo de telesalud de Doctronic.
“Básicamente nos dijeron: ‘Sí, esto está sucediendo. Y sí, usted no tiene voz y voto'”. — Dr. Alan Smith, Junta de Licencias Médicas de Utah
Suena sencillo. Pero Michelle Mello, de Stanford, lo llama “uno de los primeros despliegues a escala de cualquier sistema autónomo y agente en medicina”. Esa distinción importa. En julio, Associated Press ya había comenzado a preguntar a médicos y abogados si accidentalmente habíamos otorgado una licencia médica a una máquina.
Datos iniciales: precaución frente a eficiencia
El Departamento de Comercio de Utah publicó datos piloto en mayo. Cinco meses de resultados. Los hallazgos tienen matices, por decir lo menos.
En el 72% de los casos en los que Doctronic recomendó una renovación, dirigió la solicitud a un médico humano para su aprobación final. Los médicos estuvieron de acuerdo el 91% de las veces. Para el 9% restante, pidieron más información. Laboratorios actualizados. Más contexto.
El otro 28% de las veces, la IA remitió el caso a un médico por su cuenta. Señaló complicaciones. Exigió nuevas pruebas. Los médicos estuvieron de acuerdo con estas escaladas el 69% de las veces. Eso dejó un porcentaje del 31% en el que los médicos pensaban que la IA estaba siendo demasiado cautelosa.
Zach Boyd, director de la oficina de IA de Utah, admite que Doctronic peca de cauteloso. Rutinariamente plantea decisiones no controvertidas a los humanos. Esto se considera apropiado para un nuevo sistema. Es también precisamente lo que socava el argumento de la eficiencia. ¿Por qué automatizar el trabajo si el humano todavía tiene que hacerlo el 72% del tiempo?
El diseño garantiza esta superposición. Un médico con licencia de Utah debe revisar personalmente los primeros 250 casos individuales antes de que algo llegue a la farmacia. Solo después de que el sistema supere un umbral de precisión, la revisión humana directa disminuirá. Por ahora, la superposición es estructural, no accidental.
El avispero del rechazo de los médicos
El objetivo es obvio: automatizar la carga administrativa de las renovaciones de recetas. Los pacientes llaman o envían un correo electrónico al consultorio de su médico. No hay ninguna visita vinculada a la solicitud, por lo que no hay reembolso para el personal que la atiende. Los medicamentos para enfermedades crónicas rara vez cambian de un reabastecimiento a otro. La lógica sugiere que la IA puede absorber ese ruido.
El Dr. Adam Oskowitz, cofundador de Doctronic, imagina un futuro en el que la IA se encarga de tareas rutinarias como solicitar pruebas. Quiere que los médicos atiendan “miles más de pacientes de los que pueden atender hoy”.
La Junta de Licencias Médicas de Utah no se lo cree. Se enteraron del programa por los titulares de las noticias, no por funcionarios estatales. En abril, 11 miembros de la junta escribieron una carta exigiendo la suspensión.
¿Su argumento? Renovar los medicamentos sin comprobar si hay cambios en el estado del paciente es arriesgado. Algunos de los medicamentos de la lista de Doctronic incluyen anticoagulantes.
“Muchas veces, cuando veo personas después de seis meses, encuentro que su historial médico ha cambiado”, dijo el Dr. Smith. “El hecho de que algo se haya recetado antes no significa que sea apropiado ahora”.
La AMA se hizo eco de esto. Advirtieron que las renovaciones de recetas no son casillas de verificación de rutina. Son decisiones médicas.
Public Citizen llevó la lucha más allá. En mayo, respaldaron el pedido de suspensión de la junta médica. Advirtieron que los pilotos “supervisados por un médico” corren el riesgo de caer en aprobaciones formales a medida que crece el volumen.
Dos riesgos estructurales: rendición de cuentas y ampliación del alcance
Según Michelle Mello, hay dos cuestiones evidentes que acechan bajo la superficie.
Primero, la rendición de cuentas. El contrato entre Utah y Dothronic es turbio. ¿Quién paga si un error provocado por la IA daña a un paciente? Las líneas están borrosas.
En segundo lugar, el alcance se desplaza. Una vez que la herramienta de un proveedor se implementa a través de una solución regulatoria, tiende a expandirse. Va más allá de su intención original sin enfrentar el escrutinio del lanzamiento inicial. Mello lo expresa claramente: “Si el programa piloto de Utah es la nariz del camello en la tienda, necesitará alguien que sostenga las riendas cuando el camello emerja”.
Ese camello ya está surgiendo. En marzo, Utah firmó un nuevo acuerdo con Legion Health. Éste cubre una lista definida de medicamentos de mantenimiento psiquiátrico no controlados: ISRS, IRSN. Incluye una escalada obligatoria en caso de tendencias suicidas, manía o efectos secundarios graves.
Las barandillas son más estrictas. Requiere una tasa de concordancia médica del 98% para los primeros 250 casos. Luego 99% para el próximo 1,0,0.
La brecha regulatoria: ¿quién tiene licencia aquí?
Los médicos tienen licencias para ejercer la medicina. La IA no. Este binario está rompiendo el marco legal actual.
Eric Bressman, de la Universidad de Pensilvania, sostiene que hemos cruzado un umbral. De hecho, estamos otorgando una licencia médica a una entidad no humana. Compara el mosaico actual con la era de los estándares de licencia prenacionales de la medicina estadounidense. Culpa a Utah por aceptar garantías de buena fe de la empresa en lugar de exigir datos de resultados publicados antes del lanzamiento.
La única evidencia disponible es un estudio no revisado por pares escrito por la compañía que encontró que los diagnósticos de Doctronic coincidían con los de los médicos humanos el 80% de las veces en 500 consultas de telesalud.
Luego está la jurisdicción. Los dispositivos médicos están sujetos a la regulación federal de la FDA. La práctica médica es un asunto a nivel estatal. Doctronic se encuentra en la brecha entre los dos. Los ejecutivos dijeron a la AP que ven su herramienta como parte de la medicina regulada por el estado. Se negaron a confirmar si solicitaron la autorización de la FDA.
La FDA respondió simplemente: “no han autorizado ningún chatbot con IA” y actualmente están adoptando una postura de no intervención.
¿A dónde va la regulación sanitaria de la IA a partir de ahora?
Utah no será un caso atípico por mucho tiempo. Los informes sugieren que Texas y Wyoming están incorporando excepciones similares a la IA en sus reglas. Los legisladores de Iowa, Idaho y otros lugares están presentando proyectos de ley para otorgar licencias formales a los servicios médicos de IA, muchos de ellos utilizando un modelo del Instituto Cicero.
Adam Meier, director de políticas de salud de Cicerón, encuadra la resistencia en términos económicos. Al que llega primero le disparan. Intereses económicos. Preocupaciones por la fuerza laboral. Seguridad laboral.
Utah promete publicar sus hallazgos. Doctronic dice que este año se realizarán estudios revisados por pares. Si esos estudios llegan antes o después de que el programa abandone su fase de revisión humana probablemente decidirá todo.
Las empresas pueden ampliar sus modelos de negocio yendo más allá de la evidencia actual. Es rentable a corto plazo. El riesgo, como dijo Daniel Aaron a la AP, es comprometer la confianza pública. Alimentando la reacción. A largo plazo, eso podría costar más de lo que alguna vez valieron las ganancias en eficiencia.
