Utah foi inaugurado em janeiro. Tornou-se o primeiro estado a permitir um sistema autônomo de IA para renovar prescrições. A mudança não testou apenas a tecnologia; testou os limites do licenciamento médico, do poder regulatório e da confiança pública. Agora, a Associação Médica Americana, o conselho médico estadual e a FDA estão todos gritando uns com os outros sobre o que constitui um cuidado seguro.
O acordo principal envolve a Doctronic e o Escritório de Política de Inteligência Artificial do estado. Nos termos deste acordo, Utah concordou em não aplicar suas leis de conduta não profissional contra a empresa. Em troca, a Doctronic segue rigorosas proteções de segurança e privacidade. Essa solução regulatória é o cerne do “piloto de prescrição de IA de Utah” – um programa que permite que uma máquina cuide da manutenção médica de rotina sem a supervisão imediata de um médico.
Como o sistema de prescrição de IA de Utah realmente funciona
Se você tem uma condição crônica, o processo é simples. A IA da Doctronic pode reabastecer suprimentos para 30, 60 ou 90 dias. O custo é de US$ 4 por receita. Abrange cerca de 190 medicamentos para hipertensão, diabetes e depressão.
Aqui está o problema: a IA só lida com renovações de medicamentos já prescritos por um fornecedor licenciado. Não toma novas decisões de tratamento.
Para se qualificar, o paciente confirma que está fisicamente em Utah. Eles respondem a perguntas clínicas. Se o sistema liberar, a recarga vai direto para a farmácia. Se a IA hesitar? Ele entrega o caso a um médico humano da equipe de telessaúde da Doctronic.
“Disseram-nos essencialmente: ‘Sim, isso está acontecendo. E sim, você não tem palavra a dizer sobre isso.'” – Dr. Alan Smith, Utah Medical Licensing Board
Parece simples. Mas Michelle Mello, de Stanford, chama-a de “uma das primeiras implantações em escala de qualquer sistema agente autônomo na medicina”. Essa distinção é importante. Em julho, a Associated Press já havia começado a perguntar a médicos e advogados se havíamos concedido acidentalmente uma licença médica a uma máquina.
Dados iniciais: cuidado com a eficiência
O Departamento de Comércio de Utah divulgou dados piloto em maio. Cinco meses de resultados. As descobertas são matizadas, para dizer o mínimo.
Em 72% dos casos em que a Doctronic recomendou uma renovação, encaminhou o pedido para um médico humano para aprovação final. Os médicos concordaram em 91% das vezes. Para os 9% restantes, eles pediram mais informações. Laboratórios atualizados. Mais contexto.
Nos outros 28% das vezes, a IA encaminhou o caso para um médico por conta própria. Ele sinalizou complicações. Exigiu novos testes. Os médicos concordaram com essas escaladas em 69% das vezes. Isso deixou uma parcela de 31% onde os médicos achavam que a IA estava sendo excessivamente cautelosa.
Zach Boyd, chefe do escritório de IA de Utah, admite que a Doctronic erra por excesso de cautela. Ele rotineiramente transfere decisões incontroversas para os humanos. Isto é visto como apropriado para um novo sistema. É também precisamente isso que mina o argumento da eficiência. Por que automatizar o trabalho se o ser humano ainda precisa fazer isso 72% do tempo?
O design garante essa sobreposição. Um médico licenciado em Utah deve revisar pessoalmente os primeiros 250 casos individuais antes que qualquer coisa chegue à farmácia. Somente depois que o sistema atingir um limite de precisão a revisão humana será interrompida. Por enquanto, a sobreposição é estrutural e não acidental.
A resistência dos médicos ao ninho de vespas
O objetivo é óbvio: automatizar o processo administrativo das renovações de receitas. Os pacientes ligam ou enviam um e-mail para o consultório médico. Não há visita vinculada à solicitação, portanto não há reembolso para o pessoal que a atende. Os medicamentos para doenças crônicas raramente mudam de recarga para recarga. A lógica sugere que a IA pode absorver esse ruído.
Adam Oskowitz, cofundador da Doctronic, prevê um futuro onde a IA lidará com tarefas rotineiras, como solicitar testes. Ele quer que os médicos cuidem de “milhares de pacientes a mais do que conseguem hoje”.
O Conselho de Licenciamento Médico de Utah não acredita nisso. Eles souberam do programa pelas manchetes dos jornais, não pelas autoridades estaduais. Em abril, 11 membros do conselho escreveram uma carta exigindo a suspensão.
O argumento deles? Renovar medicamentos sem verificar alterações na condição do paciente é arriscado. Alguns dos medicamentos da lista da Doctronic incluem anticoagulantes.
“Muitas vezes, quando atendo pessoas depois de seis meses, descubro que seu histórico médico mudou”, disse o Dr. Smith. “Só porque algo foi prescrito antes não significa que seja apropriado agora.”
A AMA repetiu isso. Eles alertaram que as renovações de receitas não são caixas de seleção de rotina. São decisões médicas.
O Public Citizen levou a luta mais longe. Em maio, eles apoiaram o pedido de suspensão do conselho médico. Eles alertaram que os pilotos “supervisionados por médicos” correm o risco de obter aprovações com carimbo de borracha à medida que o volume aumenta.
Dois riscos estruturais: responsabilidade e aumento do escopo
De acordo com Michelle Mello, há duas questões gritantes escondidas sob a superfície.
Primeiro, responsabilidade. O contrato entre Utah e Dothronic é obscuro. Quem paga se um erro causado pela IA ferir um paciente? As linhas estão borradas.
Em segundo lugar, o aumento do escopo. Depois que a ferramenta de um fornecedor é implantada por meio de uma solução regulatória, ela tende a se expandir. Ela cresce além de sua intenção original sem enfrentar o escrutínio do lançamento inicial. Mello coloca isso de forma incisiva: “Se o programa piloto de Utah é o nariz do camelo na tenda, será necessário que alguém segure as rédeas quando o camelo surgir”.
Esse camelo já está emergindo. Em março, Utah assinou um novo acordo com a Legion Health. Este cobre uma lista definida de medicamentos de manutenção psiquiátrica não controlados – ISRSs, SNRIs. Inclui escalada obrigatória para suicídio, mania ou efeitos colaterais graves.
Os guarda-corpos são mais apertados. Requer uma taxa de concordância médica de 98% para os primeiros 250 casos. Então 99% para os próximos 1,0,0.
A lacuna regulatória: quem é licenciado aqui?
Os médicos têm licenças para exercer a medicina. A IA não. Este binário está a quebrar o quadro jurídico atual.
Eric Bressman, da Universidade da Pensilvânia, argumenta que ultrapassamos um limite. Estamos efetivamente concedendo uma licença médica a uma entidade não humana. Ele compara a colcha de retalhos de hoje à era dos padrões de licenciamento pré-nacionais da medicina americana. Ele culpa Utah por aceitar garantias de boa fé da empresa, em vez de exigir dados de resultados publicados antes do lançamento.
A única evidência disponível é um estudo de autoria da empresa, não revisado por pares, que descobriu que os diagnósticos da Doctronic correspondiam aos médicos humanos 80% das vezes em 500 consultas de telessaúde.
Depois, há jurisdição. Os dispositivos médicos estão sujeitos à regulamentação federal da FDA. A prática médica é um assunto de nível estadual. Doctronic fica na lacuna entre os dois. Os executivos disseram à AP que veem a sua ferramenta como parte da medicina regulamentada pelo Estado. Eles se recusaram a confirmar se buscavam autorização da FDA.
A FDA respondeu simplesmente: eles “não autorizaram nenhum chatbot de IA” e atualmente estão adotando uma postura de não intervenção.
Para onde vai a regulamentação da AI Healthcare a partir daqui?
Utah não será uma exceção por muito tempo. Os relatórios sugerem que o Texas e o Wyoming estão incorporando divisões semelhantes de IA em suas regras. Os legisladores em Iowa, Idaho e outros lugares estão apresentando projetos de lei para licenciar formalmente serviços médicos de IA, muitos deles usando um modelo do Instituto Cícero.
Adam Meier, diretor de política de saúde de Cícero, enquadra a resistência em termos económicos. Quem for primeiro leva um tiro. Interesses económicos. Preocupações com a força de trabalho. Segurança no emprego.
Utah promete publicar suas descobertas. Doctronic diz que estudos revisados por pares serão lançados este ano. Se esses estudos chegarão antes ou depois de o programa abandonar a fase de revisão humana, provavelmente decidirá tudo.
As empresas podem expandir os seus modelos de negócio indo além das evidências atuais. É lucrativo no curto prazo. O risco, como disse Daniel Aaron à AP, é comprometer a confiança do público. Alimentando a reação. A longo prazo, isso poderá custar mais do que os ganhos de eficiência alguma vez valeram.
