Os chatbots agora estão prescrevendo medicamentos psiquiátricos

Alguns psiquiatras estão se perguntando que problema, exatamente, isso está resolvendo.

Alguns psiquiatras estão se perguntando que problema, exatamente, isso está resolvendo.

Utah está permitindo que um sistema de IA prescreva medicamentos psiquiátricos sem a intervenção de um médico. É apenas a segunda vez que o estado — e o país — delega esse tipo de autoridade clínica à IA. Autoridades estaduais afirmam que isso poderia reduzir custos e amenizar a escassez de atendimento, mas médicos alertam que o sistema é opaco, arriscado e improvável que amplie o atendimento de saúde mental para aqueles que precisam dele.

O projeto-piloto de um ano, anunciado na semana passada, permitirá que o chatbot de IA da Legion Health renove certas prescrições de medicamentos psiquiátricos, em alguns casos. A startup de São Francisco promete aos pacientes de Utah “renovações rápidas e simples” por meio de uma assinatura de US$ 19 por mês. O programa começa em algum momento de abril, embora a empresa esteja operando apenas uma lista de espera no momento.

O chatbot de IA renovará certas prescrições de medicamentos psiquiátricos, em alguns casos.

O programa tem escopo deliberadamente restrito, limitado tanto em termos dos medicamentos que cobre quanto das condições que os pacientes devem cumprir para se qualificar. De acordo com o contrato da Legion com o Escritório de Política de Inteligência Artificial de Utah, o chatbot pode renovar apenas 15 medicamentos de manutenção de baixo risco que já tenham sido prescritos por um médico. Isso inclui fluoxetina (Prozac), sertralina (Zoloft), bupropiona (Wellbutrin), mirtazapina e hidroxizina, comumente usados para tratar ansiedade e depressão. Os pacientes também devem ser considerados estáveis: qualquer pessoa que tenha sofrido uma alteração recente na dosagem ou no medicamento, ou que tenha sido hospitalizada por motivos psiquiátricos no último ano, está excluída, e os pacientes devem consultar um profissional de saúde a cada 10 renovações de receita ou após seis meses, o que ocorrer primeiro.

Não é fácil obter aprovação da FDA para uma IA que detecta depressão

Fornecer suas informações de saúde a um chatbot é, sem surpresa, uma péssima ideia

Os chatbots estão enfrentando dificuldades com números de linhas de apoio ao suicídio

O sistema não pode emitir novas prescrições nem lidar com medicamentos que exijam supervisão clínica mais rigorosa, incluindo medicamentos que necessitem de monitoramento por exames de sangue. Substâncias controladas também são proibidas, o que exclui muitos medicamentos para TDAH. A exclusão de benzodiazepínicos, usados para ansiedade; antipsicóticos, usados para condições como esquizofrenia e transtorno bipolar; e lítio — amplamente considerado o tratamento padrão-ouro para o transtorno bipolar — deixa muitos casos psiquiátricos mais complexos fora do escopo do projeto piloto.

Para usar o sistema, os pacientes devem se inscrever, verificar sua identidade e comprovar que já possuem uma receita, por exemplo, fornecendo uma foto do rótulo ou do frasco de comprimidos. Em seguida, são questionados sobre seus sintomas, bem como sobre os efeitos colaterais e a eficácia do medicamento. São feitas perguntas sobre pensamentos suicidas, automutilação, reações graves e gravidez, a fim de registrar sinais de alerta. Se alguma resposta estiver fora dos critérios de baixo risco do projeto-piloto, os casos devem ser encaminhados a um médico antes que qualquer renovação seja emitida. Pacientes e farmacêuticos também podem solicitar uma avaliação por um profissional.

“Ao automatizar com segurança o processo de renovação de medicamentos de manutenção, estamos permitindo que os pacientes recebam os cuidados de que precisam de forma muito mais rápida e acessível”, afirmaram autoridades estaduais ao anunciar o projeto-piloto. Com o tempo, disseram eles, o programa poderia liberar os profissionais de saúde para “concentrar seu tempo nas necessidades mais complexas e de maior risco dos pacientes” e ajudar a resolver a escassez que deixou 500 mil residentes de Utah sem acesso a cuidados de saúde mental. O cofundador e CEO da Legion, Yash Patel, apresentou o programa em termos ainda mais grandiosos, descrevendo-o como uma novidade mundial que expandirá drasticamente o acesso à saúde e marcará “o início de algo muito maior do que renovações de receitas”.

Os psiquiatras estão menos convencidos. Brent Kious, psiquiatra e professor da Faculdade de Medicina da Universidade de Utah, disse ao The Verge que acha que “as vantagens de um sistema de renovação de receitas baseado em IA podem estar sendo exageradas”. Ele suspeita que a ferramenta “não aumentará o acesso para aqueles que mais precisam de cuidados”. O paciente-alvo já teria que estar em um plano de tratamento com seu psiquiatra para usar o serviço.

“Seria melhor se houvesse maior transparência, mais base científica e testes mais rigorosos antes que as pessoas fossem solicitadas a usar isso.”

Kious sugere que a automação poderia contribuir para o que ele chamou de “epidemia de tratamento excessivo” na psiquiatria, com alguns pacientes permanecendo em medicação por mais tempo do que o necessário. John Torous, diretor de psiquiatria digital do Beth Israel Deaconess Medical Center e professor de psiquiatria na Harvard Medical School, levantou uma preocupação relacionada, observando que algumas pessoas se beneficiam de permanecer em uso de medicamentos psiquiátricos a longo prazo, enquanto outras podem se beneficiar com a redução ou a interrupção do tratamento. “Elas exigem um manejo mais ativo, mudanças e consideração cuidadosa”, disse ele. Isso é mais difícil de fazer se você estiver terceirizando as consultas de renovação de receita para um chatbot.

Uma preocupação maior é se um chatbot pode automatizar com segurança até mesmo as partes mais rotineiras do atendimento psiquiátrico. Torous disse que a prescrição envolve mais do que apenas verificar interações medicamentosas e questionou se algum sistema de IA hoje “é capaz de compreender o contexto e os fatores únicos que compõem o plano de medicação de uma pessoa”. Kious fez uma observação semelhante: “Isso é algo que poderia ser seguro em princípio, mas tudo depende dos detalhes.” Essas preocupações são agravadas pelo fato de esses sistemas serem novos — e de permanecerem opacos para quem está de fora. “Parece um pouco com alquimia no momento”, disse ele. “Seria melhor se houvesse maior transparência, mais ciência e testes mais rigorosos antes que as pessoas fossem solicitadas a usar isso.”

Há também preocupações de segurança mais imediatas. Kious disse que o chatbot pode deixar passar algo durante a triagem: ele pode não fazer as perguntas certas, um paciente pode não reconhecer um efeito colateral ou pode responder de forma imprecisa. Alguns podem simplesmente dizer ao sistema o que ele quer ouvir para agilizar o atendimento. Ele ressaltou que isso não é exclusivo dos chatbots; grande parte da psiquiatria depende do auto-relato. Mas os médicos humanos geralmente têm acesso a outras informações também, disse ele, acrescentando que, quando atende pacientes, presta atenção não apenas ao que eles dizem, mas também ao que não dizem e à forma como se apresentam. E embora os pacientes também possam induzir os profissionais humanos ao erro, Kious disse que um sistema de chatbot pode facilitar que os pacientes ajustem suas respostas até obterem o resultado desejado.

Torous disse que há também riscos de segurança mais evidentes, que serão familiares a qualquer pessoa que acompanhe o desempenho dos chatbots no mundo real. O chatbot da Legion é a segunda experiência de Utah com prescrição por IA, juntando-se a um piloto mais amplo e em andamento focado na atenção primária com a Doctronic, lançado em dezembro passado. Poucas semanas após entrar em operação, pesquisadores de segurança conseguiram fazer com que o sistema da Doctronic divulgasse teorias da conspiração sobre vacinas, gerasse instruções para fabricar metanfetamina e triplicasse a dosagem de opioides de um paciente. Autoridades estaduais afirmam que o programa mais focado com a Legion foi projetado especificamente para lidar com “a escassez de serviços de saúde mental no estado”.

A Legion afirma que o projeto-piloto está operando sob rígidas medidas de segurança. Além do que chama de “critérios conservadores de elegibilidade”, seu acordo com Utah exige que ela forneça relatórios mensais detalhados e que as primeiras 1.250 solicitações sejam analisadas minuciosamente por médicos humanos, com amostragem periódica de cerca de 5 a 10% das solicitações a partir de então.

O cofundador e presidente da Legion, Arthur MacWaters, disse ao The Verge que “existem riscos em qualquer modelo de atendimento remoto, seja assistido por IA ou totalmente conduzido por humanos” e enfatizou que o “fluxo de trabalho da empresa não depende de uma única resposta auto-relatada para liberar o tratamento”. Ele disse que as principais salvaguardas incluem os limites restritos do projeto-piloto em relação a medicamentos e elegibilidade dos pacientes, filtros de segurança de IA integrados, envolvimento de farmacêuticos e a capacidade de encaminhar o caso a um médico. “Vemos isso como fundamental para ampliar o acesso a centenas de milhares de pessoas em Utah que vivem em áreas com escassez de serviços de saúde mental, bem como um importante campo de testes para a IA na medicina.”

MacWaters não quis comentar sobre casos de uso adicionais, medicamentos ou expansões para outros estados, mas disse que a empresa está “animada com o que o futuro reserva”. Ele também não forneceu um cronograma para os planos de expansão da Legion, embora tanto MacWaters quanto a Legion tenham sinalizado publicamente ambições mais amplas além de Utah: o site de renovação de receitas da Legion afirma que o serviço estará disponível “em todo o país em 2026” e MacWaters sugeriu que “estará em todos os estados muito rapidamente”.

Para os psiquiatras com quem conversei, tudo isso parece levantar uma questão bastante básica: que problema a Legion está realmente resolvendo? Pacientes já cadastrados muitas vezes nem precisam de uma consulta para renovar a receita, disse Kious, explicando que a maioria dos psiquiatras provavelmente fica “feliz em renovar receitas gratuitamente e sem consulta”, a menos que estejam preocupados com o paciente ou que o medicamento acarrete um risco significativo. Esses são exatamente os casos que a IA da Legion está impedida de lidar.

“Eu, pessoalmente, evitaria isso por enquanto”, disse Torous, acrescentando que, se você encontrou um bom plano de tratamento que funciona para você, provavelmente é melhor continuar com aquele médico.

O ABS Challenge System está expondo o pior árbitro do beisebol

Elon Musk está prestes a ficar muito ocupado!

O AO3 finalmente saiu da versão beta após 17 anos