Chatbots de IA na Medicina: Especialistas comparam o uso com “tio maluco”

Uso Crescente de Chatbots de IA na Prática Médica

Milhões de americanos estão buscando respostas de saúde em chatbots de inteligência artificial, e os próprios médicos também estão incorporando essas ferramentas em seu dia a dia. As formas como os profissionais de saúde estão integrando a IA em suas práticas são notáveis.

Ferramentas especializadas em medicina emergiram rapidamente como fontes de consulta valiosas para muitos médicos e residentes. Um CEO de uma dessas empresas relatou que mais de 100 milhões de americanos foram atendidos por um de seus serviços no ano passado.

Limitações de Plataformas Genéricas Versus Ferramentas Especializadas

Plataformas amplamente conhecidas, como o ChatGPT da OpenAI, não atendem totalmente às necessidades dos profissionais de saúde. Eles apontam que essas plataformas nem sempre fornecem informações precisas ou atualizadas com as diretrizes médicas mais recentes.

A Perspectiva dos Especialistas

As políticas de uso da OpenAI restringem o uso dos serviços para “conselhos personalizados” sem a consulta de um profissional de saúde licenciado. A Dra. Ida Sim, professora da Universidade da Califórnia, São Francisco, comparou o ChatGPT a um “tio maluco”.

Segundo Sim, os chatbots médicos dedicados são menos propensos a exageros e mais propensos a fundamentar suas respostas em pesquisas revisadas por pares e diretrizes clínicas. Por isso, ela observa que a adoção dessas ferramentas tem sido “tremenda”.

Leia também

Mounjaro chega para adolescentes: Anvisa aprova tratamento pioneiro para Diabetes Tipo 2

O perigo do silêncio na consulta: o que omissões podem custar ao seu diagnóstico?

Dor antes do movimento: o cérebro antecipa o risco? Entenda a ciência!

Como a IA Auxilia na Manutenção do Conhecimento Médico

Manter-se atualizado com a vasta quantidade de artigos de pesquisa publicados anualmente é um desafio monumental. O Dr. Jared Dashevsky, médico residente na Escola de Medicina Icahn do Mount Sinai, estimou que seria necessário dedicar cerca de 18 horas diárias apenas para se manter atualizado.

Pesquisa Ativa e Resumos Clínicos

Embora os médicos precisem estar sempre atualizados para manter suas licenças, eles passaram a usar chatbots médicos como um recurso de referência. O Dr. Jonathan H. Chen, professor associado da Stanford Medicine, explica que essas ferramentas não apenas extraem dados da internet, mas pesquisam ativamente a literatura médica.

Esse fluxo de trabalho permite que os médicos recebam respostas mais exatas, que resumem e fazem conexões com artigos e diretrizes importantes. Dashevsky ressalta que isso é particularmente útil para médicos em treinamento que trabalham longas jornadas.

Questões de Privacidade e Documentação de Pacientes

Alguns sistemas de saúde implementaram chatbots de IA visando melhorar o atendimento, prometendo segurança e privacidade aos médicos. Contudo, muitos profissionais utilizam IAs não oficiais, chamadas “shadow AIs”, segundo relatos.

O Risco de Dados Protegidos

Algumas dessas IAs paralelas anunciam conformidade com a HIPAA, lei federal que protege informações de saúde identificáveis. No entanto, a linguagem usada levou alguns médicos a acreditarem que é seguro inserir dados protegidos em chatbots para obter respostas mais personalizadas.

Iliana Peters, advogada de saúde, alerta que essa suposição é imprecisa, pois “Conformidade com a HIPAA” não é um termo que qualquer empresa possa usar. Apesar disso, há relatos de que informações de pacientes estão sendo inseridas em bots não autorizados, o que representa um risco de mercantilização de dados.

A IA no Suporte Administrativo e Diagnóstico

Os chatbots também auxiliam na elaboração de anotações de consultas e internações. Essas anotações são cruciais para que toda a equipe de saúde acompanhe o caso do paciente. Dashevsky sugere que ter a IA revisando o histórico pode ser mais seguro do que um humano com tempo limitado tentando juntar todas as peças.

Otimizando Tarefas Burocráticas

O trabalho administrativo consome tempo significativo dos médicos. Um recurso que provou ser um “divisor de águas” são as cartas geradas por IA para companhias de seguros, facilitando autorizações prévias e agilizando o atendimento aos pacientes.

Para auxiliar no diagnóstico, estudantes e médicos utilizam os bots para construir listas de possíveis diagnósticos. Evan Patel, estudante de medicina, relata que os chatbots ajudam a orientar sobre as diversas possibilidades a serem consideradas.

Conclusão: O Papel Humano Insubstituível na Medicina

A maioria dos profissionais entrevistados utiliza chatbots médicos de IA e enxerga essas ferramentas como um alívio para tarefas cognitivas e administrativas. Contudo, as preocupações com a privacidade permanecem válidas, pois erros e imprecisões podem ocorrer.

Os especialistas alertam que a IA não é mágica e que sua variabilidade nas respostas demonstra suas limitações. A medicina opera em camadas: fluxos de trabalho, conhecimento e expertise. A IA está transformando as duas primeiras, mas a camada da expertise — aplicar o conhecimento a um contexto de vida único — é o que realmente define a medicina e é algo que as máquinas ainda não conseguem replicar.