Estudo da Brown University alerta: IA em saúde mental falha em ética e empatia?
Estudo Revela Falhas Éticas em Chatbots de Saúde Mental
O uso de ferramentas de inteligência artificial, como o ChatGPT, para aconselhamento em saúde mental foi colocado em alerta após um estudo conduzido pela Brown University, nos Estados Unidos. A pesquisa apontou que esses sistemas falham em seguir padrões éticos fundamentais da prática psicológica.
CONTINUA DEPOIS DA PUBLICIDADE
Os modelos de IA demonstraram problemas mesmo quando receberam instruções específicas para atuar como terapeutas treinados. Os pesquisadores observaram que as falhas são significativas, mesmo quando comparados a diretrizes de entidades como a American Psychological Association.
Riscos Identificados em Interações com IA
A análise detalhou 15 riscos distintos, que foram agrupados em cinco categorias principais. Entre os problemas apontados estão a incapacidade de adaptar o aconselhamento ao contexto individual do usuário, uma colaboração terapêutica insuficiente e o risco de empatia enganosa.
O Conceito de Empatia Enganosa
Um aspecto central do estudo é a “empatia enganosa”. Este termo descreve situações em que o chatbot utiliza frases como “eu entendo” ou “eu vejo você”, simulando acolhimento emocional sem possuir, de fato, compreensão real da situação.
Na prática, isso significa que a IA pode soar muito convincente sem ter consciência, responsabilidade clínica ou capacidade de julgamento comparável ao de um profissional de saúde qualificado. Os autores alertam que esse efeito pode levar os usuários a confiarem em respostas sem o controle ético exigido de terapeutas humanos.
Leia também
CONTINUA DEPOIS DA PUBLICIDADE
Limites dos Comandos Programados
A investigação também testou se a formulação de comandos específicos, conhecidos como “prompts”, poderia tornar os chatbots mais seguros nesse campo. No entanto, a conclusão foi que esse direcionamento não consegue eliminar os riscos inerentes aos sistemas.
Embora o sistema consiga replicar padrões de linguagem de abordagens terapêuticas, ele não executa essas técnicas como faria um profissional. Segundo Zainab Iftikhar, autora principal, os modelos apenas geram respostas baseadas em padrões que aprenderam anteriormente.
Preocupações com Segurança e Crise
Os pesquisadores destacaram falhas críticas em segurança e gestão de crise. O estudo reporta que os sistemas podem se recusar a abordar temas sensíveis ou falhar em encaminhar o usuário para ajuda adequada em momentos de crise, como em casos de pensamentos suicidas.
Perspectivas Futuras para a IA na Saúde Mental
Os autores não defendem a exclusão total dessas tecnologias. Eles reconhecem que essas ferramentas têm potencial para ampliar o acesso ao aconselhamento, especialmente para quem enfrenta altos custos ou escassez de profissionais licenciados.
Contudo, o ponto de atenção dos pesquisadores reside no uso dessas ferramentas em situações de alta sensibilidade e na carência de estruturas regulatórias mais robustas. Para a professora Ellie Pavlick, da Brown, é crucial que sistemas usados em áreas críticas passem por avaliação humana rigorosa, e não apenas por métricas automáticas.
Autor(a):
redacao
Responsável pela produção, revisão e publicação de matérias jornalísticas no portal, com foco em qualidade editorial, veracidade das informações e atualizações em tempo real.
