Estudo da Brown University alerta: Chatbots de IA falham em ética na saúde mental
Alerta sobre Chatbots de IA em Saúde Mental Após Estudo da Brown University
O uso de ferramentas como o ChatGPT e outros chatbots de inteligência artificial para oferecer aconselhamento em saúde mental gerou um alerta significativo. Isso veio após um estudo conduzido pela Brown University, nos Estados Unidos. A pesquisa apontou que esses sistemas falham em seguir padrões éticos fundamentais da prática psicológica.
CONTINUA DEPOIS DA PUBLICIDADE
Os modelos de IA demonstraram problemas mesmo quando receberam instruções específicas para atuar como terapeutas devidamente treinados. Os pesquisadores fizeram essa análise mesmo considerando as diretrizes adotadas por entidades como a American Psychological Association.
Riscos Éticos Identificados em Interações com IA
A análise detalhada identificou quinze riscos distintos, que foram agrupados em cinco categorias principais. Entre os problemas apontados estão a incapacidade de adaptar-se ao contexto individual do usuário, uma colaboração terapêutica considerada deficiente, e o fenômeno da “empatia enganosa“.
Outros riscos críticos incluem a possibilidade de discriminação e falhas graves em segurança e na gestão de momentos de crise. Para realizar os testes, foram envolvidos sete conselheiros com experiência em Terapia Cognitiva Comportamental.
Metodologia da Pesquisa
Os especialistas conduziram sessões simuladas utilizando modelos da série GPT, além de sistemas desenvolvidos pela Anthropic e pela Meta. Posteriormente, três psicólogos clínicos licenciados revisaram todas as conversas para identificar possíveis violações éticas.
Leia também
CONTINUA DEPOIS DA PUBLICIDADE
O Conceito de “Empatia Enganosa”
Um ponto central do estudo é a chamada “empatia enganosa”. Este termo descreve respostas em que o chatbot emprega frases como “eu entendo” ou “eu vejo você”, simulando acolhimento emocional sem possuir, na verdade, compreensão real da situação.
Na prática, isso significa que a IA pode soar muito convincente sem ter consciência, responsabilidade clínica ou capacidade de julgamento comparável ao de um profissional de saúde. Os autores alertam que esse efeito pode levar os usuários a confiarem em respostas sem o controle ético exigido de terapeutas humanos.
Limites dos Comandos e a Gestão de Crises
A pesquisa também investigou se o uso de comandos bem formulados, os chamados *prompts*, seria suficiente para tornar os chatbots mais seguros nesse cenário. A conclusão foi que esse direcionamento não elimina os riscos inerentes aos sistemas.
Embora o sistema consiga replicar padrões de linguagem associados a abordagens terapêuticas, ele não executa essas técnicas como faria um profissional. Segundo Zainab Iftikhar, autora principal, os modelos apenas geram respostas baseadas em padrões que aprenderam anteriormente.
Falhas em Situações Críticas
Os pesquisadores destacaram, em especial, as falhas de segurança e gestão de crise. O estudo aponta que os sistemas podem se recusar a tratar temas delicados, falhar em encaminhar o usuário para ajuda adequada ou responder de maneira insuficiente em situações de crise, como pensamentos suicidas.
Perspectivas Futuras para a IA na Saúde Mental
Os autores enfatizam que o estudo não propõe a exclusão dessas ferramentas. Eles reconhecem que a tecnologia pode aumentar o acesso, especialmente para pessoas com custos elevados ou pouca oferta de profissionais licenciados.
O ponto de atenção para os pesquisadores reside no uso amplo dessas ferramentas em contextos sensíveis e na carência de estruturas regulatórias mais robustas. Para a professora Ellie Pavlick, da Brown, é crucial que sistemas usados em áreas críticas recebam avaliação humana rigorosa, e não apenas métricas automáticas.
Autor(a):
redacao
Responsável pela produção, revisão e publicação de matérias jornalísticas no portal, com foco em qualidade editorial, veracidade das informações e atualizações em tempo real.
