Riscos em Respostas de IA no Google

Uma investigação recente do The Guardian aponta para potenciais riscos à saúde associados ao uso de Resumos de IA no buscador do Google. A pesquisa revela que a plataforma pode fornecer informações equivocadas, colocando os usuários em situação de vulnerabilidade.

O relatório destaca um caso específico: a orientação oferecida a pacientes com câncer de pâncreas, que sugeriu o consumo de alimentos ricos em gordura, contrariando as recomendações médicas e representando um risco para a saúde desses pacientes.

Essa falha na análise do contexto demonstra a possibilidade de a IA gerar respostas prejudiciais.

A investigação também aborda a questão da busca por informações sobre funções hepáticas, onde a IA poderia induzir o usuário a adiar a procura por ajuda médica, em vez de buscar orientação profissional. Essa situação ilustra o perigo de a ferramenta substituir o julgamento clínico e a avaliação de um especialista.

O Google reconheceu a existência desses riscos, classificando os Resumos de IA como “úteis” e “confiáveis”. A empresa afirma que está empenhada em aprimorar continuamente a qualidade das respostas e que tomará as medidas necessárias caso as informações fornecidas pela IA se mostrem incorretas, em conformidade com suas políticas internas.

Leia também:

X tem instabilidade: Mais de 5 mil usuários relatam problemas na plataforma X

X enfrenta interrupções globais: milhares de usuários relatam problemas em diversos países

Nix e Modo Yoga unem forças para otimizar hidratação em aulas de ioga quente