Google enfrenta riscos com IA: Resumos geram informações perigosas para pacientes

Riscos em Respostas de IA no Google

Uma investigação recente do The Guardian aponta para potenciais riscos à saúde associados ao uso de Resumos de IA no buscador do Google. A pesquisa revela que a plataforma pode fornecer informações equivocadas, colocando os usuários em situação de vulnerabilidade.

O relatório destaca um caso específico: a orientação oferecida a pacientes com câncer de pâncreas, que sugeriu o consumo de alimentos ricos em gordura, contrariando as recomendações médicas e representando um risco para a saúde desses pacientes.

Essa falha na análise do contexto demonstra a possibilidade de a IA gerar respostas prejudiciais.

A investigação também aborda a questão da busca por informações sobre funções hepáticas, onde a IA poderia induzir o usuário a adiar a procura por ajuda médica, em vez de buscar orientação profissional. Essa situação ilustra o perigo de a ferramenta substituir o julgamento clínico e a avaliação de um especialista.

O Google reconheceu a existência desses riscos, classificando os Resumos de IA como “úteis” e “confiáveis”. A empresa afirma que está empenhada em aprimorar continuamente a qualidade das respostas e que tomará as medidas necessárias caso as informações fornecidas pela IA se mostrem incorretas, em conformidade com suas políticas internas.

Leia também:

Fotos do Smartphone: Guia Completo para Transferir Imagens e Evitar Perdas!

Google Lyria 3: Revolução na Música Generativa Chega ao Gemini com Novas Funcionalidades!

Gemini: Domine a IA com Engenharia de Prompt e Resumos Inteligentes de Vídeos!