Riscos em Respostas de IA no Google
Uma investigação recente do The Guardian aponta para potenciais riscos à saúde associados ao uso de Resumos de IA no buscador do Google. A pesquisa revela que a plataforma pode fornecer informações equivocadas, colocando os usuários em situação de vulnerabilidade.
CONTINUA DEPOIS DA PUBLICIDADE
O relatório destaca um caso específico: a orientação oferecida a pacientes com câncer de pâncreas, que sugeriu o consumo de alimentos ricos em gordura, contrariando as recomendações médicas e representando um risco para a saúde desses pacientes.
Essa falha na análise do contexto demonstra a possibilidade de a IA gerar respostas prejudiciais.
CONTINUA DEPOIS DA PUBLICIDADE
A investigação também aborda a questão da busca por informações sobre funções hepáticas, onde a IA poderia induzir o usuário a adiar a procura por ajuda médica, em vez de buscar orientação profissional. Essa situação ilustra o perigo de a ferramenta substituir o julgamento clínico e a avaliação de um especialista.
O Google reconheceu a existência desses riscos, classificando os Resumos de IA como “úteis” e “confiáveis”. A empresa afirma que está empenhada em aprimorar continuamente a qualidade das respostas e que tomará as medidas necessárias caso as informações fornecidas pela IA se mostrem incorretas, em conformidade com suas políticas internas.
CONTINUA DEPOIS DA PUBLICIDADE
