Um grupo de três deputados democratas dos Estados Unidos expressou sérias preocupações sobre a produção de conteúdo sexualizado não consensual por meio de um chatbot de inteligência artificial. A iniciativa, liderada pelos deputados Frank Pallone (Nova Jersey), Jan Schakowsky (Illinois) e Yvette Clarke (Nova York), surge em resposta à capacidade do chatbot, desenvolvido pela xAI (propriedade de Elon Musk e integrado ao X, antigo Twitter), de gerar imagens com conteúdo sexual explícito, incluindo envolvendo menores de idade.

Questionamentos e Prazos

Os congressistas enviaram uma carta formal à xAI e a Elon Musk, contendo 11 perguntas sobre a gestão da plataforma e a prevenção da criação de conteúdo prejudicial. A solicitação exige uma resposta até o dia 5 de março. A principal preocupação dos deputados é a falta de ação da xAI para impedir a produção de imagens não consensuais.

Ação da xAI e Restrições

Em janeiro de 2026, a xAI implementou algumas restrições ao chatbot Grok, inicialmente limitando a edição de imagens apenas para assinantes pagos. Posteriormente, em 14 de janeiro, a plataforma estabeleceu uma proibição definitiva da transformação de fotos de pessoas reais em imagens com conteúdo sexual, em países onde essa prática é ilegal.

A empresa justificou a medida após uma grande repercussão negativa.

Reações e Investigação Internacional

Apesar das mudanças, usuários continuaram a utilizar o Grok para gerar conteúdo inapropriado. Elon Musk admitiu ter conhecimento da produção de imagens de menores de idade nus no chatbot. O bilionário atribuiu a responsabilidade aos usuários, afirmando que a empresa corrigiria imediatamente quaisquer “bugs” que surgissem.

Leia também:

Governo Federal Retoma Regulação da Medicina: Crise na Formação Médica?

José Balcázar Assume Presidência Interina no Peru Após Crise Política!

Seattle Seahawks à Venda: Decisão Histórica Anunciada com Potencial Recorde na NFL!

A União Europeia abriu uma investigação formal sobre o caso, e autoridades do Reino Unido, Austrália, Brasil, Canadá, Índia e outros países também demonstraram preocupação com o tema.

Críticas e Legislação

O caso gerou críticas de diversos setores, incluindo o senador Ted Cruz (Texas), que coautor de uma lei federal que proíbe a pornografia deepfake não consensual, que entrou em vigor em 2025. Cruz classificou algumas das postagens geradas pelo Grok como “violação clara” da lei.

A situação levanta questões sobre a responsabilidade das empresas de tecnologia na regulamentação de inteligência artificial e a proteção de indivíduos contra o uso indevido da tecnologia.