A xAI anunciou na quarta-feira, 14 de janeiro de 2026, que o modelo Grok não permitirá mais a criação ou edição de imagens sexualizadas de pessoas reais na rede social X, utilizando comandos de usuários. A decisão foi tomada após receber críticas de consumidores, pressão política e investigações regulatórias em diversos países.

A empresa implementou barreiras técnicas para impedir que o Grok modifique imagens de indivíduos vestindo trajes considerados reveladores. A restrição se aplica a todos os usuários, incluindo aqueles com contas gratuitas.

A criação e a edição de imagens geradas pelo Grok passaram a ser exclusivas de contas pagas, como medida adicional de responsabilização em casos de abuso. A empresa afirma ter tolerância zero à exploração sexual infantil, nudez sem consentimento e conteúdo sexual indesejado.

Investigações e Pressão Regulatória

Investigações foram iniciadas por autoridades da Índia, Malásia, Indonésia, Irlanda, França, Austrália, entre outras. Em Indonésia e Malásia, houve uma suspensão temporária da ferramenta. A situação ganhou destaque após acusações de que o sistema facilitava a criação de imagens sexuais e violentas a partir de fotos reais.

Reações e Solicitações

Senadores americanos do Partido Democrata solicitaram que Apple e Google removam os aplicativos do X e do Grok de suas lojas até que sejam implementadas mudanças para impedir a produção de conteúdo explícito sem consentimento. Elon Musk, dono do X, mencionou que o Gemini do Google e o ChatGPT da OpenAI também geram imagens de pessoas em biquínis quando solicitados.

Leia também:

Irã: Bloqueio de Internet e Repressão Intensificam Protestos Contra Regime

Irã intensifica repressão: Detenções e acusações de “guerra interna”

Sanae Takaichi e Lee Jae-myung tocam bateria em evento histórico no Japão

Ações da xAI

A xAI afirma remover material ilegal, suspender contas reincidentes e comunicar autoridades quando necessário. A empresa também bloqueia, por região, a criação de imagens de pessoas reais em trajes íntimos onde a prática é ilegal. A plataforma exige que todo conteúdo gerado por IA siga rigorosamente suas regras.