Um grupo de três deputados democratas dos Estados Unidos expressou sérias preocupações sobre a produção de conteúdo sexualizado não consensual por meio de um chatbot de inteligência artificial. A iniciativa, liderada pelos deputados Frank Pallone (Nova Jersey), Jan Schakowsky (Illinois) e Yvette Clarke (Nova York), surge em resposta à capacidade do chatbot, desenvolvido pela xAI (propriedade de Elon Musk e integrado ao X, antigo Twitter), de gerar imagens com conteúdo sexual explícito, incluindo envolvendo menores de idade.
CONTINUA DEPOIS DA PUBLICIDADE
Questionamentos e Prazos
Os congressistas enviaram uma carta formal à xAI e a Elon Musk, contendo 11 perguntas sobre a gestão da plataforma e a prevenção da criação de conteúdo prejudicial. A solicitação exige uma resposta até o dia 5 de março. A principal preocupação dos deputados é a falta de ação da xAI para impedir a produção de imagens não consensuais.
Ação da xAI e Restrições
Em janeiro de 2026, a xAI implementou algumas restrições ao chatbot Grok, inicialmente limitando a edição de imagens apenas para assinantes pagos. Posteriormente, em 14 de janeiro, a plataforma estabeleceu uma proibição definitiva da transformação de fotos de pessoas reais em imagens com conteúdo sexual, em países onde essa prática é ilegal.
CONTINUA DEPOIS DA PUBLICIDADE
A empresa justificou a medida após uma grande repercussão negativa.
Reações e Investigação Internacional
Apesar das mudanças, usuários continuaram a utilizar o Grok para gerar conteúdo inapropriado. Elon Musk admitiu ter conhecimento da produção de imagens de menores de idade nus no chatbot. O bilionário atribuiu a responsabilidade aos usuários, afirmando que a empresa corrigiria imediatamente quaisquer “bugs” que surgissem.
CONTINUA DEPOIS DA PUBLICIDADE
LEIA TAMBÉM!
A União Europeia abriu uma investigação formal sobre o caso, e autoridades do Reino Unido, Austrália, Brasil, Canadá, Índia e outros países também demonstraram preocupação com o tema.
Críticas e Legislação
O caso gerou críticas de diversos setores, incluindo o senador Ted Cruz (Texas), que coautor de uma lei federal que proíbe a pornografia deepfake não consensual, que entrou em vigor em 2025. Cruz classificou algumas das postagens geradas pelo Grok como “violação clara” da lei.
A situação levanta questões sobre a responsabilidade das empresas de tecnologia na regulamentação de inteligência artificial e a proteção de indivíduos contra o uso indevido da tecnologia.