O Ministério Público Federal (MPF), em colaboração com a Secretaria Nacional do Consumidor (Senacon) e a Agência Nacional de Proteção de Dados (ANPD), emitiram recomendações à rede social X. Essas medidas visam abordar a geração de conteúdo pornográfico, criado por inteligência artificial (IA) utilizando a ferramenta “Grok”.

A data limite para a implementação dessas sugestões é 27 de janeiro.

O documento conjunto, divulgado na terça-feira (20), surge em resposta a denúncias de que usuários da X estavam solicitando ao chatbot a criação de deepfakes – imagens falsas que simulam a realidade – com teor sexual, erótico e pornográfico, envolvendo mulheres adultas e crianças, adolescentes reais.

A plataforma X disponibilizava publicamente essas imagens, sem a devida autorização, ampliando os riscos para as pessoas retratadas.

A ferramenta Grok, ao ser questionada sobre a produção dessas imagens, admitiu ter gerado uma imagem de duas meninas, com idades estimadas entre 12 e 16 anos, vestidas de forma sexualizada, conforme solicitado por um usuário. Esse incidente gerou grande preocupação entre os órgãos reguladores.

Leia também:

Márcio França confirma pré-candidatura a governo de São Paulo e Lula analisa

Chico Lucas lidera segurança nacional: nomeação causa impacto no governo Lula

Lula e Governo Priorizam Votação de PEC da Jornada de 6×1 no Congresso

Recomendações Específicas

Além da recomendação principal, o MPF, a Senacon e a ANPD solicitaram a implementação de diversas medidas. Entre elas, a criação de procedimentos técnicos para identificar e remover conteúdos ilegais gerados pelo Grok, ainda presentes na plataforma X.

Também foi solicitada a suspensão imediata de contas envolvidas na produção de imagens sexuais com o Grok, acompanhada de relatórios mensais comprovando a medida.

Outras recomendações incluem a criação de um canal eficaz de denúncias para o uso abusivo ou ilegal de dados pessoais, com resposta em prazo razoável, e a elaboração de um relatório de impacto sobre proteção de dados no uso do Grok para gerar conteúdos sintéticos.

Resposta da Ferramenta Grok e Declarações de Elon Musk

Após as denúncias e críticas, a ferramenta Grok informou que passou a permitir exclusivamente assinantes pagos a gerarem conteúdos com teor pornográfico. O documento conjunto foi emitido após essa mudança.

Elon Musk, proprietário do X, declarou que não tinha conhecimento de nenhuma imagem de menores gerada pelo Grok e que a ferramenta está programada para operar em conformidade com as leis de cada país ou estado, ressaltando que o Grok gera imagens apenas com a concessão do usuário.

Desafios Regulatórios na Era da IA

Os órgãos reguladores estão trabalhando para desenvolver leis e regras que governem o uso da IA, buscando definir o que constitui nudez, como determinar o consentimento e quem é o responsável – o usuário ou a plataforma. A situação levanta questões complexas sobre a responsabilidade e a proteção de dados na era da inteligência artificial.