Recomendações de Órgãos para Combate a Conteúdos Sexuais Gerados por IA

A Agência Nacional de Proteção de Dados (ANDP), a Senacom (Secretaria Nacional do Consumidor) e o Ministério Público Federal (MPF) emitiram recomendações à empresa controladora da plataforma digital X, em resposta a denúncias sobre o uso indevido da ferramenta de inteligência artificial Grok.

O objetivo é impedir a geração e circulação de conteúdos sexualizados e inadequados.

O documento, divulgado na terça-feira (20.jan.2026), propõe a criação de procedimentos técnicos e operacionais para identificar e remover conteúdos de natureza sexualizada, gerados pelo Grok a partir de comandos de usuários. Além disso, solicita a suspensão imediata de contas envolvidas na produção de imagens sexuais ou erotizadas, sem autorização, de crianças, adolescentes e adultos.

Requisitos para Garantir a Proteção de Dados

As instituições também recomendam a implementação de um mecanismo transparente e acessível, que permita aos titulares de dados exercerem seus direitos, incluindo o envio de denúncias sobre o uso irregular de dados pessoais. A ênfase é na proteção de dados, especialmente em casos de criação de conteúdos sintéticos sexualizados ou erotizados sem consentimento.

Contexto Legal e Jurisprudência

As recomendações se baseiam em denúncias de usuários e reportagens da imprensa, além de testes realizados pelas instituições. Destacam-se as recentes decisões do STF (Supremo Tribunal Federal), que declarou a parcial inconstitucionalidade do artigo 19 do Marco Civil da Internet, devido à falta de proteção suficiente a direitos constitucionais relevantes, como a dignidade da pessoa humana.

Leia também:

Gustavo Gayer e Gracinha Caiado lideram chapa na disputa senatorial em Goiás

Sérgio Nahas é preso em Bahia após denúncia e investigações complexas

Lula vs. Flávio Bolsonaro e Tarcísio de Freitas: Simulações de 2026!

Responsabilidade e Medidas Adicionais

O documento ressalta que a plataforma X, ao disponibilizar uma ferramenta de inteligência artificial sem filtros rigorosos, torna-se coautora de tais conteúdos. Caso as recomendações não sejam acatadas ou implementadas de forma eficaz, outras medidas poderão ser consideradas e adotadas pelas instituições, tanto em sede administrativa quanto judicial, para garantir a proteção de cidadãos e cidadãs, especialmente mulheres, crianças e adolescentes.