Recomendações de Órgãos para Combate a Conteúdos Sexuais Gerados por IA
A Agência Nacional de Proteção de Dados (ANDP), a Senacom (Secretaria Nacional do Consumidor) e o Ministério Público Federal (MPF) emitiram recomendações à empresa controladora da plataforma digital X, em resposta a denúncias sobre o uso indevido da ferramenta de inteligência artificial Grok.
CONTINUA DEPOIS DA PUBLICIDADE
O objetivo é impedir a geração e circulação de conteúdos sexualizados e inadequados.
O documento, divulgado na terça-feira (20.jan.2026), propõe a criação de procedimentos técnicos e operacionais para identificar e remover conteúdos de natureza sexualizada, gerados pelo Grok a partir de comandos de usuários. Além disso, solicita a suspensão imediata de contas envolvidas na produção de imagens sexuais ou erotizadas, sem autorização, de crianças, adolescentes e adultos.
CONTINUA DEPOIS DA PUBLICIDADE
Requisitos para Garantir a Proteção de Dados
As instituições também recomendam a implementação de um mecanismo transparente e acessível, que permita aos titulares de dados exercerem seus direitos, incluindo o envio de denúncias sobre o uso irregular de dados pessoais. A ênfase é na proteção de dados, especialmente em casos de criação de conteúdos sintéticos sexualizados ou erotizados sem consentimento.
Contexto Legal e Jurisprudência
As recomendações se baseiam em denúncias de usuários e reportagens da imprensa, além de testes realizados pelas instituições. Destacam-se as recentes decisões do STF (Supremo Tribunal Federal), que declarou a parcial inconstitucionalidade do artigo 19 do Marco Civil da Internet, devido à falta de proteção suficiente a direitos constitucionais relevantes, como a dignidade da pessoa humana.
CONTINUA DEPOIS DA PUBLICIDADE
LEIA TAMBÉM!
Responsabilidade e Medidas Adicionais
O documento ressalta que a plataforma X, ao disponibilizar uma ferramenta de inteligência artificial sem filtros rigorosos, torna-se coautora de tais conteúdos. Caso as recomendações não sejam acatadas ou implementadas de forma eficaz, outras medidas poderão ser consideradas e adotadas pelas instituições, tanto em sede administrativa quanto judicial, para garantir a proteção de cidadãos e cidadãs, especialmente mulheres, crianças e adolescentes.