O Ministério Público Federal (MPF), em colaboração com a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon), avaliou como insuficientes as medidas apresentadas pela plataforma X para evitar o uso da ferramenta de inteligência artificial, Grok, na criação e disseminação de imagens sexualizadas.
CONTINUA DEPOIS DA PUBLICIDADE
A situação veio à tona após uma série de recomendações emitidas pelas três entidades no mês anterior.
Recomendações e Falta de Evidências
As entidades apontaram que a resposta da plataforma X, que incluía a remoção de milhares de publicações e a suspensão de contas, não foi acompanhada de provas concretas, relatórios técnicos ou sistemas de monitoramento que comprovassem sua eficácia.
CONTINUA DEPOIS DA PUBLICIDADE
Testes preliminares indicaram que as falhas persistiam, com a continuação da geração e circulação de conteúdos inadequados, conforme as recomendações já estabelecidas.
Medidas Imediatas e Fiscalização
Diante disso, o MPF, a ANPD e a Senacon determinaram que a plataforma X implementasse medidas eficazes para impedir a produção de conteúdo sexualizado ou erótico envolvendo crianças, adolescentes e adultos sem consentimento. Além disso, foi exigida a prestação de informações detalhadas sobre as providências já adotadas pela empresa para solucionar os problemas identificados.
CONTINUA DEPOIS DA PUBLICIDADE
LEIA TAMBÉM!
Relatórios Mensais e Possíveis Consequências
O MPF ordenou que a plataforma X apresente relatórios mensais sobre sua atuação, com dados sobre a identificação, moderação, remoção e suspensão de contas relacionadas a deepfakes envolvendo menores e adultos sem autorização. A empresa poderá ser multada diariamente e responder por crimes de desobediência, além de enfrentar medidas investigatórias mais severas e ações judiciais.
Cobranças da Senacon e Detalhes dos Relatórios
A Senacon exigiu a comprovação de providências já adotadas para conter os riscos e sanar os problemas. Foi solicitado um relatório métrico detalhado, com dados quantitativos verificáveis sobre a identificação, moderação, remoção e indisponibilização de conteúdos sexualizados relacionados ao funcionamento do Grok, incluindo o número de conteúdos identificados e removidos, prazos médios de resposta e critérios técnicos utilizados.