O Ministério Público Federal (MPF), em colaboração com a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon), avaliou como insuficientes as medidas apresentadas pela plataforma X para evitar o uso da ferramenta de inteligência artificial, Grok, na criação e disseminação de imagens sexualizadas.

A situação veio à tona após uma série de recomendações emitidas pelas três entidades no mês anterior.

Recomendações e Falta de Evidências

As entidades apontaram que a resposta da plataforma X, que incluía a remoção de milhares de publicações e a suspensão de contas, não foi acompanhada de provas concretas, relatórios técnicos ou sistemas de monitoramento que comprovassem sua eficácia.

Testes preliminares indicaram que as falhas persistiam, com a continuação da geração e circulação de conteúdos inadequados, conforme as recomendações já estabelecidas.

Medidas Imediatas e Fiscalização

Diante disso, o MPF, a ANPD e a Senacon determinaram que a plataforma X implementasse medidas eficazes para impedir a produção de conteúdo sexualizado ou erótico envolvendo crianças, adolescentes e adultos sem consentimento. Além disso, foi exigida a prestação de informações detalhadas sobre as providências já adotadas pela empresa para solucionar os problemas identificados.

Leia também:

WhatsApp: Fim do suporte em iPhones e Samsung – Saiba como se preparar!

CEO da OpenAI Declara Falta de Entusiasmo com IPO

Anthropic e Microsoft investem US$ 15 bilhões em IA com foco em Claude

Relatórios Mensais e Possíveis Consequências

O MPF ordenou que a plataforma X apresente relatórios mensais sobre sua atuação, com dados sobre a identificação, moderação, remoção e suspensão de contas relacionadas a deepfakes envolvendo menores e adultos sem autorização. A empresa poderá ser multada diariamente e responder por crimes de desobediência, além de enfrentar medidas investigatórias mais severas e ações judiciais.

Cobranças da Senacon e Detalhes dos Relatórios

A Senacon exigiu a comprovação de providências já adotadas para conter os riscos e sanar os problemas. Foi solicitado um relatório métrico detalhado, com dados quantitativos verificáveis sobre a identificação, moderação, remoção e indisponibilização de conteúdos sexualizados relacionados ao funcionamento do Grok, incluindo o número de conteúdos identificados e removidos, prazos médios de resposta e critérios técnicos utilizados.