A Agência Nacional de Proteção de Dados (ANDP), a Secretaria Nacional do Consumidor (Senacom) e o Ministério Público Federal (MPF) emitiram recomendações à empresa controladora da plataforma digital X. O foco é a ferramenta de inteligência artificial, Grok, e o uso indevido para gerar conteúdos sexualizados.

As instituições solicitam a criação de procedimentos técnicos e operacionais em até 30 dias. O objetivo é identificar, revisar e remover conteúdos sexualizados gerados pelo Grok por usuários.

Suspensão de Contas

Também pedem a suspensão imediata de contas que produzam imagens ou vídeos de crianças, adolescentes ou adultos sem autorização, especialmente aqueles com conotação sexualizada ou erotizada.

Transparência e Denúncias

É recomendada a implementação de um mecanismo transparente e acessível para que os titulares de dados possam exercer seus direitos, incluindo o envio de denúncias sobre o uso irregular de dados pessoais, em casos de criação de conteúdos sintéticos sexualizados sem consentimento.

Base das Recomendações

As recomendações foram elaboradas com base em denúncias de usuários, reportagens da imprensa e testes que apontam o uso ilegal do Grok para a produção de deepfakes – imagens falsas criadas a partir de pessoas reais.

Leia também:

TikTok: Transferência de Controle para EUA e Impactos na Plataforma Global

Robôs Inteligentes Controlam Trânsito em Cidades Chinesas com Tecnologia Inovadora

Robôs Inteligentes Controlam Trânsito em China: Inovação e Segurança Urbana

Esses conteúdos são sexualizados, eróticos e pornográficos, envolvendo mulheres, crianças e adolescentes. As instituições alertam para o impacto nesses direitos difusos, coletivos e individuais, especialmente de mulheres e crianças.

Responsabilidade do Provedor

O documento destaca que, apesar do artigo 19 do Marco Civil da Internet, o provedor da plataforma não é totalmente isento de responsabilidade. A retirada de conteúdos deve ser executada, pois o Grok facilita a produção desses deepfakes.

O Supremo Tribunal Federal (STF) já declarou a parcial inconstitucionalidade do artigo 19, entendendo que o provedor tem um dever de cuidado para evitar a circulação de crimes contra mulheres.

A plataforma X também veda a produção, manipulação e disseminação de imagens de terceiros com conteúdo sexual ou erotizado, o que torna “insustentável” a disponibilização de uma ferramenta de inteligência artificial sem filtros rigorosos.

Caso as recomendações não sejam acatadas ou implementadas de forma insuficiente, outras medidas poderão ser consideradas e adotadas pelas instituições, em sede administrativa e judicial, para garantir a proteção dos cidadãos.