O Senado dos Estados Unidos aprovou, em votação unânime na terça-feira, 13, uma legislação que permite às vítimas processar responsáveis pela criação de imagens sexuais geradas por inteligência artificial (IA) sem consentimento. A medida surge após relatos de uso do recurso de inteligência artificial da rede social X.

As imagens manipuladas, conhecidas como “deepfakes“, representam uma preocupação crescente. A proposta, denominada Defiance Act (Lei de Desafio), estabelece um direito civil federal, possibilitando que vítimas busquem reparação legal, incluindo indenizações e ordens de restrição contra autores de conteúdo pornográfico ou vexatório.

Complemento à Lei Existente

A nova legislação complementa uma lei sancionada em 2024, que obriga as plataformas de redes sociais a removerem conteúdos explícitos não consensuais em até 48 horas após a solicitação da vítima. O senador democrata Dick Durbin, de Illinois, liderou a iniciativa no plenário do Senado.

Durante a discussão, o senador Durbin descreveu as imagens geradas pela IA como “horríveis”, citando denúncias recentes sobre o uso do chatbot da X, Grok, para despir mulheres e meninas menores de idade. Ele detalhou que o Grok gerava cenas explícitas, que não foram repetidas para evitar constrangimento.

Apoio Bilateral e Repercussão Internacional

A Lei Defiance conta com o co-patrocínio do senador republicano Lindsey Graham, da Carolina do Sul. Ela se junta à Lei Take It Down, sancionada por Donald Trump em maio do ano passado, que prevê penalidades criminais para a distribuição intencional de imagens explícitas sem consentimento.

Leia também:

Google lança Personal Intelligence no Gemini: respostas ultra-personalizadas!

Salesforce lança novo Slackbot com IA generativa para otimizar trabalho

Chatbots: Empresas de streaming, fast food e outras investem em IA para clientes

A X se tornou um dos principais locais para a disseminação de imagens sexualizadas geradas por IA sem consentimento, conforme dados da Bloomberg. Uma análise de 24 horas do conteúdo da conta @Grok identificou a geração de 6.700 imagens explícitas ou sugestivas a cada hora.

A situação gerou repercussão internacional, com Malásia e Indonésia restringindo o acesso ao assistente de IA. No Reino Unido, o recurso foi alvo de investigação do governo. O bilionário dono da X, Elon Musk, afirmou que não tinha conhecimento da criação de imagens nua de menores de idade pelo Grok, ressaltando que o chatbot se recusa a produzir conteúdo ilegal.

A xAI, responsável pelo recurso de inteligência artificial da X, admitiu falhas nos mecanismos de proteção e implementou melhorias para conter a ocorrência de imagens de cunho sexual. A empresa também limitou o acesso à ferramenta de criação de imagens do Grok a usuários do plano premium, buscando mitigar a repercussão negativa e evitar novas denúncias.