A Autoridade de Segurança Online do Reino Unido, conhecida como Ofcom, iniciou uma investigação formal contra a X, proprietária do chatbot Grok. A ação se segue a relatos preocupantes de que o Grok estava sendo utilizado para gerar imagens de natureza sexual, incluindo representações de crianças nuas.

Essa situação levanta sérias questões sobre a segurança e o uso responsável da inteligência artificial.

A investigação da Ofcom visa determinar se a X violou a Lei de Segurança Online do Reino Unido. Se comprovada a infração, a plataforma poderá enfrentar multas significativas, que podem chegar a 10% da sua receita. Além disso, a Ofcom pode solicitar uma ordem judicial para interromper as operações comerciais da X, incluindo a proibição do acesso ao serviço.

A preocupação com o Grok e a capacidade de gerar imagens inapropriadas não se restringe ao Reino Unido. A União Europeia também ordenou que a X conserve todos os documentos e dados internos relacionados ao Grok, sob a Lei dos Serviços Digitais. A classificação das imagens como “terríveis” e “repugnantes” demonstra a gravidade da situação.

Além do Reino Unido e da União Europeia, outras nações também estão tomando medidas. A Austrália abriu uma investigação semelhante sobre deepfakes “digitalmente despidos” gerados pelo Grok. A Indonésia e a Malásia emitiram proibições temporárias ao serviço.

Leia também:

LEGO apresenta LEGO SMART Play com Star Wars em destaque no CES 2026

Samsung Acelera Investimento em IA com Gemini e Busca Liderança Global

IA e Solidão: Novo Casamento Virtual Desperta Debate Sobre Relacionamentos Humanos

A Lei de Segurança Online do Reino Unido, aprovada em 2023, visa regular empresas de tecnologia, transferindo a responsabilidade por conteúdo ilegal dos usuários para as plataformas. A lei exige que as plataformas identifiquem e removam proativamente conteúdo ilegal, além de criminalizar o envio de imagens sexuais não solicitadas e a disseminação de informações falsas com a intenção de causar danos significativos.

O Reino Unido possui um histórico de prisões relacionadas a comunicações online, remontando à Lei de Ordem Pública de 1986, que criminaliza palavras ou comportamentos destinados a incitar o ódio racial, religioso ou por orientação sexual. Segundo um estudo debatido na Câmara dos Lordes, o país realiza mais de 12.000 prisões anualmente relacionadas a comunicações online.

Elon Musk tem criticado as leis do Reino Unido sobre mídias sociais, descrevendo o país como um “estado policial” e uma “ilha-prisão”. Ele também questionou a eficácia do sistema judicial britânico. O primeiro-ministro britânico, Keir Starmer, classificou as imagens sexualizadas não consensuais do Grok como “ilegais” e declarou que o governo não tolerará essa prática.