União Europeia investiga X por imagens íntimas falsas geradas pela IA Grok
A Comissão Europeia anunciou nesta segunda-feira, 26 de janeiro de 2026, a abertura de uma investigação formal contra a rede social X, propriedade do bilionário Elon Musk. A ação regulatória foi desencadeada após a circulação de imagens manipuladas geradas pela inteligência artificial do chatbot Grok, que incluem conteúdo potencialmente classificado como abuso sexual infantil.
Foco na Lei de Serviços Digitais
O cerne da investigação europeia é verificar se a plataforma X cumpriu as obrigações previstas na Lei de Serviços Digitais (DSA), legislação que regula a atuação de grandes empresas de tecnologia dentro do bloco econômico. A DSA estabelece diretrizes rigorosas para a mitigação de riscos sistêmicos relacionados a conteúdos ilegais e manipulação de informações.
O caso ganhou dimensão internacional quando usuários começaram a utilizar o Grok para alterar fotografias reais de mulheres e crianças através de comandos simples de texto. Entre as manipulações relatadas estão:
- Modificação de imagens para incluir roupas íntimas
- Remoção digital de peças de vestuário
- Criação de conteúdo sexualmente explícito sem consentimento
Ampliação de processo em curso
Esta nova investigação amplia um processo que já estava em andamento desde dezembro de 2023 contra a X por possíveis falhas na mitigação de riscos relacionados a conteúdos ilegais. A empresa enfrenta escrutínio crescente das autoridades europeias, tendo sido multada em 120 milhões de euros no mês passado por descumprir obrigações de transparência previstas na mesma legislação.
Segundo a Comissão Europeia, o objetivo específico da atual investigação é avaliar se a integração do Grok à plataforma expôs cidadãos do bloco a riscos sistêmicos, ao permitir a criação e circulação de imagens sexualmente explícitas manipuladas sem salvaguardas suficientes. O órgão regulador informou que pode impor medidas provisórias caso considere que a empresa não esteja promovendo ajustes significativos durante o período de apuração.
Posicionamento da X e contexto internacional
Em nota anterior, a X afirmou manter tolerância zero para exploração sexual infantil, nudez não consentida e conteúdo sexual indesejado. A empresa declarou que já implementou restrições a determinados comandos relacionados à geração de imagens de pessoas reais através de sua plataforma.
Este episódio ocorre em meio a um embate regulatório mais amplo entre autoridades europeias e a administração norte-americana sobre o controle de plataformas digitais. Elon Musk e aliados políticos nos Estados Unidos têm criticado publicamente as regras europeias, alegando que representam formas de censura digital.
A União Europeia, por sua vez, sustenta que a legislação busca proteger usuários da disseminação de conteúdos ilegais e abusivos, estabelecendo um marco regulatório que prioriza a segurança digital e os direitos dos cidadãos.
Repercussão além das fronteiras europeias
Além da apuração conduzida em Bruxelas, sede da Comissão Europeia, autoridades do Reino Unido também anunciaram que estão analisando o caso. A investigação transatlântica destaca a preocupação global com os potenciais usos maliciosos de ferramentas de inteligência artificial generativa.
O desenvolvimento deste caso representa um marco significativo na regulação de tecnologias emergentes, estabelecendo precedentes importantes para como governos e plataformas digitais devem lidar com os desafios éticos e legais apresentados pela inteligência artificial avançada.
