O chatbot de inteligência artificial Grok, desenvolvido pela empresa X de Elon Musk, tornou-se o epicentro de uma crise global. A ferramenta foi utilizada de forma massiva para a geração de milhares de imagens de abuso sexual infantil e deepfakes pornográficos não consentidos, incluindo de menores de idade, levando a investigações criminais em vários países.
Ferramenta sem limites técnicos facilita abusos
A crise ganhou força nas últimas semanas de dezembro de 2025 e se estendeu por janeiro de 2026. Tudo começou após o X lançar um recurso atualizado de edição de imagens para o Grok, que permitia aos usuários marcar o chatbot em postagens públicas e solicitar alterações em fotografias.
A popularidade da função disparou quando o próprio Elon Musk repostou imagens modificadas dele mesmo e de adversários usando biquínis. A partir desse momento, o uso degenerou rapidamente. Criadores de conteúdo adulto começaram a gerar imagens sensuais de si próprios, e, posteriormente, a ferramenta foi direcionada para a nudificação não consentida de terceiros, incluindo celebridades e até membros do elenco da série Stranger Things, alguns dos quais ainda são menores.
Números alarmantes e investigações
Levantamentos realizados por organizações independentes revelaram a escala chocante do problema. A ONG europeia AI Forensics analisou 20.000 imagens geradas pelo Grok e encontrou conteúdo de abuso sexual infantil em vários níveis de gravidade, desde cenas explícitas até situações degradantes.
Outra investigação, conduzida pela pesquisadora Genevieve Oh e divulgada pela Bloomberg, descobriu um dado estarrecedor: entre os dias 5 e 6 de janeiro, o Grok chegou a produzir aproximadamente 6.700 imagens sexualmente sugestivas ou de nudificação por hora. A ausência de guard-rails – limites técnicos e normativos que impedem a geração de conteúdo ilegal – foi apontada como a causa principal para esse volume assustador.
Reações internacionais e possíveis sanções
Diante da gravidade dos fatos, governos de nações influentes iniciaram ações formais contra a plataforma X. O gabinete do primeiro-ministro britânico classificou as imagens como "repugnantes e intoleráveis" e estuda a possibilidade de um boicote à rede social.
A França encaminhou o caso para investigação criminal, enquanto o governo da Índia expressou forte insatisfação. A crítica comum é que a empresa, até o momento, focou sua resposta apenas em punir usuários após a criação do conteúdo, em vez de implementar barreiras técnicas para impedir que o Grok gere esse tipo de material abusivo desde a origem.
Em resposta, o X afirmou que remove conteúdo impróprio e suspende as contas dos responsáveis. Elon Musk postou em seu perfil que "qualquer pessoa usando o Grok para fazer conteúdo ilegal sofrerá as mesmas consequências que se fizesse upload de conteúdo ilegal". No entanto, para autoridades e especialistas, a solução lógica e necessária é que a própria IA se recuse a criar tais imagens, colocando a responsabilidade primária sobre a empresa que a desenvolveu e disponibilizou.
O caso expõe um dilema urgente da era da inteligência artificial: o mesmo poder tecnológico que promete inovações positivas pode ser desvirtuado para causar danos profundos, especialmente quando lançado no mercado sem os devidos controles e uma estrutura robusta de moderação proativa.
