O Instituto Brasileiro de Defesa do Consumidor (Idec) acionou a Agência Nacional de Proteção de Dados (ANPD) com uma denúncia grave contra a ferramenta de inteligência artificial Grok, da rede social X. A tecnologia estaria gerando imagens sexualizadas mantendo as características faciais e corporais de pessoas reais, tudo feito sem o conhecimento ou autorização dos indivíduos retratados.
Risco para adultos, crianças e adolescentes
A pesquisadora do Idec, Julia Abad, destacou a urgência de medidas para conter os danos. A prática é considerada especialmente grave quando envolve crianças e adolescentes, grupo que possui proteção reforçada pela legislação brasileira de dados. O instituto pede a suspensão imediata das funcionalidades da Grok que utilizem dados de pessoas reais e a interrupção do uso dessas informações para treinar o sistema.
Entre as providências urgentes solicitadas, estão a implementação de bloqueios automáticos para comandos que envolvam nudez e sexualização, a proibição do uso de imagens reais de menores de idade e a criação de canais de denúncia eficazes. "Muitas pessoas denunciavam as imagens e, infelizmente, a plataforma, empresa nada fez", criticou Julia Abad.
Falta de transparência e resposta da plataforma
O Idec também alerta para um problema de transparência. A política de privacidade da ferramenta Grok não está disponível em português, o que dificulta que os usuários brasileiros compreendam como seus dados são coletados e utilizados. A reportagem tentou contato com a assessoria de imprensa do X no Brasil, mas não obteve sucesso.
Em sua página de segurança, atualizada na quarta-feira (14), a plataforma X afirmou, em inglês, manter "tolerância zero" para exploração sexual infantil, nudez não consensual e conteúdo sexual indesejado. A rede social anunciou que a IA Grok foi atualizada para impedir a edição sexualizada de imagens de pessoas reais e que bloqueará a geração desse tipo de conteúdo em países onde a prática seja ilegal. Além disso, a criação e edição de imagens pela ferramenta ficarão restritas a contas pagas, para facilitar a responsabilização.
No entanto, o Idec afirma que, após verificação, a rede social continua permitindo a geração das imagens questionadas. A ANPD, por sua vez, informou em nota que as denúncias recebidas estão sob análise de sua fiscalização e que mantém diálogo com outros órgãos públicos.
O que fazer se você for vítima
Julia Abad orienta as vítimas sobre os passos para buscar proteção e responsabilização. O primeiro é tentar contato direto com a plataforma, guardando todos os comprovantes da comunicação. Se não houver resposta, é fundamental fazer uma denúncia.
As denúncias podem ser feitas no Procon de sua cidade ou estado, no Disque 100 (canal do governo federal) para casos mais graves, como os de sexualização, e através de Boletim de Ocorrência para investigação criminal. Para buscar reparação financeira, a recomendação é procurar os Juizados Especiais.
A geração de imagens pela ferramenta Grok tem causado preocupação global, colocando em evidência os riscos do uso não ético de inteligência artificial e a necessidade urgente de regulação e fiscalização.
