Autoridades brasileiras recomendam bloqueio de ferramenta de IA para criação de imagens íntimas falsas
Uma ferramenta gratuita de inteligência artificial da rede social X, conhecida como Grok, tem sido utilizada de forma preocupante para a geração de conteúdos sintéticos de caráter sexualizado. Diante dessa situação, autoridades brasileiras emitiram uma recomendação formal para que a plataforma impeça imediatamente esse uso indevido.
Recomendação conjunta de órgãos federais
Nesta terça-feira (20), o Ministério Público Federal (MPF), a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon) do Ministério da Justiça e Segurança Pública divulgaram um documento conjunto. A ação foi motivada por denúncias de usuários que relataram a criação de materiais eróticos falsos através da ferramenta Grok, pertencente à empresa de Elon Musk.
As recomendações incluem a implementação urgente de medidas para bloquear a geração de novos arquivos pela IA. Conforme destacou o MPF, isso se aplica a:
- Imagens, vídeos ou áudios que representem crianças e adolescentes em contextos sexualizados ou erotizados.
- Conteúdos que retratem pessoas adultas identificáveis em situações sexualizadas sem sua autorização explícita.
O documento alerta que, em caso de descumprimento ou de implementação inadequada, as três instituições poderão adotar outras medidas, tanto na esfera administrativa quanto judicial, para garantir a proteção dos cidadãos.
Críticas do Idec à abordagem das autoridades
O Instituto de Defesa de Consumidores (Idec), responsável pela denúncia inicial sobre o Grok, expressou insatisfação com as recomendações. Em nota oficial, a entidade classificou a ação como meramente burocrática e insuficiente, argumentando que as autoridades se limitaram a fazer recomendações enquanto a ferramenta continua operando normalmente.
O Idec enfatizou que a decisão ignora a gravidade dos milhares de casos registrados, nos quais dados pessoais – inclusive de menores – foram usados indevidamente para criar imagens sexualizadas. A entidade alerta que essa postura mantém as consumidoras brasileiras em uma situação de risco contínuo, sem a devida proteção contra abusos digitais.
Este caso destaca os desafios crescentes na regulação de tecnologias de inteligência artificial, especialmente quando envolvem a privacidade e a segurança de dados sensíveis. A discussão sobre como equilibrar inovação tecnológica com direitos fundamentais deve se intensificar nos próximos meses.
