Investigação europeia mira chatbot Grok por criação de imagens íntimas falsas
A Comissão Europeia deu início a uma investigação formal sobre o chatbot de inteligência artificial Grok, desenvolvido pela empresa X de Elon Musk. O motivo é a produção e disseminação de imagens íntimas falsas geradas pela ferramenta, conforme anunciou a deputada europeia irlandesa Regina Doherty nesta segunda-feira, 26 de agosto.
Foco na conformidade com a legislação digital da UE
A investigação avaliará se a plataforma X cumpriu suas obrigações previstas na legislação digital da União Europeia. Os pontos de análise incluem:
- Mitigação de riscos associados à inteligência artificial
- Governança de conteúdo nas redes sociais
- Proteção de direitos fundamentais dos usuários
Regina Doherty destacou em comunicado por e-mail: "Este caso levanta questões muito sérias sobre se as plataformas estão cumprindo suas obrigações legais de avaliar riscos corretamente e impedir que conteúdos ilegais e prejudiciais se espalhem".
Contexto internacional e tensões políticas
O caso pode gerar tensão diplomática com a administração do presidente dos Estados Unidos, Donald Trump. A repressão regulatória da União Europeia contra grandes empresas de tecnologia já provocou críticas e até ameaças de tarifas comerciais vindas dos EUA.
Mais cedo neste mês, a Comissão Europeia já havia considerado ilegais e repugnantes as imagens geradas por IA de mulheres e crianças sem roupa que foram compartilhadas na plataforma X, acompanhando uma condenação internacional ampla.
Respostas das empresas envolvidas
A Comissão Europeia não respondeu imediatamente quando questionada sobre a abertura formal da investigação. Da mesma forma, a X não se manifestou sobre o assunto até o momento da publicação desta reportagem.
Em meados de janeiro, a xAI, empresa de inteligência artificial de Elon Musk, informou que implementou ajustes técnicos para impedir que a conta Grok "permitisse a edição de imagens de pessoas reais com roupas reveladoras, como biquínis". A empresa também afirmou ter bloqueado usuários, com base na localização geográfica, de gerar imagens de pessoas com roupas reveladoras em "jurisdições onde isso é ilegal", sem especificar quais regiões seriam essas.
Fragilidades na regulação de tecnologias emergentes
A deputada Doherty afirmou que as imagens falsas expuseram fragilidades mais amplas na forma como as tecnologias emergentes de inteligência artificial são regulamentadas e fiscalizadas globalmente. "A União Europeia tem regras claras para proteger as pessoas online. Essas regras precisam valer na prática, especialmente quando tecnologias poderosas são usadas em larga escala. Nenhuma empresa que opere na UE está acima da lei", acrescentou a parlamentar.
Investigação paralela no Reino Unido
No início deste mês, o regulador britânico de mídia Ofcom também iniciou uma investigação separada para apurar se a X está cumprindo suas obrigações previstas na Lei de Segurança Online do Reino Unido. Este movimento mostra uma crescente preocupação regulatória internacional com os conteúdos gerados por inteligência artificial nas plataformas digitais.
O caso do chatbot Grok ilustra os desafios crescentes que governos e sociedades enfrentam com a disseminação em massa de deepfakes e conteúdos manipulados por IA, exigindo respostas regulatórias ágeis e eficazes.
