O YouTube lançou uma ferramenta gratuita para celebridades de Hollywood detectarem deepfakes, intensificando o combate aos roubos de identidade gerados por inteligência artificial. A plataforma introduziu no mês passado uma função de proteção de imagem que identifica conteúdos onde um rosto aparece modificado ou gerado por tecnologias de IA para imitar uma pessoa real.
Expansão do acesso
Inicialmente voltada a funcionários do governo, candidatos políticos e jornalistas, a ferramenta agora foi ampliada para a indústria do entretenimento. Atores e músicos podem utilizá-la por meio de agências de talentos e representantes de celebridades, mesmo sem ter um canal no YouTube. A funcionalidade permite buscar conteúdos gerados por IA que reproduzam a aparência de uma pessoa inscrita, como um deepfake de seu rosto, e oferece a possibilidade de localizá-los e solicitar sua remoção.
Declarações de especialistas
Alon Yamin, diretor-executivo e cofundador da Copyleaks, plataforma de detecção de conteúdo de IA, afirmou que a abertura das capacidades de detecção de deepfakes para personalidades públicas marca um ponto de inflexão na proteção da identidade na era da IA generativa. Ele destacou que a tecnologia para reproduzir rosto, voz e gestos avançou mais rápido que as salvaguardas, criando brechas exploradas por agentes mal-intencionados.
Contexto de desafios
A iniciativa ocorre em meio ao aumento de vídeos hiper-realistas de celebridades falecidas, como Michael Jackson e Elvis Presley, criados com aplicativos como Sora, da OpenAI. A OpenAI anunciou o encerramento do aplicativo no mês passado. Em fevereiro, o diretor irlandês Ruairí Robinson gerou um clipe realista de Brad Pitt lutando contra Tom Cruise usando Seedance 2.0, do grupo chinês ByteDance, provocando inquietação em Hollywood. Charles Rivkin, presidente da Motion Picture Association, instou a ByteDance a cessar atividades de falsificação, acusando-a de violar direitos autorais.
Proteção do patrimônio
Jason Newman, da Untitled Entertainment, elogiou o YouTube por fornecer as ferramentas gratuitamente, permitindo que os talentos protejam seu patrimônio: rosto, corpo, identidade e forma de expressão. A ferramenta foi desenvolvida após queixas de personalidades americanas sobre a complexidade do processo de sinalização e remoção de deepfakes no YouTube.
Eficácia da detecção
Alon Yamin ressaltou que os deepfakes podem disseminar desinformação, manipular mercados e prejudicar reputações, tornando a detecção robusta essencial. Ele defendeu sistemas de detecção precisos, atualizados continuamente, associados a normas claras e procedimentos rápidos de remoção. Embora não elimine completamente os deepfakes, a ferramenta pode reduzir seu alcance e impacto, dificultando a circulação de conteúdos manipulados sem detecção.
