O YouTube está facilitando para políticos e jornalistas a remoção de deepfakes de IA de sua plataforma antes das eleições de meio de mandato deste ano. Mas é ficar calado sobre quem agora tem acesso a essa ferramenta.
A gigante do streaming de vídeo anunciou hoje que está expandindo o acesso à sua ferramenta de detecção de semelhanças para jornalistas, funcionários do governo e candidatos políticos. A ferramenta sinaliza vídeos que apresentam a imagem de um usuário em conteúdo gerado por IA e permite que eles solicitem a remoção de vídeos não autorizados.
“O YouTube é onde o mundo entende os eventos que moldam suas vidas, desde as últimas notícias até os debates que impulsionam o discurso cívico”, escreveram Amjad Hanif, vice-presidente de produtos para criadores do YouTube, e Leslie Miller, vice-presidente de assuntos governamentais e políticas públicas, em um comunicado. postagem no blog. “À medida que o conteúdo gerado por IA evolui, os indivíduos no centro dessas conversas precisam de ferramentas confiáveis para proteger suas identidades.”
A expansão ocorre no momento em que os deepfakes de IA se tornam bastante impressionantes, levantando preocupações sobre seu potencial de espalhar desinformação, especialmente em torno das eleições. A notícia também chega no momento em que o YouTube se inclina cada vez mais para a IA.
No ano passado, a empresa trouxe uma versão personalizada do modelo de geração de vídeo do Google, Veo 3, para Shorts – feed semelhante ao TikTok do YouTube e Instagram Reels de vídeos verticais rápidos. Essa ferramenta, junto com outros recursos de edição de IA na plataforma, tornou mais fácil do que nunca para os usuários criarem deepfakes. Ao mesmo tempo, o YouTube também tentou implementar ferramentas para mitigar os riscos.
A ferramenta de detecção de semelhança da empresa funciona de forma semelhante ao Content ID, o sistema de sinalização de direitos autorais do YouTube, mas para rostos de pessoas. O YouTube começou a testar o sistema em 2024 com celebridades e atletas, e o expandiu no ano passado para criadores do YouTube nos setores da empresa. Programa de parceria.
Para se inscrever no programa, os usuários qualificados devem verificar sua identidade apresentando uma selfie em vídeo e um documento de identidade governamental. A empresa disse que todos os dados enviados serão usados apenas para fins de verificação e não para treinar a IA do Google.
Depois de verificados, os usuários podem verificar se há vídeos que se pareçam com eles e solicitar que sejam removidos. O YouTube, porém, enfatiza que só porque um vídeo foi detectado e um pedido de remoção foi feito, isso não garante que ele será removido.
“O YouTube tem uma longa história de proteção à liberdade de expressão e conteúdo de interesse público – incluindo a preservação de conteúdo como paródia e sátira, mesmo quando usado para criticar líderes mundiais ou figuras influentes”, disse o post no blog da empresa. “Continuaremos avaliando cuidadosamente essas exceções quando recebermos solicitações de remoção.”
Um porta-voz do YouTube disse ao Gizmodo que a empresa está planejando um “amplo lançamento internacional”, com o acesso à ferramenta sendo expandido nas próximas semanas e meses.
O YouTube se recusou a comentar quais políticos e jornalistas estão incluídos no grupo piloto inicial, incluindo se o presidente dos EUA, Donald Trump, foi convidado. O próprio Trump e sua administração são conhecidos por postar conteúdo gerado por IA usando imagens de seus adversários políticos e midiáticos.
