O YouTube está expandindo sua tecnologia de detecção de semelhança, que identifica deepfakes gerados por IA, para um grupo piloto de funcionários do governo, candidatos políticos e jornalistas, a empresa anunciado Terça-feira. Os membros do grupo piloto terão acesso a uma ferramenta que detecta conteúdo não autorizado gerado por IA e permitirá que solicitem sua remoção se acreditarem que viola a política do YouTube.
A própria tecnologia foi lançada no ano passado para cerca de 4 milhões de criadores do YouTube no Programa de Parcerias do YouTube, após testes anteriores.
Semelhante ao existente do YouTube Sistema de ID de conteúdoque detecta material protegido por direitos autorais nos vídeos enviados pelos usuários, o recurso de detecção de semelhança procura rostos simulados feitos com ferramentas de IA. Estas ferramentas são por vezes utilizadas para tentar espalhar desinformação e manipular a perceção da realidade das pessoas, uma vez que aproveitam as personas falsas de figuras notáveis — como políticos ou outros funcionários do governo — para dizer e fazer coisas nestes vídeos de IA que não fizeram na vida real.
Com o novo programa piloto, o YouTube pretende equilibrar a liberdade de expressão dos utilizadores com os riscos associados à tecnologia de IA que pode gerar uma imagem convincente de uma figura pública.
“Esta expansão tem realmente a ver com a integridade da conversa pública”, disse Leslie Miller, vice-presidente de Assuntos Governamentais e Políticas Públicas do YouTube, em uma coletiva de imprensa antes do lançamento de terça-feira. “Sabemos que os riscos de falsificação de identidade da IA são particularmente elevados para aqueles que trabalham no espaço cívico. Mas, ao mesmo tempo que fornecemos este novo escudo, também estamos a ser cuidadosos na forma como o utilizamos”, observou ela.
Miller explicou que nem todas as correspondências detectadas seriam removidas quando solicitadas. Em vez disso, o YouTube avaliaria cada solicitação de acordo com as diretrizes de política de privacidade existentes para determinar se o conteúdo é uma paródia ou uma crítica política, que são formas protegidas de liberdade de expressão.
A empresa observou que também está defendendo essas proteções em nível federal, com seu apoio ao Lei SEM FALSIFICAÇÕES em DC, que regulamentaria o uso de IA para criar recriações não autorizadas da voz e semelhança visual de um indivíduo.
Para usar a nova ferramenta, os testadores-piloto qualificados devem primeiro provar sua identidade enviando uma selfie e um documento de identidade governamental. Eles podem então criar um perfil, ver as correspondências que aparecem e, opcionalmente, solicitar sua remoção. O YouTube afirma que planeja eventualmente dar às pessoas a capacidade de impedir uploads de conteúdo violador antes de irem ao ar ou, possivelmente, permitir que monetizem esses vídeos, semelhante ao modo como funciona seu sistema de Content ID.
A empresa não confirmou quais políticos ou autoridades estariam entre os testadores iniciais, mas disse que o objetivo é tornar a tecnologia amplamente disponível ao longo do tempo.
Esses vídeos de IA serão rotulados como tal, mas o posicionamento desses rótulos não é consistente. Para alguns, o rótulo aparece na descrição do vídeo, enquanto vídeos focados em “tópicos mais delicados” aplicarão o rótulo na frente do vídeo. Esta é a mesma abordagem que o YouTube adota com todo o conteúdo gerado por IA.
“Há muito conteúdo produzido com IA, mas na verdade essa distinção não é relevante para o conteúdo em si”, explicou Amjad Hanif, vice-presidente de produtos para criadores do YouTube, sobre o posicionamento do selo. “Poderia ser um desenho animado gerado com IA. Portanto, acho que há um julgamento sobre se é uma categoria que talvez mereça uma isenção de responsabilidade muito visível”, disse ele.
No momento, o YouTube não está compartilhando quantas remoções desses tipos de deepfakes de IA foram gerenciadas por essa tecnologia de detecção de deepfakes nas mãos dos criadores, mas observou que a quantidade de conteúdo removido até agora foi “muito pequena”.
“Acho que por muito [creators]é apenas a consciência do que está sendo criado, mas o volume de solicitações de remoção é muito, muito baixo porque a maior parte acaba sendo bastante benigno ou aditivo ao negócio geral”, disse Hanif.
Esse pode não ser o caso de deepfakes de funcionários do governo, políticos ou jornalistas.
Com o tempo, o YouTube pretende levar sua tecnologia de detecção de deepfake para mais áreas, incluindo vozes faladas reconhecíveis e outras propriedades intelectuais, como personagens populares.
