Com geradores de imagens de IA amplamente disponíveis online e mais sofisticados do que nunca, nunca foi tão difícil saber se uma imagem é autêntica. Mas na terça-feira, a OpenAI anunciou duas novas medidas para ajudar a combater o problema.
A empresa se comprometeu com um padrão aberto chamado C2PA, que adiciona um sinal claro nos metadados de que uma imagem foi gerada por IA. A OpenAI também está fazendo parceria com o Google para incluir uma marca d’água invisível chamada SynthID, que será mais difícil de detectar, mas também mais difícil de apagar se malfeitores tentarem encobrir seus rastros.
As novas proteções se aplicam apenas a imagens geradas por produtos OpenAI, portanto não afetarão a enxurrada de imagens provenientes de ferramentas de IA menos confiáveis; eles podem ajudar a garantir que o OpenAI não seja parte do problema.
A OpenAI também está apresentando uma prévia de uma ferramenta de verificação pública que verificará ambos os sinais, permitindo aos usuários testar facilmente se uma imagem foi gerada usando IA. Inicialmente, a ferramenta se estenderá apenas a imagens geradas por produtos OpenAI; a empresa espera expandi-lo para abranger outras ferramentas ao longo do tempo.
Fundada em 2021, a Coalition for Content Provenance and Authenticity (C2PA) é uma organização sem fins lucrativos dedicada a mitigar os efeitos nocivos das imagens de IA no discurso público. O padrão C2PA foi adotado por vários produtos do Google, mas a adoção permanece inconsistente em todo o setor. Como o sinal C2PA é claramente acessível nos metadados de cada arquivo, ele pode ser manipulado e é mais útil entre usuários confiáveis.
SynthID é um esforço mais recente projetado para ser uma medida mais robusta de interferência. Desenvolvida pelo Google, a marca d’água SynthID foi projetada para persistir mesmo quando malfeitores tentam removê-la, seja por meio de capturas de tela, redimensionamento ou manipulação digital.
Os dois sistemas pretendem complementar-se, cada um abordando as fraquezas do outro.
“A marca d’água pode ser mais durável por meio de transformações como capturas de tela, enquanto os metadados podem fornecer mais informações do que apenas uma marca d’água”, observou OpenAI em seu anúncio. “Juntos, eles tornam a proveniência mais resiliente do que qualquer camada seria por si só.”
Quando você compra por meio de links em nossos artigos, podemos ganhar uma pequena comissão. Isso não afeta nossa independência editorial.
