Siga ZDNET: Adicione-nos como fonte preferencial no Google.
Principais conclusões da ZDNET
- OpenAI agora usa metadados C2PA e marcas d’água SynthID.
- Sinais de pixels ocultos podem ajudar a identificar imagens geradas por IA.
- Uma ferramenta pública de verificação OpenAI também está sendo lançada.
Hoje, a OpenAI anunciou o que chama de sinais de proveniência de conteúdo em seu ecossistema de imagens. Em outras palavras, está marcando suas imagens geradas por IA como geradas por IA.
Isto não é novo. OpenAI e outras ferramentas de IA incorporam metadados em imagens geradas por IA desde 2024. O problema era que a marcação de metadados era muito fácil de derrotar. A novidade é que a OpenAI está aprimorando seu jogo de segurança de identificação de imagem com algumas novas tecnologias sofisticadas.
Também: Testei ChatGPT Images 2.0 vs. Gemini Nano Banana para ver qual é melhor – este modelo vence
Há muita coisa acontecendo aqui. Para ajudar a colocar isso em perspectiva, vamos viajar até 440 AC e o dia do cabelo ruim de um cara.
Stega o que, agora?
A esteganografia é a prática de incorporar informações criptográficas à vista de todos, basicamente usando técnicas para ocultar mensagens de tal forma que a intenção criptográfica das mensagens não seja imediatamente aparente. Em outras palavras, saber que alguém ou algo carrega um código é meio caminho andado para decifrá-lo.
De acordo com pesquisa modernano século V aC, Heródoto de Halicarnasso, escrevendo nos livros Terpsícore e Polímnia de suas Histórias de nove livros, conta a história de como, “Por volta de 440 aC, Histiæus raspou a cabeça de seu homem mais confiável [assistant] e tatuou-o com uma mensagem que desapareceu depois que o cabelo cresceu novamente. O objetivo era instigar uma revolta contra os persas.” Aparentemente, esta técnica foi usada recentemente, na Segunda Guerra Mundial.
Também: Testei ChatGPT Plus vs. Gemini Pro para ver qual é melhor – e se vale a pena mudar
Se você já assistiu a um programa de TV policial em que uma mensagem oculta é revelada pela leitura de algumas letras de uma nota comum, você viu um exemplo de esteganografia baseado em texto. No que diz respeito à criptografia, ela é fraca. Mas se você não sabe que há uma mensagem na nota, talvez não tente descriptografá-la.
A esteganografia tem sido usada em imagens digitais há anos para incorporar informações de texto entre os milhões de pixels que compõem uma imagem. Isso permite que os remetentes incorporem imagens que são exibidas à vista de todos. Também permite que os criadores incorporem informações de propriedade e origem em uma imagem de uma forma que é muito difícil de derrotar.
Voltaremos à esteganografia em um momento porque ela é a chave para o anúncio da OpenAI de hoje.
Mas primeiro, vamos voltar ao futuro, mas não totalmente. Nossa próxima parada é 2024.
Mostre-me os metadados
OpenAI incorpora metadados em imagens geradas por DALL-E 3, ImageGen e Sora desde 2024. Você pode usar uma ferramenta como Credenciais de conteúdo para examinar esses dados. O Nano Banana do Google e outras ferramentas de IA de geração de imagens também incorporam alguns metadados em suas imagens.
Também: Parei de usar ChatGPT para tudo: esses modelos de IA superam em pesquisa, codificação e muito mais
Aqui está um exemplo de imagens geradas pelo ChatGPT à esquerda e Nano Banana à direita. Como você pode ver, os metadados estão devidamente disponíveis. As credenciais de conteúdo podem exibir os dados.
Por outro lado, quando tirei uma captura de tela de cada imagem, que capturou os pixels, mas não os metadados subjacentes, as Credenciais de Conteúdo apenas relataram “Algo deu errado”. A captura da imagem eliminou completamente os metadados associados ao arquivo de imagem original.
Sinto muito, David. Receio não poder fazer isso.
Captura de tela de David Gewirtz/ZDNET
Isso, entre outras coisas, é o que a OpenAI e o Google estão tentando consertar.
De acordo com a OpenAI, “Estamos construindo isso há algum tempo. Usamos marcas d’água visíveis em Sora e um marca d’água de áudio no Voice Enginee continuamos a testar e pesquisar a precisão e a confiabilidade ao longo do tempo, por meio da implantação.”
Formatação de metadados padrão
OpenAI afirma: “Recentemente, tomamos a iniciativa de tornar o OpenAI um produto gerador em conformidade com C2PA. Ao nos tornarmos em conformidade com C2PA, estamos oferecendo às plataformas uma maneira confiável de ler, preservar e transmitir as informações de proveniência que anexamos ao nosso conteúdo.”
Vamos descompactar isso. C2PA é a Coalizão para Proveniência e Autenticidade de Conteúdo. Possui um Programa de Conformidade C2PA, que “fornece garantia de que os produtos aderem à especificação de Credenciais de Conteúdo e cumprem um conjunto de requisitos de segurança para garantir que estão produzindo e validando dados C2PA corretamente”.
Também: Como aprender ChatGPT em uma hora – de graça
Em outras palavras, os metadados do conteúdo são padronizados, seguros e contêm informações suficientes para torná-los úteis. A OpenAI está fazendo isso com todas as suas ofertas de imagens. Seu representante de relações públicas me disse: “todas as imagens geradas por ChatGPT e OpenAI (incluindo a API OpenAI e Codex) contêm esses sinais de proveniência”.
Sinais. Plural. Isso me leva ao grande martelo deste anúncio.
Marcas d’água digitais ocultas
O SynthID do Google DeepMind é um mecanismo de marca d’água digital multimodal que incorpora marcas d’água digitais invisíveis em texto, imagens, vídeo e áudio. Esta é uma tecnologia moderna. Curiosamente, dado que o Google e a OpenAI são arquiconcorrentes, a OpenAI está agora incorporando Tecnologia SynthID em todas as imagens que a empresa gera.
Para imagens, SynthID é baseado em pixels. Um sinal sutil, semelhante ao esteganográfico, é incorporado às imagens logo no momento em que são geradas. Os dados de identidade são imperceptíveis ao olho humano, mas as ferramentas de detecção podem ler os dados. Esta marca d’água digital permanece na imagem mesmo após redimensionamento, corte, compactação e ajustes de cores. Ele transfere para capturas de tela. A assinatura digital é inserida em toda a imagem, em vez de aparecer apenas em uma pequena área da imagem.
Também: Experimentei o ChatGPT Images 2.0: um salto enorme e divertido – e surpreendentemente útil para trabalho real
Portanto, embora o Nano Banana coloque seu pequeno diamante no canto das imagens que gera, ele também incorpora um sinal muito mais abrangente em toda a imagem.
Há um aspecto adicional fascinantemente poderoso do SynthID que a OpenAI não mencionou: SynthID pode marcar texto com marca d’águaaparentemente sem afetar a qualidade do texto. O que ele faz é escolher sutilmente qual token é usado em cada bloco de texto para que o que é gerado possa ser escaneado para encontrar uma assinatura estatística que o software detector possa identificar. Esse recurso não foi anunciado pela OpenAI e, portanto, provavelmente não é usado no ChatGPT, mas é usado no Gemini.
Tal como acontece com o C2PA, a OpenAI está incorporando SynthID em imagens geradas por meio de ChatGPT, Codex e API OpenAI.
Nova ferramenta de verificação pública
Simultaneamente ao anúncio da conformidade C2PA e dos recursos SynthID, a OpenAI está anunciando a disponibilidade de uma ferramenta de verificação pública você pode usar para ver se algo foi gerado por uma das ferramentas de IA da OpenAI.
Estou escrevendo isso na noite anterior ao anúncio oficial se tornar público. No momento em que você ler este artigo, você poderá testar a ferramenta em https://openai.com/research/verify/.
Também: Comparei como Gemini, ChatGPT e Claude podem analisar vídeos – este modelo vence
Estou muito curioso sobre os limites desta ferramenta e também como ela funciona bem em conjunto com o SynthID. O que acontece, por exemplo, se você extrair parte de uma imagem do ChatGPT e usá-la com uma fotografia real como parte de uma composição do Photoshop? Ele informa quanto foi marcado com IA? Voltaremos a verificar isso com testes do mundo real em algum momento após o lançamento da ferramenta.
De acordo com a OpenAI, “Nenhuma técnica de proveniência única é suficiente por si só. Acreditamos que uma abordagem forte combina padrões compartilhados, sinais de marcas d’água duráveis e verificação pública. Ao desenvolver nosso suporte de longa data para credenciais de conteúdo, tornando-se compatível com C2PA, adotando SynthID e visualizando ferramentas de verificação pública, esperamos contribuir, no longo prazo, para um ecossistema de proveniência mais interoperável”.
Você verificaria a procedência de uma imagem se uma ferramenta de detecção facilitasse isso? Deixe-nos saber nos comentários abaixo.
Você pode acompanhar as atualizações diárias do meu projeto nas redes sociais. Certifique-se de se inscrever meu boletim informativo semanal de atualizaçãoe siga-me no Twitter/X em @DavidGewirtzno Facebook em Facebook.com/DavidGewirtzno Instagram em Instagram.com/DavidGewirtzno Bluesky em @DavidGewirtz.come no YouTube em YouTube.com/DavidGewirtzTV.
