Apresentado por Veriff
Os americanos não conseguem distinguir com segurança o conteúdo real do gerado pela IA, e isso não é apenas um problema de alfabetização midiática; é uma ameaça direta à forma como as empresas verificam a identidade online.
Uma nova pesquisa descobriu que, embora muitas pessoas estejam cientes dos deepfakes, sua capacidade de distingui-los da realidade é pouco melhor do que jogar uma moeda ao ar. Uma pesquisa de 2026 conduzida por Veriff e Kantar entre 3.000 entrevistados nos Estados Unidos, no Reino Unido e no Brasil mostra que os americanos pontuaram apenas 0,07 em uma escala onde 0 representa adivinhações aleatórias.
Se as pessoas não conseguem distinguir o conteúdo visual autêntico, não conseguem distinguir com segurança as identidades autênticas. Na prática, isso significa que os mesmos utilizadores que interagem com serviços digitais muitas vezes não conseguem dizer se a pessoa do outro lado do ecrã é real.
Essa ineficácia tem consequências diretas para todos os negócios digitais que dependem da verificação de identidade baseada em imagens e vídeos para confirmar quem está do outro lado de uma tela. Isso inclui tudo, desde integração bancária do cliente e recuperação de conta até verificação do vendedor no mercado, transações de comércio eletrônico de alto valor, autenticação de plataforma social e controle de acesso empresarial.
Nos EUA, essas consequências já são materiais – a fraude de identidade sintética é agora responsável por milhares de milhões em perdas anuais e as ferramentas para gerar falsificações convincentes estão agora amplamente acessíveis.
O relatório também identifica um grupo pequeno, mas de alto risco: cerca de 7% dos usuários que têm um desempenho insatisfatório na detecção de deepfakes, mas permanecem confiantes em sua capacidade e raramente verificam o que veem. Embora esta percentagem seja pequena, em escala representa milhões de contas que são alvos altamente exploráveis de fraude.
Se os usuários não conseguirem distinguir com segurança identidades reais de identidades sintéticas, qualquer sistema que dependa de verificação visual estará fundamentalmente exposto. A verificação de identidade não pode mais ser tratada como uma função de conformidade; em vez disso, tem de ser construída como uma infraestrutura digital central.
“Agora que o conteúdo gerado pela IA está se tornando indistinguível da realidade, o olho humano por si só não é mais uma linha de defesa confiável”, afirma Ira Bondar-Mucci, líder da plataforma antifraude da Veriff. “As empresas e os decisores políticos nos EUA precisam de colmatar urgentemente esta lacuna de sensibilização, ao mesmo tempo que investem em tecnologias de verificação automatizadas que possam captar o que os humanos simplesmente não conseguem”.
A lacuna de conscientização sobre deepfake nos EUA é maior do que o esperado
Os Estados Unidos podem ser o epicentro global do desenvolvimento de IA generativa, mas os consumidores americanos demonstram a menor familiaridade com deepfakes entre os três mercados pesquisados. Apenas 63% dos adultos norte-americanos estão familiarizados com o termo, em comparação com 74% no Reino Unido e 67% no Brasil.
“Há um paradoxo em jogo”, diz Bondar-Mucci. “Os EUA são o epicentro global do desenvolvimento de IA, mas os consumidores americanos são os menos familiarizados com um de seus subprodutos mais perigosos. Historicamente, os consumidores têm maior confiança no conteúdo digital, com a conversa sobre fraude centrada mais na privacidade dos dados do que na autenticidade do conteúdo. O problema é que o baixo conhecimento não reduz o risco, ele o amplifica. Se você não sabe o que é um deepfake, é muito menos provável que você faça uma pausa e verifique se encontrou um.”
A detecção humana de deepfake é pouco melhor do que jogar uma moeda
Na prática, a aleatoriedade que caracteriza a capacidade do consumidor de distinguir o real do falso é evidente na forma como as pessoas avaliam os diferentes tipos de conteúdo. O conteúdo do vídeo revelou-se especialmente difícil de avaliar, com vídeos falsos frequentemente identificados como autênticos e vídeos reais frequentemente sinalizados como falsos. Mesmo em comparações lado a lado, os entrevistados dividiram os seus julgamentos de forma quase uniforme, outra indicação de que a inspeção visual por si só não é mais um método confiável para verificar a autenticidade.
O excesso de confiança na detecção de deepfake cria uma vulnerabilidade perigosa
Aproximadamente metade dos entrevistados nos EUA afirma estar confiante na sua capacidade de identificar deepfakes, mas essa confiança excede em muito o desempenho real, demonstrando que a autoavaliação não tem sentido.
Dentro dessa população, existe um grupo pequeno, mas de alto risco: aproximadamente 7% de usuários que são imprecisos, mas confiantes demais em suas habilidades e raramente verificam conteúdo suspeito.
“Essa lacuna entre confiança e competência cria uma falsa sensação de segurança que os fraudadores estão preparados para usar”, diz Bondar-Mucci. “Quando as pessoas acreditam que não podem ser enganadas, param de procurar os sinais. É precisamente nesse momento que estão mais vulneráveis, seja a uma identidade sintética utilizada em fraudes financeiras ou a um vídeo fabricado concebido para manipular a confiança.”
Para as empresas, a implicação é clara: qualquer organização que ainda dependa de processos de revisão manual ou de autocertificação do cliente está herdando esta vulnerabilidade diretamente. O julgamento humano é uma salvaguarda cada vez mais pouco fiável e a verificação tem de ser incorporada nos sistemas por defeito. Isso significa automatizado, orientado pela tecnologia e não dependente da autoavaliação do usuário final sobre sua capacidade de distinguir o real do falso.
Os americanos estão preocupados com deepfakes, mas confiam nas plataformas para lidar com eles
A preocupação com deepfakes é alta nos EUA, com 79% dos entrevistados relatando que estão bastante ou extremamente preocupados com fraudes pessoais e falsificação de identidade.
Os EUA divergem de outros mercados para onde essa preocupação é dirigida. Os americanos são mais propensos do que os entrevistados do Reino Unido ou do Brasil a confiar em plataformas de mídia social e serviços digitais para identificar e gerenciar conteúdo gerado por IA. Essa delegação de responsabilidade pode estar a reduzir a vigilância individual exactamente no momento em que a ameaça se acelera.
“Estamos vendo identidades sintéticas usadas para abrir contas fraudulentas e autorizar transações, e vídeos deepfake implantados para contornar verificações básicas”, explica ele. “O que torna isto particularmente urgente é a combinação de uma grande preocupação com uma confiança relativamente elevada na plataforma. Essa lacuna entre a proteção percebida e a proteção real é exatamente onde a fraude prospera.”
O argumento comercial para a verificação automatizada de identidade nunca foi tão forte
A lacuna entre o que os americanos acreditam que podem detectar e o que realmente podem não é um problema de conhecimento que as campanhas de sensibilização irão resolver, mas uma falha de concepção em qualquer sistema que coloque o fardo da verificação de identidade no julgamento humano não assistido.
A resposta eficaz não é remover os seres humanos do ciclo de verificação, mas parar de lhes atribuir tarefas que a percepção humana já não consegue realizar de forma fiável. As organizações que persistem em confiar em processos de revisão manual ou na autocertificação do cliente estão absorvendo essa vulnerabilidade em suas operações.
A alternativa é a verificação de identidade automatizada, alimentada por IA, que opera no ponto de interação, detecta mídia sintética antes que uma decisão humana seja necessária e não depende da capacidade do usuário final de distinguir o real do falso.
“Ver não é mais acreditar”, diz Bondar-Mucci. “As empresas que constroem infra-estruturas de verificação em torno dessa realidade, e não em torno da suposição de que será de outra forma, são as que estão melhor posicionadas para manter a confiança dos clientes à medida que o panorama da mídia sintética continua a evoluir.”
Artigos patrocinados são conteúdos produzidos por uma empresa que paga pela postagem ou tem relacionamento comercial com a VentureBeat, e estão sempre claramente marcados. Para mais informações, entre em contato vendas@venturebeat.com.
