Aquele texto suspeito sobre um pedágio não pago, um pacote com entrega atrasada ou pontos de recompensa expirados pode não ser mais obra de um golpista solitário. Esses textos fraudulentos têm inundado os telefones americanos há anos, mas algo mudou.
O Google afirma que a inteligência artificial está ajudando os fraudadores a realizar operações maiores e mais convincentes do que nunca. A empresa agora entrou com uma ação judicial contra uma rede de crimes cibernéticos que usou a Gemini AI para criar sites de phishing e impulsionar uma enorme campanha fraudulenta visando milhões de usuários.
Golpes de IA estão ficando mais difíceis de detectar
O processo do Google tem como alvo uma rede chinesa de crimes cibernéticos chamada Outsider Enterprise. O grupo coordenou por meio do Telegram e distribuiu kits de phishing para criminosos de todo o mundo.
Usando a IA Gemini do Google, eles construíram sites falsos representando marcas confiáveis como Google, YouTube e até mesmo os Correios dos EUA. Eles usaram IA para criar centenas de sites impostores em uma escala que simplesmente não era possível antes.
O grupo criou mais de 9.000 sites falsos e mais de um milhão de URLs fraudulentos. Em apenas duas semanas, encerradas em 1º de junho, os usuários do Android sinalizaram 55 mil textos suspeitos e a Outsider Enterprise enviou 2,5 milhões de mensagens contendo links para sites falsos.
O FBI estima que a operação roubou 3,87 milhões de números de cartão de crédito de vítimas em dezenas de países, com perdas totais atingindo US$ 1,9 bilhão desde julho de 2023 (via WSJ).
O que o Google está fazendo a respeito?
O Google está pedindo a um tribunal federal de Nova York que encerre totalmente a operação. A empresa está trabalhando junto com o FBI e as operadoras AT&T, T-Mobile e Verizon para bloquear esses textos antes que cheguem ao seu telefone.
As defesas de mensagens integradas do Google já interceptam mais de 10 bilhões de mensagens maliciosas todos os meses, e a ferramenta de detecção de golpes do Android sinaliza chamadas e contatos suspeitos em tempo real.
O Google também está pressionando por sete projetos de lei bipartidários no Congresso para tornar essas proteções permanentes, argumentando que a ação legal por si só não será suficiente para impedir uma ameaça que a IA tornou efetivamente ilimitada.
