Gigantes da tecnologia como Meta, Google e X estão investindo pesadamente em ferramentas de IA projetadas para detectar notícias falsas. Parece reconfortante, mas de acordo com um novo estudo da Université de Montréal, essas ferramentas têm algumas desvantagens sérias escondidas atrás de números de precisão que parecem impressionantes.
Pesquisador doutoral Dorsaf Sallami examinou notícias falsas de IA sistemas de detecção e descobri que eles não verificam nada. Eles calculam probabilidades com base em seus dados de treinamento. Pense nisso menos como um jornalista verificando uma história e mais como um espelho que reflete tudo o que é mostrado, incluindo os mesmos preconceitos e pontos cegos.
De acordo com Dorsaf Sallami, um sistema que atinge 95% de precisão em laboratório ainda pode falhar no mundo real, e essa lacuna é um problema sério.
O problema do preconceito sobre o qual ninguém está falando
Além da precisão, Sallami descobriu que muitos desses sistemas carregam preconceitos incorporados que passam despercebidos. Alguns modelos são mais propensos a sinalizar as mulheres como fontes de desinformação. Outros são tendenciosos contra fontes não ocidentais ou reproduzem preconceitos políticos.
Há também uma questão mais profunda sobre como esses sistemas são treinados. Confiam em rótulos de organizações de verificação de factos, muitas das quais carecem de transparência e algumas das quais são empresas com fins lucrativos. Todo o sistema é construído sobre uma base instável.
Acrescente a isso o surgimento de ferramentas como o ChatGPT, que tornam a produção de conteúdo falso mais fácil do que nunca, e os sistemas de detecção treinados há alguns meses podem rapidamente se tornar obsoletos.
Uma abordagem melhor
A solução de Sallami é Aletheia, uma extensão de navegador que explica por que o conteúdo pode ser suspeito, em vez de apenas dizer se é verdadeiro ou falso. Em testes, alcançou 85% de confiabilidade, superando muitas ferramentas existentes. O que o diferencia é a sua filosofia. Em vez de lhe dar um veredicto e esperar que você confie nele, Aletheia mostra seu trabalho.
Ele extrai evidências de fontes on-line disponíveis, apresenta-as em linguagem simples e permite que os usuários tomem a decisão final. Inclui ainda um feed ao vivo de verificações de fatos recentes e um fórum da comunidade onde os usuários podem compartilhar e discutir as descobertas. A conclusão é simples: a IA deve ajudar no seu julgamento, e não substituí-lo.
