Em um novo vídeo viralo senador Bernie Sanders tentou expor como a indústria de IA é uma ameaça à privacidade dos americanos, mas acabou demonstrando como a tendência dos chatbots de IA de concordar e lisonjear seus usuários pode levar os próprios chatbots a se tornarem um espelho das próprias crenças dos usuários, em vez de uma ferramenta de descoberta.
Já vimos esse problema antes em meio ao crescente número de pessoas que sofrem de “psicose de IA”, que ocorre quando um chatbot de IA reforça os pensamentos e crenças irracionais de uma pessoa mentalmente instável. Em alguns casos, esse padrão obscuro até levou os usuários a tirar a própria vida, alegam vários processos judiciais.
No caso de Sanders, a bajulação da IA manifestou-se como um chatbot de IA que moldou as suas respostas para se adequarem ao político.
É importante notar que a entrevista começa com Sanders se apresentando a Claude (a quem ele erroneamente se refere como um “agente” de IA) – um movimento que pode ajudar a influenciar as respostas do chatbot.
Depois, enquanto Sanders faz perguntas sobre as práticas de recolha de dados das empresas de IA e outras preocupações com a privacidade, Claude responde agradavelmente com o que o político quer ouvir. Em parte, isso se deve à forma como Sanders enquadra as suas perguntas, perguntando coisas como: “O que surpreenderia o povo americano em termos de saber como essa informação é recolhida?” ou “Como podemos confiar que as empresas de IA protegerão a nossa privacidade quando utilizarem informações pessoais das pessoas para ganhar dinheiro?” Essas perguntas indutoras forçam o chatbot a aceitar a premissa da pergunta e a apresentar uma resposta adequada. É assim que essas coisas funcionam.
E quando a resposta de Claude sugeria que um tópico era mais complexo ou cheio de nuances do que Sanders o havia enquadrado, Sanders discordaria, forçando o chatbot a admitir, com um toque de autodepreciação da IA, que o senador estava “absolutamente certo”.
A natureza bajuladora da IA é o que pode levar as pessoas a caminhos perigosos quando assumem que um chatbot é uma fonte de verdade universal, em vez de uma ferramenta que pode ser influenciada pelo seu utilizador.
Não está claro se Sanders sabe que esse é o caso e simplesmente não se importa (porque, afinal, isso é apenas um anúncio!), ou se ele realmente pensa que enganou Claude para se tornar um denunciante da indústria de IA.
E, claro, há também a questão de saber se a equipe de Sanders preparou ou não o chatbot para responder de uma determinada maneira, visto que se tratava de uma “entrevista” encenada.
Embora existam preocupações reais em torno da coleta de dados e da privacidade, as coisas não são tão simples quanto sugerem as respostas da IA neste vídeo.
Já vivemos num mundo onde as empresas recolhem e vendem dados de utilizadores online em grande escala – e já o fazem há anos. Sabemos que gigantes das redes sociais como a Meta transformaram anúncios personalizados numa máquina multibilionária de impressão de dinheiro. E graças aos relatórios regulares de transparência dos gigantes da tecnologia, sabemos que os governos de todo o mundo solicitam rotineiramente acesso aos dados dos utilizadores para os seus próprios fins.
A IA pode representar um novo meio para os legisladores potencialmente regulamentarem, mas os dados pessoais têm há muito que alimenta a economia digital. (Ironicamente, a Anthropic é uma empresa de IA que prometeu não utilizar anúncios personalizados para ganhar dinheiro, apesar do que as suas respostas a Sanders possam ter sugerido.)
Embora a conversa geral entre Sanders e Claude erre o alvo para quem entende como funcionam os chatbots de IA, podemos pelo menos creditar isso por nos dar alguns novos memes excelentes.
