Parte do que nos torna humanos são as maneiras únicas como pensamos e resolvemos problemas. Mas a utilização de grandes modelos de linguagem como o ChatGPT pode estar a corroer esta singularidade e a levar os humanos a pensar e a comunicar da mesma forma, de acordo com um grupo de cientistas e psicólogos que foram coautores de um novo artigo de opinião.
“Os indivíduos diferem na forma como escrevem, raciocinam e veem o mundo”, disse Zhivar Sourati, cientista da computação da Universidade do Sul da Califórnia e primeiro autor do artigo. em uma declaração.
“Quando essas diferenças são mediadas pelos mesmos LLMs, seu estilo linguístico distinto, perspectiva e estratégias de raciocínio tornam-se homogeneizados, produzindo expressões e pensamentos padronizados entre os usuários”, continuou Sourati.
O papelpublicado quarta-feira na revista Trends in Cognitive Sciences, examina como centenas de milhões de pessoas em todo o mundo usam o mesmo punhado de chatbots e o que isso significa para a nossa individualidade.
Pensando dentro da caixa
Banco de Pesquisa encontrado que um terço de todos os americanos usaram ChatGPT no ano passado, o dobro do número de 2023. E o uso do chatbot é muito mais comum entre adolescentes: Dois terços afirmam usar chatbots e quase um terço os utiliza diariamente.
As empresas também estão apostando tudo na inteligência artificial. Stanford encontrado que 78% das organizações relataram usar IA em 2024, contra 55% em 2023.
Então, estamos usando muito a IA. Mas o perigo é que possamos perder a diversidade na forma como pensamos. A equipe ressalta que os LLMs geram uma escrita que varia menos do que as pessoas criam por conta própria.
Parte da razão pela qual os LLMs podem estar promovendo o pensamento homogeneizado, de acordo com os autores do artigo, são os dados usados para treiná-los.
“Como os LLMs são treinados para capturar e reproduzir regularidades estatísticas em seus dados de treinamento, que muitas vezes representam línguas e ideologias dominantes, seus resultados muitas vezes refletem uma fatia estreita e distorcida da experiência humana”, diz Sourati.
Por que o pensamento diversificado é importante
Há uma boa razão pela qual os autores alertam contra esta tendência. O pensamento homogeneizado reduz o pluralismo, que é essencialmente a ideia de que múltiplas perspectivas são boas para a sociedade como um todo.
“Este valor do pluralismo está enraizado no princípio de longa data de que o bom senso requer exposição a pensamentos variados”, escrevem os autores no artigo. “Se não for controlada, esta homogeneização corre o risco de achatar os cenários cognitivos que impulsionam a inteligência coletiva e a adaptabilidade”,
Então usamos diferentes maneiras de pensar para descubra mais soluções para um problema. Se perdermos a capacidade de pensar e comunicar de forma diferente, isso poderá afetar a forma como nos adaptamos a novas situações.
“A preocupação não é apenas que os LLMs moldem a forma como as pessoas escrevem ou falam, mas que redefinam sutilmente o que conta como discurso confiável, perspectiva correta ou mesmo bom raciocínio”, diz Sourati.
Os autores afirmam ainda que essa tendência impacta até mesmo pessoas que não utilizam chatbots.
“Se muitas pessoas ao meu redor pensam e falam de uma determinada maneira, e eu faço as coisas de forma diferente, sentiria uma pressão para me alinhar com elas, porque pareceria uma forma mais credível ou socialmente aceitável de expressar as minhas ideias”, diz Sourati.
