Início Tecnologia Das folhas de chá à IA: por que as previsões atuais de...

Das folhas de chá à IA: por que as previsões atuais de alta tecnologia são tão perigosas

23
0

Nota do editor: Bem-vindo à nova série de colunas de convidados da CNET chamada Alt View, um fórum para uma ampla gama de especialistas e luminares compartilharem seus insights sobre o campo em rápida evolução da inteligência artificial. Para obter mais cobertura de IA, confira o AI Atlas da CNET.


“Como você está usando IA?” Perguntei a uma turma cheia de executivos. Algumas das respostas que já ouvi antes: profissionais de saúde utilizando-o para ler imagens médicas; gerentes que o utilizam para redigir e-mails; uma empresa de varejo que o usava para fazer anotações em reuniões antes de desistir quando percebeu que a IA confabulava e não entendia o contexto. E então, uma jóia. Quase sempre há uma joia.

“Eu uso chatbots como videntes”, disse uma mulher asiática de meia-idade com um cardigã bege e tênis branco. Mais tarde, eu saberia que ela construiu um império de bilhões de dólares. Um farfalhar nervoso se espalha pela sala enquanto as pessoas se mexem desconfortavelmente em seus assentos. “Assim como costumávamos ler folhas de chá, você pode perguntar à IA sobre o futuro, e ela pode ser surpreendentemente precisa. Por exemplo, recentemente ela previu corretamente um aumento de 2% no mercado de ações”, disse a estudante, balançando a cabeça e olhando ao redor da sala enquanto seus colegas evitavam contato visual.

Uma lâmpada translúcida brilhante, segurada por uma mão, em frente a linhas iluminadas, sugerindo uma placa de circuito

Os adivinhos governantes de hoje não são mais astrólogos, astrónomos, sociólogos ou mesmo economistas; eles são cientistas da computação, analistas de dados e engenheiros. Os algoritmos são as novas folhas de chá, as entranhas dos animais e as estrelas através das quais esperamos vislumbrar o futuro.

Tendemos a associar previsões ao conhecimento, mas muitas vezes elas estão mais próximas do domínio do poder. As profecias são o ringue de boxe onde acontecem as lutas pelo futuro. Nossas expectativas inclinam o mundo social em direção às nossas previsões. Quando alguém prevê que o mundo será de uma determinada maneira, está ordenando que os outros obedeçam aos seus desejos e realizem esse mundo. Embora tenhamos usado previsões durante milhares de anos para tomar algumas das decisões mais importantes das nossas vidas, temos dedicado muito pouca atenção às questões mais profundas sobre a profecia. Milhares de livros foram escritos sobre como prever, mas nenhum sobre a ética da previsão.

A previsão se tornou uma grande indústria. Tomemos, por exemplo, plataformas como a Polymarket, que agregam expectativas do público sobre eventos futuros, recolhendo enormes quantidades de dados e criando influência. Se 58% dos usuários acreditam que o Oklahoma City Thunder vai ganhar o título do campeonato da NBA, por que você apostaria contra a maioria? Mas as apostas nestas plataformas vão muito além esportes ou mesmo reality shows. Transformou a instabilidade política, os desastres naturais e o sofrimento humano num espectáculo, desumanizando as vítimas da vida real, gamificando a vida.

Hoje, previsões evoluíram para armas de poder que justificam decisões carregadas de valores sob o pretexto de factos, mas as previsões nunca são factos. Os fatos pertencem ao presente e ao passado. Uma afirmação sobre o futuro pode ser muitas coisas – uma estimativa, um desejo, um aviso – mas nunca um facto.

O que faz do futuro o futuro é que ainda não aconteceu. O que não aconteceu não existe e não existem fatos sobre o que não existe. No entanto, estamos a utilizar a previsão mais do que nunca com a IA, os mercados de previsão e os especialistas a falar sobre o futuro.

A fantasia de derrotar a incerteza

Pierre Simon Laplace teve um sonho, muitas vezes referido como o demônio de Laplace. Ocorreu-lhe que, com dados e computação suficientes, seria possível obter conhecimento completo. Se você soubesse a localização exata e o momento de cada partícula do universo, bem como todas as leis da natureza, seria capaz de prever o futuro com perfeita precisão. A incerteza seria finalmente derrotada. Como disse Laplace:

Dada por um instante uma inteligência que pudesse compreender todas as forças pelas quais a natureza é animada e a respectiva situação dos seres que a compõem – uma inteligência suficientemente vasta para submeter esses dados à análise – ela abarcaria na mesma fórmula os movimentos dos maiores corpos do universo e os do átomo mais leve; para ela nada seria incerto e o futuro, assim como o passado, estaria presente aos seus olhos.

Os defensores da IA ​​podem não o colocar nestas palavras, mas o que parecem sugerir quando se entusiasmam com o poder da aprendizagem automática, juntamente com as vastas quantidades de dados, é que estas tecnologias estão a aproximar-nos tentadoramente da realização do demónio de Laplace. Se pudermos coletar todos os pontos de dados, pensa-se, e pudermos construir computação suficiente para analisar esses dados, poderemos prever o que antes era imprevisível. Este poder preditivo promete revolucionar todos os campos do conhecimento, desde a medicina às alterações climáticas e à política.

Atlas de IA

Impulsionados por essa fantasia, os quantificadores rastreiam cada movimento seu; registrar, tabular e analisar exaustivamente seus prazeres e vícios; torturando seus dados até que eles gritem em confissão. Você está sendo rastreado enquanto dirige, pesquisa on-line, pratica esportes, faz sexo, bebe álcool, usa drogas, viaja, dorme, conversa com amigos e familiares, passa tempo nas redes sociais, vai ao consultório médico, joga jogos on-line, lê, assiste televisão e respira.

Gerimos e discutimos os nossos medos em termos quantificados: a probabilidade de contrair cancro, ou de sermos roubados, de ocorrerem terramotos, ou de outra pandemia, de as alterações climáticas tornarem o nosso mundo inabitável, de outra guerra mundial.

O otimismo desenfreado para derrotar a incerteza através da IA ​​é compreensível. Computadores, dados e estatísticas trouxeram avanços incríveis. O bomba de computador quebrou a cifra Enigma dos nazistas. Na medicina, a análise de regressão foi fundamental na identificação de fatores de risco para doenças. Os computadores mainframe forneceram novos insights sobre os negócios; o processamento centralizado de dados trouxe processamento de transações em tempo real e escalabilidade. As empresas industriais ganharam a capacidade de monitorizar a eficiência da produção em todas as cadeias de abastecimento, identificando estrangulamentos e melhorando a alocação de recursos.

Os computadores pessoais surgiram na década de 1980. As décadas de 1990 e 2000 testemunharam a ascensão da Internet e da computação em nuvem, aumentando ainda mais a disponibilidade de dados e o poder de processamento. A década de 2010 marcou um ponto de viragem com a aplicação prática da aprendizagem profunda, alimentada por big data e hardware melhorado, como GPUs. Os avanços nos algoritmos abriram caminho para o aprendizado de máquina – máquinas de previsão.

IA e previsão: um jogo de poder

Com a previsão vêm todos os padrões de profecia e poder que aparecem em nossos livros de história. A diferença é que a IA é uma previsão com esteróides, e nós a utilizamos não apenas no campo de batalha e no consultório médico, mas em todos os lugares, do consultório à sala de aula, no tribunal, nas nossas estradas, nas nossas vidas amorosas e muito mais.

Algoritmos de aprendizado de máquina são máquinas preditivas. Isso é tudo o que fazem, quer estejam envolvidos em regressão, classificação ou linguagem. Quando um sistema de aprendizado de máquina traduz texto, ele prevê a tradução mais provável com base em milhões de exemplos de traduções anteriores. Quando reconhece lobos em fotos, fá-lo prevendo a probabilidade de uma determinada imagem conter um lobo, com base em padrões que aprendeu a partir de milhares de imagens rotuladas como lobo e não-lobo. Quando um grande modelo de linguagem responde a uma pergunta, está a prever o que um ser humano diria no seu lugar, com base na análise estatística de livros, fóruns online, redes sociais e assim por diante.

Não é de admirar que “oráculo” seja um termo técnico no contexto do aprendizado de máquina. Um oráculo representa o melhor desempenho possível que poderia ser alcançado; é uma função idealizada que sempre fornece previsões perfeitas.

O triunfo do aprendizado de máquina é muito mais uma vitória corporativa do que científica. Os idealistas podem achar isso anticlimático, até mesmo deprimente. Alguém que queira dizer isto de forma grosseira poderá dizer que simplesmente investimos dinheiro no problema.

O que é mais notável sobre o sucesso do aprendizado de máquina é como ele surgiu de maneira nada notável. “O que é decepcionante”, disse Michael Wooldridge, professor de IA em Oxford, a um grupo de meus alunos de MBA, “é que isso não aconteceu como resultado de um avanço científico”. Ele olhou ao redor da sala para ter certeza de que o peso de suas palavras havia chegado.

Da década de 1960 ao início dos anos 2000, os resultados das redes neurais não foram muito impressionantes. O IA simbólica a gangue estava ganhando a corrida e os subsídios – até que isso não aconteceu. Algo mudou: obtivemos mais dados e mais computação, e o aprendizado de máquina decolou. No espaço de alguns anos, tradução automáticapor exemplo, passou de inutilizável a compreensível, e então bom o suficiente para ajudar turistas sem noção a encontrar o caminho, sem nenhum conhecimento do idioma local. Já é suficiente admitir que às vezes preferi uma tradução automática às sugestões de um tradutor profissional que tinha uma queda pela verbosidade.

As coisas incríveis que o aprendizado de máquina pode fazer não aconteceram por causa de uma maior compreensão. Não foi preciso nenhum gênio. O quadro é mais sombrio do que uma falta de criatividade pouco inspiradora. Os meios pelos quais tal força bruta em dados e computação foi adquirida envolveu rouboa exploração de pessoas vulneráveis, uma uso feroz de recursos naturais e construindo um arquitetura de vigilância em massapara citar apenas alguns pecados.

Podemos estar a séculos de distância dos oráculos e astrólogos que antecederam os algoritmos, mas a previsão ainda é principalmente uma questão de poder. Poder é como você obtém algoritmos preditivos, e mais poder é o que eles concedem em troca.

Da Profecia: Predição, Poder e a Luta pelo Futuro, dos Antigos Oráculos à IA por Carissa Véliz. Reimpresso com permissão da Doubleday, uma marca do Knopf Doubleday Publishing Group, uma divisão da Penguin Random House LLC. Copyright © 2026 de Carissa Véliz.



fonte

DEIXE UMA RESPOSTA

Por favor digite seu comentário!
Por favor, digite seu nome aqui