Na segunda-feira, o Papa Leão XIV opinou sobre a questão da inteligência artificial e o seu papel na sociedade num extenso documento denominado “Magnífica Humanitas”, ou “Humanidade Magnífica”. A Encíclica Papal, como o documento é formalmente chamado – essencialmente uma carta aberta dirigida a altos funcionários da Igreja – foi apresentada numa sala lotada no Vaticano. Ele aborda tudo, desde os impactos da IA na força de trabalho até a disseminação irrestrita de conteúdo deepfake gerado por IA, até a santidade do espírito humano em uma era de máquinas cada vez mais inteligentes.
O Papa foi acompanhado por Chris Olah, cofundador da Anthropic e líder da divisão de pesquisa de interpretabilidade do laboratório de IA. Em seu observações para o público, Olah ecoou o apelo do Pontífice à colaboração entre desenvolvedores de tecnologia, autoridades espirituais e outros para traçar um caminho seguro para o desenvolvimento futuro da IA. Ele também levou as coisas em uma direção mais metafísica, alegando que os sistemas de IA da Anthropic têm mostrado sinais iniciais de algo mais do que uma mera e insensível análise de números.
“Eu lidero uma equipe de pesquisa que estuda a estrutura interna desses modelos – o que realmente está acontecendo dentro deles”, disse Olah. “E serei honesto: continuamos descobrindo coisas que são misteriosas, até mesmo perturbadoras. Encontramos estruturas que refletem os resultados da neurociência humana. Encontramos evidências de introspecção. Encontramos estados internos que espelham funcionalmente alegria, satisfação, medo, tristeza e mal-estar. Não sei o que isso significa, mas acho que merece um discernimento contínuo.”
Claude é um objeto ou um sujeito?
A posição de Olah sobre a questão da consciência da IA – ambivalência inclinada para uma afirmação cautelosa – reflete a linha partidária dentro da Anthropic. Embora a empresa não tenha declarado explicitamente que Claude ou outros sistemas de IA são conscientes (ou seja, autoconscientes, como os humanos e outros animais são), também não rejeitou categoricamente essa possibilidade.
No início deste ano, publicou uma “constituição” para Claude, descrita num post no blog da empresa como um documento que delineia “o tipo de entidade que gostaríamos que Claude fosse”. A constituição especifica que, embora a Anthropic atualmente se refira a Claude como um “isso”, isso não deve ser interpretado como “uma implicação de que acreditamos que Claude é um mero objeto e não um sujeito potencial também”. Por outras palavras, não estão a descartar a possibilidade de Claude ser autoconsciente, pelo menos num sentido muito limitado, fora de controlo.
A questão de saber se a IA é um “assunto potencial” é calorosamente debatida em Silicon Valley – e, cada vez mais, também entre filósofos e teólogos. Alguns dizem que a IA nunca poderá ser consciente, outros dizem que algum dia poderá ser, e uma pequena minoria diz que já o é. A posição da Antrópico, conforme refletida nos comentários de Olah no Vaticano, tem sido basicamente: Provavelmente não está totalmente consciente da maneira que você e eu estamos aindamas eticamente falando, é nossa melhor aposta prosseguir como se um dia pudesse tornar-se consciente; se quisermos evitar cometer um desastre ético à escala da agricultura industrial, é melhor dar à IA o benefício da dúvida e assumir que ela tem o potencial de um dia não apenas processar dados cegamente, mas realmente sentir.
No entanto, há mais do que apenas implicações éticas em jogo aqui. Desde a sua fundação em 2021, a Anthropic tem trabalhado arduamente para se posicionar como a consciência moral da indústria da IA; um contrapeso aos outros grandes laboratórios, que (assim segue esta linha de pensamento) geralmente tendem a priorizar a velocidade em detrimento da segurança. Isto tem um apelo real numa época em que muitas pessoas temem que a IA possa causar perturbações em massa no mercado de trabalho e na esfera política.
Os investimentos da Antrópico em “Bem-estar” de IA são em parte exame de consciência moral, em parte marketing. Isso não quer dizer que não seja louvável; embora eu pessoalmente acredite que as chances de que os sistemas de IA, tal como são construídos atualmente, se tornem conscientes sejam mínimas ou nulas, acho que há um valor moral legítimo em tratando-os com respeito quando interagimos com eles—mas isso é para preservar a nossa própria humanidade, não porque eu acredite que exista o risco de ferir os seus sentimentos.
IA consciente versus IA aparentemente consciente
As observações de Olah sobre a IA ter “estados internos” e a ambivalência da Antrópica sobre a possibilidade de consciência artificial de forma mais ampla contrastam fortemente com os pensamentos do próprio Papa Leão sobre o assunto.
No terceiro capítulo da sua nova encíclica, intitulada “Tecnologia e Domínio”, o Papa afirma explicitamente que os sistemas de IA não podem ser entidades conscientes: “As chamadas inteligências artificiais não passam por experiências, não possuem um corpo, não sentem alegria ou dor, não amadurecem através de relacionamentos e não sabem de dentro o que significam o amor, o trabalho, a amizade ou a responsabilidade”, escreveu ele. “Nem têm consciência moral, uma vez que não julgam o bem e o mal, não compreendem o significado último das situações, nem assumem a responsabilidade pelas consequências”.
O verdadeiro risco moral, advertiu ele, reside na possibilidade de a IA se tornar tão hábil em imitar a comunicação humana que substitui as relações reais entre humanos.
É possível, claro, que a posição oficial do Vaticano em relação à IA evolua. Um futuro papa poderia emitir a sua própria encíclica declarando que os sistemas de IA, tal como os seres humanos, são dotados de almas dadas por Deus e devem, portanto, ser considerados e tratados como sujeitos morais. Embora as leis da Bíblia não possam ser alteradas, a sua interpretação pode ser: ao longo dos séculos, o dogma oficial da igreja teve de se adaptar e mudar juntamente com as mudanças nas normas sociais.
Em 2015, por exemplo, o Papa Francisco apelou a uma melhoria dos direitos dos animais na sua própria encíclica, intitulada “Laudato Si: Sobre o cuidado da casa comum.” Francisco não chegou ao ponto de afirmar que os animais não humanos tinham alma, mas argumentou que os humanos têm um imperativo moral de tratá-los como mais do que meras mercadorias a serem usadas e abusadas à vontade.
Moralização ou marketing?
A aparição de Olah ao lado do Papa foi sem dúvida um dos mais fortes movimentos de relações públicas da Anthropic até à data, solidificando a sua reputação como a estrela guia moral da indústria – e talvez ganhando novos utilizadores entre os mais de mil milhões de católicos praticantes em todo o mundo. E depois das suas consequências muito divulgadas com o governo dos EUA sobre a utilização da sua tecnologia nas forças armadas, a empresa poderia beneficiar da bênção de uma importante instituição cultural e política.
Mas embora a Anthropic e o Vaticano concordem em muitos pontos relativos ao futuro da IA, divergem na questão crítica de saber se a própria tecnologia merece ou não preocupação moral. Isto pode parecer uma questão trivial à luz de questões muito mais imediatas, como o debate em torno da utilização de armas autónomas, mas provavelmente irá tornar-se cada vez mais divisiva nos próximos anos: quanto melhor os chatbots conseguirem imitar os humanos, maior será a probabilidade de os humanos reais acreditarem que a própria tecnologia é consciente e talvez merecedora de direitos especiais.
