Na sua encíclica “Magnifica Humanitas” (Humanidade Magnífica) publicada hoje, o Papa Leão XIV adverte que a inteligência artificial “ameaça normalizar uma visão anti-humana” e adverte fortemente contra a concentração da nova tecnologia nas mãos de poucos.
Na primeira frase da encíclica, o Papa escreve: “A humanidade, criada por Deus em toda a sua grandeza, enfrenta hoje uma escolha crucial: ou construir uma nova Torre de Babel ou construir a cidade na qual Deus e a humanidade habitam juntos”.
“Uma IA mais moral não é suficiente se essa moralidade for determinada por poucos”, escreve o Papa, enquanto o pontífice apela a “um código ético sujeito a padrões partilhados de justiça social”.
O Papa escreve: “Não basta invocar a ética em abstrato; são necessários quadros jurídicos robustos, supervisão independente, utilizadores informados e um sistema político que não abdique da sua responsabilidade. Uma IA mais moral não é suficiente se essa moralidade for determinada por poucos”.
O Papa Leão foi acompanhado hoje no Vaticano por Christopher Olah, co-fundador da empresa de IA Anthropic, que disse: “Precisamos que mais pessoas do mundo – comunidades religiosas, sociedade civil, académicos, governos – façam o que Sua Santidade fez aqui: levar isto a sério, olhar de perto e levar os acontecimentos numa direcção melhor. Precisamos de vozes morais que os incentivos não possam dobrar”.
Leia a encíclica completa abaixo.
Especificamente, o Papa apela à clareza no que diz respeito às responsabilidades e responsabilização “em todas as fases do processo de desenvolvimento” das políticas e quadros jurídicos de IA, supervisão independente e educação dos utilizadores.
“O que é necessário é um envolvimento político mais activo, capaz de abrandar as coisas quando tudo está a acelerar”, escreve Leo no texto, acrescentando que o impacto ambiental das novas tecnologias não deve ser esquecido “uma vez que requerem grandes quantidades de energia e água, afectando a Criação”.
A carta encíclica já está a ser interpretada por muitos como uma réplica clara e concisa ao Vale do Silício sobre o futuro da civilização. A IA, observa o Papa Leão, deve ser “desarmada” para ser libertada da mentalidade de competição militar, económica e cognitiva.
“Desarmar significa desacreditar a suposição de que o poder técnico confere automaticamente o direito de governar”, escreve ele. “Desarmar não significa rejeitar a tecnologia, mas impedir que ela domine a humanidade.”
“A humanidade – em toda a sua grandeza e feridas – nunca deve ser substituída ou superada”, escreve ele, embora reconhecendo que a tecnologia pode aliviar os sofrimentos da humanidade e abrir novas possibilidades, mas não deve negar a essência da humanidade, que é a nossa “capacidade de relacionamento e amor”.
“A verdadeira alternativa não está entre o entusiasmo e o medo”, diz o Papa sobre a IA, “mas entre dois caminhos de desenvolvimento: um progresso que sirva os indivíduos e os povos, ou um progresso que os submeta à mentalidade do poder”.
