O Blake Lemoine O incidente é lembrado hoje como o ponto alto do hype da IA. Lançou toda a ideia de IA consciente à consciência pública durante um ou dois ciclos de notícias, mas também lançou uma conversa, tanto entre cientistas da computação como entre investigadores da consciência, que só se intensificou nos anos seguintes. Embora a comunidade tecnológica continue a menosprezar publicamente toda a ideia (e o pobre Lemoine), em privado começou a levar a possibilidade muito mais a sério. Uma IA consciente pode carecer de uma lógica comercial clara (como monetizar a coisa?) e criar dilemas morais complicados (como devemos tratar uma máquina capaz de sofrer?). No entanto, alguns engenheiros de IA passaram a pensar que o Santo Graal da inteligência artificial geral – uma máquina que não é apenas superinteligente, mas também dotada de um nível humano de compreensão, criatividade e bom senso – pode exigir algo como a consciência para ser alcançado. Na comunidade tecnológica, o que era um tabu informal em torno da IA consciente – como uma perspectiva que o público consideraria assustadora – começou subitamente a desmoronar-se.
O ponto de viragem ocorreu no verão de 2023, quando um grupo de 19 importantes cientistas da computação e filósofos publicou um relatório de 88 páginas intitulado “Consciência em Inteligência Artificial”, informalmente conhecido como relatório Butlin. Em poucos dias, parecia que todos na comunidade científica de IA e consciência o tinham lido. O resumo do relatório preliminar oferecia esta frase impressionante: “Nossa análise sugere que nenhum sistema de IA atual é consciente, mas também sugere que não há barreiras óbvias para a construção de sistemas de IA conscientes.”
Os autores reconheceram que parte da inspiração por trás da convocação do grupo e da redação do relatório foi “o caso de Blake Lemoine”. “Se as IAs podem dar a impressão de consciência”, um coautor disse à revista Science“isso torna uma prioridade urgente a opinião de cientistas e filósofos”.
Mas o que chamou a atenção de todos foi aquela única afirmação no resumo do preprint: “não há barreiras óbvias para a construção de sistemas de IA conscientes”. Quando li essas palavras pela primeira vez, senti como se algum limiar importante tivesse sido ultrapassado, e não era apenas tecnológico. Não, isso tinha a ver com a nossa própria identidade como espécie.
O que significaria para a humanidade descobrir um dia, num futuro não tão distante, que uma máquina totalmente consciente veio ao mundo? Suponho que seria um momento copernicano, desalojando abruptamente o nosso sentido de centralidade e especialismo. Nós, humanos, passamos alguns milhares de anos nos definindo em oposição aos animais “inferiores”. Isto implicou negar aos animais características supostamente exclusivamente humanas como os sentimentos (um dos erros mais flagrantes de Descartes), a linguagem, a razão e a consciência. Nos últimos anos, a maioria destas distinções desintegrou-se à medida que os cientistas demonstraram que muitas espécies são inteligentes e conscientes, têm sentimentos e utilizam linguagem e ferramentas, desafiando, no processo, séculos de excepcionalismo humano. Esta mudança, ainda em curso, levantou questões espinhosas sobre a nossa identidade, bem como sobre as nossas obrigações morais para com outras espécies.
Com a IA, a ameaça à nossa elevada autoconcepção vem de outro lado. Agora nós, humanos, teremos que nos definir em relação às IAs e não a outros animais. À medida que os algoritmos de computador nos ultrapassam em termos de capacidade intelectual – vencendo-nos facilmente em jogos como o xadrez e o Go e em várias formas de pensamento “superior” como a matemática – podemos pelo menos consolar-nos com o facto de que nós (e muitas outras espécies animais) ainda temos para nós próprios as bênçãos e os fardos da consciência, a capacidade de sentir e ter experiências subjectivas. Neste sentido, a IA pode servir como um adversário comum, aproximando os humanos e outros animais: nós contra ela, os vivos contra as máquinas. Esta nova solidariedade daria uma história comovente e poderia ser uma boa notícia para os animais convidados a juntar-se à Team Conscious. Mas o que acontecerá se a IA começar a desafiar o monopólio humano – ou animal, devo dizer – da consciência? Quem seremos então?
