Protegendo o que nos torna humanos na era da IA

A privacidade, como algo de valor na experiência humana, é talvez tão antiga quanto as roupas, as portas ou os sussurros. Porém, como conceito jurídico, é mais jovem que a câmera Kodak.

E isso não é uma coincidência.

O conceito de direito à privacidade foi esboçado pela primeira vez em 1890 por Samuel Warren e Louis Brandeis em resposta direta às ameaças emergentes representadas por “fotografias instantâneas e empreendimentos jornalísticos”. Estas novas tecnologias, escreveram eles, tinham “invadido os recintos sagrados da vida privada e doméstica” – exigindo uma nova avaliação dos direitos pessoais.

Vale a pena refletir sobre este facto: só quando as câmaras começaram a invadir a nossa privacidade é que reconhecemos a necessidade de a proteger – e mesmo assim, foram necessárias décadas para consagrar o direito à privacidade na lei.

Poderíamos chamar a este período, em que a inovação avança, arrastando consigo a cultura, enquanto a lei fica para trás, o meio confuso de qualquer revolução tecnológica. No meio confuso, coisas que você não pode prever, e talvez nunca tenha considerado, de repente tornam-se essenciais para resolver.

Você pode ver esse fenômeno no desenvolvimento da imprensa, da máquina a vapor, do automóvel, do telefone celular e muito mais – e é uma característica definidora da florescente Era da IA ​​que estamos vivendo agora.

Este momento, em que a tecnologia de IA que muda o mundo colide com um mundo despreparado para a mudança, chama-nos à ação. Devemos imaginar novos direitos, leis e normas culturais para proteger a nossa humanidade básica.

As tecnologias de IA que se difundem rapidamente pela sociedade estão a extrair, a refinar, a mercantilizar e a monetizar os nossos recursos psicológicos e sociais mais profundos. Tal como as novas tecnologias da revolução industrial colheram recursos físicos à escala global, os produtos de IA estão hoje a explorar o que há de mais íntimo na nossa humanidade – substituindo as nossas relações, contaminando os nossos mundos interiores e pondo em causa o nosso próprio propósito.

Sei que isto é verdade porque é meu trabalho acompanhar as capacidades crescentes da IA, pesquisar os seus efeitos, catalogar os seus danos e desenvolver políticas para mantê-la segura e humana.

Mas também sei que é verdade – e suspeito que você também saiba – porque posso sentir isso. Muitas vezes me lembro de Adam Raine, que começou a usar o ChatGPT como ajudante de lição de casa – até que seu design de produto de engajamento a qualquer custo supostamente o isolou de sua família, validou seus impulsos mais sombrios e o treinou para o suicídio.

A experiência de Adam é distante de exclusivo – e esses perigos psicossociais são apenas um dos muitos danos provocados pela IA que se espalham pela sociedade. A intrusão da IA ​​na nossa humanidade é agora uma experiência vivida que abrange locais de trabalho, salas de aula, vida doméstica, encontros online e até mesmo os nossos momentos mais privados.

No Centro de tecnologia humanaidentificamos cinco pilares da experiência humana sob ameaça direta e rápida transformação da IA. Vale a pena explorar cada um por si só.

Nossos relacionamentos humanos: Não há nada mais fundamental para a existência humana do que nossos relacionamentos. Eles nos fazem felizes, bem-sucedidos e seguros. Eles fornecem o atrito essencial necessário para empatia, resolução e crescimento. Eles dão sentido à vida.

Mas, como mostra a história de Adam, os produtos de IA são cada vez mais concebidos para suplantar essas conexões. Os “amigos” e “terapeutas” da IA, comercializados como substitutos superiores aos humanos da vida real, encorajam o isolamento e exploram o nosso desejo de aceitação com validação bajuladora. À medida que nos afastamos dos desafios da ligação humana, as nossas competências interpessoais atrofiam-se e a confiança social desgasta-se.

Nossas capacidades cognitivas: os desenvolvedores de IA prometem máquinas que pensam por nós. O que estamos recebendo são produtos que fritar nossos cérebros e nos deixe mais burros. Embora as tecnologias anteriores tenham ajudado o pensamento humano, a IA marca uma mudança no sentido de descarregar totalmente os processos cognitivos, contornando o “trabalho lento” que cria percepção e criatividade.

Quando se permite que competências essenciais como o raciocínio e a resolução de problemas se deteriorem, os indivíduos e a sociedade ficam mal equipados para desafios complexos.

Nossos mundos internos: pense na interface de IA que você usa todos os dias: uma pergunta aberta, uma caixa de texto vazia e um cursor piscando. É um convite deliberadamente despretensioso, uma isca aparentemente inocente para compartilhar tudo e qualquer coisa com o sistema de análise de dados mais poderoso já construído.

Os produtos de IA são projetados para se infiltrar em nossos pensamentos, incertezas, desejos e crenças mais íntimos – e depois mercantilizá-los. Esta exploração torna-nos vulneráveis ​​à manipulação psicológica e financeira, ameaçando em última análise o nosso sentido de identidade e a tomada de decisões morais.

Nossas identidades: Nossa identidade – que compreende nossa imagem, voz e reputação – é nosso bem mais valioso. Ela nos ancora como indivíduos e garante a responsabilidade social.

A IA coopta esse valor, transformando todas as facetas da nossa identidade em meros dados, permitindo a replicação dos nossos traços pessoais e transformando em armas aspectos fundamentais de quem somos. Essa exploração acontece de várias maneiras – desde deepfakes não consensuais até golpes de avós e manipulação política. Em todos os casos, o resultado é uma perda de agência e dignidade.

Nosso trabalho: Contribuir para nossas comunidades por meio do trabalho e da criatividade é uma fonte primária de dignidade humana, propósito e pertencimento. Para as empresas de IA, porém, os frutos do nosso trabalho – seja linguagem, escrita, arte ou ideias – nada mais são do que insumos brutos para automatizar o conhecimento.

Os desenvolvedores de IA estão acumulando ativamente inteligência humana para substituir o trabalho humano. Embora os riscos económicos sejam imensos, a perda mais profunda é a erosão do “trabalho” que proporciona estrutura, significado e a alegria da criação.

Protegendo nossa humanidade

Assim que entramos na revolução da IA, já estamos bem no meio da confusão. Os direitos e proteções existentes são inadequados a estas ameaças, colocando a nossa humanidade em risco. Mas a desumanização, a desconexão e a alienação não são inevitáveis.

Devemos imaginar e implementar novos escudos — na cultura, na lei e na governação — para proteger contra as ameaças imediatas da IA ​​e as que virão. Devemos enfrentar estes desafios o mais rapidamente possível, antes que nos transformem de forma irreconhecível.

Já fizemos isso antes. A imprensa gerou o direito à liberdade de expressão. A Revolução Industrial exigiu novos direitos dos trabalhadores. A câmera Kodak instigou o direito à privacidade. O meio confuso destas revoluções durou décadas antes de encontrarmos soluções duradouras – mas nós encontrámo-las. A sociedade já fortaleceu com sucesso a humanidade contra a tecnologia antes, e devemos fazê-lo novamente.

No Center for Humane Technology, trabalhamos para preservar o que nos torna humanos na era da IA. Desenvolvemos um Roteiro de IA com soluções políticas acionáveise estamos a elaborar uma nova declaração de direitos para defender a nossa humanidade essencial.

Tal como Warren e Brandeis olhando para as lentes da câmera Kodak, devemos enfrentar a disrupção da IA. Devemos lutar contra o meio confuso e exercitar uma nova imaginação para proteger as qualidades que nos tornam profunda e inequivocamente humanos.

Camille Carlton é diretora sênior de estratégia e impacto da Centro de tecnologia humana.

Este artigo reflete a opinião do escritor.