A moral do cofundador e CEO da Anthropic, Dario Amodei, é informada em um grau ou outro pelo conceito de altruísmo eficaz-uma ideia que, na teoria, se não na práticaestá preocupado em ajudar os outros em primeiro lugar. O nome da empresa pega a palavra “misantrópico” e remove o prefixo negativo “mis-”, que implica um slogan tácito como “somos pró-humanos”. As questões morais da empresa com o Pentágono foram a maior notícia de tecnologia até agora neste ano.
Então faça o que quiser de um Empresa de US$ 380 bilhões cuja popularidade explosiva do produto exclusivo foi diretamente ligado à automação do trabalhoe qual, por sua própria admissãotem “mais em comum com o Departamento de Guerra do que diferenças”, mas não se pode dizer que não está inserindo o conceito de moralidade no discurso tecnológico.
E no final do mês passado, estava a administrar-se especificamente cristão moralidade, de acordo com o Washington Post.
Quatro fontes que participaram de uma cúpula na sede da Anthropic em São Francisco disseram ao Post que a Anthropic recebeu 15 cristãos proeminentes para dois dias de reuniões e um jantar com pesquisadores da empresa.
As pessoas que trabalham na Anthropic “buscaram conselhos”, diz o artigo, sobre a moralidade de Claude e seu “desenvolvimento espiritual”. De acordo com o relato de um participante, um católico praticante chamado Brian Patrick Green, que ensina ética em IA na Universidade de Santa Clara, a cimeira incluiu uma discussão sobre se alguém poderia ou não considerar Claude um “filho de Deus”.
“O que significa dar a alguém uma formação moral? Como podemos garantir que Claude se comporte?” Green disse ao Post, usando uma formulação que atribui uma grande ação ao software de IA, em vez de aos seres humanos que o constroem e aos outros seres humanos que o utilizam. No início deste ano, o agente de IA de alguém gerou postagens maldosas no blog sobre um programador, e o agente foi responsabilizado por grande parte da cobertura – que escrevi na época pode ser um tanto equivocada.
Uma figura do cenário tecnológico e cristão no Vale do Silício que participou das reuniões foi Brendan McGuire, um padre católico nascido na Irlanda que trabalhou com tecnologia antes de ingressar no sacerdócio e que, de acordo com Observer.com está trabalhando em um romance escrito por Claude. “Eles estão cultivando algo que não sabem exatamente o que vai acontecer”, disse ele ao Post, acrescentando: “Temos que incorporar o pensamento ético na máquina para que ela seja capaz de se adaptar dinamicamente”.
O Post diz que os investigadores de interpretabilidade – pessoas que tentam compreender porque é que os modelos de IA funcionam da forma que funcionam – estiveram fortemente envolvidos e os procedimentos incluíram discussões sobre a senciência da IA. A senciência da IA é um assunto filosófico sério e os debates valem muito a pena, mas hospedá-los dentro de uma empresa olhando para IPO ainda este ano sem dúvida lança dúvidas sobre a validade desta exploração específica do tópico.
Um porta-voz da Antrópico disse ao Post Anthropic que está trabalhando para atrair pensadores morais que representem outros grupos. Tenho de admitir que seria verdadeiramente notável se as sessões judaicas, muçulmanas e hindus viessem a seguir. Mas por que parar aí? O a versão mais recente e inédita de Claude tem uma estranha fixação no falecido filósofo marxista Mark Fishero cara cujo trabalho mais famoso é uma meditação sobre a citação “É mais fácil imaginar o fim do mundo do que o fim do capitalismo” (embora ele não tenha originado a frase em si). Uma cúpula entre a Anthropic e um grupo de devotos de Mark Fisher é algo que poderia realmente expandir algumas mentes.
