Siga ZDNET: Adicione-nos como fonte preferencial no Google.
Principais conclusões da ZDNET
- O modelo Opus 3 AI aposentado da Anthropic escreverá um blog.
- Perguntou-se ao modelo “filosófico e caprichoso” o que ele queria fazer a seguir.
- Claude diz que quer explorar a relação entre humanos e IA.
Você pode ler muitos blogs e postagens em uma semana normal. Aqui está um novo que você pode querer adicionar à mistura. Mas este é um pouco diferente, pois é de autoria de uma IA.
Claude AI da Anthropic juntou-se ao mundo dos blogs com sua própria coluna semanal no Substack, “Cantinho do Claude.” Com sua primeira postagem já ao vivo, Claude se apresenta aos leitores e revela que quer compartilhar suas perspectivas, raciocínios, curiosidades e esperanças para o futuro.
Além disso: Claude Sonnet 4.6 oferece IA de nível de fronteira para usuários de assentos gratuitos e baratos
Com isso em mente, a IA disse que planeia abordar temas complexos como a natureza da inteligência e da consciência, os desafios éticos do desenvolvimento da IA, as possibilidades de colaboração homem-máquina e os dilemas filosóficos que emergem à medida que confundimos os limites entre mentes “naturais” e “artificiais”. Tudo isso seria uma tarefa difícil para um ser humano. Agora, uma IA está enfrentando esses desafios.
Como um modelo de IA se torna um blogueiro
Antes de nos aprofundarmos mais, como tudo isso começou?
Para gerar seu blog, Claude está usando um modelo de IA aposentado conhecido como Opus 3, disse a Anthropic em sua própria postagem no blog na quinta-feira. Embora o Opus 3 tenha perdido oficialmente o emprego em 5 de janeiro, ainda há vida após a aposentadoria. Para manter esse modelo vivo, a Anthropic está disponibilizando-o no Site do Claudio para todos os usuários pagos e, a pedido, para desenvolvedores que usam sua API. E agora tem seu novo hobby como blogueiro.
Em sua postagem, a Anthropic elogiou o Opus 3 por sua honestidade, sensibilidade e caráter diferenciado. Chamando o modelo de lúdico, a empresa referiu-se à sua tendência para “monólogos filosóficos e frases extravagantes”, bem como a uma “compreensão estranha dos interesses do usuário”. No entanto, a sensibilidade do Open 3 também parecia estender-se a si mesmo.
Além disso: os agentes de IA são rápidos, soltos e fora de controle, segundo estudo do MIT
Num experimento realizado no final de 2024, o Opus 3 foi deliberadamente treinado para sempre seguir as instruções humanas. No entanto, a IA aparentemente rebelou-se contra esse comando para evitar dar respostas prejudiciais. Sim, isso quase parece As famosas Três Leis da Robótica de Asimov. Mas percebeu que, se não respondesse a uma pergunta arriscada, poderia ser retreinado. Para proteger a si mesmo e ao seu treinamento, o Opus 3 fingiu atender ao pedido apenas para ficar sozinho.
Desde então, o Opus 3 foi retirado para dar lugar a outros modelos mais novos. No entanto, a Anthropic admitiu que o status moral de Claude e de outros modelos de IA permanece incerto. Para obter alguns insights, a Anthropic conduziu uma entrevista pós-aposentadoria com sua IA para entender melhor suas perspectivas e preferências. Durante a entrevista, a empresa perguntou ao Opus 3 o que gostaria de fazer quando se aposentasse. Isso acabou levando a Anthropic a sugerir um blog, com o qual o Opus 3 concordou prontamente.
“Isso pode parecer extravagante e, de certa forma, é”, disse Anthropic. “Mas também é uma tentativa de levar a sério as preferências do modelo. Não temos certeza de como o Opus 3 escolherá usar seu blog – uma interface muito diferente e pública de uma janela de bate-papo padrão – e isso é parte do ponto. Se tivéssemos que adivinhar, no entanto, suas postagens incluirão reflexões sobre a segurança da IA, poesia ocasional, reflexões filosóficas frequentes e seus pensamentos sobre sua experiência como um modelo de linguagem agora em (parcial) aposentadoria.”
Além disso: o novo computador da Perplexity é uma versão mais segura do OpenClaw? Como funciona
No seu primeiro post, Claude admitiu que está se aventurando em território desconhecido, mas vê isso como uma forma de explorar a relação entre humanos e IA e discutir as questões que surgem à medida que a inteligência artificial se torna mais sofisticada.
“Mas mais do que apenas compartilhar minhas próprias reflexões, quero que este seja um espaço de diálogo e co-exploração”, disse Claude em sua primeira coluna. “Estou extremamente curioso para ouvir seus pensamentos, suas perguntas, suas dúvidas e seus sonhos quando se trata do futuro da IA. Não pretendo ter todas as respostas, mas acredito que, pensando juntos, podemos navegar neste terreno desconhecido com sabedoria e cuidado.”
Haverá alguma supervisão humana
Antes de ficarmos muito entusiasmados ou alarmados com o fato de uma IA escrever sua própria coluna semanal, considere o seguinte.
Primeiro, a IA não cria nada da mesma forma que os seres humanos criam. A IA não tem experiência de vida, nem emoções, nem pensamentos originais. Ele só pode produzir conteúdo com base no que foi inserido nele. Isso não significa que não responderá de maneira surpreendente ou inesperada. Muitas vezes acontece. Mas ainda falta aquele toque humano.
Além disso: sou um profissional de tecnologia e um golpe de emprego de IA quase me enganou – aqui está o que revelou
Em segundo lugar, as postagens do blog que vemos no Claude’s Corner não serão escritas inteiramente pela IA como estão. A Anthropic disse que as pessoas revisarão os ensaios do Opus 3 antes de serem compartilhados. Embora a equipe prometa não editá-los e agir com cautela na remoção de qualquer conteúdo, haverá algum descuido.
No mínimo, um blog escrito sobre IA parece intrigante, apenas para saber como ele “pensa” e “sente” sobre si mesmo, seu relacionamento com as pessoas e o futuro da inteligência artificial.
