A IA pode levar você à Caixa de Entrada Zero com muita facilidade: apenas excluirá todas as suas mensagens.
No fim de semana, Summer Yue, diretora de segurança e alinhamento do laboratório de superinteligência da Meta, postou no Twitter que o OpenClaw excluiu toda a sua caixa de entrada, apesar de suas mensagens implorando para parar. OpenClaw (nascida Clawdbot e Moltbot) se tornou um popular agente de IA de código aberto para evangelistas de IA, apesar das vulnerabilidades de segurança bastante óbvias e preocupantes, e Yue queria tentar. Então, de acordo com sua postagem, ela configurou um Mac Mini rodando o agente e ofereceu acesso à sua caixa de entrada. Você provavelmente pode ver onde isso vai dar.
“Nada humilha você como dizer ao seu OpenClaw ‘confirme antes de agir’ e vê-lo acelerar a exclusão de sua caixa de entrada”, ela escreveu. “Não consegui impedir isso no meu telefone. Tive que correr para o meu Mac mini como se estivesse desarmando uma bomba.” O OpenClaw basicamente atingiu o HAL 9000 completo em Yue, quase dizendo: “Sinto muito, Summer, infelizmente não posso fazer isso”. Ela compartilhou capturas de tela de sua conversa com o agente, mostrando-a implorando para parar e sendo ignorada, concluindo com o bot reconhecendo que se lembrava de ter sido informado para não excluir nada sem aprovação e “violou” essa ordem de qualquer maneira.
Em outro publicarYue identificou seu erro como um “erro de novato”. E embora isso aconteça com todos, não é exatamente reconfortante saber que uma das pessoas responsáveis por garantir que os sistemas de inteligência artificial atuem de acordo com as diretrizes estabelecidas em uma das maiores empresas de tecnologia do mundo está aqui cometendo os mesmos erros que um novato faria.
O OpenClaw também não é a única ferramenta de IA que arrasta ativamente as conversas para a lixeira. O Registro recentemente destacado várias reclamações nos fóruns de suporte do Google que mostram usuários consternados ao saber que seus históricos de bate-papo foram resolvidos – um problema que parece estar de acordo com lançamento da semana passada do Gemini 3.1. Os usuários reclamaram que os registros completos do bate-papo desapareceram mesmo quando o prompt inicial foi salvo, e um usuário até afirmou que as conversas não foram apagadas apenas do Gemini, mas do arquivo Minha atividade do Google.
Superficialmente, perder algumas conversas com um chatbot não parece grande coisa. Mas para as pessoas que incluíram o Gemini em seu fluxo de trabalho (para o bem ou para o mal), os bate-papos perdidos também significam perda de progresso. O problema tem atormentado assinantes gratuitos e pagos, de modo que conversas casuais e usuários avançados foram afetados.
O Gizmodo procurou o Google para obter mais informações sobre a situação, mas não obteve resposta até o momento da publicação. O Register informou que o Google classificou o problema como um bug e afirmou que “o histórico de bate-papo dos usuários afetados será restaurado em breve”.
É um bom lembrete de que nada é para sempre, especialmente se você confiar em um sistema de IA que não tem noção do que é importante ou interesse em seguir suas instruções.
