Adicione a Meta à lista de empresas que tiveram a IA causando estragos em seus sistemas internos. De acordo com um relatório do The Information, um agente de IA, trabalhando em nome de um engenheiro, forneceu orientações que levaram à exposição de dados confidenciais do usuário a pessoas que não estavam autorizadas a vê-los.
Como costuma acontecer nessas situações, como aquela que levou um agente de IA a excluir código crítico e desligar um servidor na Amazon, a autópsia parece uma comédia de erros. Por A informaçãotudo começou com um funcionário da Meta fazendo uma pergunta técnica em um fórum interno projetado para que os funcionários ajudassem uns aos outros quando surgissem problemas. Um engenheiro viu a pergunta e pediu a um agente de IA que analisasse, o que resultou no agente postar uma resposta como engenheiro. O autor da postagem original viu a orientação e, pensando que vinha de um colega funcionário da Meta, decidiu agir de acordo.
Acontece que o agente de IA não sabia bem do que estava falando. Quando o funcionário seguiu seu conselho, ele supostamente disponibilizou uma enorme quantidade de dados, incluindo informações confidenciais da empresa e do usuário, para funcionários da Meta que não tinham autorização para visualizá-los ou acessá-los. A exposição durou cerca de duas horas antes de ser corrigida.
Não é a primeira vez que alguém na Meta confia demais em um agente de IA. No início deste ano, Summer Yue, diretora de segurança e alinhamento do laboratório de superinteligência da Meta, entregou ao agente de IA de código aberto OpenClaw acesso à sua caixa de entrada. Acabou excluindo todos os seus e-mails, mesmo quando ela implorou para parar.
Talvez seja por isso que Meta está procurando fora de seus próprios muros alguém para ajudar com a segurança. A Wired relata que Moxie Marlinspike a pessoa por trás do Signal e seu protocolo de criptografia de código aberto está trabalhando com Meta para trazer criptografia ponta a ponta para seus chatbots de IA.
Marlinspike está trabalhando em um chatbot criptografado chamado Confer e supostamente ajudará a Meta a integrar a tecnologia em suas próprias ofertas de IA – embora sua plataforma continue a operar de forma independente, então não parece que ele ingressará na empresa.
“Estamos usando LLMs para o tipo de pensamento não filtrado que poderíamos ter em um diário privado – exceto que este diário é um endpoint de API para um pipeline de dados projetado especificamente para extrair significado e contexto”, ele escreveu em uma postagem no blog. “À medida que a Meta constrói mais produtos de IA além do paradigma básico de chat, a tecnologia de privacidade da Confer será parte da base de tudo o que está por vir.”
