Siga ZDNET: Adicione-nos como fonte preferencial no Google.
Principais conclusões da ZDNET
- A Cisco diz que DefenseClaw é a supervisão que está faltando na IA de agência.
- DefenseClaw bloqueará automaticamente algumas operações de agente.
- A Cisco entra em um campo lotado de empresas de segurança que oferecem supervisão de agentes.
A inteligência artificial agente, do tipo que monitora automaticamente seus e-mails ou reserva seus voos, tem sido uma sensação da noite para o dia, capturando a imaginação, mas também apresentando enormes riscos de segurança.
Uma reação natural dos fornecedores de software empresarial é ajudar os “bons” agentes e bloquear os “maus” agentes.
E, assim, na segunda-feira, a gigante de redes e segurança Cisco Systems revelou o DefenseClaw, uma brincadeira com o nome da estrutura de IA agente de código aberto OpenClaw que ganhou popularidade em janeiro.
Também: Agentes de IA do caos? Nova pesquisa mostra como bots conversando com bots podem ir para o lado rapidamente
DefenseClaw é a “camada operacional” para segurança de agentes que está faltando, de acordo com o chefe de software de IA da Cisco, DJ Sampath. É uma ferramenta de supervisão que “manterá uma garra governada”, escreveu ele. em uma postagem de blog. “Isso é zero para garra governada em menos de cinco minutos.”
DefenseClaw será postado no GitHub a partir de 27 de março, disse Sampath.
Governe as garras
Anunciado na feira anual de segurança RSA em São Francisco esta semana, o DefenseClaw tem como objetivo resolver a falta de projetos de agentes entrando em produção, de acordo com a Cisco.
Apenas 5% da IA corporativa passou dos testes para a produção, de acordo com uma pesquisa de “grandes clientes empresariais” que a Cisco afirmou ter conduzido recentemente.
Sampath enfatizou que o OpenClaw está rapidamente se tornando o mordomo de todo nerd para praticamente qualquer tarefa. OpenAI contratou Peter Steinbergercriador do OpenClaw, e a Nvidia ofereceu sua própria versão da estrutura agentic, NemoClaw.
“Minha esposa e eu o usamos para planejar os horários de nossos filhos. Desenvolvi uma habilidade de agente que abre o cardápio da merenda escolar todas as manhãs como um lembrete”, relatou ele. Seu argumento é que os agentes via OpenClaw, NemoClaw, oferta de código aberto da Nvidia, ou outros projetos de código aberto estão se expandindo rapidamente de forma desgovernada e popular.
O subtexto do blog de Sampath é: As garras estão fora; é melhor começar a pensar neles com segurança.
(Em um desenvolvimento relacionado, a Meta – proprietária do Facebook, Instagram e WhatsApp – está adquirindo a plataforma social bot Moltbook, que tem sido uma vitrine do que há de bom e de ruim que pode acontecer quando o OpenClaw é usado em sua extensão máxima.)
O DefenseClaw foi projetado para se conectar e usar uma variedade de ferramentas, de acordo com Sampath. OpenShell, o software sandbox de código que foi revelado pela Nvidia na semana passada em sua conferência GTC, é importante, assim como as ferramentas de digitalização da Cisco, observou ele. “Mas quem gerencia as listas de bloqueio? Quem vê os alertas quando algo dá errado às 2 da manhã? Esse é o DefenseClaw.”
Também: Nvidia aposta no OpenClaw, mas adiciona uma camada de segurança – como funciona o NemoClaw
DefenseClaw faz três coisas, explicou Sampath.
Primeiro, ele verifica cada trecho de código antes de ser executado. “Cada habilidade, cada ferramenta, cada plugin, antes de ser permitido em seu ambiente de garra, e cada pedaço de código gerado pela garra é digitalizado.” Essa operação de digitalização é composta por diversas ferramentas individuais, como a ferramenta de scanner de habilidades de código aberto da Cisco.
Em segundo lugar, a ferramenta detecta ameaças verificando todas as mensagens que entram e saem do agente em tempo de execução.
Terceiro, o DefenseClaw bloqueará automaticamente uma “habilidade”, como uma conta de servidor de e-mail, removendo essas permissões da sandbox. A sandbox, neste caso, pode ser o OpenShell da Nvidia. Sampath enfatizou que a prevenção automática de operações “não são sugestões; são paredes”.
Sampath deu um exemplo de execução da ferramenta a partir da linha de comando para primeiro verificar uma operação de instalação do OpenClaw:
comunidade de instalação de habilidade de Defenseclaw / jira-triage
Com tal solicitação, o DefenseClaw “verificaria primeiro, verificaria suas listas de bloqueio/permissão, geraria um manifesto e só então instalaria. Nada passa pelo portão de admissão”.
A Cisco está usando sua ferramenta de análise de log Splunk como sistema de monitoramento de registro para todas as garras, disse Sampath. “Cada garra nasce observável”, escreveu ele, “todos são transmitidos para o Splunk como eventos estruturados no momento em que sua garra fica online”.
Na verdade, a Cisco anunciou várias extensões adicionais do Splunk destinadas a tornar a ferramenta mais parecida com um centro de operações de segurança (SOC) automatizado.
Por exemplo, um agente de resposta guiada, com lançamento alfa “em breve”, disse a Cisco, “ajudará as equipes SOC a passar da hipótese de detecção à produção em minutos com precisão – permitindo que as equipes importem, ajustem e marquem rapidamente as detecções”.
A ideia é que você digite uma solicitação ao agente no prompt, como a reputação de uma determinada URL, e isso restringirá o que precisa ser verificado.
Agente de resposta guiada da Cisco no centro de operações de segurança (SOC) do Splunk.
Cisco Sistemas
Um kit de ferramentas multifacetado
DefenseClaw é uma das muitas peças de um kit de ferramentas de segurança de IA agente que a Cisco anunciado na segunda-feira. Outras partes incluem melhorias no Cisco Secure Access para impor verificação de identidade e controle de acesso do agente e para aplicar procedimentos de confiança zero a cada agente criado.
Também: Agentes de IA são rápidos, soltos e fora de controle, segundo estudo do MIT
A Cisco afirmou que está indo além da mera digitalização de código com a introdução de ferramentas para red team riscos potenciais, ou seja, simular ameaças do mundo real.
Uma nova oferta, Defesa Cisco AI: Edição Explorerirá “conduzir testes adversários multivoltas para modelos e aplicativos que potencializam fluxos de trabalho de agentes” e examinar os próprios modelos de IA para “validar a resistência à injeção imediata, jailbreaks e outras saídas inseguras”.
A Cisco também está oferecendo um SDK de tempo de execução de agente que afirma “incorporar a aplicação de políticas” ao código à medida que ele é desenvolvido.
Um campo lotado
A Cisco recebe apoio por oferecer uma marca inteligente com DefenseClaw dentro do que se tornará um mercado muito concorrido. Quase todos os fornecedores empresariais se comprometem a proteger, autenticar e potencialmente bloquear agentes na produção.
Isso inclui as empresas tradicionais de segurança cibernética que têm lidado com confiança zero, como Palo Alto Networks e Zscaler; as empresas de DevOps que lidam com a verificação de código, como JFrog e GitLab; e as empresas de observabilidade que oferecem ferramentas para supervisão de código em tempo de desenvolvimento e execução, como Dynatrace e Datadog.
E há também Anthropic, OpenAI e Google, que oferecem ferramentas para digitalização de código e tarefas relacionadas.
Também: A IA tornará a segurança cibernética obsoleta ou o Vale do Silício está confabulando novamente?
Resta saber se o controle da Cisco sobre as redes corporativas – que detém uma participação dominante no campus corporativo e no roteamento e comutação de áreas amplas – dará à empresa uma vantagem em relação a muitas outras ofertas. Também ainda não está claro se as empresas entregarão todo o assunto às suas equipes de operações de segurança ou simplesmente exigirão que os desenvolvedores sejam mais cuidadosos com seu código desde o início.
Algumas empresas podem simplesmente desistir e proibir totalmente as “garras”.
