O desenvolvedor de IA Anthropic diz que seu mais novo modelo de inteligência artificial Claude é tão bom em encontrar vulnerabilidades de segurança cibernética que não pode ser divulgado ao público. Em vez disso, a empresa está fornecendo a ferramenta para grandes fornecedores de infraestrutura de tecnologia para que possam corrigir as falhas encontradas.
No final de março, a palavra começou a vazar aquele modelo de IA mais recente da Anthropic, apelidado de Claude Mythos (PDF), seria um avanço para a tecnologia de IA da empresa. Agora, a empresa previu suas capacidades e alertou que o Mythos representa uma grande ameaça à segurança cibernética, já que seu capacidades representam um salto em frente na descoberta e exploração de vulnerabilidades de segurança online.
“Os modelos de IA atingiram um nível de capacidade de codificação onde podem superar todos, exceto os humanos mais qualificados, na descoberta e exploração de vulnerabilidades de software”, afirmou a empresa. disse em uma postagem no blog Terça-feira. A Anthropic disse que o Mythos Preview, que não foi divulgado ao público, já encontrou o que diz serem milhares de vulnerabilidades graves de segurança “em todos os principais sistemas operacionais e navegadores da web”. Solicitado a comentar, um representante da Anthropic direcionou a CNET para a postagem no blog da empresa.
Para enfrentar os riscos de segurança cibernética, a Anthropic disse que está lançando um consórcio chamado Projeto Glasswing isso inclui Apple, Amazon Web Services, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, Linux Foundation, Microsoft, Nvidia e Palo Alto Networks. A Anthropic disse que essas organizações e mais de 40 outras terão acesso ao Mythos para iniciar o trabalho de reforçar as defesas contra ataques e explorações de IA. Está comprometendo US$ 100 milhões em créditos de uso para Mythos e US$ 4 milhões em doações para organizações de segurança de código aberto.
“Os perigos de errar são óbvios, mas se acertarmos, há uma oportunidade real de criar uma Internet e um mundo fundamentalmente mais seguros do que tínhamos antes do advento das capacidades cibernéticas alimentadas por IA”, disse o CEO da Anthropic, Dario Amodei. postado em X.
Em um vídeo postado no YouTube sobre o Projeto Glasswing, líderes de empresas como Microsoft, Linux Foundation e Anthropic discutiram os danos que vulnerabilidades de software podem causar.
Grandes empresas de computação em nuvem já vêm trabalhando com o novo modelo para encontrar vulnerabilidades. “O que descobrimos foi esclarecedor”, disse Anthony Grieco, diretor de segurança e confiança da Cisco. escreveu em uma postagem no blog. “Agora começa o verdadeiro trabalho. A análise baseada em IA revela dados em uma escala e profundidade que as estruturas legadas não foram projetadas para acomodar.”
Amazon Web Services disse que o modelo já encontrou maneiras de fortalecer o código mesmo em seus sistemas mais bem testados. Amy Herzog, vice-presidente e diretora de segurança da informação da AWS, chamou Claude Mythos Preview de uma “mudança radical no raciocínio e nas capacidades de IA para segurança cibernética”.
Quão significativo é este novo modelo?
O fenômeno da IA ser capaz de descobrir e potencialmente explorar vulnerabilidades de software não é novo – o Grande Desafio Cibernético DARPA viu vários casos de IA chamando a atenção nesta área, disse Michal Salát, diretor de inteligência de ameaças da Nortono provedor de antivírus.
Mas agora a tecnologia de IA, que poderia estar disponível para qualquer pessoa, possui alguns desses recursos. “O Projeto Glasswing da Antrópico está focado em proteger esta poderosa tecnologia, que pode transformar a pesquisa de vulnerabilidades, mas também representa um sério risco se utilizada indevidamente para fins maliciosos”, disse Salát por e-mail. “Embora represente um grande avanço em relação aos atuais modelos de topo, como Opus 4.6a capacidade subjacente já existe hoje, e a pesquisa de vulnerabilidades está emergindo rapidamente como um dos principais casos de uso do mundo real para IA em segurança cibernética.”
Os decisores políticos nacionais, que têm andado de um lado para o outro sobre a necessidade de regulamentação federal de IAprovavelmente acompanhará de perto o progresso do consórcio.
Senador Mark Warner elogiou a iniciativa em comunicado. “Aplaudo estas empresas líderes por reconhecerem esta ameaça e partilharem proativamente informações, capacidades e capacidade informática para proteger melhor a nossa infraestrutura crítica”, disse o democrata da Virgínia. “À medida que a IA acelera dramaticamente a descoberta de novas vulnerabilidades, espero que a indústria acelere e repriorize os patches de forma correspondente.”
Warner, cujo estado é um foco de data centers de IA, convocou recentemente uma proposta de moratória na construção de data centers “idiotice“, mas também alertou sobre os riscos para a sociedade que representam rápido desenvolvimento da IA, levando a perdas massivas de empregos.
