Você sabia que existe uma maneira de usar resultados de LLMs que pode não envolver hacking – essencialmente apenas pegar grandes quantidades de texto e reaproveitá-lo como dados de treinamento – o que perturba bastante as empresas de IA?
Em um postagem no blog na segunda-feiraA Anthropic disse que as empresas de IA baseadas na China DeepSeek, Moonshot e MiniMax quebraram as regras da Anthropic para “extrair ilicitamente” as capacidades de seu modelo de IA exclusivo, Claude.
A destilação é uma prática normal utilizada por empresas de IA em que um modelo de “professor” é solicitado com informações especificamente adaptadas e as respostas fornecidas permitem que um modelo de “aluno” melhore rapidamente. Por exemplo, escreve a Anthropic, “os laboratórios de IA de ponta destilam rotineiramente seus próprios modelos para criar versões menores e mais baratas para seus clientes”. Portanto, para distinguir as ações das quais a Anthropic se queixa dos usos de destilação considerados legítimos, essas ações são chamadas de “ataques de destilação”.
Os ataques de destilação são crimes aos olhos da Antrópico? Nada disso parece ter sido alegado aqui, mas esses atos foram cometidos, diz a Anthropic, “em violação de nossos termos de serviço e restrições de acesso regional”.
Antrópico, que é em si lidar com a ameaça de ser rotulado como “risco da cadeia de abastecimento” pelo Pentágonodá uma nota patriótica no post. Contornar as restrições de utilização regionais e quebrar regras permite que “laboratórios estrangeiros, incluindo aqueles sujeitos ao controlo do Partido Comunista Chinês, fechem a vantagem competitiva que os controlos de exportação são concebidos para preservar através de outros meios”, afirma.
Entre as três empresas baseadas na China mencionadas a MiniMax com sede em Xangai criador do aplicativo de bate-papo com personagens virais Talkiefoi quem mais ofendeu a Anthropic com a escala de seu esforço de destilação: mais de 13 milhões de supostas trocas. Isso é comparado ao Moonshot com mais de 3,4 milhões, e à empresa mais famosa citada no post, DeepSeek, com apenas cerca de 150.000.
A OpenAI, principal concorrente da Anthropic, também está louca com a destilação de pelo menos uma empresa chinesa de IA, tendo enviado um memorando para a Câmara dos Deputados no início deste mêsacusando DeepSeek de “esforços contínuos para aproveitar as capacidades desenvolvidas pela OpenAI e outros laboratórios de fronteira dos EUA”.
Espera-se que DeepSeek lance seu modelo principal mais recente, DeepSeek V4 a qualquer momento, e CNBC alertou que este lançamento poderia causar caos em Wall Streetnum momento em que já existe caos relacionado à IA suficiente em Wall Street.
