Por Stephen Nellis
13 de junho (Reuters) – O CEO da Amazon, Andy Jassy, estava entre os líderes de tecnologia que levantaram preocupações aos altos funcionários do governo Trump esta semana sobre os riscos de segurança nos modelos de IA mais avançados da Antrópico, disse à Reuters uma pessoa familiarizada com o assunto.
A Amazon não respondeu imediatamente a um pedido de comentário.
Citando preocupações de segurança nacional, a administração Trump instruiu na sexta-feira a Antrópico a bloquear qualquer cidadão estrangeiro, seja dentro ou fora dos EUA, de usar seus modelos mais recentes, Fable 5 e Mythos 5. Em resposta, a Antrópico disse que desabilitaria o acesso aos modelos globalmente.
Em uma postagem no blog, a Anthropic disse na sexta-feira que o governo dos EUA acredita que existe um método para contornar, ou “jailbreak”, uma salvaguarda que impediria o Fable 5 de ser usado na identificação de vulnerabilidades de software, disse a empresa.
As restrições do governo dos EUA vieram na forma de um controle de exportação, disse a Anthropic em sua postagem no blog. O Departamento de Indústria e Segurança do Departamento de Comércio dos EUA, que supervisiona os controles de exportação, não respondeu imediatamente a um pedido de comentário.
Alguns especialistas que defendem controlos de exportação em modelos avançados de IA consideraram a acção da administração Trump intrigante porque afecta tanto as nações aliadas como os adversários.
“Isso não foi bem pensado”, disse Jimmy Goodrich, pesquisador sênior do Instituto para Conflitos e Cooperação Globais da Universidade da Califórnia. “Ele até proíbe canadenses e britânicos empregados na Anthropic de fazer pesquisa e desenvolvimento.”
A ordem ocorreu no momento em que uma disputa anterior entre funcionários do governo Trump e a Anthropic, que entrou confidencialmente com um pedido de oferta pública inicial nos EUA, mostrou sinais de abrandamento em todas as partes do governo dos EUA.
(Reportagem de Abu Sultan em Bengaluru, e Stephen Nellis e Greg Bensinger em São Francisco; edição de Sergio Non e Matthew Lewis)
