A Anthropic atualizou seu política de Privacidade no início deste mês, incluindo uma nova cláusula estipulando que Claude os usuários seriam obrigados a verificar sua idade ou identidade “em certas circunstâncias”, enviando uma imagem de um documento de identidade emitido pelo governo, como carteira de motorista ou passaporte, e não demorou muito para que a máquina de indignação e o boato começassem a se agitar.
Algumas pessoas reivindicado o novo requisito de verificação de idade foi o prenúncio de uma nova era sombria para a Internet, em que qualquer pessoa que deseje aceder a um determinado serviço deve primeiro provar a sua identidade a um dos maiores gigantes da tecnologia, todos os quais serviriam efectivamente como seguranças digitais. Essas preocupações foram alimentadas pela utilização da empresa de software Persona Identities pela Anthropic para desenvolver seus mecanismos de verificação de idade. Persona – que recebeu apoio financeiro do Founder’s Fund, a empresa de capital de risco fundada por Peter Thiel – gerou polêmica no início deste ano depois que um trio de hacktivistas relatado que a empresa estava verificando os dados biométricos privados dos usuários em listas de observação do governo, levando o Discord a cancelar sua parceria com a empresa. Persona nega essas acusações e diz que sua própria investigação interna não encontrou nenhuma evidência de irregularidade. Sua lista atual de parceiros inclui OpenAI, Lyft, Square, Reddit e LinkedIn.
Enquanto isso, outros especulado que o novo requisito de verificação de idade da Antrópico poderia permitir à empresa manter o controle sobre seus usuários após uma ordem recente da administração Trump para cortar o acesso aos seus modelos mais recentes, Fable 5 e Mythos 5, a todos os cidadãos estrangeiros, tanto dentro como fora dos EUA.
O traço comum aqui é um sentimento de ansiedade de que as empresas tecnológicas, sob pressão dos caprichos do governo, possam ser capazes de forçar arbitrariamente os cidadãos a provar a sua identidade antes de acederem a ferramentas ou serviços vitais online, da mesma forma que fariam antes de comprar uma caixa de cerveja ou embarcar num avião. Tal futuro estaria obviamente em total desacordo com o ethos livre e aberto sobre o qual a Internet foi originalmente construída, para não mencionar o ideal democrático-utópico frequentemente alardeado por muitos líderes em Silicon Valley, incluindo a Anthropic. A empresa tem trabalhado arduamente para se posicionar como líder em IA segura, responsável e centrada no ser humano.
Dando um passo para trás
O último confronto da Antrópico com a administração Trump dominou muito a sua presença na mídia ultimamente, tornando praticamente inevitável que quaisquer novos anúncios da empresa sejam interpretados através de lentes políticas. E dada a sua recente ascensão à vanguarda da corrida da IA, também se espera – razoável, na verdade – que cada movimento seu faça com que algumas pessoas se preocupem com as suas intenções. Dito isto, há alguns detalhes importantes sobre a nova política de privacidade da empresa que devemos ter em mente.
Em primeiro lugar, os planos da Anthropic de implementar um mecanismo de verificação de idade são muito anteriores à proibição de Fable/Mythos pela administração Trump. Embora a política de privacidade da empresa tenha sido atualizada oficialmente em 8 de junho (e esteja programada para entrar em vigor em 8 de julho), ela anunciado em dezembro, que Claude começaria a sinalizar usuários suspeitos de terem menos de 18 anos e que a conta desses usuários seria automaticamente desativada.
Quatro meses depois, em abril, a empresa disse estava trabalhando com a Persona para construir um mecanismo de verificação de idade por meio do qual alguns usuários seriam solicitados a fazer upload de uma imagem de documento de identidade emitido pelo governo, como passaporte ou carteira de motorista, bem como uma “selfie ao vivo” usando um smartphone ou outro dispositivo. A Antthropic escreveu naquele anúncio que “A Persona está contratualmente limitada na forma como pode utilizar os seus dados: apenas para fornecer e apoiar a verificação e para melhorar a sua capacidade de prevenir fraudes. Eles são obrigados a protegê-lo com controles de segurança padrão do setor e excluí-lo de acordo com os limites de retenção que definimos e a lei aplicável.” O anúncio também acrescentou que os dados de identidade não seriam compartilhados com terceiros ou usados para treinar modelos de IA.
A Anthropic, por sua vez, parece negar qualquer ligação entre a sua política de verificação de idade e a proibição de Trump. Em resposta a um descontente X postagem de um usuário que disse que planejava parar de usar Claude devido aos laços da Anthropic com Persona, Thariq Shihipar, engenheiro de software da Anthropic, disse que a atualização “se aplica apenas a um pequeno subconjunto de usuários” e que “não estava relacionada ao lançamento do Fable ou Mythos”, uma aparente referência às deliberações em andamento da empresa com a administração Trump para suspender a proibição desses modelos. A Anthropic não respondeu imediatamente a um pedido para esclarecer este ponto.
Quanto à alegação de que a Anthropic poderia usar a verificação de idade como meio de impor a proibição de cidadãos estrangeiros usarem seus modelos, é importante ter em mente que o upload de um documento de identidade emitido pelo governo nem sempre prova a cidadania dos EUA: na maioria dos estados, as carteiras de motorista não incluem essa informação, e as licenças também podem ser obtidas por estrangeiros que permanecem no país com visto. Comprovar a idade e comprovar a cidadania, em outras palavras, não são a mesma coisa.
Mas mesmo que os mecanismos de verificação de idade da Antrópico não tenham nenhuma relação com as negociações em curso com a Casa Branca, isso, claro, não os torna totalmente benignos. As ferramentas de IA não são apenas um canto obscuro da Internet; eles estão se tornando cada vez mais o próprio sistema operacional sobre o qual todo o ecossistema online está sendo construído. Quaisquer etapas que um grande desenvolvedor de IA tome para bloquear o acesso às suas ferramentas por qualquer motivo devem, portanto, ser examinadas de perto e com cuidado.
