Siga ZDNET: Adicione-nos como fonte preferencial no Google.
Principais conclusões da ZDNET
- A IA e a Big Tech estão corroendo a privacidade pessoal.
- As ferramentas criptografadas do Proton são cada vez mais atraentes.
- O CEO da Proton, Andy Yen, se preocupa com um futuro inundado por agentes desonestos.
À medida que a popularidade da IA continua a aumentar, as preocupações com a privacidade e a segurança em torno da tecnologia mantiveram o ritmo, especialmente durante o último ano.
A IA é agora uma ferramenta comum para os cibercriminosos, tornando muito mais fácil para os malfeitores roubarem os seus dados. A tecnologia também permite levar a vigilância em massa a novos extremos. Agentes de IA como o OpenClaw continuaram desonestos, apesar de terem sido adotados por gigantes da tecnologia como Nvidia e Meta, vazando ou excluindo informações confidenciais.
Além disso: a Proton acaba de lançar uma alternativa ao Google Workspace – e é totalmente criptografada
No início deste mês, participei na Semafor World Economy em DC, onde 500 CEOs se juntaram a líderes governamentais para discutir o estado dos negócios globais, incluindo o impacto da IA na segurança e privacidade. Andy Yen, CEO da VPN e provedor privado de serviços digitais Proton, falou sobre o assunto; Sentei-me com Yen após seu painel para discutir se a privacidade pode coexistir com a IA, como será seu futuro e por que ele acha que a Proton está bem posicionada para ter sucesso.
Privacidade na consciência pública
As compensações entre IA e privacidade andam de mãos dadas: o pensamento é que quanto mais dados as ferramentas de IA têm acesso, melhor seu desempenho, seja para uso empresarial ou individual. Isso opõe diretamente a implementação e a eficácia à tolerância ao risco. Ainda assim, a popularidade disparou nos últimos dois anos, especialmente para casos de uso sensíveis, como cuidados de saúde.
Além disso: como auditar o que o ChatGPT sabe sobre você – e recuperar a privacidade dos seus dados
Desde a fundação da Proton em 2014, muito antes de o uso de IA explodir entre os consumidores comuns, a empresa ofereceu aos usuários alternativas que priorizam a privacidade para ferramentas de grandes tecnologias como Google, Microsoft e Meta. No entanto, Yen não acredita que o surgimento das ferramentas de IA tenha popularizado as preocupações com a privacidade de dados entre o público. Na sua opinião, a questão é um descompasso geracional entre a consciência da privacidade e a adoção da tecnologia.
“Há mais pessoas que realmente se preocupam com a privacidade, mas não têm conhecimento suficiente de tecnologia e não sabem como se proteger”, disse ele. “Depois, há as pessoas de meia-idade – na verdade, somos os piores porque não temos o foco de privacidade de nossos pais, mas estamos adotando toda essa tecnologia. Portanto, somos mais ignorantes e mais expostos.”
Dito isto, Yen está otimista de que a educação resolverá isso.
Além disso: 5 razões pelas quais você deve ser mais discreto com seu chatbot (e como corrigir erros do passado)
“A melhor maneira de proteger alguém é simplesmente ensiná-lo sobre o risco”, disse ele. “Se a parte educacional for feita corretamente, todo o resto seguirá naturalmente.”
Além dessa solução, porém, ele espera que a falta de consciência em massa seja simplesmente uma questão de tempo.
“Acho que precisamos encarar isso no contexto das tendências de longo prazo”, disse ele. “Quando começamos a Proton em 2014, talvez um em cada 10 [people] entendeu o modelo de negócios do Google e do Facebook. Hoje, é talvez 4 em 10, e quando a OpenAI começou a veicular anúncios e a promover sugestões tendenciosas de receita, isso foi visto por mais pessoas – talvez 7 em 10.”
Neste momento, Yen acredita que a próxima geração está mais bem preparada para o mundo que a IA está a criar, apesar do que parece ser apatia.
“Os jovens são os mais conscientes – eles sabem como o Google ganha dinheiro, como funcionam os anúncios, sobre os algoritmos, mas não parecem se importar”, disse ele. “Dada a escolha entre ignorância e não preocupação, prefiro um público que esteja consciente e não se importe, porque você pode fazer com que eles se importem.”
Além disso: este chatbot que prioriza a privacidade está decolando – veja por que e como experimentá-lo
Duck.ai, o chatbot da empresa privada de navegadores DuckDuckGo, viu um aumento no tráfego da web no início deste ano. Apesar de não ter conquistado líderes do setor como ChatGPT e Claude, o aumento ecoa uma tendência que Yen disse estar vendo na Proton e o convence de que mais pessoas eventualmente recorrerão a opções que priorizam a privacidade.
“O Lumo é o produto de crescimento mais rápido dentro do Proton atualmente”, disse Yen sobre o chatbot criptografado da empresa. “Isso mostra que as pessoas precisam de IA; elas a usam no dia a dia, faz parte da vida hoje, mas fundamentalmente, ninguém confia nela. A capacidade de obter os benefícios da IA, mas ter a garantia de que sua conversa permanecerá privada no futuro, isso é bastante poderoso. Com o passar do tempo, mais pessoas vão querer isso.”
A maior ameaça da IA
Mas as proteções que o Proton oferece têm seus limites. Quando perguntei a Yen o que ele acreditava que ele e Proton não estavam preparados quando se trata de IA, ele respondeu imediatamente: Agentes.
“Você poderia ter a criptografia mais forte do mundo, mas se você, como usuário, der livremente ao seu agente acesso ao Proton Mail no seu dispositivo, e esse agente enlouquecer e postar todas as informações on-line em algum lugar, a criptografia no Proton não irá salvá-lo”, disse ele. “Essa é uma limitação inerente ao que somos capazes de fazer.” Teoricamente, disse ele, a Proton poderia desenvolver seu próprio agente construído contra essas vulnerabilidades, mas isso ainda não está em andamento.
Além disso: as permissões por trás de suas extensões AI do Chrome merecem uma análise mais detalhada – elas podem estar espionando você
Yen vê a IA local como uma das melhores maneiras de abordar questões de privacidade. (O próprio assistente de escrita Scribe AI do Proton oferece aos usuários a opção de executar localmente.) No momento, é difícil dimensionar a computação em dispositivos pessoais, mas ele acha que a IA local será significativamente mais operacional nos próximos anos.
“Se você olhar para o iPhone moderno e compará-lo com os primeiros smartphones de 10 anos atrás, a quantidade de computação e de armazenamento é muito maior e essa tendência continuará”, disse Yen. “Mas os LLMs não ficam necessariamente maiores. Na verdade, teremos modelos menores que serão igualmente eficazes com o passar do tempo.”
Intervenção antecipada
Uma forma de proteger as gerações futuras dos riscos de privacidade de dados é mantê-las totalmente fora do ecossistema da Big Tech. Yen disse que está focado na proteção das crianças, porque é aí que ele acredita que o Proton pode ter o maior impacto. No mês passado, a empresa lançou a opção para os pais reservar o primeiro endereço de e-mail do filho com Proton, mesmo antes de nascerem.
Além disso: preocupado com a privacidade da IA? Esta nova ferramenta do fundador do Signal adiciona criptografia ponta a ponta aos seus chats
“Para muitas pessoas, o momento em que começam a cuidar é quando têm filhos”, disse ele. “Você tem uma escolha: vai inscrevê-los no ecossistema do Google, com todas as desvantagens e armadilhas que isso acarreta, e prendê-los a uma vida inteira como uma mercadoria que é abusada pelas grandes tecnologias? Ou vai seguir um caminho alternativo e configurá-los para um começo de vida diferente?
Para o iene, o momento certo é fundamental para essa decisão.
“Se eu oferecer uma alternativa para alguém aos 40 anos, depois de ter sido explorado por duas décadas pelo Google, sim, antes tarde do que nunca, mas acho que é muito melhor se conseguirmos que a próxima geração comece da melhor maneira possível desde o início”, disse ele.
A IA que prioriza a privacidade pode competir?
Um futuro com menos deslocamento de dados impulsionado pela IA talvez só seja significativo se for feito em escala. Empresas como a Proton enfrentam o desafio de fazer com que consumidores individuais e clientes corporativos se preocupem o suficiente com a privacidade para deixar sistemas legados e os recursos atraentes que eles oferecem. Por exemplo, a personalização é uma das vantagens mais atraentes da IA, o que só é possível com toneladas de dados. Isso limita o que a IA executada com criptografia pode fazer ou o quão bem-sucedida ela pode crescer?
Yen observou que é possível computar de forma eficaz com dados criptografados, mas que o maior diferencial entre a IA que prioriza a privacidade e os principais laboratórios de fronteira é o custo.
“Existe o Google Workspace e o Proton Workspace, e eles parecem equivalentes”, disse Yen sobre o pacote empresarial lançado recentemente por sua empresa. “Mas, na verdade, nosso trabalho é 10 vezes mais difícil, porque além de tudo isso temos criptografia. Então, vai custar mais e também vai demorar mais. Mas, no final, vai entregar um produto melhor para a maioria dos usuários, porque na verdade vai proteger os dados.”
Além disso: Proton lança uma alternativa ao Google Workspace – e é totalmente criptografada
A privacidade pode render um produto melhor, mas quem cobre esses custos adicionais? Próton anúncio próprio para o Workspace diz que tem preços competitivos, variando de US$ 12 por mês (pago anualmente) a US$ 15 (pago mensalmente) para o nível Standard, e de US$ 20 por mês (pago anualmente) a US$ 25 (pago mensalmente) para o nível Premium. A Proton também disse que não aumenta os preços anualmente ou para os clientes existentes. Para esclarecer, um porta-voz da Proton disse à ZDNET que administrar “uma loja mais eficiente” mantém os preços mais baixos para os clientes, apesar dos custos mais elevados mencionados por Yen.
“Eu realmente não vejo nenhuma barreira técnica para chegar a um desempenho comparável”, acrescentou Yen. “Só vai demorar mais.” No panorama geral do modelo de negócios da empresa, ele disse que as ofertas premium da Proton provaram valer o dinheiro investido até agora.
“O fato de não temos investidores de capital de risco meio que mostra que, na verdade, esse modelo provavelmente é mais escalável do que a maioria das pessoas pensa.”
