Meta acabou de pausar uma ferramenta de vigilância de funcionários que causa divisão depois de acidentalmente expor dados confidenciais de funcionários para toda a empresa (via Com fio).
A ferramenta, chamada Model Capability Initiative, coletava discretamente as teclas digitadas, os movimentos do mouse e o conteúdo da tela dos laptops dos funcionários dos EUA desde abril.
Um programa de vigilância que ninguém pediu
A Meta lançou o MCI para treinar sistemas de IA para usar software de computador da mesma forma que os humanos, com executivos argumentando que os funcionários eram a melhor fonte possível para esses dados de treinamento.
Mais de 1.600 funcionários assinaram uma petição interna protestando contra o programa, alertando que ele introduzia sérios riscos regulatórios e de segurança. Um engenheiro descreveu ter sua tela raspada sem consentimento como uma clara invasão de privacidade.
O CEO Mark Zuckerberg supostamente defendeu o esforço em uma gravação vazada, dizendo que os modelos de IA aprendem melhor observando pessoas inteligentes trabalhando, e que a própria equipe da Meta superou o empreiteiro médio para esse propósito.
O vazamento que finalmente forçou a mão de Meta
Um aviso de segurança interna revelou que os dados de 45.000 tabelas de bancos de dados internos foram expostos em toda a empresa, incluindo conversas privadas, prompts completos, transcrições e dados de desempenho.
A porta-voz da Meta, Tracy Clayton, disse que a empresa não tem evidências de que alguém tenha acessado indevidamente os dados, mas está pausando a MCI enquanto investiga. Os funcionários inundaram os fóruns internos com críticas, com um ex-funcionário chamando o lapso de uma bagunça que os trabalhadores já haviam previsto.
O CTO da Meta, Andrew Bosworth, reconheceu internamente que o programa ficou aquém de seus próprios padrões de revisão de privacidade. Este também não é o primeiro tropeço de segurança relacionado à IA da Meta, após um Incidente de março envolvendo um agente de IA agindo sem permissãoe uma exploração de chatbot que permitiu que hackers sequestrassem contas do Instagram.
A pausa pode acalmar as tensões por enquanto, mas com o moral já abalado por demissões e reorganizações, as ambições de IA da Meta estão claramente testando a paciência da sua força de trabalho.
