Super-humano, a tecnologia empresa por trás do software de escrita Grammarly, está enfrentando um ação coletiva por meio de uma ferramenta de IA que apresentava sugestões de edição como se viessem de autores e acadêmicos consagrados – nenhum dos quais consentiu que seus nomes aparecessem no produto.
Julia Angwin, uma jornalista investigativa premiada que fundou a The Markup, uma organização de notícias sem fins lucrativos que cobre o impacto da tecnologia na sociedade, é a única demandante nomeada no processo, que não exige um valor específico em danos, mas argumenta que os danos em toda a classe demandante são superiores a US$ 5 milhões. Ela estava entre os muitos indivíduos, ao lado de Stephen King e Neil deGrasse Tyson, oferecidos pela ferramenta “Expert Review” da Grammarly como uma espécie de editor virtual para os usuários.
A ação federal, movida na tarde de quarta-feira no Distrito Sul de Nova York, afirma que Angwin, em nome dela mesma e de outras pessoas em situação semelhante, “desafia a apropriação indébita de nomes e identidades de centenas de jornalistas, autores, escritores e editores pela Grammarly para obter lucros para a Grammarly e seu proprietário, Superhuman”.
A reclamação surge no momento em que Superhuman já decidiu descontinuar o recurso em meio a uma reação pública significativa. “Após uma consideração cuidadosa, decidimos desativar o Expert Review enquanto reimaginamos o recurso para torná-lo mais útil para os usuários, ao mesmo tempo que damos aos especialistas controle real sobre como eles desejam ser representados – ou não representados”, disse Ailian Gan, Diretor de gerenciamento de produtos da Superhuman, em uma declaração à WIRED pouco antes da reclamação ser registrada. “Criamos o agente para ajudar os usuários a aproveitar os insights de líderes inovadores e especialistas e para oferecer aos especialistas novas maneiras de compartilhar seu conhecimento e alcançar novos públicos. Com base no feedback que recebemos, claramente erramos o alvo. Lamentamos e faremos as coisas de maneira diferente daqui para frente.”
Como a WIRED relatou no início deste mês, Superhuman adicionou no ano passado um conjunto de widgets alimentados por IA à plataforma, incluindo um que pretendia que um escritor veterano (vivo ou morto) opinasse com uma crítica ao texto do usuário. Embora um aviso de isenção de responsabilidade tenha esclarecido que nenhuma das pessoas citadas endossou ou participou diretamente no desenvolvimento desta ferramenta, que alavancou um grande modelo de linguagem subjacente, vários escritores, incluindo jornalistas da WIREDexpressou frustração por Grammarly invocar suas semelhanças e aparentemente regurgitar o trabalho de sua vida com esses agentes de IA.
O advogado de Angwin, Peter Romer-Friedman, diz que leis de longa data em Nova York e na Califórnia, onde Superhuman está sediada, proíbem claramente o uso comercial do nome e imagem de uma pessoa sem sua permissão. “Legalmente, achamos que é um caso bastante simples”, disse ele à WIRED. “De forma mais ampla, uma das razões pelas quais estamos abrindo este caso é, você sabe, podemos ver o que está acontecendo em nossa sociedade: que muitos profissionais que passam anos, ou no caso de Julia, décadas, aprimorando uma habilidade ou um ofício, então veem que seu nome ou suas habilidades estão sendo apropriados por outros sem o seu consentimento.”
Como redator de opinião do New York Times, Angwin escreveu extensivamente sobre como os gigantes do Vale do Silício corroeram a privacidade no século XXI.
“Ao contrário da crença aparente de algumas empresas de tecnologia, é ilegal apropriar-se de nomes e identidades de pessoas para fins comerciais, sejam essas pessoas famosas ou não”, afirma o processo. “Por meio desta ação, a Sra. Angwin busca impedir que Grammarly e seu proprietário, Superhuman, negociem seu nome e o de centenas de outros jornalistas, autores, editores e até advogados, e impedir que Grammarly atribua a eles palavras que eles nunca proferiram e conselhos que nunca deram.
Angwin disse à WIRED que quando soube do uso de seu nome e reputação pela Grammarly no boletim informativo de tecnologia Platformer, ela ficou surpresa por ter sido clonada, por assim dizer. “Sabe, deepfakes são algo que sempre acho que as celebridades estão sendo apanhadas, e não os jornalistas comuns”, diz ela. “Eu estava tipo, você está brincando comigo?”
