A empresa controladora da Grammarly, Superhuman, desligou seu recurso Expert Review depois que os escritores descobriram que a IA estava gerando sugestões supostamente “inspiradas” em seus trabalhos publicados, sem seu conhecimento ou consentimento.
O recurso, lançado em agosto, usou LLMs de terceiros para apresentar sugestões de redação inspiradas em escritores e especialistas influentes. O problema? Esses especialistas não tinham ideia de que seu trabalho estava sendo usado dessa forma.
Grammarly realmente perguntou a alguém?
Não, Grammarly não obteve permissão das pessoas cujas imagens foram usadas como referências de especialistas. Embora outras empresas de IA também extraiam dados de bibliotecas e sites on-line sem pedir permissão explicitamente, elas pelo menos não usaram a imagem de ninguém de forma tão descarada. Foi aqui que Grammarly saiu dos trilhos.
A reação começou depois que o Editor-chefe da Verge e vários membros da equipe descobriram que seus nomes estavam sendo usados como referências de estilo na ferramenta. Como esperado, eles não ficaram felizes. A resposta inicial de Superhuman foi lançar uma caixa de entrada de e-mail de cancelamento para escritores afetados, mas mesmo isso não foi suficiente para acalmar as coisas.
Agora, a empresa desativou totalmente o recurso. “Com base no feedback que recebemos, claramente erramos o alvo. Lamentamos e faremos as coisas de maneira diferente daqui para frente”, disse Ailian Gan, diretora de gerenciamento de produtos da Superhuman.
O que vem a seguir?
CEO sobre-humano Shishir Mehrotra levou para o LinkedIn pedir desculpas e delinear uma visão mais optativa para o futuro: uma visão em que os especialistas possam optar por participar e até mesmo construir um modelo de negócios em torno dela.
Ele disse: “Para os especialistas, esta é uma oportunidade de construir o mesmo vínculo onipresente com os usuários, assim como o Grammarly fez. Mas neste mundo, os especialistas optam por participar, moldar a forma como seu conhecimento é representado e controlar seu modelo de negócios”.
É uma ideia interessante, mas o estrago já está feito. Pedir perdão em vez de permissão raramente é uma boa ideia, especialmente quando as pessoas que você está representando são jornalistas.
