IA no lotea conferência de tecnologia se concentrou inteiramente em IA e cinemaaconteceu no Amazon MGM Studios em Culver City na semana passada. Eu estive lá durante parte do evento com ingressos esgotados entre quase 2.500 pessoas, que estavam andando dos estúdios aos teatros para aprender sobre tudo. inteligência artificial pode fazer por Hollywood.
A criatividade humana, a intenção, a identidade e o impacto não foram o centro das atenções nos painéis de conversação dos quais participei. Fiz questão de tornar esses tópicos um ponto focal em meus bate-papos na barra lateral com vários representantes de IA. A mais reveladora dessas entrevistas foi com Luke Arrigoni, CEO da Loti IA – uma empresa que vasculha a Internet em busca de deepfakes de pessoas (celebridades e outros) e os derruba.
Você quer proteja sua semelhança on-line? Luke é o cara para quem ligar.
Um deepfake é basicamente uma falsificação digital da imagem de alguém, seja o uso de seu rosto, voz ou todo o pacote, para criar conteúdo, como fotos, vídeos e gravações de áudio.
O Screen Actors Guild-American Federation of Television and Radio Artists, o sindicato dos artistas do qual sou membro, entrou em greve em 2024. A ameaça da IA generativa usar a imagem de um artista sem consentimento ou compensação era – e ainda é, para ser honesto – uma preocupação existencial.
No entanto, os deepfakes não afetam apenas artistas e celebridades. As ferramentas de IA nas redes sociais são um terreno fértil para isso, seja para espalhando desinformação no TikTok ou para o não consensual nudificação de imagens de pessoascomo aconteceu no início deste ano com a ferramenta Grok AI de Elon Musk.
Arrigoni (que apareceu em Lista dos próximos 1000 da Forbes em 2021) me encontrou do lado de fora do Culver Theatre. Ostentando um blazer impecável e uma camisa de botão casual, ele tinha um comportamento acolhedor, mas prático, que me deixou esperançoso de que nossa conversa perturbaria a monotonia da adoração à IA do evento. Isso aconteceu.
Nós nos esquivamos da agitação da conferência para falar sobre tudo, desde os detalhes padronizados de sua empresa até o medo que cerca a IA e as barreiras de proteção necessárias para evitar que ela destrua a humanidade – palavras dele, não minhas. Durante uma convenção repleta de otimismo tecnológico sobre uma tecnologia que muitos temem e se recusam a entender, Arrigoni eliminou o ruído para chegar ao que realmente importa.
A entrevista a seguir foi editada para maior extensão e clareza.
O que sua empresa faz especificamente?
Arrigoni: Fazemos duas grandes coisas. A primeira coisa é fazer muita defesa: raspamos toda a internet, trazemos para o nosso sistema, usamos reconhecimento facial e de voz para encontrar você onde você não pertence, e então a excluímos. Pense nisso como pesquisar, encontrar e destruir. São deepfakes não autorizados, até mesmo material explícito, golpes, pessoas fazendo photoshop de logotipos em camisetas – esse tipo de coisa. Somos muito bons em encontrar e ainda melhores em desmontar.
A segunda grande coisa que fazemos é ofender. Se alguma empresa de geração de IA quiser gerar você, existem essas regras e preços que você pode controlar como criativo. Se eles quiserem usar você ou seu trabalho, eles nos enviam e, em tempo real, nós liberamos, dizemos: “Ah, sim, você pode fazer isso, você pode gerar isso”, ou dizemos: “Não desperdice seu dinheiro na geração. Se você gerar isso, vou deletar isso.”
Portanto, seu produto não é necessariamente específico para IA, mas é mais do que isso. Parece mais uma das muitas grades de proteção necessárias nesta época para proteger potencialmente as pessoas.
Arrigoni: É combater fogo com fogo. Usamos reconhecimento facial e modelos de IA para entender melhor o conteúdo e decidir se ele deve ser removido ou aprovado. Realisticamente, o que somos é uma ferramenta humana. Você mencionou grades de proteção; somos um sistema ferroviário. Somos o caminho mais rápido para que pessoas sejam geradas de forma segura. Somos a maneira mais fácil para as plataformas de geração de IA serem compatíveis e participarem de um mercado maior.
Hipotético: sou ator e encontrei um vídeo online que afirma ser eu, mas não é. Preciso passar pela aplicação da lei e obter uma intimação para que sua empresa lide com a reclamação?
Arrigoni: Você não precisa de nada disso. Você se inscreve e em 10 minutos estaremos pesquisando por você na internet.
O que o levou a começar a fazer isso?
Arrigoni: Na verdade, começamos primeiro a fazer remoções de pornografia de vingança. Esse é um termo horrível para imagens íntimas não consensuais, mas a maioria das pessoas o conhece como seu outro nome. E então começamos a fazer isso em todos os lugares, e então a SAG-AFTRA entrou em greve. Eu trabalhava na CAA [Creative Artists Agency]então liguei para eles e para William Morris Endeavor [WME] e outros [talent] agências e disse: “Seus clientes gostariam de um serviço onde possamos realmente cuidar disso em um nível sistêmico, onde eu possa ingerir grandes áreas da Internet e, em seguida, simplesmente retirá-lo?” E todos disseram: “Isso parece óbvio. Vamos fazer isso.”
No final das contas, você sente esperança ou pavor pelo que está por vir com a IA?
Arrigoni: Acho que haverá uma tonelada de tudo gerado por IA; isso já está começando. As pessoas perderão o apetite por isso, e então ficaremos com verdadeiros formadores de opinião e pessoas reais criando arte, jornalismo ou outras coisas que a IA não consegue replicar. Não tenho fé de que a IA será subitamente melhor do que os humanos na geração de conteúdo de primeira linha; há uma razão para isso. A realidade é que a IA está estruturada em torno da ideia de que se lhe fornecermos uma tonelada de dados, ela pode tentar prever a média deles, e todos os dados que todos estão a ver agora estão algures entre o 50º e o 75º percentil em termos de qualidade porque o quartil inferior é analfabeto e o quartil superior não publica muita coisa. Então você tem um sistema que quer convergir para um pouco acima da média, mas não tem nenhum mecanismo para convergir para o percentil 99.
Fale comigo como se eu tivesse 5 anos, por favor.
Arrigoni: OK. Dependendo do seu apetite, qualquer tipo de coisa legal que você goste, seja um filme do tipo Christopher Nolan ou Jordan Peele – algo que é estranho e tem sua própria estética legal – isso não será substituído pela IA tão cedo. Mas se você estiver criando conteúdo comum, haverá uma competição real.
Você nos vê chegando a um ponto em que os deepfakes serão indistinguíveis dos reais?
Arrigoni: Acho que provavelmente nos próximos um ou dois anos será impossível distinguir o que é falso ou não.
O que isso diz sobre como a tecnologia de IA está afetando o público em geral no que diz respeito à forma como interagimos com a mídia?
Arrigoni: Este é um problema educacional e será necessária pelo menos uma geração para superá-lo. Mas como fazer com que o custo do pensamento crítico seja menor para que não custe ao americano médio tanto poder mental para pensar criticamente? Quer dizer, você tem que começar no jardim de infância, certo?
Isso me traz de volta à questão da esperança, porque tudo isso parece um pouco sombrio e distópico.
Arrigoni: Estou muito otimista sobre o que acho que posso fazer. Isso não significa que estou otimista sobre o estado atual das coisas, mas definitivamente sinto que quando há um problema maior em nosso ecossistema, posso descobrir como manejar e dobrar as ferramentas da minha rede para tentar corrigi-lo. Sinto a quantidade certa de medo, mas também estou um pouco animado com o que acho que poderia fazer para ajudar.
Arrigoni: Isso é o que a tecnologia gosta de fazer: a tecnologia gosta de otimizar continuamente até chegar ao ponto em que remove a humanidade, a cautela ou as barreiras de proteção. Muitos dos algoritmos de recomendação são um exercício à queima-roupa nas versões mais extremas da tecnologia. Então, o que estamos fazendo na Loti é garantir que não daremos esse último passo, mesmo que o mercado queira que digamos: “Qual é o próximo passo?” Estou lutando contra isso e, na verdade, tenho bons investidores alinhados com esse pensamento, mas acho que mais pessoas precisam começar a dizer basicamente: “Sei que posso dar o próximo passo”. Isso tornará as coisas mais lucrativas, mas no ritmo em que as coisas estão indo, na verdade destruirá a humanidade.
Espere, o que você acabou de dizer?
Arrigoni: Isso parece super extremo, certo?
Sim, mas as pessoas também recorrem à IA para todo tipo de coisas que não deveriam: ChatGPT é médico para as pessoas, ajuda os alunos a colar nos trabalhos de casa, etc. O que eu sei?
Arrigoni: Tenho um filho de 15 anos e facilitei muito para ele. Eu acabei de dizer a ele, olha, você pode trapacear, certo? Eu sei que não há como impedir você, ou alguém poderia. Se eu lhe dissesse que toda a sua vida seria mais fácil se você se dedicasse ao trabalho quando todos os seus colegas não o fazem, e de repente tudo – como ser capaz de atrair parceiros porque você é mais alfabetizado, ser capaz de conseguir empregos porque você tem mais conhecimento, ser capaz de conversar com pessoas e se conectar – tudo isso seria mais fácil para você se você fizesse algo difícil agora. Então, você pode evitá-lo se quiser. Mas prometo que trabalhar um pouco agora tornará sua vida mais fácil. Não sei como você ensina isso em uma escala para que todos possam entender. Mas acho que os pais provavelmente têm a ver com os guardrails originais da humanidade – assim como ter um filho e garantir que eles não acabem infelizes, então sim, acho que esse é provavelmente um lugar por onde você poderia começar.
Encerrarei esta conversa com o tema da singularidade – como se faz. Você acha que a IA será o catalisador que nos levará ao ponto crítico em que a tecnologia ultrapassará a humanidade?
Arrigoni: Se isso acontecer com a tecnologia que temos agora, será uma droga. Seria como se a pessoa mais comum que você já conheceu de repente estivesse em todo lugar. E isso seria péssimo.
