As crianças estão consumindo muito lixo de IA.
E os defensores da segurança infantil estão ficando preocupados. Em uma carta enviada ao CEO do Google, Sundar Pichai, e ao CEO do YouTube, Neil Mohan, uma coalizão de organizações nacionais e especialistas em desenvolvimento infantil está exigindo uma mudança nas políticas do YouTube para reduzir o desperdício de IA, incluindo uma proibição total de conteúdo “Made for Kids” gerado por IA.
“Dada a ausência de evidências de que a IA seja segura para as crianças e o potencial desses vídeos hipnotizarem e prejudicarem as crianças, o Google deve tomar medidas rápidas para proteger as crianças em suas plataformas”, diz a carta. Há duas semanas, o YouTube anunciou uma parceria com o estúdio generativo de IA Animaj, especializado em conteúdo infantil de IA e possui bilhões de visualizações em vários canais do YouTube voltados para bebês e crianças.
Não crescemos nas redes sociais. Crescemos com nicotina digital.
A carta, liderada pela organização sem fins lucrativos de segurança infantil Fairplay, é assinada por organizações como a Federação Americana de Professores, a Associação Nacional de Desenvolvimento da Criança Negra e a Mothers Against Media Addiction (MAMA), bem como por especialistas como Jonathan Haidt, autor do livro altamente citado. A geração ansiosa. O grupo cita a preocupação crescente de que a exposição ao conteúdo de IA possa distorcer a percepção da realidade pelas crianças, causar sobrecarga cognitiva e deslocar atividades do mundo real necessárias para o desenvolvimento.
“Primeiro, o YouTube introduziu Shorts com conteúdo feito para crianças sem se perguntar qual impacto isso teria sobre os espectadores jovens, e então – sem surpresa – o lixo de IA começou a competir pela atenção das crianças nesses mesmos feeds. É hora de as plataformas começarem a respeitar a atenção e as mentes das crianças pequenas, e não apenas tratá-las como um recurso a ser extraído”, disse Jenny Radesky, pediatra comportamental do desenvolvimento e pesquisadora de mídia que também assinou a carta.
O grupo também anunciou uma petição pública exigindo que o YouTube implemente várias novas políticas de segurança que abordem a proliferação de resíduos de IA direcionados a crianças, incluindo:
Velocidade da luz mashável
-
Rotular claramente todo o conteúdo gerado por IA no YouTube
-
Proibição de conteúdo gerado por IA do YouTube Kids
-
Proibição de vídeos focados em crianças (“Made for Kids”) no YouTube gerados por IA
-
Proibição de recomendações algorítmicas de conteúdo gerado por IA para usuários menores de 18 anos
-
Implementar um botão de alternância no controle dos pais para que os pais possam desligar o conteúdo gerado por IA, mesmo que as crianças o procurem
-
Interromper todo o investimento na criação de vídeos gerados por IA para crianças
A carta chega uma semana depois de um veredicto que define um precedente em um caso recente contra a Meta e a empresa-mãe do YouTube, Google, que se posicionou a favor de um usuário de 19 anos que alegou que as empresas sabiam que suas plataformas poderiam ser “perigosamente viciantes” e ignoraram avisos sobre a saúde mental do usuário. O júri de Los Angeles concluiu que tanto o Meta quanto o YouTube foram negligentes ao abordar os avisos de segurança internos e avançaram com recursos da plataforma que exacerbaram as preocupações dos especialistas.
“Em alguns casos, animações aparentemente benignas podem revelar-se de natureza sexual ou violenta”, disse Sebastian Mahal, co-presidente da coligação de lobby liderada por jovens Design It For Us. “Os jovens não querem ser alvo deste tipo de experiência pelo algoritmo do YouTube. Depois que um júri da Califórnia considerou o YouTube responsável por não proteger os jovens em sua plataforma, alguém poderia pensar que o YouTube finalmente levaria a sério sua responsabilidade para com seus usuários jovens.”
Além das alegações de que os algoritmos do Instagram exacerbaram a crise de saúde mental dos jovens, especialmente entre as adolescentes, os defensores da segurança infantil há muito alertam que o YouTube é um site perigoso para crianças pequenas.
Rachel Franz, diretora do programa Fairplay’s Young Children Thrive Offline, disse ao Mashable em uma entrevista em março: “Se ‘gerenciar resíduos de IA’ fosse realmente a principal prioridade do YouTube este ano, eles já teriam retirado do ar os milhões de vídeos ‘Made for Kids’ gerados por IA que são projetados para atrair crianças pequenas, levando a mais tempo de tela e substituindo as atividades que elas precisam para prosperar offline.”
YouTube é o plataforma de vídeo mais popular para espectadores infantis, especialmente entre famílias de baixa renda. Apesar dos esforços para abordar o conteúdo gerado por IA, o YouTube ainda não controlou totalmente o problemae o conteúdo gerado por IA destinado a crianças tornou-se um negócio lucrativo.
UM New York Times O relatório encontrou milhares de vídeos de IA de baixa qualidade no algoritmo do YouTube, incluindo aqueles que violavam as políticas de segurança infantil. Atualmente, os vídeos animados gerados por IA não exigem rótulos de IA, e os rótulos de IA não aparecem de forma consistente no YouTube Kids. O YouTube exige apenas rotulagem para mídia sintética feita para imitar configurações ou pessoas “realistas”.
Em resposta à nova carta, Franz acrescentou: “O algoritmo do YouTube torna impossível para as crianças evitarem resíduos de IA. O YouTube deve parar de empurrar resíduos de IA para as crianças agora, antes que prejudique ainda mais uma geração inteira de crianças”.
