Meta usará IA para analisar altura e estrutura óssea para identificar se os usuários são menores de idade

Meta começará a usar IA para escanear fotos e vídeos em busca de pistas visuais para ver se um usuário tem menos de 13 anos e deve ser removido do Facebook e Instagram, a empresa anunciado na terça-feira. Essas pistas visuais incluem a altura ou a estrutura óssea de uma pessoa, disse.

“Queremos ser claros: isso não é reconhecimento facial”, explicou Meta em seu blog. “Nossa IA analisa temas gerais e dicas visuais, por exemplo, altura ou estrutura óssea, para estimar a idade geral de alguém; ela não identifica a pessoa específica na imagem. Ao combinar esses insights visuais com nossa análise de texto e interações, podemos aumentar significativamente o número de contas de menores que identificamos e removemos.

O sistema de análise visual está agora a funcionar em países seleccionados, mas a Meta diz que está a trabalhar para uma implementação mais ampla.

Meta diz que este sistema faz parte de seus esforços para manter crianças menores de 13 anos fora de suas plataformas. Esses esforços incluem o uso de IA para analisar perfis inteiros em busca de pistas contextuais, como comemorações de aniversários ou menções a notas escolares. A empresa procura esses sinais em diferentes formatos, como postagens, comentários, biografias, legendas e muito mais. A Meta planeja expandir essa tecnologia para mais partes de seus aplicativos, incluindo Instagram Live e Grupos do Facebook, no futuro.

Se o Meta determinar que uma pessoa pode ser menor de idade, sua conta será desativada e o usuário precisará comprovar sua idade usando o processo de verificação de idade da empresa para evitar que sua conta seja excluída.

O anúncio ocorre semanas depois de um júri do Novo México ter ordenado que a Meta pagasse US$ 375 milhões em penalidades civis por enganar os consumidores sobre a segurança de suas plataformas e colocar crianças em risco. A empresa também foi obrigada a implementar mudanças fundamentais em suas plataformas. Desde então, Meta ameaçou encerrar seus serviços de mídia social no estado.

É importante notar que este caso é um dos muitos processos judiciais que a Meta e outras grandes empresas de tecnologia enfrentam por causa da segurança infantil.

A Meta também anunciou na terça-feira que está expandindo sua tecnologia que coloca automaticamente os adolescentes em “Contas de Adolescentes” mais restritas no Instagram para 27 países na UE e no Brasil. Essas contas de adolescentes colocam os usuários em uma experiência de conta mais restrita com salvaguardas adicionais, como receber mensagens diretas apenas de pessoas que eles seguem ou às quais já estão conectados, ocultar comentários prejudiciais e definir contas como privadas por padrão.

Além disso, a Meta disse que está expandindo a tecnologia para o Facebook nos EUA pela primeira vez, seguido pelo Reino Unido e pela UE em junho.