A Meta está dando aos pais mais informações sobre como seus filhos adolescentes usam IA em suas plataformas. O empresa disse quinta-feira que os pais possam aprender sobre quais tópicos seus filhos perguntaram à IA na semana anterior no Facebook, Messenger ou Instagram – aplicativos de propriedade da empresa dirigida por Mark Zuckerberg.
Embora a medida pretenda apoiar a segurança das crianças em plataformas sociais populares, os especialistas dizem que não substitui uma boa moderação de conteúdo e um design seguro, e alertam que pode ter consequências indesejadas ao reduzir a privacidade dos adolescentes.
O novo recurso se chama AI Insights e agora está disponível para pais que supervisionam contas de adolescentes nos EUA, Reino Unido, Austrália, Canadá e Brasil. A Meta lançará o AI Insights globalmente nas próximas semanas. As contas para adolescentes são experiências especialmente projetadas para adolescentes em plataformas com configurações padrão de privacidade e conteúdo mais rígidas.
O Insights segue os passos de outras salvaguardas que a Meta introduziu para pais e filhos em relação ao uso de IA. Em outubro, a empresa disse que os pais pode impedir que as crianças interajam com personagens do chatbot ou bloquear personagens específicos. Um personagem é um ser fictício criado pela IA.
Zuckerberg e sua empresa foram criticados nos últimos anos no que diz respeito à saúde mental das crianças. No mês passado, Meta foi condenado a pagar US$ 375 milhões depois de ser considerado responsável em um caso de exploração infantil e também foi considerado responsável em um caso na Califórnia em que uma mulher alegou que o Instagram e o YouTube foram projetados para viciar as crianças.
Um representante da Meta não respondeu imediatamente a um pedido de comentário.
Mais de 40 estados dos EUA entrou com ações judiciais contra Meta em 2023alegando que a empresa está tentando viciar as crianças em seus aplicativos e, assim, contribuindo para uma crise de saúde mental juvenil.
Como usar os insights
Se os pais estiverem usando a supervisão de seus filhos no Facebook, Messenger ou Instagram, eles verão agora uma guia chamada “Insights”, tanto nos próprios aplicativos quanto na internet.
(Os pais podem ativar a supervisão no Centro Familiar do Meta – o processo está detalhado aqui — para filhos de 13 a 17 anos que usam contas para adolescentes.)
Depois de clicar na guia Insights, os pais podem ver quais tópicos seus filhos perguntaram Meta IA sobre nos últimos sete dias. A empresa disse que esses tópicos podem incluir escola, entretenimento, estilo de vida, viagens, escrita, saúde e outros.
Existem também categorias dentro de cada tópico – moda, alimentação e férias no estilo de vida e boa forma, saúde física e saúde mental no tópico saúde e bem-estar. Quando os pais clicam nos tópicos, eles podem ver as categorias sobre as quais seus filhos perguntaram ao Meta AI.
Se os adolescentes perguntarem à IA sobre suicídio ou automutilação no Instagram, os pais serão alertados, um recurso da empresa adicionado em fevereiro.
Meta disse ainda que, em colaboração com o Centro de Pesquisa sobre Cyberbullyingdesenvolveu 11 iniciadores de conversa para os pais falarem com os filhos sobre IA. Os pais podem acessá-los por meio de um link na guia Insights.
Em seu anúncio de quinta-feira, a Meta disse que está tentando “tornar a supervisão dos pais ainda mais valiosa para os pais”. A empresa disse que o número de adolescentes norte-americanos matriculados na supervisão dobrou no ano passado.
A vigilância dos pais pode ser prejudicial
O recurso transfere a responsabilidade pela moderação de conteúdo para os pais, mas também pode ser prejudicial para crianças em ambientes familiares potencialmente abusivos, ao fornecer aos pais uma ferramenta de vigilância, disse. Ardath Whynachtprofessor associado de sociologia na Mount Allison University em New Brunswick, Canadá, especializado em saúde mental e violência familiar.
“Vigilância parental não é moderação de conteúdo”, disse Whynacht à CNET. “À medida que empresas como a Meta fazem menos moderação de conteúdo, elas expõem crianças e jovens a danos com mais frequência. Não deveria ser função dos pais tornar o produto menos prejudicial.”
Whynacht, que trabalhou em prisões e com jovens com transtornos de humor e psicose, disse que os jovens queer e trans podem sofrer mais com a vigilância dos pais.
“Muitos recorrem aos espaços digitais para encontrar apoio”, disse Whynacht. “O medo da vigilância dos pais pode forçar as crianças a entrarem em cantos ainda mais inseguros da web.”
“É um fato triste que as crianças muitas vezes precisem da proteção dos pais tanto quanto precisam de proteção contra danos online”, acrescentou ela.
É necessário mais para proteger as crianças
O novo recurso do Meta é um “passo na direção certa”, mas não é uma proteção suficiente, Donna Rice Hughes, CEO da organização online de segurança infantil Bastadisse à CNET.
“Não se pode confiar na Meta quando se trata de segurança dos adolescentes e continua a colocar os lucros acima da segurança”, disse Hughes, apontando para o esforços de lobby para eliminar a Lei de Segurança Online para Crianças na Câmara dos EUA em 2024.
Hughes disse que os pais devem usar todos os controles parentais online disponíveis, como o novo recurso Insights do Meta, mas também devem ter conversas frequentes com seus filhos sobre segurança online. E as ferramentas de controle deveriam ser mais robustas e eficazes e implementadas por todas as Big Tech, não apenas pela Meta. “Os pais simplesmente não podem continuar a carregar este fardo sozinhos”, disse Hughes.
