Os pais preocupados com o que seus filhos adolescentes estão discutindo com o AI Assistant da Meta agora poderão visualizar tópicos de conversa por meio de uma ferramenta de supervisão parental da Teen Account. Meta anunciou o recurso quinta-feira em uma postagem no blog.
As informações estarão disponíveis na aba Insights da ferramenta de supervisão das plataformas Instagram, Facebook e Messenger, todas de propriedade da Meta.
O recurso lista tópicos mais amplos, como escola, entretenimento, redação, saúde e bem-estar. Os pais podem clicar no tópico para obter detalhes adicionais, mas limitados.
As categorias de saúde e bem-estar, por exemplo, podem incluir preparo físico, saúde física e saúde mental. As informações cobrem apenas os últimos sete dias de trocas.
Ex-funcionário da Meta acusado de baixar 30.000 imagens privadas de usuários
O recurso é a mais recente medida de segurança que a Meta implementou sob intenso escrutínio jurídico e da mídia.
Velocidade da luz mashável
A Meta perdeu recentemente dois testes históricos separados relacionados às proteções de segurança infantil e ao design supostamente viciante de seus produtos. A empresa disse que apelará de ambos os veredictos.
O processo de segurança infantil, que ocorreu este ano no Novo México, rendeu documentos internos da Meta demonstrando que a liderança da empresa sabia que seus companheiros de IA orientados por personalidade, ou “personagens”, poderiam envolver-se em interações sexuais e inadequadas e ainda os lançou sem controles mais fortes.
Em agosto passado, a Meta bloqueou seus personagens de IA para usuários adolescentes em meio a relatos de que eles estavam se envolvendo de forma inadequada com menores, inclusive em discussões sobre automutilação, suicídio e interações românticas. Em outubro, o empresa forneceu aos pais com a capacidade de desligar conversas individuais com personagens de IA e bloquear personagens específicos. Em janeiro, porém, Meta restringiu novamente o acesso dos adolescentes aos personagens, pois seu assistente de IA permaneceu disponível.
Um porta-voz da Meta confirmou ao Mashable que os personagens de IA estão pausados para adolescentes em todo o mundo enquanto a empresa continua a desenvolver controles parentais.
Além do mais recente recurso de supervisão parental, a Meta fez parceria com o Cyberbullying Research Center para criar um lista de “iniciadores de conversa” sobre o uso do chatbot de IA.
A empresa também anunciou a formação de um novo Conselho de Especialistas em Bem-estar em IA, reunido para fornecer “contribuições contínuas” sobre experiências de IA para adolescentes. Meta disse que os especialistas são afiliados ao Conselho Nacional para Prevenção do Suicídio, à Universidade de Michigan e à Universidade Northeastern, entre outras instituições.
Reportagem adicional de Chase DiBenedetto.
