A Roblox anunciou hoje um conjunto de novos recursos de segurança que chegavam à plataforma, incluindo uma IA usada para estimar a idade de um adolescente, tirando uma selfie.
O Roblox, usado principalmente por crianças e adolescentes, há muito tempo é criticado por suas medidas questionáveis de segurança. No ano passado, afirmou-se que a Roblox relatou 13.316 instâncias de exploração infantil em 2023. A empresa tomou mais medidas para melhorar a segurança infantil no ano passado, embora em março, co-fundador e CEO, David Baszucki, disse que os pais não devem deixar seus filhos brincarem se “não se sintam confortáveis” sobre sua segurança.
Agora, a empresa está avançando sua “visão de segurança e civilidade” com a adição de quatro novos recursos, como descrito em um novo blog.
“A segurança sempre foi fundamental para tudo o que fazemos na Roblox”, diz o blog. “Nosso objetivo é liderar o mundo em segurança e civilidade para jogos on -line. Passamos quase duas décadas construindo sistemas de segurança sofisticados, o que apóia nossa missão de conectar um bilhão de pessoas todos os dias com otimismo e civilidade.
“Nós nos dedicamos a apoiar experiências que são profundamente envolventes e empoderadoras para jogadores de todas as idades, enquanto inovam continuamente como todos os usuários se conectam e interagem. Hoje, estamos dando um passo significativo e anunciando uma expansão de nossa plataforma de segurança”.
O primeiro recurso é as conexões confiáveis. Os amigos agora serão conhecidos como conexões, e os usuários de 13 anos ou mais poderão especificar conexões confiáveis, destinadas a permitir mais comunicação gratuita com as pessoas que conhecem. Os usuários que têm 13 a 17 anos podem se adicionar, mas só podem adicionar usuários com mais de 18 anos a uma verificação QR ou importador de contato. Todas as conversas permanecem monitoradas proativamente pelo Roblox.
As conexões confiáveis requerem verificação de idade. Para isso, o Roblox está lançando a estimativa de idade como um pré -requisito. Essencialmente, esta é uma IA que estimará a idade de um usuário analisando uma selfie de vídeo “contra um conjunto de dados grande e diversificado”, que a empresa garante é “tratado com segurança”. Se a ferramenta identificar um usuário com menos de 13 anos ou não conseguir verificar a idade, as conexões confiáveis serão inacessíveis. A verificação da idade ainda pode ser feita com um ID – e no futuro, pelo consentimento dos pais. Com que facilidade isso pode ser explorado.
Em terceiro lugar, a Roblox está adicionando novas ferramentas de privacidade e bem-estar para “ajudar os adolescentes a estabelecer limites saudáveis”. Isso inclui controles de status on-line, um modo de não perturbar e insights sobre o tempo de tela.
Por fim, os controles dos pais para pais de usuários de 13 anos ou menos serão estendidos globalmente aos pais de adolescentes também. Os pais poderão configurar uma conta Roblox vinculada para obter visibilidade nas conexões confiáveis de uma criança, insights no tempo de tela e notificações de gastos – se um adolescente concordar.
“O anúncio de hoje marca um passo importante, à medida que desenvolvemos nossos sistemas de segurança existentes com investimentos em aprendizado de máquina avançado com IA, moderação de conteúdo e controles parentais abrangentes”, conclui o post do blog.
“O lançamento de conexões confiáveis com a estimativa de idade, novas ferramentas de privacidade e informações dos pais para os pais de adolescentes se baseiam em nossos sistemas de segurança existentes para fornecer comunicação líder e informada pela idade que redefine a segurança digital e a civilidade”.
No topo das preocupações de segurança para os usuários, Roblox já foi acusado de “explorar” jovens desenvolvedores de jogos, conforme uma investigação em 2021.
