A Roblox acaba de anunciar o Roblox Sentinel, um sistema de inteligência artificial (IA) desenvolvido para ajudar a detectar precocemente comunicações que possam colocar crianças em risco, permitindo que a Roblox investigue esses casos com mais agilidade e, quando necessário, acione as autoridades competentes. O Sentinel é disponibilizado como código aberto, acessível para outras plataformas digitais da indústria utilizarem.
Como parte do kit de ferramentas de segurança de código aberto da Roblox, o Sentinel é um sistema de alerta prévio projetado para identificar padrões de comunicação sutis e difíceis de detectar que possam indicar um possível aliciamento.
Desde o final de 2024, a Roblox disse que esse sistema tem ajudado a empresa a agir com rapidez e investigar situações para manter os usuários mais seguros. Somente na primeira metade de 2025, a empresa afirmou que ele auxiliou a equipe no envio de aproximadamente 1.200 relatórios de possíveis tentativas de exploração infantil ao National Center for Missing and Exploited Children (Centro Nacional de Crianças Desaparecidas e Exploradas).
“A inteligência artificial se tornou um pilar fundamental na forma como a Roblox aborda a segurança e como ajudamos a proteger nossos usuários”, afirmou Matt Kaufman, diretor de segurança da Roblox. “Contribuir com a comunidade de código aberto é essencial para nossa abordagem de segurança online, pois sabemos que esses desafios existem em todo o mundo digital. Nosso objetivo é compartilhar nossas tecnologias e colaborar com outros líderes para tornar a internet um lugar mais seguro”.
Segundo foi informado, uma combinação estratégica entre especialistas humanos e inteligência artificial é fundamental para escalar os esforços de segurança na plataforma da Roblox, inclusive na detecção de sinais potenciais identificados pelo Sentinel. Analistas especializados revisam casos sinalizados pelo sistema de IA como potencialmente violadores. As decisões desses analistas alimentam um ciclo de aprendizado contínuo que permite à Roblox aprimorar constantemente os exemplos, índices e conjuntos de treinamento. Esse processo humano é essencial para que o Sentinel se adapte e se mantenha atualizado diante dos novos e mutáveis padrões de comportamento de atores mal-intencionados.
A Roblox também disse que busca melhorar a segurança em toda a indústria sempre que possível, seja por meio de iniciativas de código aberto, seja colaborando com parceiros como o ROOST, do qual é membro fundador, e com o projeto Lantern, da Tech Coalition.
“Hoje, muitas plataformas ainda não têm acesso às ferramentas sofisticadas necessárias para identificar e prevenir danos online, especialmente aqueles voltados contra crianças”, declarou Juliet Shen, chefe de produto do ROOST. “No ROOST, acreditamos que proteções robustas de segurança devem estar acessíveis a todos que estejam comprometidos em proteger seus usuários, e estamos muito entusiasmados com a contribuição da Roblox, ao disponibilizar mais ferramentas abertas para a área de Trust & Safety.”
Mais detalhes encontram-se no site da Roblox.
