A OpenAI anunciou novas medidas de segurança para conter a violência no mundo real, restringindo o acesso de adolescentes a informações sobre armas e sistemas de segurança no ChatGPT, mesmo sem intenção violenta aparente. A empresa aprimorou a detecção de idade, planeja notificar pais sobre suspensões por temas violentos e limitará detalhes sobre ataques em massa para todos os usuários, podendo encerrar chats ou suspender contas com foco em violência nas próximas semanas.
A OpenAI anunciou nesta sexta-feira que está tornando mais restritivos os limites às informações relacionadas a armas que o ChatGPT fornece a adolescentes, mesmo quando uma pergunta parece inofensiva, como parte de novas medidas de segurança destinadas a prevenir a violência no mundo real.
Veja mais detalhes:
Estudante de 14 anos cria modelo matemático que melhora em 16,7% a detecção de terremotos no mundo e vira finalista em prêmio de inovação
-vf98rvk5ghnm.jpg)
Vivo lança Vivo Satélite, em parceria com a Starlink, e terá conectividade em 100% do Brasil
Escondido nas águas profundas do Rio Tefé, peixe elétrico revela uma nova espécie na Amazônia e atrai a atenção dos cientistas
• A OpenAI restringirá informações práticas sobre armas e sistemas de segurança que possam ser utilizadas indevidamente, com as restrições se aplicando a adolescentes mesmo quando não houver indícios de intenção violenta.
• Para todos os usuários, o ChatGPT poderá encerrar automaticamente conversas nas quais alguém pareça estar obcecado por violência, e a OpenAI poderá suspender temporariamente contas após várias conversas desse tipo.
• A empresa também afirmou que aprimorou seu sistema de previsão de idade para direcionar usuários que estima terem menos de 18 anos para a experiência voltada a adolescentes, e planeja notificar os pais caso a conta de seus filhos adolescentes seja suspensa por discutir violência repetidamente.
• Para todos os usuários, a OpenAI está limitando os detalhes sobre ataques em massa ocorridos no passado, incluindo as armas utilizadas e como foram obtidas.
• A empresa informou que as novas medidas de segurança começarão a ser implementadas nas próximas semanas e que continuará a aprimorá-las.
• A OpenAI informou no início deste mês que os adolescentes passam, em média, menos de 15 minutos por dia no ChatGPT, em seu primeiro relatório sobre o uso do serviço por adolescentes.
• Um relatório da organização sem fins lucrativos Common Sense Media, divulgado no início deste mês, constatou que a versão para adolescentes do ChatGPT frequentemente alerta os pais tarde demais ou nem sequer os alerta quando contas de adolescentes mantêm conversas sobre suicídio, automutilação ou distúrbios alimentares.
-1jelh1n3ei88k.jpg)
