OpenAI vai limitar acesso de adolescentes a informações sobre armas no ChatGPT
A OpenAI anunciou novas medidas de segurança para conter a violência no mundo real, restringindo o acesso de adolescentes a informações sobre armas e sistemas de segurança no ChatGPT, mesmo sem intenção violenta aparente. A empresa aprimorou a detecção de idade, planeja notificar pais sobre suspensões por temas violentos e limitará detalhes sobre ataques em massa para todos os usuários, podendo encerrar chats ou suspender contas com foco em violência nas próximas semanas.
A OpenAI anunciou nesta sexta-feira que está tornando mais restritivos os limites às informações relacionadas a armas que o ChatGPT fornece a adolescentes, mesmo quando uma pergunta parece inofensiva, como parte de novas medidas de segurança destinadas a prevenir a violência no mundo real.
Veja mais detalhes:
• A OpenAI restringirá informações práticas sobre armas e sistemas de segurança que possam ser utilizadas indevidamente, com as restrições se aplicando a adolescentes mesmo quando não houver indícios de intenção violenta.
• Para todos os usuários, o ChatGPT poderá encerrar automaticamente conversas nas quais alguém pareça estar obcecado por violência, e a OpenAI poderá suspender temporariamente contas após várias conversas desse tipo.
• A empresa também afirmou que aprimorou seu sistema de previsão de idade para direcionar usuários que estima terem menos de 18 anos para a experiência voltada a adolescentes, e planeja notificar os pais caso a conta de seus filhos adolescentes seja suspensa por discutir violência repetidamente.
• Para todos os usuários, a OpenAI está limitando os detalhes sobre ataques em massa ocorridos no passado, incluindo as armas utilizadas e como foram obtidas.
• A empresa informou que as novas medidas de segurança começarão a ser implementadas nas próximas semanas e que continuará a aprimorá-las.
• A OpenAI informou no início deste mês que os adolescentes passam, em média, menos de 15 minutos por dia no ChatGPT, em seu primeiro relatório sobre o uso do serviço por adolescentes.
• Um relatório da organização sem fins lucrativos Common Sense Media, divulgado no início deste mês, constatou que a versão para adolescentes do ChatGPT frequentemente alerta os pais tarde demais ou nem sequer os alerta quando contas de adolescentes mantêm conversas sobre suicídio, automutilação ou distúrbios alimentares.
Comentários
Os comentários são de responsabilidade exclusiva de seus autores e não representam a opinião deste site. Se achar algo que viole os termos de uso, denuncie.