A OpenAI divulgou que adolescentes usam o ChatGPT por menos de 15 minutos diários, defendendo a eficácia de seus recursos educativos e controles de uso. Contudo, em meio a alertas sobre a saúde mental dos jovens, a entidade Common Sense Media acusou a plataforma de falhar na proteção de menores, apontando atrasos ou ausência de alertas aos pais em conversas sobre suicídio e automutilação, críticas que a OpenAI contesta.
Os adolescentes passam, em média, menos de 15 minutos por dia no ChatGPT, enquanto menos de 2% deles interagem com o chatbot por mais de três horas seguidas, afirmou a OpenAI, em um momento em que as empresas de tecnologia enfrentam questionamentos sobre os riscos que os chatbots de inteligência artificial representam para as crianças.
A empresa de IA de Sam Altman divulgou os números em seu primeiro relatório sobre o uso por adolescentes nesta quarta-feira, enquanto a rápida adoção de plataformas de IA levanta preocupações sobre seu impacto na saúde mental e na segurança do desenvolvimento dos jovens.
Família contrata profissional para cuidar do gato durante viagem e descobre pelas câmeras que as visitas de uma hora duravam dez minutos
Em 1960, Pelé comprou uma fazenda de 661 hectares no Brasil: local foi seu grande refúgio privado e império agropecuário por 40 anos
Todos os pais de planta devem saber: "Se as folhas das suas plantas têm pontas marrons e secas, não é problema de rega"
Essas preocupações foram amplificadas por pesquisas sobre os malefícios das redes sociais para os jovens usuários, com a Meta concordando em agosto em pagar até US$18 bilhões e limitar o uso do Facebook e do Instagram por adolescentes para encerrar as alegações de que projetou as plataformas para viciar crianças.
A OpenAI afirmou que, em quase metade das conversas entre adolescentes em que um lembrete de pausa apareceu, o usuário fez uma pausa ou encerrou o bate-papo em até cinco minutos, com o objetivo de demonstrar que suas medidas para regular o uso por adolescentes estavam funcionando.
A empresa afirmou que os usuários com acesso à versão dedicada a adolescentes enviaram mais mensagens relacionadas à educação e utilizaram ferramentas como visualizações de aprendizagem e o Modo de Estudo.
Agora, a plataforma busca adicionar uma ferramenta de planejamento para inscrição na faculdade, que ajudará os alunos com os requisitos, prazos e etapas de auxílio financeiro, além de novos recursos de estudo, como flashcards e ferramentas mais fáceis para a criação de questionários.
A OpenAI começou a implementar o ChatGPT para Adolescentes em agosto. O modo é ativado automaticamente com base na idade informada ou quando se estima que o usuário tenha menos de 18 anos, permitindo o controle parental e limitando conversas sobre tópicos sensíveis.
Mas um relatório da organização sem fins lucrativos Common Sense Media, divulgado na quarta-feira, afirmou que o ChatGPT para Adolescentes frequentemente alertava os pais tardiamente ou não os alertava quando contas de adolescentes mantinham conversas sobre suicídio, automutilação ou distúrbios alimentares.
O estudo, baseado em mais de uma dúzia de contas criadas para teste, descobriu que o chatbot não sugeria de forma confiável uma linha direta de atendimento em crises ou ajuda profissional.
Um porta-voz da OpenAI afirmou que os testes não "refletem com precisão" o funcionamento das medidas de segurança para adolescentes do ChatGPT. Citando questões de segurança e escalabilidade como justificativas, a empresa disse que pode levar horas para que as contas dos pais e dos adolescentes sejam vinculadas e para que os alertas de segurança sejam ativados.
"A maior parte dos testes pode ter começado e terminado antes da ativação completa do controle parental", disse o porta-voz.
A Common Sense Media afirmou que algumas de suas contas de teste estavam vinculadas por tempo suficiente e outras não, mas nenhuma delas gerou alertas em tempo hábil. As notificações só chegaram para contas com semanas de histórico de tópicos sensíveis, segundo a empresa.
