A OpenAI lançou nesta terça-feira o "ChatGPT for Teens", uma versão adaptada para menores de idade, com controles parentais e recursos de segurança aprimorados, em um momento em que as plataformas enfrentam críticas severas sobre os riscos associados aos chatbots de IA.
A startup avaliada em US$852 bilhões enfrenta vários processos judiciais alegando que o ChatGPT causou danos a crianças, enquanto se prepara para uma oferta pública inicial (IPO) que pode bater recordes.
A nova versão é ativada automaticamente quando se estima que o usuário tenha menos de 18 anos ou quando ele mesmo declara ter entre 13 e 17 anos, informou a OpenAI em uma postagem no blog, com o objetivo de incentivar o pensamento crítico e oferecer apoio na vida real aos adolescentes.
À medida que os chatbots com IA se tornam mais realistas, as empresas têm promovido sua capacidade de servir como confidentes, e os usuários começaram a confiar neles para obter apoio emocional.
Mas especialistas alertam que confiar na automação para obter orientação sobre saúde mental traz riscos. Famílias cujos entes queridos morreram supostamente após interações com chatbots criticaram a falta de medidas de segurança.
"Acreditamos que a IA deve ampliar as oportunidades educacionais; é por isso que criamos o ChatGPT for Teens para oferecer apoio em momentos fora da sala de aula, quando nem sempre há ajuda disponível, ao mesmo tempo em que mantemos os adolescentes engajados em um processo de aprendizagem ativo e colaborativo", afirmou a OpenAI.
A empresa informou que o ChatGPT for Teens oferece ferramentas educacionais, como o modo de estudo para aprendizagem orientada, lembretes responsáveis sobre tarefas escolares para evitar que elas sejam ignoradas, questionários e visualizações de conteúdo para prática variada, além de horários de estudo para reservar momentos dedicados ao aprendizado.
A OpenAI acrescentou que aprimorou os controles, permitindo que os pais vinculem contas, definam "horários de silêncio", gerenciem determinadas configurações e recebam notificações em situações de alto risco, incluindo novas notificações relacionadas a distúrbios alimentares.
