Criadores do ChatGPT dizem não entender ainda o sucesso da IA
Chatbot ainda apresenta falhas; mesmo assim, cofundador da Open AI diz que não se pode esperar para que o sistema esteja perfeito
Os criadores do ChatGPT, da empresa Open AI, não esperavam que a ferramenta se tornaria um sucesso entre os usuários. A inteligência artificial acabou superando as expectativas e agora, aprimora os mecanismos para "superar o atraso". A declaração foi compartilhada em uma entrevista ao MIT Technology Review.
“Não queríamos exagerar como um grande avanço fundamental”, disse Liam Fedus, cientista da OpenAI que trabalhou no ChatGPT.
Sistema não é perfeito
Desde novembro a ferramenta já atualizou algunas vezes, para corrigir erros. Mas, para o cofundador da OpenAI, isso não é um problema.
"Você não pode esperar até que seu sistema esteja perfeito para lançá-lo. Estávamos testando as versões anteriores há alguns meses, e os testadores beta tiveram impressões positivas do produto", afirmou John Schulman, cofundador da OpenAI, ao MIT.
Segundo ele, a maior preocupação era com a factualidade, porque o modelo desenvolvaido "gosta de fabricar coisas".
E eles não param de aprimorar: pesquisadores estão trabalhando em uma técnica chamada treinamento adversário para impedir que o ChatGPT permita que os usuários o induzam a se comportar mal (conhecido como jailbreaking).
E funciona assim: um chatbot faz o papel de adversário e ataca outro chatbot gerando texto para forçá-lo a contrariar suas restrições usuais e produzir respostas indesejadas.
Normalmente, ataques bem-sucedidos são adicionados aos dados de treinamento do ChatGPT na esperança de que ele aprenda a ignorá-los.
