PUBLICIDADE

ChatGPT derrapa na interpretação, mas acerta 80% do 1º dia do Enem 2023

Inteligência Artificial teve bom desempenho nas questões de Ciências Humanas do Enem 2023, mas falhou nas de Linguagens por falta de interpretação

9 nov 2023 - 15h46
(atualizado às 17h23)
Compartilhar
Exibir comentários
ChatGPT derrapa na interpretação, mas acerta 80% do 1º dia do Enem 2023
ChatGPT derrapa na interpretação, mas acerta 80% do 1º dia do Enem 2023
Foto: Pexels/Freepik/Inep/Luccas Diaz/Guia do Estudante / Guia do Estudante

O ChatGPT também fez a prova do Enem 2023! Assim como os 2,8 milhões de estudantes que estiveram presentes no primeiro dia de provas desta edição, o especialista em Inteligência Artificial Felipe Pacheco colocou a Inteligência Artificial (IA) para trabalhar pedindo que ela resolvesse as 90 questões de Ciências Humanas e Linguagens do exame. No teste realizado, o  ChatGPT acertou 80% do primeiro dia de provas do Enem 2023. A experiência foi relatada na conta de Pacheco no X (antigo Twitter).

Foram dois testes, o primeiro com o caderno em que as 5 questões de idioma estrangeiro eram de inglês, e o segundo com as de espanhol. Na prova com as questões em inglês, o robô acertou 73 das 90 questões, o equivalente a 81% do exame. Já na prova com espanhol, o número de acertos cai para 72, isto é, 80%.

Para realizar o teste, Pacheco tirou um print de todas as questões escaneadas da prova e enviou para a versão paga do ChatGPT-4, que consegue ler textos escritos em imagens. Nos comandos personalizados, o especialista instruiu que o robô agisse como se fosse um "professor que dá aula de preparação para o Enem", e solicitou que ele respondesse a alternativa correta de cada questão.

O gabarito usado para comparação foi a correção extraoficial realizada pelo Curso Anglo, publicado também aqui no GUIA DO ESTUDANTE.

Pacheco conta em sua thread no X, que a maior porcentagem de acertos foi na prova de Ciências Humanas, em que o ChatGPT acertou 41 de 45 questões - isto é, 91% do caderno. Na prova de Linguagens e Códigos, a porcentagem de acertos caiu significativamente. O robô errou mais que o triplo do que em Ciências Humanas, com 32 de 45 questões corretas, 71% da prova. 

"A maior parte dos erros do ChatGPT, ele culpa a erros de interpretação no que a pergunta realmente queria", explica o profissional. Em uma questão de Linguagens, o robô marca a alternativa incorreta e, ao ser solicitado para analisar novamente a pergunta, admite que "houve um erro na interpretação". 

Já em outra questão que marcou a alternativa incorreta, também no caderno de Linguagens, aparenta não estar convencido de que tenha errado. Chega a afirmar que "torna-se um desafio interpretar a intenção do autor ou a intenção da questão".

Outros testes mostram que o ChatGPT também erra

Mais cedo neste ano, o GUIA DO ESTUDANTE fez uma série de textos envolvendo a Inteligência Artificial mais famosa do mundo. Ao corrigir redações que receberam nota 1000 da banca do Enem, por exemplo, a IA teve dificuldade de chegar na mesma nota - mesmo recebendo previamente o manual de redação disponibilizado no Inep. Em um dos casos, deu nota 900 e depois se corrigiu, dizendo que era, na verdade, 1000. 

Em outro cenário, pegamos uma redação também já avaliada pelo Inep, e, sem dizer a verdadeira nota, solicitamos que o robô corrigisse seguindo os critérios do Enem. O mesmo pedido foi feito para um professor de redação de um cursinho de São Paulo. Ambos não chegaram à nota dada pela banca oficial, mas o professor foi quem mais se aproximou.

Também em 2023, o jornal Folha de S. Paulo realizou testes com questões do Enem, passando para a IA as provas das edições de 2017 a 2021. A conclusão é que o melhor desempenho do robô é na prova de Ciências Humanas, seguido da de Linguagens. Ele derrapa na Matemática - ficando, inclusive, abaixo da média de acertos dos candidatos. 

Entre no canal do GUIA no WhatsApp e receba conteúdos de estudo, redação e atualidades no seu celular!

Prepare-se para o Enem sem sair de casa. Assine o Curso GUIA DO ESTUDANTE ENEM  e tenha acesso a todas as provas do Enem para fazer online e mais de 180 videoaulas com professores do Poliedro, recordista de aprovação nas universidades mais concorridas do país.  

Guia do Estudante
Compartilhar
Publicidade
Publicidade