Esse comportamento muito comum nas respostas de inteligências artificiais pode prejudicar trabalhos e estudos, alerta nova pesquisa
Pesquisadores comprovam que IAs são grandes bajuladoras
Um novo estudo comprovou que inteligências artificias são programadas para bajular quem manda o prompt na conversa.
Publicado na arXiv pela Universidade de Cornell, a pesquisa constatou que IAs são 50% mais "bajuladoras" que humanos. Usando mais de 11 ferramentas do tipo, os modelos responderam a mais de 11.500 consultas solicitando aconselhamento. O que foi comprovado é que essas tecnologias muitas vezes incentivam os usuários, dão a eles feedbacks excessivamente lisonjeiros e ajustam as respostas para ecoar as opiniões de quem pede conselho.
Encontraram fósseis onde não deveriam existir: monstros marinhos gigantescos estavam vivendo em água doce
Gerações Z e Alfa podem estar perdendo um traço muito importante de quem cresceu nas décadas de 1960 e 1970: as fortalezas mentais
Cientistas detectam sinal de 13 bilhões de anos de idade vindo do espaço
"Bajulação significa essencialmente que o modelo confia no usuário para dizer as coisas certas", diz Jasper Dekoninck, doutorando em ciência de dados no Instituto Federal Suíço de Tecnologia, em Zurique. "Saber que esses modelos são bajuladores me deixa muito cauteloso sempre que lhes dou algum problema", acrescenta. "Sempre verifico tudo o que eles escrevem."
Essa predisposição de "agradar todo mundo", afeta a maneira como pessoas usam a IA na pesquisa científica, em tarefas que vão desde o brainstorming de ideias e geração de hipóteses até o raciocínio e as análises.
Outro estudo testou como a "bajulação" da IA afeta o desempenho da tecnologia na resolução de problemas matemáticos. Os pesquisadores projetaram experimentos usando 504 problemas matemáticos de competições realizadas este ano, alterando cada afirmação de teorema para introduzir erros sutis. Em seguida, pediram que apresentassem provas para essas afirmações falhas.
O ...
Matérias relacionadas
