"Pesquisadores-robôs" já existem: qual é o impacto para a ciência?
Ferramenta de IA totalmente automatizada produziu artigo que atendeu padrões científicos. Mudança pode acelerar descobertas científicas - mas não sem riscos.A pesquisa científica pode ser um processo longo e tedioso, além de frustrante. Assim como o tempo, os recursos financeiros para o trabalho costumam ser limitados.
Pelo menos na teoria, uma solução pode tornar a ciência mais eficiente: a inteligência artificial, que funcionaria quase como um colega de escritório.
"Pesquisador-robô"
Em 2024, a startup Sakana.ai, sediada em Tóquio, lançou o "The AI Scientist", uma ferramenta capaz de criar, do zero, novas pesquisas, de forma totalmente autônoma e por apenas 15 dólares (R$ 78) por artigo.
O modelo é capaz de passar por todo o processo sem qualquer intervenção humana, desde a formulação de novas hipóteses, passando pela execução de códigos, até a escrita dos resultados.
E vai ainda mais longe. O AI Scientist possui um sistema próprio de revisão por pares que avalia automaticamente a qualidade do artigo, garantindo que o texto atenda aos padrões científicos.
Em 2024, uma equipe independente de pesquisadores testou a ferramenta, mas considerou os resultados como de má qualidade. Embora a IA fosse capaz de percorrer todas as etapas da pesquisa por conta própria, o produto foi, segundo eles, semelhante ao de "um estudante de graduação desmotivado correndo para cumprir o prazo".
As questões do mais preocupantes "pesquisador-robô" foram seções incompletas, referências desatualizadas ou limitadas e resultados numéricos incorretos ou mesmo inventados, as chamadas "alucinações" da inteligência artificial.
Ainda assim, os pesquisadores viram potencial no sistema, especialmente devido à sua eficiência. O que teria levado pelo menos 20 horas para aquele "estudante de graduação desmotivado", segundo as estimativas, era concluído em 3 horas e meia. E isso por um custo médio de 6 a 15 dólares (entre R$ 30 e R$ 78).
Artigo aceito em workshop acadêmico
Agora, um ano e meio depois, a Sakana.ai colocou a versão mais recente à prova. Três artigos gerados por IA - junto de 40 artigos criados por humanos - foram submetidos à revisão por pares em um workshop dentro de uma conferência de ponta sobre machine learning.
Os revisores sabiam que alguns dos trabalhos enviados haviam sido produzidos por IA, mas não quais. Cerca de 70% dos textos enviados passaram pela primeira fase. Entre os três gerados por IA, um foi selecionado, o que significa que atendeu aos padrões científicos do workshop.
Esses padrões, no entanto, foram inferiores aos da conferência principal. "O estudo aceito não é considerado por todos os cientistas como um artigo verdadeiramente revisado por pares", disse Jakob Macke, professor de machine learning e ciência, ao Science Media Center Germany.
Além disso, a versão mais recente do AI Scientist ainda demonstrou falhas, como ideias pouco desenvolvidas, problemas estruturais e vários tipos de alucinações.
Mas, como mostra o próprio sistema de avaliação mostrou, a qualidade dos artigos parece aumentar constantemente com o passar do tempo, o que significa que um futuro com cientistas especializados em IA não parece tão distante.
IA contra a ineficiência científica
A inteligência artificial é incansável. Ela consegue analisar artigos científicos em questão de segundos, não reclama de fazer horas extras e não precisa ser paga - ou, pelo menos, custa consideravelmente menos do que um pesquisador humano.
Isso pode significar mais resultados em menos tempo, além de um processo muito mais eficiente para a descoberta científica.
No entanto, a questão é para onde essas descobertas nos levariam.
Quando um humano realiza uma pesquisa, o produto final é o resultado de dezenas, senão centenas, de pequenas decisões. Dois cientistas jamais abordariam um tema de pesquisa exatamente da mesma maneira.
Essas decisões, quando tomadas pela IA, ficam ocultas por trás do que é considerado um sistema "sobre-humano", ou seja, que pode ser considerado mais inteligente, mais rápido e mais objetivo do que nós.
Risco de uma "monocultura" do pensamento
E se, em vez de confiarmos em nossos próprios cérebros, confiássemos na inteligência artificial?
A antropóloga Lisa Messeri e a neurocientista Molly Crockett preveem o que elas chamam de "monocultura da ciência""monocultura da ciência".
Na agricultura, monocultura é a prática de cultivar apenas um único tipo de plantação, em vez de várias, ao longo de um certo período. Esse método geralmente gera lucros mais altos. Mas, ao mesmo tempo, aumenta o risco de que as plantações sejam afetadas por pragas e doenças.
Algo parecido pode acontecer se deixarmos a IA produzir ciência no nosso lugar. O tipo de pesquisa iniciado pelo robô pode acabar sendo apenas aquele que melhor se adapta às suas capacidades, às custas de projetos que exigem mais contexto, sensibilidade e nuances, o tal "toque humano".
Isso pode não só reduzir o alcance da ciência, como também cria o risco de erros sistemáticos, falhas cuja identificação se perde quando humanos não fazem parte do processo.
"O maior risco é depositar confiança demais em resultados gerados por IA. A principal medida preventiva passa a ser a capacidade humana de pensar criticamente", disse Iryna Gurevych, professora de Processamento Ubíquo do Conhecimento, ao Science Media Center Germany.
Sem pensamento crítico, podemos até produzir mais em termos objetivos, mas acabamos reduzindo nossa compreensão.
Resta a pergunta: na ciência, será que a "ineficiência" humana não tem nenhum valor?
A Deutsche Welle é a emissora internacional da Alemanha e produz jornalismo independente em 30 idiomas.
-r1a0o6em7azl.png)
