Apesar do rápido avanço da inteligência artificial, grandes cientistas e líderes do setor, como Geoffrey Hinton, Yoshua Bengio e Sam Altman, admitem que não compreendem totalmente como os modelos de linguagem organizam o conhecimento, operando como caixas-pretas inacessíveis. Essa incapacidade fundamental de interpretar o funcionamento interno das redes neurais alimenta o medo sobre a tecnologia, mas o pesquisador Nick Cammarata, ex-OpenAI, está determinado a decifrar esse mistério.
Geoffrey Hinton, Yoshua Bengio, Leo Gao, Stephen Wolfram e Dario Amodei têm pelo menos duas coisas em comum. Todos eles, assim como muitos outros cientistas, contribuíram para que a inteligência artificial (IA) alcançasse o grau de desenvolvimento atual. Além disso, todos reconheceram abertamente que não compreendem por completo como os modelos de linguagem organizam e utilizam internamente o que aprenderam durante o treinamento. De certa forma, eles se comportam como caixas-pretas, cujo conteúdo é relativamente inacessível.
"Pessoalmente, não acredito que, algum dia, conseguiremos interpretar o que acontece dentro das redes neurais, por razões fundamentais, embora possamos obter algumas pistas interessantes. Minha esperança está, na verdade, em conseguir decompor o processo pelo qual a IA chega às suas respostas em partes interpretáveis", afirmou Yoshua Bengio durante uma palestra organizada pelo Instituto para o Futuro da Vida, em outubro de 2024. Geoffrey Hinton foi mais breve em uma entrevista à Wired, em 2019: "Não, na verdade, não sabemos como elas funcionam".
Estrutura submersa de 50 metros, 20 metros de largura, formada por milhares de toneladas de arenito sólido repousa no oceano e desafia cientistas há quase 40 anos
Caverna espanhola ficou bloqueada por 16.800 anos. Em seu interior, há uma moradia da Idade da Pedra com mais de 4.600 objetos
Avião da Latam é atingido por raio durante voo e surpreende passageiros; veja vídeo
Já se passaram vários anos desde que esses dois cientistas fizeram essas declarações, mas, em datas muito mais recentes, Sam Altman, Dario Amodei e outras figuras importantes do setor de IA admitiram que existem limitações na compreensão do funcionamento interno dos grandes modelos de linguagem. Nick Cammarata está determinado a resolver esse problema gigantesco. Esse pesquisador trabalhou na OpenAI como parte da ...
Matérias relacionadas
