O maior problema da IA é que seus criadores não sabem explicar por que ela desenvolve habilidades que não foram projetadas
Os desenvolvedores parecem não ter um entendimento preciso de como e por que esses sistemas adquirem capacidades para as quais ninguém os projetou explicitamente
Uma ideia surpreendente está circulando entre os engenheiros que trabalham com inteligência artificial (IA) e soa quase como uma confissão. Ela foi apresentada por Dario Amodei, diretor-executivo da Anthropic, em um ensaio publicado em abril de 2025, no qual reconheceu que nem mesmo sua equipe compreende plenamente como funcionam seus modelos de IA. Não se trata de um comentário aleatório, embora possa parecer apenas marketing. No fim das contas, o diretor-executivo de uma das empresas de IA mais valiosas do mundo admitiu por escrito que sua equipe não entende completamente o mecanismo interno de seu próprio produto.
O mais revelador é que Amodei não está sozinho. Geoffrey Hinton, vencedor do Prêmio Nobel de Física de 2024 e uma das figuras responsáveis por tornar o aprendizado profundo possível da forma como o conhecemos, disse essencialmente a mesma coisa com outras palavras: ele apenas desenvolveu o algoritmo de aprendizado; o que acontece depois, dentro da máquina, ninguém entende, nem mesmo seu criador. E Chris Olah, cofundador da Anthropic e responsável por sua equipe de interpretabilidade, vem descrevendo há vários anos as redes neurais como uma estrutura sobre a qual os circuitos crescem por conta própria, sem que ninguém os tenha projetado diretamente.
É importante ter em mente que estamos falando de três perfis completamente diferentes: um diretor-executivo com interesses comerciais evidentes, um acadêmico aposentado da indústria e um pesquisador que literalmente ...
Matérias relacionadas
As duas configurações invisíveis que determinam se a sua IA acerta ou sai dos trilhos
-s15kuqjq4z1g.jpg)
Comentários
Os comentários são de responsabilidade exclusiva de seus autores e não representam a opinião deste site. Se achar algo que viole os termos de uso, denuncie.