Sam Altman, CEO do ChatGPT: "É bastante terrível que as pessoas tenham memória RAM no PC sendo utilizada apenas 5% do tempo"
Sam Altman considera que executar modelos de IA em computadores pessoais desperdiça memória DRAM, que é utilizada apenas 5% do tempo; Sua proposta consiste em concentrar os recursos disponíveis em grandes centros de dados
Em entrevista recente, Sam Altman, CEO da OpenAI, criticou a execução de modelos de inteligência artificial diretamente no computador dos usuários. Para o executivo, rodar IAs localmente representa um desperdício ineficiente de memória RAM, um recurso global escasso que acaba sendo subutilizado pelas pessoas na maior parte do tempo. Altman defende que o uso de data centers e infraestruturas em nuvem é uma alocação de recursos muito mais eficiente do que a dependência de hardwares individuais.
John Collison é cofundador da plataforma Stripe e comanda um podcast chamado Cheeky Pint, no qual executivos de empresas de tecnologia aparecem para conversar sobre diversos assuntos. Um exemplo recente é Susan Li, CFO da Meta. Sam Altman, por sua vez, dispensa apresentações; há alguns dias, ele participou do programa de Collison para discutir vários temas. Entre eles, um que parece tirar o seu sono: a possibilidade de cada usuário configurar uma IA local.
Ele aponta para um desperdício de recursos, mas, no fundo, a questão remete ao meme de "ficar sem nada para comer" (ou seja, esgotar os recursos disponíveis).
Resumindo
No podcast, eles abordaram vários tópicos, mas o que chamou a atenção nas redes sociais foi o comentário do principal executivo da OpenAI sobre o cenário tecnológico atual, em que usuários pegam modelos abertos e os executam em seu próprio hardware, sem depender da nuvem de terceiros. Para Altman, a inferência local representa um desperdício terrível de um recurso tão escasso quanto a memória DRAM:
"A inferência local é uma péssima alocação de recursos escassos. Muita gente deseja a inferência local e, de certa forma, pressupõe que o problema já está resolvido — afinal, existem modelos de código aberto que podemos rodar em nossos próprios computadores, dispensando, assim, toda a infraestrutura oferecida pelos data centers.
Mas, sob a ótica da alocação global, é, na verdade, algo bastante negativo que cada pessoa tenha seu próprio computador com uma memória DRAM ...Matérias relacionadas
Centros de dados no espaço: Google dá passo importante ao conseguir executar IA em órbita
Comentários
Os comentários são de responsabilidade exclusiva de seus autores e não representam a opinião deste site. Se achar algo que viole os termos de uso, denuncie.