Em participação no podcast Cheeky Pint, Sam Altman, CEO da OpenAI, criticou o avanço da inferência local de inteligência artificial via modelos abertos. Para o executivo, rodar IA em computadores pessoais é um desperdício ineficiente de memória DRAM, considerada por ele um recurso global escasso. Altman argumenta que a centralização do processamento em data centers seria mais inteligente, em contraste com a ociosidade do hardware dos usuários, cuja capacidade costuma ser subutilizada no dia a dia.
John Collison é cofundador da plataforma Stripe e comanda um podcast chamado Cheeky Pint, no qual executivos de empresas de tecnologia aparecem para conversar sobre diversos assuntos. Um exemplo recente é Susan Li, CFO da Meta. Sam Altman, por sua vez, dispensa apresentações; há alguns dias, ele participou do programa de Collison para discutir vários temas. Entre eles, um que parece tirar o seu sono: a possibilidade de cada usuário configurar uma IA local.
Ele aponta para um desperdício de recursos, mas, no fundo, a questão remete ao meme de "ficar sem nada para comer" (ou seja, esgotar os recursos disponíveis).
Resumindo
No podcast, eles abordaram vários tópicos, mas o que chamou a atenção nas redes sociais foi o comentário do principal executivo da OpenAI sobre o cenário tecnológico atual, em que usuários pegam modelos abertos e os executam em seu próprio hardware, sem depender da nuvem de terceiros. Para Altman, a inferência local representa um desperdício terrível de um recurso tão escasso quanto a memória DRAM:
"A inferência local é uma péssima alocação de recursos escassos. Muita gente deseja a inferência local e, de certa forma, pressupõe que o problema já está resolvido — afinal, existem modelos de código aberto que podemos rodar em nossos próprios computadores, dispensando, assim, toda a infraestrutura oferecida pelos data centers.
Mas, sob a ótica da alocação global, é, na verdade, algo bastante negativo que cada pessoa tenha seu próprio computador com uma memória DRAM ...Matérias relacionadas
Google deu um passo importante rumo aos data centers espaciais: acaba de executar IA em órbita
Centros de dados no espaço: Google dá passo importante ao conseguir executar IA em órbita