Um usuário do Reddit relatou que um amigo trabalha em uma empresa de montagem de PCs que fabrica computadores sob encomenda. Um cliente teria encomendado um computador muito especial: com quatro placas de vídeo RTX 4090 e 64 GB de RAM.
O mais impressionante é que as quatro placas de vídeo juntas têm mais memória de vídeo do que a RAM total do computador. Uma RTX 4090 vem com 24 GB de VRAM, totalizando 96 GB de memória de vídeo.
Quanto custou o computador?
O usuário explica que o cliente pagou aproximadamente US$ 16 mil (cerca de R$ 86.144), incluindo montagem, frete e garantia.
O que não se sabe?
O processador, a placa-mãe, a quantidade de memória RAM e o gabinete são desconhecidos. Segundo outro comentário no Reddit, o gabinete é um modelo personalizado específico de um fabricante chinês. A placa-mãe possui 8 slots para RAM, então provavelmente também é um modelo específico.
A IA generativa depende de placas gráficas rápidas e ampla memória de vídeo
E para que serve todo esse hardware caro?
Segundo o usuário, o cliente deseja usar o sistema para executar modelos de IA localmente. Isso explica, pelo menos, a necessidade das placas gráficas.
Por que a VRAM é mais importante que a RAM?
O computador será usado principalmente para IA generativa. Muita RAM não oferece vantagens significativas para IA generativa. A RAM só se torna importante, como explica um usuário do Reddit, quando se deseja salvar etapas intermediárias, os chamados checkpoints.
A memória de vídeo, por outro lado, tem a ...
Matérias relacionadas
Como já não pode ser nem a maior e nem a melhor, OpenAI define nova prioridade: ter a IA mais rápida
