Cliente compra PC potente com 4 placas gráficas e 96 GB de VRAM por US$ 16 mil; provavelmente tem mais memória de vídeo do que RAM instalada
Um cliente compra um computador potente para conteúdo gerado por IA; O computador tem mais memória de vídeo (VRAM) do que RAM, e há um bom motivo para isso; Para IA, a CPU e a RAM desempenham um papel secundário, enquanto a placa gráfica e sua VRAM são muito mais importantes
Um usuário do Reddit relatou que um amigo trabalha em uma empresa de montagem de PCs que fabrica computadores sob encomenda. Um cliente teria encomendado um computador muito especial: com quatro placas de vídeo RTX 4090 e 64 GB de RAM.
O mais impressionante é que as quatro placas de vídeo juntas têm mais memória de vídeo do que a RAM total do computador. Uma RTX 4090 vem com 24 GB de VRAM, totalizando 96 GB de memória de vídeo.
Quanto custou o computador?
O usuário explica que o cliente pagou aproximadamente US$ 16 mil (cerca de R$ 86.144), incluindo montagem, frete e garantia.
O que não se sabe?
O processador, a placa-mãe, a quantidade de memória RAM e o gabinete são desconhecidos. Segundo outro comentário no Reddit, o gabinete é um modelo personalizado específico de um fabricante chinês. A placa-mãe possui 8 slots para RAM, então provavelmente também é um modelo específico.
A IA generativa depende de placas gráficas rápidas e ampla memória de vídeo
E para que serve todo esse hardware caro?
Segundo o usuário, o cliente deseja usar o sistema para executar modelos de IA localmente. Isso explica, pelo menos, a necessidade das placas gráficas.
Por que a VRAM é mais importante que a RAM?
O computador será usado principalmente para IA generativa. Muita RAM não oferece vantagens significativas para IA generativa. A RAM só se torna importante, como explica um usuário do Reddit, quando se deseja salvar etapas intermediárias, os chamados checkpoints.
A memória de vídeo, por outro lado, tem a ...
Matérias relacionadas