VRAM vs. RAM do sistema
VRAM é a memória da sua placa de vídeo: o espaço em que um modelo precisa caber, na maior parte, para rodar rápido. A RAM do sistema é a reserva, maior e mais lenta.
Um PC tem dois tipos de memória. A placa de vídeo carrega a sua, a VRAM, pequena mas extremamente rápida; a placa-mãe carrega a RAM do sistema, abundante mas muito mais lenta para essa carga de trabalho. Gerar texto toca uma grande parte dos pesos do modelo a cada token; portanto, velocidade de geração é, na prática, velocidade de memória.
Isso faz da VRAM o número que decide a sua classe de IA local. As placas de consumo vão de aproximadamente 8 a 32 GB, e cada degrau acima admite um nível maior de modelos em velocidade confortável. O tamanho da RAM do sistema quase não importa para modelos que cabem na VRAM, e importa muito no momento em que transbordam para o offloading.
Duas notas de rodapé que vale conhecer: GPUs de notebook costumam ter muito menos VRAM que placas de mesa com o mesmo nome, e o Apple Silicon joga com regras totalmente diferentes graças à memória unificada.
Onde você vê isso no radar
Escolha a sua GPU exata no radar e cada modelo rastreado recebe um veredito contra a memória real dela: tamanhos medidos, margens declaradas, sem arredondar para cima.
Obter vereditos para a sua placa →Termos relacionados