A AMD Radeon RX 7900 XTX consegue executar gemma-3-12b-it?

Esta página foi escrita e traduzida automaticamente por IA e verificada por software em relação às suas fontes, sem edição humana. As especificações vêm das fontes listadas; os requisitos de memória e as velocidades são estimativas calculadas com fórmulas publicadas. Como usamos IA

Cabe Pela verificação de carregamento padrão do llama.cpp, gemma-3-12b-it cabe na AMD Radeon RX 7900 XTX em Q8_0 com um contexto de 8.192 tokens. Uma placa precisa de 15,8 GiB disponíveis para “Cabe”.

Em Q8_0, o maior contexto que cabe é de 112.640 tokens.

“Cabe” significa que a verificação de carregamento padrão --fit do llama.cpp colocaria todas as camadas na GPU: nossa estimativa dos buffers do llama.cpp, mais a margem de erro, mais a reserva de 1 GiB por placa do llama.cpp, está dentro da memória contada como disponível. Isso não garante que a memória de pico durante a geração caiba. Como os resultados são definidos

Valores atualizados em 19 de out. de 2026 · Calculadora

Perfil de execução: llama.cpp, back end ROCm no Linux (GPU dedicada AMD), todas as camadas na GPU, Flash Attention ativada, micro-batch (-ub) 512, KV cache em F16, contexto (-c) conforme indicado; “Cabe” é avaliado com as 4 sequências paralelas padrão do llama-server (-np auto, KV cache unificado) e “Não cabe” com 1 sequência; GPU ociosa, sem outros programas usando sua memória.

Memória considerada disponível para “Cabe” (C_low): 22,75 GiB por placa = 24 GiB nominais − 16 MiB (nominal menos o total que o llama.cpp informou para esta GPU em logs públicos) − 1.216 MiB (o maior uso de inicialização e de execução visto nos logs públicos deste perfil), arredondado para baixo para um múltiplo de 64 MiB.

Estes resultados se aplicam à configuração observada em logs públicos, nos quais o llama.cpp informou 24.560 MiB de memória total para esta GPU. Configurações que reduzem a memória utilizável (por exemplo, ECC, quando a placa oferece suporte) não estão incluídas.

Memória usada para “Não cabe” (C_high): os 24 GiB completos por placa. Perfis de execução e suas medições

Memória necessária por quantização e contexto

Memória disponível necessária para “Cabe” (X, GiB por placa) e o resultado na AMD Radeon RX 7900 XTX.
Quantização	4.096	8.192	32.768	131.072
BF16	26,2 GiB No limite	26,6 GiB No limite	28,3 GiB No limite	34,8 GiB Não cabe
Q8_0	15,4 GiB Cabe	15,8 GiB Cabe	17,4 GiB Cabe	24,0 GiB No limite
Q6_K	12,6 GiB Cabe	13,0 GiB Cabe	14,7 GiB Cabe	21,2 GiB Cabe
Q5_K_M	11,4 GiB Cabe	11,8 GiB Cabe	13,5 GiB Cabe	20,0 GiB Cabe
Q4_K_M	10,3 GiB Cabe	10,7 GiB Cabe	12,3 GiB Cabe	18,9 GiB Cabe
Q4_0	9,9 GiB Cabe	10,3 GiB Cabe	12,0 GiB Cabe	18,5 GiB Cabe
IQ4_XS	9,5 GiB Cabe	10,0 GiB Cabe	11,6 GiB Cabe	18,1 GiB Cabe
Q3_K_M	9,0 GiB Cabe	9,4 GiB Cabe	11,1 GiB Cabe	17,6 GiB Cabe
Q2_K	7,8 GiB Cabe	8,2 GiB Cabe	9,9 GiB Cabe	16,4 GiB Cabe

Nenhum limite de velocidade é informado: a largura de banda de memória da AMD Radeon RX 7900 XTX não é confirmada por duas fontes abertas independentes.

Alternativas

Outras GPUs de 24 GB em que gemma-3-12b-it cabe

NVIDIA GeForce RTX 3090 24 GB
NVIDIA GeForce RTX 3090 Ti 24 GB

Maior modelo da mesma família que cabe na AMD Radeon RX 7900 XTX

gemma-3-27b-it 27,0B · Q4_K_M · página detalhada

Mesma família: mesmo publicador e mesmo nome de modelo até a contagem de parâmetros.

Fontes

Página do modelo, com todas as quantizações e seus arquivos: gemma-3-12b-it
Página da GPU, com cada especificação e suas fontes: AMD Radeon RX 7900 XTX
Arquivos do modelo no Hugging Face (revisões fixadas): google/gemma-3-12b-it@96b6f1e, unsloth/gemma-3-12b-it-GGUF@d15e4c7
Tamanho da memória de AMD Radeon RX 7900 XTX segundo: Wikipedia: Radeon RX 7000 series (CC BY-SA 4.0), ROCm documentation gpu-specs.rst (MIT)
Metodologia