A AMD Radeon RX 7900 XTX consegue executar Qwen3-14B?
Esta página foi escrita e traduzida automaticamente por IA e verificada por software em relação às suas fontes, sem edição humana. As especificações vêm das fontes listadas; os requisitos de memória e as velocidades são estimativas calculadas com fórmulas publicadas. Como usamos IA
Cabe Pela verificação de carregamento padrão do llama.cpp, Qwen3-14B cabe na AMD Radeon RX 7900 XTX em Q8_0 com um contexto de 8.192 tokens. Uma placa precisa de 17,2 GiB disponíveis para “Cabe”.
Em Q8_0, o maior contexto que cabe é de 40.960 tokens.
Perfil de execução: llama.cpp, back end ROCm no Linux (GPU dedicada AMD), todas as camadas na GPU, Flash Attention ativada, micro-batch (-ub) 512, KV cache em F16, contexto (-c) conforme indicado; “Cabe” é avaliado com as 4 sequências paralelas padrão do llama-server (-np auto, KV cache unificado) e “Não cabe” com 1 sequência; GPU ociosa, sem outros programas usando sua memória.
Memória considerada disponível para “Cabe” (C_low): 22,75 GiB por placa = 24 GiB nominais − 16 MiB (nominal menos o total que o llama.cpp informou para esta GPU em logs públicos) − 1.216 MiB (o maior uso de inicialização e de execução visto nos logs públicos deste perfil), arredondado para baixo para um múltiplo de 64 MiB.
Estes resultados se aplicam à configuração observada em logs públicos, nos quais o llama.cpp informou 24.560 MiB de memória total para esta GPU. Configurações que reduzem a memória utilizável (por exemplo, ECC, quando a placa oferece suporte) não estão incluídas.
Memória usada para “Não cabe” (C_high): os 24 GiB completos por placa. Perfis de execução e suas medições
Memória necessária por quantização e contexto
| Quantização | 4.096 | 8.192 | 32.768 |
|---|---|---|---|
| Q8_0 | 16,5 GiB Cabe | 17,2 GiB Cabe | 21,2 GiB Cabe |
| Q6_K | 13,2 GiB Cabe | 13,9 GiB Cabe | 17,9 GiB Cabe |
| Q5_K_M | 11,7 GiB Cabe | 12,4 GiB Cabe | 16,4 GiB Cabe |
| Q4_K_M | 10,4 GiB Cabe | 11,0 GiB Cabe | 15,0 GiB Cabe |
Alternativas
Outras GPUs de 24 GB em que Qwen3-14B cabe
Maior modelo da mesma família que cabe na AMD Radeon RX 7900 XTX
Fontes
- Página do modelo, com todas as quantizações e seus arquivos: Qwen3-14B
- Página da GPU, com cada especificação e suas fontes: AMD Radeon RX 7900 XTX
- Arquivos do modelo no Hugging Face (revisões fixadas): Qwen/Qwen3-14B@40c0698, Qwen/Qwen3-14B-GGUF@530227a
- Tamanho da memória de AMD Radeon RX 7900 XTX segundo: Wikipedia: Radeon RX 7000 series (CC BY-SA 4.0), ROCm documentation gpu-specs.rst (MIT)
- Metodologia