¿Puede AMD Radeon RX 7900 XT ejecutar Qwen3-Coder-30B-A3B-Instruct?
Esta página fue escrita y traducida automáticamente por IA y verificada por software con respecto a sus fuentes, sin edición humana. Las especificaciones provienen de las fuentes indicadas; los requisitos de memoria y las velocidades son estimaciones calculadas con fórmulas publicadas. Cómo usamos la IA
Cabe Según la comprobación de carga predeterminada de llama.cpp, Qwen3-Coder-30B-A3B-Instruct cabe en AMD Radeon RX 7900 XT con IQ4_XS y un contexto de 8192 tokens. Una tarjeta necesita 18,0 GiB disponibles para «Cabe».
Con IQ4_XS, la mayor longitud de contexto que cabe es de 14.592 tokens.
Perfil de ejecución: llama.cpp, motor ROCm en Linux (GPU discreta AMD), todas las capas en la GPU, Flash Attention activado, micro-lote (-ub) 512, KV cache F16, contexto (-c) como se indica; «cabe» se evalúa con las 4 secuencias paralelas predeterminadas de llama-server (-np auto, KV cache unificada) y «no cabe» con 1 secuencia; GPU inactiva, sin otros programas que usen su memoria.
Memoria contada como disponible para «Cabe» (C_low): 18,63 GiB por tarjeta = 20 GiB nominales − 144 MiB (la mayor diferencia entre el valor nominal y el total indicado, medida en GPUs de consumo y de estación de trabajo de este perfil; se usa porque ningún registro público indica el total propio de esta GPU) − 1216 MiB (el mayor uso de arranque y de ejecución observado en los registros públicos de este perfil), redondeado hacia abajo a un múltiplo de 64 MiB.
Estos resultados asumen la configuración predeterminada de la tarjeta gráfica. No se contemplan los ajustes que reducen la memoria utilizable (por ejemplo, ECC, en las tarjetas que lo admiten).
Memoria usada para «No cabe» (C_high): los 20 GiB completos por tarjeta. Perfiles de ejecución y sus mediciones
Memoria necesaria por cuantización y longitud de contexto
| Cuantización | 4096 | 8192 | 32.768 | 131.072 |
|---|---|---|---|---|
| BF16 | 61,0 GiB No cabe | 61,4 GiB No cabe | 63,8 GiB No cabe | 73,5 GiB No cabe |
| Q8_0 | 33,2 GiB No cabe | 33,6 GiB No cabe | 36,0 GiB No cabe | 45,7 GiB No cabe |
| Q6_K | 26,1 GiB No cabe | 26,5 GiB No cabe | 28,9 GiB No cabe | 38,5 GiB No cabe |
| Q5_K_M | 22,8 GiB Al límite | 23,2 GiB Al límite | 25,6 GiB No cabe | 35,3 GiB No cabe |
| Q4_K_M | 19,7 GiB Al límite | 20,1 GiB Al límite | 22,5 GiB Al límite | 32,2 GiB No cabe |
| Q4_0 | 18,6 GiB Cabe | 19,0 GiB Al límite | 21,4 GiB Al límite | 31,1 GiB No cabe |
| IQ4_XS | 17,6 GiB Cabe | 18,0 GiB Cabe | 20,4 GiB Al límite | 30,1 GiB No cabe |
| Q3_K_M | 16,0 GiB Cabe | 16,4 GiB Cabe | 18,8 GiB Al límite | 28,5 GiB No cabe |
| Q2_K | 12,6 GiB Cabe | 13,0 GiB Cabe | 15,5 GiB Cabe | 25,1 GiB No cabe |
Alternativas
Otras GPUs de 20 GB en las que Qwen3-Coder-30B-A3B-Instruct cabe
Ninguna otra GPU con la misma cantidad de memoria puede alojar este modelo.
Fuentes
- Página del modelo, con todas las cuantizaciones y sus archivos: Qwen3-Coder-30B-A3B-Instruct
- Página de la GPU, con cada especificación y sus fuentes: AMD Radeon RX 7900 XT
- Archivos del modelo en Hugging Face (revisiones fijadas): Qwen/Qwen3-Coder-30B-A3B-Instruct@b2cff64, unsloth/Qwen3-Coder-30B-A3B-Instruct-GGUF@b17cb02
- Tamaño de memoria de AMD Radeon RX 7900 XT según: Wikipedia: Radeon RX 7000 series (CC BY-SA 4.0), ROCm documentation gpu-specs.rst (MIT)
- Metodología