¿Puede AMD Radeon RX 7900 XT ejecutar gemma-4-12B-it?

Esta página fue escrita y traducida automáticamente por IA y verificada por software con respecto a sus fuentes, sin edición humana. Las especificaciones provienen de las fuentes indicadas; los requisitos de memoria y las velocidades son estimaciones calculadas con fórmulas publicadas. Cómo usamos la IA

Cabe Según la comprobación de carga predeterminada de llama.cpp, gemma-4-12B-it cabe en AMD Radeon RX 7900 XT con Q8_0 y un contexto de 8192 tokens. Una tarjeta necesita 15,6 GiB disponibles para «Cabe».

Con Q8_0, la mayor longitud de contexto que cabe es de 177.152 tokens.

“Cabe” significa que la comprobación de carga predeterminada --fit de llama.cpp colocaría todas las capas en la GPU: nuestra estimación de los búferes de llama.cpp, más su margen de error, más la reserva de 1 GiB por tarjeta de llama.cpp, está dentro de la memoria contada como disponible. No garantiza que quepa el pico de memoria durante la generación. Cómo se deciden los resultados

Valores actualizados el 19 oct 2026 · Calculadora

Perfil de ejecución: llama.cpp, motor ROCm en Linux (GPU discreta AMD), todas las capas en la GPU, Flash Attention activado, micro-lote (-ub) 512, KV cache F16, contexto (-c) como se indica; «cabe» se evalúa con las 4 secuencias paralelas predeterminadas de llama-server (-np auto, KV cache unificada) y «no cabe» con 1 secuencia; GPU inactiva, sin otros programas que usen su memoria.

Memoria contada como disponible para «Cabe» (C_low): 18,63 GiB por tarjeta = 20 GiB nominales − 144 MiB (la mayor diferencia entre el valor nominal y el total indicado, medida en GPUs de consumo y de estación de trabajo de este perfil; se usa porque ningún registro público indica el total propio de esta GPU) − 1216 MiB (el mayor uso de arranque y de ejecución observado en los registros públicos de este perfil), redondeado hacia abajo a un múltiplo de 64 MiB.

Estos resultados asumen la configuración predeterminada de la tarjeta gráfica. No se contemplan los ajustes que reducen la memoria utilizable (por ejemplo, ECC, en las tarjetas que lo admiten).

Memoria usada para «No cabe» (C_high): los 20 GiB completos por tarjeta. Perfiles de ejecución y sus mediciones

Memoria necesaria por cuantización y longitud de contexto

Memoria disponible necesaria para “Cabe” (X, GiB por tarjeta) y el resultado en AMD Radeon RX 7900 XT.
Cuantización	4096	8192	32.768	131.072
BF16	26,3 GiB No cabe	26,5 GiB No cabe	27,0 GiB No cabe	28,7 GiB No cabe
Q8_0	15,3 GiB Cabe	15,6 GiB Cabe	16,0 GiB Cabe	17,8 GiB Cabe
Q6_K	12,5 GiB Cabe	12,7 GiB Cabe	13,2 GiB Cabe	15,0 GiB Cabe
Q5_K_M	11,2 GiB Cabe	11,4 GiB Cabe	11,8 GiB Cabe	13,6 GiB Cabe
Q4_K_M	9,9 GiB Cabe	10,1 GiB Cabe	10,6 GiB Cabe	12,4 GiB Cabe
Q4_0	9,5 GiB Cabe	9,8 GiB Cabe	10,2 GiB Cabe	12,0 GiB Cabe
IQ4_XS	9,2 GiB Cabe	9,4 GiB Cabe	9,8 GiB Cabe	11,6 GiB Cabe
Q3_K_M	8,5 GiB Cabe	8,7 GiB Cabe	9,2 GiB Cabe	11,0 GiB Cabe

No se indica un límite de velocidad: el ancho de banda de memoria de AMD Radeon RX 7900 XT no está confirmado por dos fuentes abiertas independientes.

Alternativas

Otras GPUs de 20 GB en las que gemma-4-12B-it cabe

Ninguna otra GPU con la misma cantidad de memoria puede alojar este modelo.

El modelo más grande de la misma familia que cabe en AMD Radeon RX 7900 XT

gemma-4-31B 30,7B · Q2_K

Misma familia: el mismo editor y el mismo nombre de modelo hasta el número de parámetros.

Fuentes

Página del modelo, con todas las cuantizaciones y sus archivos: gemma-4-12B-it
Página de la GPU, con cada especificación y sus fuentes: AMD Radeon RX 7900 XT
Archivos del modelo en Hugging Face (revisiones fijadas): google/gemma-4-12B-it@707f0a3, unsloth/gemma-4-12b-it-GGUF@fc034cf
Tamaño de memoria de AMD Radeon RX 7900 XT según: Wikipedia: Radeon RX 7000 series (CC BY-SA 4.0), ROCm documentation gpu-specs.rst (MIT)
Metodología