¿Puede NVIDIA GeForce RTX 5090 ejecutar Qwen3.5-27B?

Esta página fue escrita y traducida automáticamente por IA y verificada por software con respecto a sus fuentes, sin edición humana. Las especificaciones provienen de las fuentes indicadas; los requisitos de memoria y las velocidades son estimaciones calculadas con fórmulas publicadas. Cómo usamos la IA

Cabe Según la comprobación de carga predeterminada de llama.cpp, Qwen3.5-27B cabe en NVIDIA GeForce RTX 5090 con Q6_K y un contexto de 8192 tokens. Una tarjeta necesita 23,6 GiB disponibles para «Cabe».

Con Q6_K, la mayor longitud de contexto que cabe es de 92.672 tokens.

“Cabe” significa que la comprobación de carga predeterminada --fit de llama.cpp colocaría todas las capas en la GPU: nuestra estimación de los búferes de llama.cpp, más su margen de error, más la reserva de 1 GiB por tarjeta de llama.cpp, está dentro de la memoria contada como disponible. No garantiza que quepa el pico de memoria durante la generación. Cómo se deciden los resultados

Valores actualizados el 19 oct 2026 · Calculadora

Perfil de ejecución: llama.cpp, motor de ejecución CUDA (GPU discreta NVIDIA), todas las capas en la GPU, Flash Attention activado, micro-lote (-ub) 512, KV cache F16, contexto (-c) según se indica; «Cabe» se determina con las 4 secuencias paralelas predeterminadas de llama-server (-np auto, KV cache unificada) y «No cabe» con 1 secuencia; GPU inactiva, sin otros programas que usen su memoria.

Memoria contada como disponible para «Cabe» (C_low): 29,25 GiB por tarjeta = 32 GiB nominales − 659 MiB (nominal menos el total que llama.cpp indicó para esta GPU en registros públicos) − 2112 MiB (el mayor uso de arranque y de ejecución observado en los registros públicos de este perfil), redondeado hacia abajo a un múltiplo de 64 MiB.

Estos resultados se aplican a la configuración observada en registros públicos, en la que llama.cpp indicó 32.109 MiB de memoria total para esta GPU. No se cubren los ajustes que reducen la memoria utilizable (por ejemplo, ECC, si la tarjeta lo admite).

Memoria usada para «No cabe» (C_high): los 32 GiB completos por tarjeta. Perfiles de ejecución y sus mediciones

Memoria necesaria por cuantización y longitud de contexto

Memoria disponible necesaria para “Cabe” (X, GiB por tarjeta) y el resultado en NVIDIA GeForce RTX 5090.
Cuantización	4096	8192	32.768	131.072
BF16	52,6 GiB No cabe	52,9 GiB No cabe	54,5 GiB No cabe	61,0 GiB No cabe
Q8_0	29,1 GiB Cabe	29,4 GiB Al límite	31,0 GiB Al límite	37,5 GiB Al límite
Q6_K	23,4 GiB Cabe	23,6 GiB Cabe	25,3 GiB Cabe	31,8 GiB Al límite
Q5_K_M	20,7 GiB Cabe	21,0 GiB Cabe	22,6 GiB Cabe	29,2 GiB Cabe
Q4_K_M	18,1 GiB Cabe	18,4 GiB Cabe	20,0 GiB Cabe	26,5 GiB Cabe
Q4_0	17,1 GiB Cabe	17,4 GiB Cabe	19,0 GiB Cabe	25,5 GiB Cabe
IQ4_XS	16,4 GiB Cabe	16,6 GiB Cabe	18,3 GiB Cabe	24,8 GiB Cabe
Q3_K_M	15,1 GiB Cabe	15,3 GiB Cabe	17,0 GiB Cabe	23,5 GiB Cabe

¿Qué tan rápido puede generar?

Con Q6_K, el límite teórico es de aproximadamente 81,7 tokens por segundo (1792 GB/s ÷ 21,94 GB leídos por token).

El techo de velocidad es el ancho de banda de memoria dividido entre los bytes leídos por cada token generado. Es un límite superior teórico; las pruebas de rendimiento públicas de llama.cpp suelen alcanzar entre la mitad y cuatro quintos de ese valor, y con modelos pequeños y modelos de mezcla de expertos a menudo alcanzan menos. Pruebas de rendimiento públicas

Alternativas

Otras GPUs de 32 GB en las que Qwen3.5-27B cabe

Ninguna otra GPU con la misma cantidad de memoria puede alojar este modelo.

El modelo más grande de la misma familia que cabe en NVIDIA GeForce RTX 5090

Qwen3.5-35B-A3B 34,7B · Q5_K_M · página detallada

Misma familia: el mismo editor y el mismo nombre de modelo hasta el número de parámetros.

Fuentes

Página del modelo, con todas las cuantizaciones y sus archivos: Qwen3.5-27B
Página de la GPU, con cada especificación y sus fuentes: NVIDIA GeForce RTX 5090
Archivos del modelo en Hugging Face (revisiones fijadas): Qwen/Qwen3.5-27B@fc05dae, unsloth/Qwen3.5-27B-GGUF@3221f17
Tamaño de memoria de NVIDIA GeForce RTX 5090 según: Wikipedia: List of Nvidia graphics processing units (CC BY-SA 4.0), GetDeploying GPU Models (CC BY 4.0)
Metodología