AMD Radeon RX 7900 XT: Welche LLMs kann sie ausführen?
Diese Seite wurde automatisch von einer KI geschrieben und übersetzt und von Software anhand ihrer Quellen geprüft, ohne menschliche Bearbeitung. Die Spezifikationen stammen aus den angegebenen Quellen; Speicherbedarf und Geschwindigkeiten sind Schätzungen, die mit veröffentlichten Formeln berechnet wurden. Wie wir KI nutzen
AMD Radeon RX 7900 XT hat 20 GB Speicher (Herstellerangabe). Nachfolgend wird jedes Modell der Datenbank mit llama.cpp bei einer Kontextlänge von 8.192 Tokens (oder dem Maximum des Modells, falls dieses kürzer ist) darauf geprüft.
Spezifikationen
- Speicher (Herstellerangabe)
- 20 GB
- Wikipedia: Radeon RX 7000 series (CC BY-SA 4.0): 20 GB —
Memory › Size: 20 GB
- ROCm documentation gpu-specs.rst (MIT): 20 GiB —
Radeon RX 7900 XT
— Herstellerdokumentation
- Wikipedia: Radeon RX 7000 series (CC BY-SA 4.0): 20 GB —
- Speichertyp
- Nicht angezeigt: Offene Quellen liefern keine zwei unabhängigen, übereinstimmenden Werte mit einer Herstellerangabe.
- Breite des Speicherbusses
- Nicht angezeigt: Offene Quellen liefern keine zwei unabhängigen, übereinstimmenden Werte mit einer Herstellerangabe.
- Speicherbandbreite
- Nicht angezeigt: Offene Quellen liefern keine zwei unabhängigen, übereinstimmenden Werte mit einer Herstellerangabe.
- Boardleistung (TDP)
- Nicht angezeigt: Offene Quellen liefern keine zwei unabhängigen, übereinstimmenden Werte mit einer Herstellerangabe.
- FP16 Tensor, dicht
- Nicht angezeigt: Offene Quellen liefern keine zwei unabhängigen, übereinstimmenden Werte mit einer Herstellerangabe.
- BF16 Tensor, dicht
- Nicht angezeigt: Offene Quellen liefern keine zwei unabhängigen, übereinstimmenden Werte mit einer Herstellerangabe.
- FP8 Tensor, dicht
- Nicht angezeigt: Offene Quellen liefern keine zwei unabhängigen, übereinstimmenden Werte mit einer Herstellerangabe.
- FP4 Tensor, dicht
- Nicht angezeigt: Offene Quellen liefern keine zwei unabhängigen, übereinstimmenden Werte mit einer Herstellerangabe.
- INT8 Tensor, dicht
- Nicht angezeigt: Offene Quellen liefern keine zwei unabhängigen, übereinstimmenden Werte mit einer Herstellerangabe.
- Schnittstelle
- Nicht angezeigt: Offene Quellen liefern keine zwei unabhängigen, übereinstimmenden Werte mit einer Herstellerangabe.
Jeder Wert führt alle Quellen mit ihrer eigenen Angabe auf; die Einheiten wurden normalisiert. Die „GB“ GPU-Speicher eines Herstellers werden als GiB (2³⁰ Byte) gezählt, so wie es auch die ROCm-Tabelle von AMD angibt. Wie Spezifikationen geprüft werden
Laufzeitprofil
Laufzeitprofil: llama.cpp, ROCm-Backend unter Linux (dedizierte AMD-GPU), alle Layer auf der GPU, Flash Attention an, Micro-Batch (-ub) 512, F16-KV-cache, Kontextlänge (-c) wie angezeigt; „Passt“ wird mit den 4 parallelen Sequenzen beurteilt, die llama-server standardmäßig nutzt (-np auto, einheitlicher KV-Cache), „Passt nicht“ mit 1 Sequenz; unbelastete GPU, ohne andere Programme, die ihren Speicher nutzen.
Als verfügbar für „Passt“ gezählter Speicher (C_low): 18,63 GiB pro Karte = 20 GiB nominal − 144 MiB (die größte gemessene Differenz zwischen nominaler und gemeldeter Gesamtmenge bei Consumer- und Workstation-GPUs in diesem Profil; verwendet, weil kein öffentliches Log die Gesamtmenge dieser GPU angibt) − 1.216 MiB (die größte Start- und Laufzeitbelegung in den öffentlichen Logs dieses Profils), abgerundet auf ein Vielfaches von 64 MiB.
Diese Ergebnisse gehen von der Standardkonfiguration der Karte aus. Einstellungen, die den nutzbaren Speicher verringern (zum Beispiel ECC, sofern die Karte es unterstützt), sind nicht berücksichtigt.
Speicher für „Passt nicht“ (C_high): der volle Speicher von 20 GiB pro Karte. Laufzeitprofile und ihre Messungen
Welche Modelle passen
| Modell | Parameter | Höchste Quantisierung, die passt | Benötigter verfügbarer Speicher für „Passt“ | Längste Kontextlänge | Geschwindigkeitsobergrenze | Ergebnis |
|---|---|---|---|---|---|---|
| AI21-Jamba2-Mini | 51,6B (11,8B aktiv) | IQ2_M | 17,3 GiB | 81.920 | — | Passt |
| Kimi-Linear-48B-A3B-Base | 49,1B (3,1B aktiv) | IQ2_M | 17,2 GiB | 148.224 | — | Passt |
| Kimi-Linear-48B-A3B-Instruct | 49,1B (3,1B aktiv) | IQ2_M | 16,9 GiB | 181.760 | — | Passt |
| Hermes-4.3-36B | 36,2B | IQ3_XXS | 16,9 GiB | 14.592 | — | Passt |
| Kimi-Linear-REAP-35B-A3B-Instruct | 35,1B (3,1B aktiv) | Q3_K_M | 17,9 GiB | 78.336 | — | Passt |
| Holo-3.1-35B-A3B | 34,7B (2,9B aktiv) | Q3_K_M | 18,1 GiB | 29.696 | — | Passt |
| Holo3-35B-A3B | 34,7B (2,9B aktiv) | Q3_K_M | 18,1 GiB | 29.696 | — | Passt |
| Holo4-35B-A3B | 34,7B (2,9B aktiv) | Q3_K_M | 18,4 GiB | 18.176 | — | Passt |
| Ising-Calibration-1-35B-A3B | 34,7B (2,9B aktiv) | Q3_K_M | 18,1 GiB | 29.696 | — | Passt |
| KAT-Coder-V2.5-Dev | 34,7B (2,9B aktiv) | Q3_K_M | 17,6 GiB | 53.504 | — | Passt |
| Qwen3.5-35B-A3B | 34,7B (2,9B aktiv) | Q3_K_M | 17,6 GiB | 56.576 | — | Passt |
| Qwen3.5-35B-A3B-Base | 34,7B (2,9B aktiv) | Q3_K_M | 18,1 GiB | 29.952 | — | Passt |
| Qwen3.6-35B-A3B | 34,7B (2,9B aktiv) | Q3_K_M | 17,6 GiB | 53.760 | — | Passt |
| Laguna-XS-2.1 | 33,4B (2,8B aktiv) | Q3_K_M | 17,1 GiB | 44.288 | — | Passt |
| DeepSeek-R1-Distill-Qwen-32B | 32,8B | Q2_K | 15,2 GiB | 21.248 | — | Passt |
| Qwen2.5-32B-Instruct | 32,8B | Q2_K | 15,2 GiB | 21.248 | — | Passt |
| Qwen2.5-Coder-32B-Instruct | 32,8B | Q2_K | 15,2 GiB | 21.248 | — | Passt |
| AesCode-32B | 32,8B | IQ3_XXS | 16,4 GiB | 16.640 | — | Passt |
| Cosmos-Reason2-32B | 32,8B | IQ3_XXS | 15,7 GiB | 19.456 | — | Passt |
| FrogBoss-32B-2510 | 32,8B | IQ3_XXS | 15,7 GiB | 19.456 | — | Passt |
| Nemotron-Terminal-32B | 32,8B | IQ3_XXS | 15,7 GiB | 19.456 | — | Passt |
| Qwen3-VL-32B-Instruct | 32,8B | Q2_K | 15,3 GiB | 20.992 | — | Passt |
| Qwen3-VL-32B-Thinking | 32,8B | Q2_K | 15,3 GiB | 20.992 | — | Passt |
| SERA-32B | 32,8B | IQ3_XXS | 15,7 GiB | 19.456 | — | Passt |
| WebWorld-32B | 32,8B | IQ3_XXS | 15,7 GiB | 19.456 | — | Passt |
| Olmo-3.1-32B-Instruct | 32,2B | Q3_K_M | 18,5 GiB | 8.704 | — | Passt |
| Olmo-3.1-32B-Instruct-DPO | 32,2B | Q3_K_M | 18,5 GiB | 8.704 | — | Passt |
| Olmo-3.1-32B-Think | 32,2B | Q3_K_M | 18,5 GiB | 8.704 | — | Passt |
| Olmo-3-1125-32B | 32,2B | Q3_K_M | 18,5 GiB | 8.704 | — | Passt |
| Olmo-3-32B-Think | 32,2B | Q3_K_M | 18,5 GiB | 8.704 | — | Passt |
| Olmo-3-32B-Think-DPO | 32,2B | Q3_K_M | 18,5 GiB | 8.704 | — | Passt |
| Olmo-3-32B-Think-SFT | 32,2B | Q3_K_M | 18,5 GiB | 8.704 | — | Passt |
| gemma-4-31B | 30,7B | Q2_K | 17,6 GiB | 20.736 | — | Passt |
| Ising-Calibration-1.5-31B-BF16 | 30,7B | IQ3_XXS | 18,6 GiB | 8.192 | — | Passt |
| Holo2-30B-A3B | 30,5B (3,0B aktiv) | IQ4_XS | 18,2 GiB | 12.544 | — | Passt |
| Qwen3-30B-A3B-Instruct-2507 | 30,5B (3,0B aktiv) | IQ4_XS | 18,0 GiB | 14.592 | — | Passt |
| Qwen3-Coder-30B-A3B-Instruct | 30,5B (3,0B aktiv) | IQ4_XS | 18,0 GiB | 14.592 | — | Passt |
| Qwen3-VL-30B-A3B-Instruct | 30,5B (3,0B aktiv) | IQ4_XS | 18,0 GiB | 14.592 | — | Passt |
| UI-Venus-1.5-30B-A3B | 30,5B (3,0B aktiv) | IQ4_XS | 18,2 GiB | 12.544 | — | Passt |
| North-Mini-Code-1.0 | 30,5B (3,3B aktiv) | IQ4_XS | 18,6 GiB | 8.192 | — | Passt |
| GLM-4.7-Flash | 29,9B (3,6B aktiv) | Q4_0 | 18,5 GiB | 11.008 | — | Passt |
| granite-4.2-30b | 29,3B | Q3_K_M | 17,1 GiB | 14.080 | — | Passt |
| granite-4.1-30b | 28,9B | Q3_K_M | 17,1 GiB | 14.080 | — | Passt |
| Muse-Glimmer-30B | 27,9B | Q4_K_M | 18,1 GiB | 43.008 | — | Passt |
| gemma-2-27b-it | 27,2B | Q3_K_M | 17,7 GiB | 8.192 | — | Passt |
| gemma-3-27b-it | 27,0B | IQ4_XS | 18,6 GiB | 8.192 | — | Passt |
| translategemma-27b-it | 27,0B | Q3_K_M | 17,3 GiB | 24.064 | — | Passt |
| Fara1.5-27B | 26,9B | Q4_0 | 17,7 GiB | 21.504 | — | Passt |
| Holo4-27B | 26,9B | Q4_K_M | 18,2 GiB | 15.104 | — | Passt |
| Qwen3.5-27B | 26,9B | Q4_K_M | 18,4 GiB | 12.032 | — | Passt |
| Qwen3.6-27B | 26,9B | Q4_K_M | 18,4 GiB | 11.008 | — | Passt |
| Qwen3.8-27B | 26,9B | Q4_0 | 17,7 GiB | 21.504 | — | Passt |
| Qwen3.8-3.6-27B-blend | 26,9B | Q4_0 | 17,7 GiB | 21.504 | — | Passt |
| UI-Mate-27B | 26,9B | Q4_0 | 17,7 GiB | 21.504 | — | Passt |
| UI-Mate-democua-27B | 26,9B | Q4_K_M | 18,2 GiB | 15.104 | — | Passt |
| Trinity-Mini | 26,1B (3,1B aktiv) | Q4_K_M | 17,4 GiB | 77.056 | — | Passt |
| Trinity-Mini-Base | 26,1B (3,1B aktiv) | Q4_K_M | 17,2 GiB | 83.200 | — | Passt |
| Trinity-Mini-Base-Pre-Anneal | 26,1B (3,1B aktiv) | Q4_K_M | 17,0 GiB | 4.096 | — | Passt |
| gemma-4-26B-A4B | 25,2B (3,8B aktiv) | IQ4_XS | 16,4 GiB | 108.288 | — | Passt |
| gemma-4-26B-A4B-it | 25,2B (3,8B aktiv) | Q4_0 | 17,1 GiB | 77.312 | — | Passt |
| Qwen3-Coder-REAP-25B-A3B | 24,9B (3,0B aktiv) | Q4_K_M | 16,8 GiB | 26.368 | — | Passt |
| LFM2.5-24B-A2B | 24,0B (2,5B aktiv) | Q5_K_M | 18,1 GiB | 30.464 | — | Passt |
| LFM2-24B-A2B | 23,8B (2,3B aktiv) | Q5_K_M | 18,0 GiB | 35.072 | — | Passt |
| Devstral-Small-2-24B-Instruct-2512 | 23,6B | Q5_K_M | 18,6 GiB | 8.448 | — | Passt |
| Mistral-Small-3.2-24B-Instruct-2506 | 23,6B | Q5_K_M | 18,6 GiB | 8.448 | — | Passt |
| GLM-4.7-Flash-REAP-23B-A3B | 23,0B (3,6B aktiv) | Q5_K_M | 17,7 GiB | 24.832 | — | Passt |
| EuroLLM-22B-2512 | 22,6B | Q5_K_M | 18,2 GiB | 9.728 | — | Passt |
| EuroLLM-22B-Instruct-2512 | 22,6B | Q5_K_M | 18,2 GiB | 9.728 | — | Passt |
| gpt-oss-20b | 20,9B (3,6B aktiv) | Q8_0 | 12,9 GiB | 131.072 | — | Passt |
| OptiMind-SFT | 20,9B (3,6B aktiv) | Q5_K_M | 17,8 GiB | 40.960 | — | Passt |
| DeepSeek-R1-Distill-Qwen-14B | 14,8B | Q8_0 | 17,5 GiB | 14.080 | — | Passt |
| Qwen2.5-14B-Instruct | 14,8B | Q8_0 | 17,5 GiB | 14.080 | — | Passt |
| ContextPilot-14B | 14,8B | Q8_0 | 17,2 GiB | 16.640 | — | Passt |
| FrogMini-14B-2510 | 14,8B | Q6_K | 13,9 GiB | 37.120 | — | Passt |
| JanusCoder-14B | 14,8B | Q8_0 | 17,2 GiB | 16.640 | — | Passt |
| Nemotron-Cascade-14B-Thinking | 14,8B | Q8_0 | 17,2 GiB | 16.640 | — | Passt |
| Nemotron-Terminal-14B | 14,8B | Q6_K | 13,9 GiB | 37.120 | — | Passt |
| NousCoder-14B | 14,8B | Q8_0 | 17,2 GiB | 16.640 | — | Passt |
| Qwen3-14B | 14,8B | Q8_0 | 17,2 GiB | 16.640 | — | Passt |
| Qwen3-Nemotron-14B-BRRM | 14,8B | Q6_K | 13,9 GiB | 37.120 | — | Passt |
| WebWorld-14B | 14,8B | Q6_K | 13,9 GiB | 37.120 | — | Passt |
| phi-4 | 14,7B | Q8_0 | 17,7 GiB | 12.800 | — | Passt |
| Apriel-1.6-15b-Thinker | 14,4B | Q8_0 | 17,2 GiB | 15.360 | — | Passt |
| Ministral-3-14B-Instruct-2512 | 13,5B | Q8_0 | 16,0 GiB | 24.320 | — | Passt |
| Ministral-3-14B-Reasoning-2512 | 13,5B | Q8_0 | 16,0 GiB | 24.320 | — | Passt |
| Mistral-Nemo-Instruct-2407 | 12,2B | Q8_0 | 14,7 GiB | 32.512 | — | Passt |
| Mellum2.1-12B-A2.5B-Thinking | 12,1B (2,2B aktiv) | Q8_0 | 14,0 GiB | 131.072 | — | Passt |
| Mellum2-12B-A2.5B-Base | 12,1B (2,2B aktiv) | Q6_K | 12,1 GiB | 131.072 | — | Passt |
| Mellum2-12B-A2.5B-Instruct | 12,1B (2,2B aktiv) | Q8_0 | 14,0 GiB | 131.072 | — | Passt |
| Mellum2-12B-A2.5B-Instruct-SFT | 12,1B (2,2B aktiv) | Q6_K | 12,1 GiB | 131.072 | — | Passt |
| Mellum2-12B-A2.5B-Thinking | 12,1B (2,2B aktiv) | Q8_0 | 14,0 GiB | 131.072 | — | Passt |
| Mellum2-12B-A2.5B-Thinking-SFT | 12,1B (2,2B aktiv) | Q6_K | 12,1 GiB | 131.072 | — | Passt |
| gemma-4-12B | 11,9B | Q8_0 | 15,6 GiB | 177.152 | — | Passt |
| gemma-4-12B-it | 11,9B | Q8_0 | 15,6 GiB | 177.152 | — | Passt |
| gemma-3-12b-it | 11,8B | Q8_0 | 15,8 GiB | 50.432 | — | Passt |
| translategemma-12b-it | 11,8B | Q8_0 | 15,8 GiB | 50.432 | — | Passt |
| Bielik-11B-v3.0-Instruct | 11,2B | Q8_0 | 14,4 GiB | 28.672 | — | Passt |
| AutoGLM-Phone-9B | 9,4B | Q8_0 | 10,8 GiB | 65.536 | — | Passt |
| AutoGLM-Phone-9B-Multilingual | 9,4B | Q6_K | 9,2 GiB | 65.536 | — | Passt |
| GLM-4.6V-Flash | 9,4B | Q8_0 | 10,8 GiB | 131.072 | — | Passt |
| gemma-2-9b-it | 9,2B | Q8_0 | 14,8 GiB | 8.192 | — | Passt |
| EuroLLM-9B-Instruct-2512 | 9,2B | Q8_0 | 11,6 GiB | 32.768 | — | Passt |
| Fara1.5-9B | 9,0B | BF16 | 17,5 GiB | 39.680 | — | Passt |
| Holo-3.1-9B | 9,0B | F16 | 17,5 GiB | 39.680 | — | Passt |
| MiMo-V2.6-Distill-Qwen-9B | 9,0B | BF16 | 17,5 GiB | 39.680 | — | Passt |
| Qwen3.5-9B | 9,0B | BF16 | 17,5 GiB | 39.680 | — | Passt |
| Qwen3.5-9B-Base | 9,0B | F16 | 17,5 GiB | 39.680 | — | Passt |
| UI-Mate-9B | 9,0B | BF16 | 17,5 GiB | 39.680 | — | Passt |
| UI-Venus-2-9B | 9,0B | BF16 | 17,5 GiB | 39.680 | — | Passt |
| NVIDIA-Nemotron-Nano-9B-v2 | 8,9B | BF16 | 18,3 GiB | 28.160 | — | Passt |
| granite-4.1-8b | 8,8B | Q8_0 | 11,3 GiB | 52.992 | — | Passt |
| granite-4.2-8b | 8,8B | Q8_0 | 11,3 GiB | 52.992 | — | Passt |
| Ministral-3-8B-Instruct-2512 | 8,5B | BF16 | 18,0 GiB | 12.544 | — | Passt |
| Ministral-3-8B-Reasoning-2512 | 8,5B | BF16 | 18,0 GiB | 12.544 | — | Passt |
| LFM2.5-8B-A1B | 8,5B (1,7B aktiv) | BF16 | 18,0 GiB | 53.504 | — | Passt |
| granite-guardian-4.1-8b | 8,4B | Q8_0 | 11,3 GiB | 52.992 | — | Passt |
| LFM2-8B-A1B | 8,3B (1,6B aktiv) | F16 | 17,7 GiB | 71.424 | — | Passt |
| rnj-1-instruct | 8,3B | Q8_0 | 11,0 GiB | 32.768 | — | Passt |
| AesCode-8B | 8,2B | BF16 | 17,3 GiB | 16.896 | — | Passt |
| ArmorOCR | 8,2B | Q8_0 | 10,4 GiB | 64.256 | — | Passt |
| AstaBrief_8B | 8,2B | Q6_K | 8,6 GiB | 40.960 | — | Passt |
| ContextPilot-8B | 8,2B | Q6_K | 8,6 GiB | 40.960 | — | Passt |
| Cosmos-Reason2-8B | 8,2B | Q6_K | 8,6 GiB | 76.544 | — | Passt |
| DeepSeek-R1-0528-Qwen3-8B | 8,2B | BF16 | 17,3 GiB | 16.896 | — | Passt |
| Holo2-8B | 8,2B | Q6_K | 8,6 GiB | 76.544 | — | Passt |
| intent-aware-lfqa-qwen3-8b-baseline | 8,2B | F16 | 17,3 GiB | 16.896 | — | Passt |
| intent-aware-lfqa-qwen3-8b-intent-explicit | 8,2B | F16 | 17,3 GiB | 16.896 | — | Passt |
| intent-aware-lfqa-qwen3-8b-intent-implicit | 8,2B | F16 | 17,3 GiB | 16.896 | — | Passt |
| intent-aware-lfqa-qwen3-8b-multiview | 8,2B | F16 | 17,3 GiB | 16.896 | — | Passt |
| JanusCoder-8B | 8,2B | BF16 | 17,3 GiB | 16.896 | — | Passt |
| MathForm-8B | 8,2B | F16 | 17,3 GiB | 16.896 | — | Passt |
| Nemotron-Cascade-8B | 8,2B | BF16 | 17,3 GiB | 16.896 | — | Passt |
| Nemotron-Cascade-8B-Thinking | 8,2B | BF16 | 17,3 GiB | 16.896 | — | Passt |
| Nemotron-Orchestrator-8B | 8,2B | BF16 | 17,3 GiB | 16.896 | — | Passt |
| Nemotron-Terminal-8B | 8,2B | Q6_K | 8,6 GiB | 40.960 | — | Passt |
| Qwen3-8B | 8,2B | Q8_0 | 10,4 GiB | 40.960 | — | Passt |
| Qwen3-Nemotron-8B-BRRM | 8,2B | Q6_K | 8,6 GiB | 40.960 | — | Passt |
| Qwen3-VL-8B-Instruct | 8,2B | BF16 | 17,3 GiB | 16.896 | — | Passt |
| Qwen3-VL-8B-Thinking | 8,2B | BF16 | 17,3 GiB | 16.896 | — | Passt |
| RLVR-8B-0926 | 8,2B | Q6_K | 8,6 GiB | 76.544 | — | Passt |
| Step3-VL-10B-Base | 8,2B | Q6_K | 8,6 GiB | 40.960 | — | Passt |
| UI-Venus-1.5-8B | 8,2B | Q6_K | 8,6 GiB | 76.544 | — | Passt |
| WebWorld-8B | 8,2B | F16 | 17,3 GiB | 16.896 | — | Passt |
| ZwZ-8B | 8,2B | Q6_K | 8,6 GiB | 76.544 | — | Passt |
| MiniCPM-o-4_5 | 8,2B | F16 | 17,3 GiB | 16.896 | — | Passt |
| granite-3.3-8b-instruct | 8,2B | F16 | 18,6 GiB | 8.192 | — | Passt |
| granite-guardian-3.2-8b-factuality-detection | 8,2B | F16 | 18,6 GiB | 8.192 | — | Passt |
| intent-aware-lfqa-llama3-8b-baseline | 8,0B | F16 | 17,0 GiB | 20.224 | — | Passt |
| intent-aware-lfqa-llama3-8b-intent-explicit | 8,0B | F16 | 17,0 GiB | 20.224 | — | Passt |
| intent-aware-lfqa-llama3-8b-intent-implicit | 8,0B | F16 | 17,0 GiB | 20.224 | — | Passt |
| intent-aware-lfqa-llama3-8b-multiview | 8,0B | F16 | 17,0 GiB | 20.224 | — | Passt |
| DeepSeek-R1-Distill-Llama-8B | 8,0B | BF16 | 17,0 GiB | 20.224 | — | Passt |
| HARC-Llama-3.1-8B-Instruct | 8,0B | Q6_K | 8,4 GiB | 86.784 | — | Passt |
| Llama-3.1-8B-Instruct | 8,0B | BF16 | 17,0 GiB | 20.224 | — | Passt |
| AprielGuard | 7,9B | Q6_K | 7,9 GiB | 117.248 | — | Passt |
| MiMo-Embodied-7B | 7,6B | Q6_K | 8,1 GiB | 79.616 | — | Passt |
| DeepSeek-R1-Distill-Qwen-7B | 7,6B | F16 | 15,6 GiB | 59.136 | — | Passt |
| Fara-7B | 7,6B | BF16 | 15,6 GiB | 59.136 | — | Passt |
| HARC-Qwen2.5-7B-Instruct | 7,6B | Q6_K | 7,5 GiB | 32.768 | — | Passt |
| JanusCoderV-7B | 7,6B | BF16 | 15,6 GiB | 59.136 | — | Passt |
| olmOCR-2-7B-1025 | 7,6B | BF16 | 15,6 GiB | 59.136 | — | Passt |
| Qwen2.5-7B-Instruct | 7,6B | Q8_0 | 9,1 GiB | 32.768 | — | Passt |
| Qwen2.5-Coder-7B-Instruct | 7,6B | Q8_0 | 9,1 GiB | 32.768 | — | Passt |
| Qwen2.5-VL-7B-Instruct | 7,6B | BF16 | 15,6 GiB | 59.136 | — | Passt |
| Qwen2.5-VL-7B-Surg-CholecT50 | 7,6B | F16 | 15,6 GiB | 59.136 | — | Passt |
| Spatial-SSRL-7B | 7,6B | Q6_K | 7,5 GiB | 128.000 | — | Passt |
| X-Reasoner-7B | 7,6B | Q6_K | 7,5 GiB | 128.000 | — | Passt |
| ZwZ-7B | 7,6B | Q6_K | 7,5 GiB | 128.000 | — | Passt |
| gemma-4-E4B | 7,5B | F16 | 11,0 GiB | 131.072 | — | Passt |
| gemma-4-E4B-it | 7,5B | BF16 | 11,0 GiB | 131.072 | — | Passt |
| Bielik-Minitron-7B-v3.0-Instruct | 7,5B | Q8_0 | 10,2 GiB | 32.768 | — | Passt |
| ContextPilot-E4B | 7,5B | F16 | 10,9 GiB | 131.072 | — | Passt |
| Olmo-3.1-7B-RL-Zero-Code | 7,3B | Q6_K | 11,0 GiB | 40.192 | — | Passt |
| Olmo-3.1-7B-RL-Zero-Math | 7,3B | Q8_0 | 12,7 GiB | 27.648 | — | Passt |
| Olmo-3-7B-Instruct | 7,3B | Q8_0 | 12,7 GiB | 27.648 | — | Passt |
| Olmo-3-7B-Instruct-DPO | 7,3B | Q6_K | 11,0 GiB | 40.192 | — | Passt |
| Olmo-3-7B-Instruct-SFT | 7,3B | Q6_K | 11,0 GiB | 40.192 | — | Passt |
| Olmo-3-7B-RL-Zero-Code | 7,3B | Q6_K | 11,0 GiB | 40.192 | — | Passt |
| Olmo-3-7B-RL-Zero-General | 7,3B | Q6_K | 11,0 GiB | 40.192 | — | Passt |
| Olmo-3-7B-RL-Zero-IF | 7,3B | Q6_K | 11,0 GiB | 40.192 | — | Passt |
| Olmo-3-7B-RL-Zero-Math | 7,3B | Q6_K | 11,0 GiB | 40.192 | — | Passt |
| Olmo-3-7B-RL-Zero-Mix | 7,3B | Q6_K | 11,0 GiB | 40.192 | — | Passt |
| Olmo-3-7B-Think | 7,3B | Q8_0 | 12,7 GiB | 27.648 | — | Passt |
| Olmo-3-7B-Think-DPO | 7,3B | Q6_K | 11,0 GiB | 40.192 | — | Passt |
| Olmo-3-7B-Think-SFT | 7,3B | Q6_K | 11,0 GiB | 40.192 | — | Passt |
| Mistral-7B-Instruct-v0.2 | 7,2B | Q6_K | 8,1 GiB | 32.768 | — | Passt |
| Trinity-Nano-Base | 6,1B (819M aktiv) | Q6_K | 6,7 GiB | 131.072 | — | Passt |
| Trinity-Nano-Base-Pre-Anneal | 6,1B (819M aktiv) | Q6_K | 6,4 GiB | 4.096 | — | Passt |
| Trinity-Nano-Preview | 6,1B (819M aktiv) | BF16 | 13,5 GiB | 131.072 | — | Passt |
| Youtu-VL-4B-Instruct | 4,9B | Q6_K | 5,9 GiB | 32.768 | — | Passt |
| Holo-3.1-4B | 4,8B | F16 | 10,2 GiB | 253.952 | — | Passt |
| gemma-4-E2B | 4,6B | Q6_K | 3,5 GiB | 131.072 | — | Passt |
| gemma-4-E2B-it | 4,6B | BF16 | 6,1 GiB | 131.072 | — | Passt |
| AgentCPM-Explore | 4,4B | Q6_K | 5,7 GiB | 96.000 | — | Passt |
| CapRL-Qwen3VL-4B | 4,4B | F16 | 10,4 GiB | 64.256 | — | Passt |
| Holo2-4B | 4,4B | F16 | 10,4 GiB | 64.256 | — | Passt |
| intent-aware-lfqa-qwen3-4b-baseline | 4,4B | F16 | 10,4 GiB | 40.960 | — | Passt |
| intent-aware-lfqa-qwen3-4b-intent-explicit | 4,4B | F16 | 10,4 GiB | 40.960 | — | Passt |
| intent-aware-lfqa-qwen3-4b-intent-implicit | 4,4B | F16 | 10,4 GiB | 40.960 | — | Passt |
| intent-aware-lfqa-qwen3-4b-multiview | 4,4B | F16 | 10,4 GiB | 40.960 | — | Passt |
| Spatial-SSRL-Qwen3VL-4B | 4,4B | F16 | 10,4 GiB | 64.256 | — | Passt |
| ZwZ-4B | 4,4B | Q6_K | 5,7 GiB | 96.000 | — | Passt |
| Fara1.5-4B | 4,2B | BF16 | 10,2 GiB | 253.952 | — | Passt |
| FrogNano-4B-2609 | 4,2B | BF16 | 10,2 GiB | 253.952 | — | Passt |
| Qwen3.5-4B | 4,2B | BF16 | 10,2 GiB | 253.952 | — | Passt |
| Qwen3.5-4B-Base | 4,2B | F16 | 10,2 GiB | 253.952 | — | Passt |
| UserRepGen-4B | 4,2B | BF16 | 10,2 GiB | 253.952 | — | Passt |
| Riva-Translate-4B-Instruct-v1.1 | 4,2B | Q6_K | 6,0 GiB | 8.192 | — | Passt |
| GELab-Zero-4B-preview | 4,0B | BF16 | 10,4 GiB | 64.256 | — | Passt |
| Qwen3-4B | 4,0B | Q8_0 | 6,7 GiB | 40.960 | — | Passt |
| Qwen3-4B-Instruct-2507 | 4,0B | F16 | 10,4 GiB | 64.256 | — | Passt |
| Qwen3-VL-4B-Instruct | 4,0B | BF16 | 10,4 GiB | 64.256 | — | Passt |
| Qwen3-VL-4B-Thinking | 4,0B | BF16 | 10,4 GiB | 64.256 | — | Passt |
| NVIDIA-Nemotron-3-Nano-4B-BF16 | 4,0B | BF16 | 8,7 GiB | 262.144 | — | Passt |
| gemma-3-4b-it | 3,9B | BF16 | 9,9 GiB | 131.072 | — | Passt |
| medgemma-1.5-4b-it | 3,9B | BF16 | 9,9 GiB | 131.072 | — | Passt |
| Nemotron-3-Content-Safety | 3,9B | Q6_K | 5,4 GiB | 131.072 | — | Passt |
| translategemma-4b-it | 3,9B | F16 | 9,9 GiB | 131.072 | — | Passt |
| Phi-4-mini-instruct | 3,8B | BF16 | 10,0 GiB | 74.240 | — | Passt |
| Apertus-v1.1-4B | 3,8B | Q6_K | 4,4 GiB | 4.096 | — | Passt |
| Phi-3.5-mini-instruct | 3,8B | Q8_0 | 8,3 GiB | 34.560 | — | Passt |
| granite-4.2-3b | 3,7B | BF16 | 8,6 GiB | 129.792 | — | Passt |
| BitCPM-CANN-3B-unquantized | 3,6B | Q6_K | 4,3 GiB | 32.768 | — | Passt |
| kanana-2-3b-instruct | 3,5B | F16 | 8,6 GiB | 32.768 | — | Passt |
| Ministral-3-3B-Instruct-2512 | 3,4B | BF16 | 8,9 GiB | 99.840 | — | Passt |
| Ministral-3-3B-Reasoning-2512 | 3,4B | BF16 | 8,9 GiB | 99.840 | — | Passt |
| granite-vision-4.1-4b | 3,4B | BF16 | 8,6 GiB | 129.792 | — | Passt |
| granite-4.1-3b | 3,4B | BF16 | 8,6 GiB | 129.792 | — | Passt |
| granite-guardian-4.0-3b-toxicity-ja | 3,4B | Q6_K | 4,7 GiB | 131.072 | — | Passt |
| Qwen2.5-3B-Instruct | 3,4B | Q8_0 | 4,8 GiB | 32.768 | — | Passt |
| tiny-aya-earth | 3,3B | BF16 | 8,7 GiB | ≥ 262.144 (längere Kontextlängen wurden nicht mit gemessenen Logs abgeglichen) | — | Passt |
| tiny-aya-fire | 3,3B | BF16 | 8,7 GiB | ≥ 262.144 (längere Kontextlängen wurden nicht mit gemessenen Logs abgeglichen) | — | Passt |
| tiny-aya-global | 3,3B | BF16 | 8,7 GiB | ≥ 262.144 (längere Kontextlängen wurden nicht mit gemessenen Logs abgeglichen) | — | Passt |
| tiny-aya-water | 3,3B | BF16 | 8,7 GiB | ≥ 262.144 (längere Kontextlängen wurden nicht mit gemessenen Logs abgeglichen) | — | Passt |
| Llama-3.2-3B-Instruct | 3,2B | BF16 | 8,5 GiB | 96.512 | — | Passt |
| AI21-Jamba-Reasoning-3B | 3,2B | BF16 | 7,3 GiB | 262.144 | — | Passt |
| AI21-Jamba2-3B | 3,2B | BF16 | 7,3 GiB | 262.144 | — | Passt |
| kanana-2-3b-base | 3,2B | Q6_K | 4,9 GiB | 32.768 | — | Passt |
| SmolLM3-3B | 3,1B | BF16 | 7,9 GiB | 65.536 | — | Passt |
| SmolLM3-3B-GSM8K-SFT | 3,1B | Q6_K | 4,3 GiB | 65.536 | — | Passt |
| LFM2-2.6B-Exp | 2,7B | F16 | 6,5 GiB | 128.000 | — | Passt |
| d1-3B | 2,7B | BF16 | 6,7 GiB | 32.768 | — | Passt |
| LFM2.5-2.6B | 2,7B | BF16 | 6,7 GiB | 131.072 | — | Passt |
| LFM2.5-2.6B-Base | 2,7B | Q6_K | 3,6 GiB | 128.000 | — | Passt |
| LFM2.5-VL-3B | 2,7B | BF16 | 6,7 GiB | 32.768 | — | Passt |
| EuroMoE-2.6B-A0.6B-Instruct-2512 | 2,6B (498M aktiv) | Q6_K | 3,6 GiB | 32.768 | — | Passt |
| LFM2-2.6B-Longevity | 2,6B | F16 | 6,5 GiB | 128.000 | — | Passt |
| LFM2-2.6B-Transcript | 2,6B | BF16 | 6,5 GiB | 128.000 | — | Passt |
| LFM2-VL-3B | 2,6B | BF16 | 6,5 GiB | 128.000 | — | Passt |
| MiniCPM5-2B | 2,5B | BF16 | 6,0 GiB | 131.072 | — | Passt |
| MiniCPM5-2B-Base | 2,5B | Q6_K | 3,4 GiB | ≥ 262.144 (längere Kontextlängen wurden nicht mit gemessenen Logs abgeglichen) | — | Passt |
| CapRL-Qwen3VL-2B | 2,0B | F16 | 5,6 GiB | 121.856 | — | Passt |
| HiPO-1.7B | 2,0B | Q6_K | 3,6 GiB | 40.960 | — | Passt |
| UI-Venus-1.5-2B | 2,0B | F16 | 5,6 GiB | 121.856 | — | Passt |
| ZwZ-2B | 2,0B | F16 | 5,6 GiB | 121.856 | — | Passt |
| Youtu-LLM-2B | 2,0B | Q6_K | 3,2 GiB | 131.072 | — | Passt |
| Youtu-LLM-2B-Base | 2,0B | Q6_K | 3,2 GiB | 131.072 | — | Passt |
| Qwen3.5-2B | 1,9B | BF16 | 5,4 GiB | 262.144 | — | Passt |
| Qwen3.5-2B-Base | 1,9B | Q6_K | 3,2 GiB | 262.144 | — | Passt |
| Qwen3-1.7B | 1,7B | BF16 | 5,6 GiB | 40.960 | — | Passt |
| Qwen3-VL-2B-Instruct | 1,7B | BF16 | 5,6 GiB | 121.856 | — | Passt |
| Qwen3-VL-2B-Thinking | 1,7B | BF16 | 5,6 GiB | 121.856 | — | Passt |
| SingGuard-2b | 1,7B | F16 | 5,6 GiB | 121.856 | — | Passt |
| granite-4.0-1b | 1,6B | BF16 | 5,1 GiB | 131.072 | — | Passt |
| Apertus-v1.1-1.5B | 1,5B | F16 | 3,8 GiB | 4.096 | — | Passt |
| Apertus-v1.1-1.5B-Instruct | 1,5B | F16 | 3,8 GiB | 4.096 | — | Passt |
| granite-4.0-h-1b | 1,5B | BF16 | 4,4 GiB | 131.072 | — | Passt |
| Llama-3.2-1B-Instruct | 1,2B | BF16 | 4,0 GiB | 131.072 | — | Passt |
| LFM2.5-1.2B-Base | 1,2B | BF16 | 3,7 GiB | 128.000 | — | Passt |
| LFM2.5-1.2B-Instruct | 1,2B | BF16 | 3,7 GiB | 128.000 | — | Passt |
| LFM2.5-1.2B-JP | 1,2B | F16 | 3,7 GiB | 128.000 | — | Passt |
| LFM2.5-1.2B-JP-202606 | 1,2B | F16 | 3,7 GiB | 128.000 | — | Passt |
| LFM2.5-1.2B-Thinking | 1,2B | BF16 | 3,7 GiB | 128.000 | — | Passt |
| LFM2.5-VL-1.6B | 1,2B | BF16 | 3,7 GiB | 128.000 | — | Passt |
| LFM2.5-VL-1.6B-Extract | 1,2B | F16 | 3,7 GiB | 128.000 | — | Passt |
| MiniCPM5-1B | 1,1B | Q6_K | 2,2 GiB | 131.072 | — | Passt |
| MiniCPM5-1B-Base | 1,1B | Q6_K | 2,2 GiB | 131.072 | — | Passt |
| MiniCPM5-1B-SFT | 1,1B | Q6_K | 2,2 GiB | 131.072 | — | Passt |
| Holo-3.1-0.8B | 1,0B | Q6_K | 2,3 GiB | 262.144 | — | Passt |
| MiniCPM-V-4.7-1B | 1,0B | F16 | 3,2 GiB | 262.144 | — | Passt |
| gemma-3-1b-it | 1,0B | BF16 | 3,6 GiB | 32.768 | — | Passt |
| Qwen3.5-0.8B | 752M | BF16 | 3,2 GiB | 262.144 | — | Passt |
| Qwen3.5-0.8B-Base | 752M | Q6_K | 2,3 GiB | 262.144 | — | Passt |
| MiniCPM-V-4.6 | 752M | F16 | 3,2 GiB | 262.144 | — | Passt |
| MiniCPM-V-4.6-Thinking | 752M | F16 | 3,2 GiB | 262.144 | — | Passt |
| Qwen3-0.6B | 752M | BF16 | 3,4 GiB | 40.960 | — | Passt |
| HunyuanOCR | 539M | F16 | 3,1 GiB | 32.768 | — | Passt |
| LFM2.5-350M | 354M | BF16 | 2,1 GiB | 128.000 | — | Passt |
| LFM2.5-Encoder-350M-Diffusion | 354M | Q6_K | 1,7 GiB | 128.000 | — | Passt |
| LFM2.5-VL-450M | 354M | BF16 | 2,1 GiB | 128.000 | — | Passt |
| LFM2.5-VL-450M-Extract | 354M | F16 | 2,1 GiB | 128.000 | — | Passt |
| granite-4.0-350m | 352M | BF16 | 2,2 GiB | 32.768 | — | Passt |
| granite-4.0-h-350m | 340M | BF16 | 2,1 GiB | 32.768 | — | Passt |
| functiongemma-270m-it | 268M | BF16 | 2,1 GiB | 32.768 | — | Passt |
| LFM2.5-230M | 230M | BF16 | 1,8 GiB | 128.000 | — | Passt |
Grenzwertige Modelle
Innerhalb des Fehlerbereichs der Schätzung: Es kann passen oder nicht. Versuchen Sie eine kürzere Kontextlänge oder eine niedrigere Quantisierung.
| Modell | Parameter | Höchste grenzwertige Quantisierung | Benötigter verfügbarer Speicher für „Passt“ | Ergebnis |
|---|---|---|---|---|
| Qwen3-Coder-Next-Base | 79,7B (3,6B aktiv) | IQ2_XXS | 22,3 GiB | Grenzwertig |
| Llama-3.1-70B-Instruct | 70,6B | IQ2_XXS | 22,3 GiB | Grenzwertig |
| MiniCPM-V-4.7-35B-A3B | 34,7B (2,9B aktiv) | Q4_K_M | 22,4 GiB | Grenzwertig |
| QwQ-32B | 32,8B | Q4_K_M | 22,5 GiB | Grenzwertig |
| Qwen3-32B | 32,8B | Q4_K_M | 22,4 GiB | Grenzwertig |
| EXAONE-4.5-33B | 32,5B | Q4_K_M | 22,3 GiB | Grenzwertig |
| Holotron4-30B-A3B | 31,6B (3,2B aktiv) | Q4_0 | 19,0 GiB | Grenzwertig |
| Nemotron-3-Nano-Omni-30B-A3B-Reasoning-BF16 | 31,6B (3,2B aktiv) | Q4_K_M | 23,3 GiB | Grenzwertig |
| Nemotron-Cascade-2-30B-A3B | 31,6B (3,2B aktiv) | Q4_0 | 19,2 GiB | Grenzwertig |
| NVIDIA-Nemotron-3.5-Lightning-30B-A3B-Base-BF16 | 31,6B (3,2B aktiv) | Q4_0 | 19,0 GiB | Grenzwertig |
| NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16 | 31,6B (3,2B aktiv) | Q4_0 | 19,3 GiB | Grenzwertig |
| NVIDIA-Nemotron-3-Nano-30B-A3B-BF16 | 31,6B (3,2B aktiv) | Q4_0 | 19,2 GiB | Grenzwertig |
| NVIDIA-Nemotron-Labs-3-Elastic-30B-A3B-BF16 | 31,6B (3,2B aktiv) | Q4_0 | 19,0 GiB | Grenzwertig |
| gemma-4-31B-it | 30,7B | Q4_K_M | 23,9 GiB | Grenzwertig |
| Qwen3-30B-A3B | 30,5B (3,0B aktiv) | Q5_K_M | 23,2 GiB | Grenzwertig |
Modelle, die nicht auf eine AMD Radeon RX 7900 XT passen
| Modell | Parameter | Kleinste Quantisierung | Benötigter verfügbarer Speicher für „Passt“ | Mehrere identische Karten | Ergebnis |
|---|---|---|---|---|---|
| KAT-Dev-72B-Exp | 72,7B | IQ2_XXS | 28,5 GiB | Mit 2 identischen Karten (standardmäßig gleichmäßige Aufteilung) passt es voraussichtlich. | Passt nicht |
| Solar-Open-100B | 103B (11,2B aktiv) | IQ2_XXS | 29,4 GiB | Mit 2 identischen Karten (standardmäßig gleichmäßige Aufteilung) passt es voraussichtlich. | Passt nicht |
| DeepSeek-R1-Distill-Llama-70B | 70,6B | Q2_K | 29,4 GiB | Mit 2 identischen Karten (standardmäßig gleichmäßige Aufteilung) passt es voraussichtlich. | Passt nicht |
| Llama-3.3-70B-Instruct | 70,6B | Q2_K | 29,4 GiB | Mit 2 identischen Karten (standardmäßig gleichmäßige Aufteilung) passt es voraussichtlich. | Passt nicht |
| Qwen3-Next-80B-A3B-Instruct | 79,7B (3,6B aktiv) | Q2_K | 30,3 GiB | Mit 2 identischen Karten (standardmäßig gleichmäßige Aufteilung) passt es voraussichtlich. | Passt nicht |
| Qwen2.5-72B-Instruct | 73,0B | Q2_K | 30,3 GiB | Mit 2 identischen Karten (standardmäßig gleichmäßige Aufteilung) passt es voraussichtlich. | Passt nicht |
| Qwen3-Coder-Next | 79,7B (3,6B aktiv) | Q2_K | 30,4 GiB | Mit 2 identischen Karten (standardmäßig gleichmäßige Aufteilung) passt es voraussichtlich. | Passt nicht |
| GLM-4.5-Air-REAP-82B-A12B | 81,9B (12,8B aktiv) | IQ2_XXS | 31,1 GiB | Mit 2 identischen Karten (standardmäßig gleichmäßige Aufteilung) passt es voraussichtlich. | Passt nicht |
| Step-3.5-Flash-REAP-121B-A11B | 121B (11,4B aktiv) | IQ2_XXS | 32,9 GiB | Mit 2 identischen Karten (standardmäßig gleichmäßige Aufteilung) passt es voraussichtlich. | Passt nicht |
| Mistral-Small-4-119B-2603 | 119B (6,1B aktiv) | IQ2_XXS | 34,3 GiB | Mit 3 identischen Karten (standardmäßig gleichmäßige Aufteilung) passt es voraussichtlich. Mit weniger Karten ist es grenzwertig. | Passt nicht |
| Qwen3.5-122B-A10B | 122B (9,0B aktiv) | IQ2_XXS | 35,0 GiB | Mit 3 identischen Karten (standardmäßig gleichmäßige Aufteilung) passt es voraussichtlich. Mit weniger Karten ist es grenzwertig. | Passt nicht |
| Qwen-AgentWorld-35B-A3B | 34,7B (2,9B aktiv) | Q8_0 | 37,6 GiB | Mit 3 identischen Karten (standardmäßig gleichmäßige Aufteilung) passt es voraussichtlich. Mit weniger Karten ist es grenzwertig. | Passt nicht |
| MiniMax-M2.5-REAP-139B-A10B | 139B (10,4B aktiv) | IQ2_XXS | 39,2 GiB | Mit 3 identischen Karten (standardmäßig gleichmäßige Aufteilung) passt es voraussichtlich. Mit weniger Karten ist es grenzwertig. | Passt nicht |
| INTELLECT-3 | 107B (12,8B aktiv) | IQ2_XXS | 39,6 GiB | Mit 3 identischen Karten (standardmäßig gleichmäßige Aufteilung) passt es voraussichtlich. Mit weniger Karten ist es grenzwertig. | Passt nicht |
| Step-3.5-Flash-REAP-149B-A11B | 149B (11,4B aktiv) | IQ2_XXS | 40,1 GiB | Mit 3 identischen Karten (standardmäßig gleichmäßige Aufteilung) passt es voraussichtlich. Mit weniger Karten ist es grenzwertig. | Passt nicht |
| Llama-4-Scout-17B-16E-Instruct | 108B (16,1B aktiv) | Q2_K | 41,5 GiB | Mit 3 identischen Karten (standardmäßig gleichmäßige Aufteilung) passt es voraussichtlich. Mit weniger Karten ist es grenzwertig. | Passt nicht |
| GLM-4.5-Air | 107B (12,8B aktiv) | Q2_K | 45,6 GiB | Mit 3 identischen Karten (standardmäßig gleichmäßige Aufteilung) passt es voraussichtlich. Mit weniger Karten ist es grenzwertig. | Passt nicht |
| GLM-4.6V | 107B (12,8B aktiv) | Q2_K | 45,6 GiB | Mit 3 identischen Karten (standardmäßig gleichmäßige Aufteilung) passt es voraussichtlich. Mit weniger Karten ist es grenzwertig. | Passt nicht |
| Step-3.5-Flash | 197B (11,5B aktiv) | IQ2_XXS | 48,9 GiB | Mit 3 identischen Karten (standardmäßig gleichmäßige Aufteilung) passt es voraussichtlich. | Passt nicht |
| Devstral-2-123B-Instruct-2512 | 125B | Q2_K | 49,3 GiB | Mit 3 identischen Karten (standardmäßig gleichmäßige Aufteilung) passt es voraussichtlich. | Passt nicht |
| Mistral-Medium-3.5-128B | 125B | Q2_K | 49,3 GiB | Mit 3 identischen Karten (standardmäßig gleichmäßige Aufteilung) passt es voraussichtlich. | Passt nicht |
| NVIDIA-Nemotron-3-Super-120B-A12B-Base-BF16 | 121B (12,2B aktiv) | IQ2_XXS | 49,8 GiB | Mit 3 identischen Karten (standardmäßig gleichmäßige Aufteilung) passt es voraussichtlich. | Passt nicht |
| NVIDIA-Nemotron-3-Super-120B-A12B-BF16 | 121B (12,2B aktiv) | IQ2_XXS | 51,0 GiB | Mit 3 identischen Karten (standardmäßig gleichmäßige Aufteilung) passt es voraussichtlich. | Passt nicht |
| gpt-oss-120b | 117B (5,1B aktiv) | Q2_K | 62,8 GiB | Mit 4 identischen Karten (standardmäßig gleichmäßige Aufteilung) passt es voraussichtlich. Mit weniger Karten ist es grenzwertig. | Passt nicht |
| MiniMax-M2.7 | 229B (10,4B aktiv) | IQ2_XXS | 62,9 GiB | Mit 4 identischen Karten (standardmäßig gleichmäßige Aufteilung) passt es voraussichtlich. Mit weniger Karten ist es grenzwertig. | Passt nicht |
| Baichuan-M3-235B | 235B (21,6B aktiv) | IQ2_XXS | 63,2 GiB | Mit 4 identischen Karten (standardmäßig gleichmäßige Aufteilung) passt es voraussichtlich. Mit weniger Karten ist es grenzwertig. | Passt nicht |
| Holo2-235B-A22B | 235B (21,6B aktiv) | IQ2_XXS | 63,2 GiB | Mit 4 identischen Karten (standardmäßig gleichmäßige Aufteilung) passt es voraussichtlich. Mit weniger Karten ist es grenzwertig. | Passt nicht |
| Qwen3-Nemotron-235B-A22B-GenRM | 235B (21,6B aktiv) | IQ2_XXS | 63,2 GiB | Mit 4 identischen Karten (standardmäßig gleichmäßige Aufteilung) passt es voraussichtlich. Mit weniger Karten ist es grenzwertig. | Passt nicht |
| command-a-plus-05-2026-bf16 | 218B (25,0B aktiv) | IQ2_XXS | 63,6 GiB | Mit 5 identischen Karten (standardmäßig gleichmäßige Aufteilung) passt es voraussichtlich. Mit weniger Karten ist es grenzwertig. | Passt nicht |
| NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16 | 121B (12,2B aktiv) | Q4_0 | 71,8 GiB | Mit 5 identischen Karten (standardmäßig gleichmäßige Aufteilung) passt es voraussichtlich. Mit weniger Karten ist es grenzwertig. | Passt nicht |
| GLM-4.7-REAP-268B-A32B | 269B (32,8B aktiv) | IQ2_XXS | 73,0 GiB | Mit 5 identischen Karten (standardmäßig gleichmäßige Aufteilung) passt es voraussichtlich. Mit weniger Karten ist es grenzwertig. | Passt nicht |
| Step-3.7-Flash | 197B (11,5B aktiv) | IQ3_XXS | 76,1 GiB | Mit 5 identischen Karten (standardmäßig gleichmäßige Aufteilung) passt es voraussichtlich. Mit weniger Karten ist es grenzwertig. | Passt nicht |
| Hy3 | 295B (20,2B aktiv) | IQ2_XXS | 82,2 GiB | Mit 5 identischen Karten (standardmäßig gleichmäßige Aufteilung) passt es voraussichtlich. Mit weniger Karten ist es grenzwertig. | Passt nicht |
| MiMo-V2.5 | 309B (14,8B aktiv) | IQ2_XXS | 82,4 GiB | Mit 6 identischen Karten (standardmäßig gleichmäßige Aufteilung) passt es voraussichtlich. Mit weniger Karten ist es grenzwertig. | Passt nicht |
| GLM-4.7-REAP-218B-A32B | 218B (32,8B aktiv) | Q2_K | 82,9 GiB | Mit 5 identischen Karten (standardmäßig gleichmäßige Aufteilung) passt es voraussichtlich. Mit weniger Karten ist es grenzwertig. | Passt nicht |
| MiniMax-M2 | 229B (10,4B aktiv) | Q2_K | 84,9 GiB | Mit 6 identischen Karten (standardmäßig gleichmäßige Aufteilung) passt es voraussichtlich. Mit weniger Karten ist es grenzwertig. | Passt nicht |
| MiniMax-M2.1 | 229B (10,4B aktiv) | Q2_K | 84,9 GiB | Mit 6 identischen Karten (standardmäßig gleichmäßige Aufteilung) passt es voraussichtlich. Mit weniger Karten ist es grenzwertig. | Passt nicht |
| MiniMax-M2.5 | 229B (10,4B aktiv) | Q2_K | 84,9 GiB | Mit 6 identischen Karten (standardmäßig gleichmäßige Aufteilung) passt es voraussichtlich. Mit weniger Karten ist es grenzwertig. | Passt nicht |
| Qwen3-235B-A22B-Instruct-2507 | 235B (21,6B aktiv) | Q2_K | 86,7 GiB | Mit 6 identischen Karten (standardmäßig gleichmäßige Aufteilung) passt es voraussichtlich. Mit weniger Karten ist es grenzwertig. | Passt nicht |
| Qwen3-VL-235B-A22B-Instruct | 235B (21,6B aktiv) | Q2_K | 86,7 GiB | Mit 6 identischen Karten (standardmäßig gleichmäßige Aufteilung) passt es voraussichtlich. Mit weniger Karten ist es grenzwertig. | Passt nicht |
| GLM-5.3-Flash-BF16 | 313B (16,7B aktiv) | IQ2_XXS | 92,0 GiB | Mit 7 identischen Karten (standardmäßig gleichmäßige Aufteilung) passt es voraussichtlich. Mit weniger Karten ist es grenzwertig. | Passt nicht |
| Laguna-S-2.1 | 118B (8,1B aktiv) | Q4_K_M | 95,9 GiB | Grenzwertig mit 8 Karten. | Passt nicht |
| Trinity-Large-Base | 399B (12,8B aktiv) | IQ2_XXS | 96,4 GiB | Mit 7 identischen Karten (standardmäßig gleichmäßige Aufteilung) passt es voraussichtlich. Mit weniger Karten ist es grenzwertig. | Passt nicht |
| Trinity-Large-TrueBase | 399B (12,8B aktiv) | IQ2_XXS | 96,4 GiB | Mit 7 identischen Karten (standardmäßig gleichmäßige Aufteilung) passt es voraussichtlich. Mit weniger Karten ist es grenzwertig. | Passt nicht |
| GLM-4.6-REAP-268B-A32B | 269B (32,8B aktiv) | Q2_K | 100,9 GiB | Mit 7 identischen Karten (standardmäßig gleichmäßige Aufteilung) passt es voraussichtlich. Mit weniger Karten ist es grenzwertig. | Passt nicht |
| Trinity-Large-Thinking | 399B (12,8B aktiv) | IQ2_XXS | 107,1 GiB | Mit 8 identischen Karten (standardmäßig gleichmäßige Aufteilung) passt es voraussichtlich. Mit weniger Karten ist es grenzwertig. | Passt nicht |
| MiMo-V2-Flash | 309B (14,8B aktiv) | Q2_K | 111,6 GiB | Mit 8 identischen Karten (standardmäßig gleichmäßige Aufteilung) passt es voraussichtlich. Mit weniger Karten ist es grenzwertig. | Passt nicht |
| Intern-S2-397B | 396B (16,3B aktiv) | IQ2_XXS | 114,3 GiB | Mit 8 identischen Karten (standardmäßig gleichmäßige Aufteilung) passt es voraussichtlich. Mit weniger Karten ist es grenzwertig. | Passt nicht |
| MiMo-V2.6-Flash-MOPD | 309B (14,8B aktiv) | Q2_K | 124,9 GiB | Mit 8 identischen Karten (standardmäßig gleichmäßige Aufteilung) passt es voraussichtlich. Mit weniger Karten ist es grenzwertig. | Passt nicht |
| MiMo-V2.6-Flash-RL | 309B (14,8B aktiv) | Q2_K | 124,9 GiB | Mit 8 identischen Karten (standardmäßig gleichmäßige Aufteilung) passt es voraussichtlich. Mit weniger Karten ist es grenzwertig. | Passt nicht |
| K-EXAONE-236B-A23B | 237B (22,7B aktiv) | IQ4_XS | 126,3 GiB | Grenzwertig mit 8 Karten. | Passt nicht |
| GLM-4.5 | 353B (32,9B aktiv) | Q2_K | 130,7 GiB | Grenzwertig mit 8 Karten. | Passt nicht |
| GLM-4.7 | 353B (32,9B aktiv) | Q2_K | 130,7 GiB | Grenzwertig mit 8 Karten. | Passt nicht |
| Qwen3-Coder-REAP-363B-A35B | 363B (34,5B aktiv) | Q2_K | 132,7 GiB | Mit 8 identischen Karten (standardmäßig gleichmäßige Aufteilung) passt es voraussichtlich. Mit weniger Karten ist es grenzwertig. | Passt nicht |
| Qwen3-235B-A22B | 235B (21,6B aktiv) | Q4_K_M | 141,9 GiB | Grenzwertig mit 8 Karten. | Passt nicht |
| Qwen3-Coder-480B-A35B-Instruct | 480B (34,5B aktiv) | Q2_K | 174,3 GiB | Grenzwertig mit 8 Karten. | Passt nicht |
| Qwen3.5-397B-A17B | 396B (16,3B aktiv) | Q3_K_M | 175,6 GiB | Grenzwertig mit 8 Karten. | Passt nicht |
| GLM-5.1 | 744B (40,8B aktiv) | IQ2_XXS | 197,6 GiB | Passt nicht einmal auf 8 Karten. | Passt nicht |
| DeepSeek-V3.2 | 671B (36,6B aktiv) | Q2_K | 242,1 GiB | Passt nicht einmal auf 8 Karten. | Passt nicht |
| cogito-671b-v2.1 | 671B (36,6B aktiv) | Q2_K | 242,4 GiB | Passt nicht einmal auf 8 Karten. | Passt nicht |
| DeepSeek-V3.1 | 671B (36,6B aktiv) | Q2_K | 242,4 GiB | Passt nicht einmal auf 8 Karten. | Passt nicht |
| Mistral-Large-3-675B-Instruct-2512 | 673B (39,0B aktiv) | Q2_K | 243,8 GiB | Passt nicht einmal auf 8 Karten. | Passt nicht |
| DeepSeek-V3 | 671B (36,6B aktiv) | Q2_K | 257,8 GiB | Passt nicht einmal auf 8 Karten. | Passt nicht |
| Kimi-K2.6 | 1,03T (31,7B aktiv) | IQ2_XXS | 267,6 GiB | Passt nicht einmal auf 8 Karten. | Passt nicht |
| GLM-5 | 744B (40,8B aktiv) | Q2_K | 268,9 GiB | Passt nicht einmal auf 8 Karten. | Passt nicht |
| MiMo-V2.5-Pro | 1,02T (41,0B aktiv) | IQ2_XXS | 270,4 GiB | Passt nicht einmal auf 8 Karten. | Passt nicht |
| DeepSeek-R1 | 671B (36,6B aktiv) | Q2_K | 280,3 GiB | Passt nicht einmal auf 8 Karten. | Passt nicht |
| Muse-Spark-Open-816B-A42B | 820B (44,4B aktiv) | Q2_K | 301,0 GiB | Passt nicht einmal auf 8 Karten. | Passt nicht |
| GLM-5.3-Flash | 313B (16,7B aktiv) | Q8_0 | 327,9 GiB | Passt nicht einmal auf 8 Karten. | Passt nicht |
| Ling-1T | 1,00T (49,8B aktiv) | Q2_K | 360,6 GiB | Passt nicht einmal auf 8 Karten. | Passt nicht |
| Kimi-K2-Instruct | 1,03T (31,7B aktiv) | Q2_K | 367,4 GiB | Passt nicht einmal auf 8 Karten. | Passt nicht |
| Kimi-K2.5 | 1,03T (31,7B aktiv) | Q2_K | 368,0 GiB | Passt nicht einmal auf 8 Karten. | Passt nicht |
| Kimi-K2-Thinking | 1,03T (31,7B aktiv) | Q2_K | 368,3 GiB | Passt nicht einmal auf 8 Karten. | Passt nicht |
| MiMo-V2.6-Pro-MOPD | 1,02T (41,0B aktiv) | Q2_K | 411,6 GiB | Passt nicht einmal auf 8 Karten. | Passt nicht |
| MiMo-V2.6-Pro-RL | 1,02T (41,0B aktiv) | Q2_K | 411,6 GiB | Passt nicht einmal auf 8 Karten. | Passt nicht |
| Beam-1.0-501B-A23B | 501B (22,7B aktiv) | Q8_0 | 523,6 GiB | Passt nicht einmal auf 8 Karten. | Passt nicht |
| GLM-5.2 | 744B (40,8B aktiv) | Q8_0 | 776,4 GiB | Passt nicht einmal auf 8 Karten. | Passt nicht |
| GLM-5.3 | 744B (40,8B aktiv) | Q8_0 | 776,4 GiB | Passt nicht einmal auf 8 Karten. | Passt nicht |
| Qwen3.8-2.4T-A95B | 2,42T (93,3B aktiv) | Q8_0 | 2.524,1 GiB | Passt nicht einmal auf 8 Karten. | Passt nicht |
Detailseiten für diese GPU
- Kann AMD Radeon RX 7900 XT DeepSeek-R1-Distill-Qwen-14B ausführen?
- Kann AMD Radeon RX 7900 XT Devstral-Small-2-24B-Instruct-2512 ausführen?
- Kann AMD Radeon RX 7900 XT gemma-3-12b-it ausführen?
- Kann AMD Radeon RX 7900 XT gemma-3-27b-it ausführen?
- Kann AMD Radeon RX 7900 XT gemma-4-12B-it ausführen?
- Kann AMD Radeon RX 7900 XT gemma-4-26B-A4B-it ausführen?
- Kann AMD Radeon RX 7900 XT GLM-4.7-Flash ausführen?
- Kann AMD Radeon RX 7900 XT gpt-oss-20b ausführen?
- Kann AMD Radeon RX 7900 XT Mistral-Small-3.2-24B-Instruct-2506 ausführen?
- Kann AMD Radeon RX 7900 XT Muse-Glimmer-30B ausführen?
- Kann AMD Radeon RX 7900 XT phi-4 ausführen?
- Kann AMD Radeon RX 7900 XT Qwen3-14B ausführen?
- Kann AMD Radeon RX 7900 XT Qwen3-30B-A3B-Instruct-2507 ausführen?
- Kann AMD Radeon RX 7900 XT Qwen3.5-27B ausführen?
- Kann AMD Radeon RX 7900 XT Qwen3.6-27B ausführen?
- Kann AMD Radeon RX 7900 XT Qwen3.8-27B ausführen?
- Kann AMD Radeon RX 7900 XT Qwen3-Coder-30B-A3B-Instruct ausführen?