DeskGPU
Deutsch

Kann AMD Radeon RX 7900 XT gemma-4-26B-A4B-it ausführen?

Diese Seite wurde automatisch von einer KI geschrieben und übersetzt und von Software anhand ihrer Quellen geprüft, ohne menschliche Bearbeitung. Die Spezifikationen stammen aus den angegebenen Quellen; Speicherbedarf und Geschwindigkeiten sind Schätzungen, die mit veröffentlichten Formeln berechnet wurden. Wie wir KI nutzen

Passt Nach der Standard-Ladeprüfung von llama.cpp passt gemma-4-26B-A4B-it bei Q4_0 und einem Kontext von 8.192 Tokens auf AMD Radeon RX 7900 XT. Eine Karte benötigt dafür 17,1 GiB verfügbaren Speicher, damit das Ergebnis „passt“ lautet.

Bei Q4_0 beträgt die längste Kontextlänge, die passt, 77.312 Tokens.

„Passt“ bedeutet: Die standardmäßige --fit-Ladeprüfung von llama.cpp würde alle Layer auf der GPU platzieren. Unsere Schätzung der Puffer von llama.cpp, plus deren Fehlermarge, plus die Reserve von 1 GiB pro Karte bei llama.cpp liegt innerhalb des als verfügbar gezählten Speichers. Es ist keine Zusage, dass der Spitzenspeicherbedarf während der Generierung passt. Wie Ergebnisse bestimmt werden

Werte aktualisiert am 19. Okt. 2026 · Rechner

Laufzeitprofil: llama.cpp, ROCm-Backend unter Linux (dedizierte AMD-GPU), alle Layer auf der GPU, Flash Attention an, Micro-Batch (-ub) 512, F16-KV-cache, Kontextlänge (-c) wie angezeigt; „Passt“ wird mit den 4 parallelen Sequenzen beurteilt, die llama-server standardmäßig nutzt (-np auto, einheitlicher KV-Cache), „Passt nicht“ mit 1 Sequenz; unbelastete GPU, ohne andere Programme, die ihren Speicher nutzen.

Als verfügbar für „Passt“ gezählter Speicher (C_low): 18,63 GiB pro Karte = 20 GiB nominal − 144 MiB (die größte gemessene Differenz zwischen nominaler und gemeldeter Gesamtmenge bei Consumer- und Workstation-GPUs in diesem Profil; verwendet, weil kein öffentliches Log die Gesamtmenge dieser GPU angibt) − 1.216 MiB (die größte Start- und Laufzeitbelegung in den öffentlichen Logs dieses Profils), abgerundet auf ein Vielfaches von 64 MiB.

Diese Ergebnisse gehen von der Standardkonfiguration der Karte aus. Einstellungen, die den nutzbaren Speicher verringern (zum Beispiel ECC, sofern die Karte es unterstützt), sind nicht berücksichtigt.

Speicher für „Passt nicht“ (C_high): der volle Speicher von 20 GiB pro Karte. Laufzeitprofile und ihre Messungen

Benötigter Speicher nach Quantisierung und Kontextlänge

Verfügbarer Speicher, der für „Passt“ nötig ist (X, GiB pro Karte), und das Ergebnis auf AMD Radeon RX 7900 XT.
Quantisierung4.0968.19232.768131.072
BF16 51,9 GiB Passt nicht52,1 GiB Passt nicht52,7 GiB Passt nicht54,9 GiB Passt nicht
Q8_0 28,8 GiB Passt nicht29,0 GiB Passt nicht29,5 GiB Passt nicht31,7 GiB Passt nicht
Q6_K 24,8 GiB Passt nicht25,0 GiB Passt nicht25,6 GiB Passt nicht27,8 GiB Passt nicht
Q5_K_M 21,4 GiB Grenzwertig21,6 GiB Grenzwertig22,1 GiB Grenzwertig24,3 GiB Grenzwertig
Q4_K_M 19,1 GiB Grenzwertig19,3 GiB Grenzwertig19,9 GiB Grenzwertig22,0 GiB Grenzwertig
Q4_0 16,9 GiB Passt17,1 GiB Passt17,6 GiB Passt19,8 GiB Grenzwertig
IQ4_XS 16,4 GiB Passt16,6 GiB Passt17,1 GiB Passt19,3 GiB Grenzwertig
Q3_K_M 15,2 GiB Passt15,4 GiB Passt15,9 GiB Passt18,1 GiB Passt
IQ3_XXS 14,4 GiB Passt14,5 GiB Passt15,1 GiB Passt17,3 GiB Passt
Q2_K 13,2 GiB Passt13,4 GiB Passt13,9 GiB Passt16,1 GiB Passt
IQ2_M 12,9 GiB Passt13,1 GiB Passt13,7 GiB Passt15,8 GiB Passt
IQ2_XXS 11,9 GiB Passt12,1 GiB Passt12,6 GiB Passt14,8 GiB Passt

Es wird keine Geschwindigkeitsobergrenze angegeben: Die Speicherbandbreite von AMD Radeon RX 7900 XT ist nicht durch zwei unabhängige offene Quellen bestätigt.

Alternativen

Andere GPUs mit 20 GB, auf denen gemma-4-26B-A4B-it passt

Keine andere GPU mit gleicher Speichergröße passt für dieses Modell.

Größtes Modell derselben Familie, das auf AMD Radeon RX 7900 XT passt

Dieselbe Familie: derselbe Herausgeber und derselbe Modellname bis zur Parameterzahl.

Quellen