Kann meine GPU dieses Modell ausführen?
Diese Seite wurde automatisch von einer KI geschrieben und übersetzt und von Software anhand ihrer Quellen geprüft, ohne menschliche Bearbeitung. Die Spezifikationen stammen aus den angegebenen Quellen; Speicherbedarf und Geschwindigkeiten sind Schätzungen, die mit veröffentlichten Formeln berechnet wurden. Wie wir KI nutzen
Eine Datenbank dazu, welche Open-Weight-Sprachmodelle in den Speicher welcher GPUs passen – bei welcher GGUF-Quantisierung, mit wie viel Kontext und höchstens wie schnell. Spezifikationen werden nur angezeigt, wenn zwei unabhängige offene Quellen übereinstimmen, und jede Schätzung zeigt ihre Formel.
Schnellprüfung
Wähle eine GPU und ein Modell, um das Ergebnis zu sehen. Der Rechner unterstützt auch mehrere identische Karten, andere Kontextlängen und KV-Cache-Typen.
Passt BF16, Kontextlänge 8.192 Token
Benötigter verfügbarer Speicher pro Karte für „Passt“ (X): 3,41 GiB
Im Rechner öffnen (mehrere identische Karten, andere Kontextlängen und KV-Cache-Typen)
Beliebte GPUs
- NVIDIA H100 PCIe
- AMD Radeon AI PRO R9700
- NVIDIA GeForce RTX 5090
- NVIDIA Tesla V100 32GB
- AMD Radeon RX 7900 XTX
- NVIDIA GeForce RTX 3090
- NVIDIA GeForce RTX 3090 Ti
- NVIDIA Tesla P40
- AMD Radeon RX 7900 XT
- AMD Radeon RX 7800 XT
- NVIDIA GeForce RTX 4060 Ti 16GB
- NVIDIA GeForce RTX 4070 Ti SUPER
- NVIDIA GeForce RTX 4080
- NVIDIA GeForce RTX 5060 Ti 16GB
- NVIDIA GeForce RTX 5070 Ti
- NVIDIA GeForce RTX 5080
- NVIDIA GeForce RTX 3080 Ti
- NVIDIA GeForce RTX 4070
- NVIDIA GeForce RTX 4070 Ti
- NVIDIA GeForce RTX 5070
- NVIDIA GeForce RTX 2080 Ti
- NVIDIA GeForce RTX 3080 10GB
- NVIDIA GeForce RTX 3050 8GB
- NVIDIA GeForce RTX 3060 Ti
Beliebte Modelle
- Qwen3-0.6B
- Qwen3-4B
- gemma-4-26B-A4B-it
- Qwen3-8B
- gemma-4-31B-it
- Qwen3-14B
- Qwen3.5-4B
- Qwen3.5-9B
- Qwen3.8-27B
- Qwen2.5-7B-Instruct
- GLM-5.3-Flash
- Qwen3-VL-8B-Instruct
- gpt-oss-20b
- Llama-3.1-8B-Instruct
- DeepSeek-V3.2
- Llama-3.2-1B-Instruct
- Qwen2.5-VL-7B-Instruct
- Qwen2.5-3B-Instruct
- gemma-4-E4B-it
- Qwen3-1.7B
- Qwen3.6-35B-A3B
- Qwen3-VL-4B-Instruct
- gpt-oss-120b
- Qwen3.5-0.8B