DeskGPU
Deutsch

Modelle

Diese Seite wurde automatisch von einer KI geschrieben und übersetzt und von Software anhand ihrer Quellen geprüft, ohne menschliche Bearbeitung. Die Spezifikationen stammen aus den angegebenen Quellen; Speicherbedarf und Geschwindigkeiten sind Schätzungen, die mit veröffentlichten Formeln berechnet wurden. Wie wir KI nutzen

Parameter und Dateigrößen stammen aus den Modell-Repositories auf Hugging Face; die Architektur wird aus dem GGUF-Dateikopf gelesen, den llama.cpp selbst lädt.

Werte aktualisiert am 19. Okt. 2026

ModellHerausgeberParameterAktiv (ohne Input-Embedding)Größe bei Q4_K_MLizenzAuf Hugging Face seit
Qwen3-0.6B Qwen 752M — — apache-2.0 27. Apr. 2025
Qwen3-4B Qwen 4,0B — 2,3 GiB apache-2.0 27. Apr. 2025
gemma-4-26B-A4B-it google 25,2B 3,8B 15,9 GiB apache-2.0 11. März 2026
Qwen3-8B Qwen 8,2B — 4,7 GiB apache-2.0 27. Apr. 2025
gemma-4-31B-it google 30,7B — 17,1 GiB apache-2.0 11. März 2026
Qwen3-14B Qwen 14,8B — 8,4 GiB apache-2.0 27. Apr. 2025
Qwen3.5-4B Qwen 4,2B — 2,6 GiB apache-2.0 27. Feb. 2026
Qwen3.5-9B Qwen 9,0B — 5,3 GiB apache-2.0 27. Feb. 2026
Qwen3.8-27B Qwen 26,9B — 16,2 GiB apache-2.0 5. Aug. 2026
Qwen2.5-7B-Instruct Qwen 7,6B — 4,4 GiB apache-2.0 16. Sept. 2024
GLM-5.3-Flash zai-org 313B 16,7B — mit 25. Aug. 2026
Qwen3-VL-8B-Instruct Qwen 8,2B — 4,7 GiB apache-2.0 11. Okt. 2025
gpt-oss-20b openai 20,9B 3,6B 10,8 GiB apache-2.0 4. Aug. 2025
Llama-3.1-8B-Instruct meta-llama 8,0B — 4,6 GiB llama3.1 18. Juli 2024
DeepSeek-V3.2 deepseek-ai 671B 36,6B 377,6 GiB mit 1. Dez. 2025
Llama-3.2-1B-Instruct meta-llama 1,2B — 0,8 GiB llama3.2 18. Sept. 2024
Qwen2.5-VL-7B-Instruct Qwen 7,6B — 4,4 GiB apache-2.0 26. Jan. 2025
Qwen2.5-3B-Instruct Qwen 3,4B — 2,0 GiB other 17. Sept. 2024
gemma-4-E4B-it google 7,5B — 4,6 GiB apache-2.0 2. März 2026
Qwen3-1.7B Qwen 1,7B — 1,0 GiB apache-2.0 27. Apr. 2025
Qwen3.6-35B-A3B Qwen 34,7B 2,9B 20,8 GiB apache-2.0 15. Apr. 2026
Qwen3-VL-4B-Instruct Qwen 4,0B — 2,3 GiB apache-2.0 11. Okt. 2025
gpt-oss-120b openai 117B 5,1B 58,5 GiB apache-2.0 4. Aug. 2025
Qwen3.5-0.8B Qwen 752M — 0,5 GiB apache-2.0 28. Feb. 2026
Qwen3-32B Qwen 32,8B — 18,4 GiB apache-2.0 27. Apr. 2025
Qwen3-4B-Instruct-2507 Qwen 4,0B — 2,3 GiB apache-2.0 5. Aug. 2025
Qwen3.5-2B Qwen 1,9B — 1,2 GiB apache-2.0 28. Feb. 2026
gemma-4-E2B-it google 4,6B — 2,9 GiB apache-2.0 2. März 2026
Qwen3.6-27B Qwen 26,9B — 15,7 GiB apache-2.0 21. Apr. 2026
Qwen3-VL-2B-Instruct Qwen 1,7B — 1,0 GiB apache-2.0 19. Okt. 2025
GLM-5.3 zai-org 744B 40,8B — other 25. Aug. 2026
Qwen3.5-27B Qwen 26,9B — 15,6 GiB apache-2.0 24. Feb. 2026
gemma-3-1b-it google 1,0B — 0,8 GiB gemma 10. März 2025
Mistral-7B-Instruct-v0.2 mistralai 7,2B — 4,1 GiB apache-2.0 11. Dez. 2023
gemma-4-12B-it google 11,9B — 6,6 GiB apache-2.0 23. Mai 2026
NVIDIA-Nemotron-3-Nano-4B-BF16 nvidia 4,0B — 2,7 GiB other 7. März 2026
Qwen2.5-Coder-7B-Instruct Qwen 7,6B — 4,4 GiB apache-2.0 17. Sept. 2024
Qwen2.5-32B-Instruct Qwen 32,8B — 18,5 GiB apache-2.0 17. Sept. 2024
Qwen3.5-35B-A3B Qwen 34,7B 2,9B 20,5 GiB apache-2.0 24. Feb. 2026
DeepSeek-V3 deepseek-ai 671B 36,6B 376,7 GiB — 25. Dez. 2024
MiniCPM5-2B openbmb 2,5B — 1,5 GiB apache-2.0 6. Sept. 2026
DeepSeek-R1 deepseek-ai 671B 36,6B 376,7 GiB mit 20. Jan. 2025
Llama-3.2-3B-Instruct meta-llama 3,2B — 1,9 GiB llama3.2 18. Sept. 2024
NVIDIA-Nemotron-3-Nano-30B-A3B-BF16 nvidia 31,6B 3,2B 22,9 GiB other 4. Dez. 2025
GLM-4.7-Flash zai-org 29,9B 3,6B 17,1 GiB mit 19. Jan. 2026
Qwen3-30B-A3B Qwen 30,5B 3,0B 17,3 GiB apache-2.0 27. Apr. 2025
gemma-3-4b-it google 3,9B — 2,3 GiB gemma 20. Feb. 2025
Qwen3-30B-A3B-Instruct-2507 Qwen 30,5B 3,0B 17,3 GiB apache-2.0 28. Juli 2025
NVIDIA-Nemotron-3-Super-120B-A12B-BF16 nvidia 121B 12,2B 81,0 GiB other 10. März 2026
Qwen2.5-14B-Instruct Qwen 14,8B — 8,4 GiB apache-2.0 16. Sept. 2024
GLM-5 zai-org 744B 40,8B 424,6 GiB mit 11. Feb. 2026
HunyuanOCR tencent 539M — 0,3 GiB other 18. Nov. 2025
MiniMax-M2.5 MiniMaxAI 229B 10,4B 128,8 GiB other 12. Feb. 2026
GLM-4.5-Air zai-org 107B 12,8B 68,0 GiB mit 20. Juli 2025
SmolLM3-3B HuggingFaceTB 3,1B — 1,8 GiB apache-2.0 8. Juli 2025
Qwen3.5-4B-Base Qwen 4,2B — 2,5 GiB apache-2.0 27. Feb. 2026
gemma-2-9b-it google 9,2B — — gemma 24. Juni 2024
Hy3 tencent 295B 20,2B 169,6 GiB apache-2.0 2. Juli 2026
Qwen3.5-122B-A10B Qwen 122B 9,0B 72,3 GiB apache-2.0 24. Feb. 2026
NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16 nvidia 31,6B 3,2B 23,7 GiB other 1. Aug. 2026
Qwen2.5-Coder-32B-Instruct Qwen 32,8B — 18,5 GiB apache-2.0 6. Nov. 2024
granite-4.1-3b ibm-granite 3,4B — 2,0 GiB apache-2.0 6. Apr. 2026
Qwen3.5-397B-A17B Qwen 396B 16,3B 227,3 GiB apache-2.0 16. Feb. 2026
gemma-4-E4B google 7,5B — 5,0 GiB apache-2.0 2. März 2026
MiniMax-M2.7 MiniMaxAI 229B 10,4B 129,3 GiB other 9. Apr. 2026
GLM-5.1 zai-org 744B 40,8B 428,1 GiB mit 3. Apr. 2026
MiniCPM-o-4_5 openbmb 8,2B — 4,7 GiB apache-2.0 3. Feb. 2026
Qwen3-Coder-Next Qwen 79,7B 3,6B 45,2 GiB apache-2.0 30. Jan. 2026
Qwen3-Coder-30B-A3B-Instruct Qwen 30,5B 3,0B 17,3 GiB apache-2.0 31. Juli 2025
Olmo-3-7B-Think allenai 7,3B — 4,2 GiB apache-2.0 18. Nov. 2025
Qwen3.5-0.8B-Base Qwen 752M — 0,5 GiB apache-2.0 28. Feb. 2026
DeepSeek-R1-0528-Qwen3-8B deepseek-ai 8,2B — 4,7 GiB mit 29. Mai 2025
Qwen3-235B-A22B Qwen 235B 21,6B 132,4 GiB apache-2.0 27. Apr. 2025
Laguna-XS-2.1 poolside 33,4B 2,8B 19,1 GiB openmdw-1.1 20. Juni 2026
GLM-5.2 zai-org 744B 40,8B — mit 16. Juni 2026
Olmo-3-7B-Instruct allenai 7,3B — 4,2 GiB apache-2.0 19. Nov. 2025
gemma-3-27b-it google 27,0B — 15,4 GiB gemma 1. März 2025
DeepSeek-R1-Distill-Qwen-7B deepseek-ai 7,6B — 4,4 GiB mit 20. Jan. 2025
Phi-3.5-mini-instruct microsoft 3,8B — 2,2 GiB mit 16. Aug. 2024
Kimi-K2.6 moonshotai 1,03T 31,7B — other 14. Apr. 2026
Qwen3.5-9B-Base Qwen 9,0B — 5,2 GiB apache-2.0 26. Feb. 2026
Phi-4-mini-instruct microsoft 3,8B — 2,3 GiB mit 19. Feb. 2025
DeepSeek-R1-Distill-Qwen-32B deepseek-ai 32,8B — 18,5 GiB mit 20. Jan. 2025
gemma-3-12b-it google 11,8B — 6,8 GiB gemma 1. März 2025
phi-4 microsoft 14,7B — 8,3 GiB mit 11. Dez. 2024
Laguna-S-2.1 poolside 118B 8,1B 89,4 GiB openmdw-1.1 13. Juli 2026
MiniCPM5-1B openbmb 1,1B — 0,6 GiB apache-2.0 21. Mai 2026
gemma-4-31B google 30,7B — 17,4 GiB apache-2.0 12. März 2026
Kimi-K2-Instruct moonshotai 1,03T 31,7B 578,1 GiB other 11. Juli 2025
DeepSeek-V3.1 deepseek-ai 671B 36,6B 377,6 GiB mit 21. Aug. 2025
DeepSeek-R1-Distill-Qwen-14B deepseek-ai 14,8B — 8,4 GiB mit 20. Jan. 2025
Kimi-K2.5 moonshotai 1,03T 31,7B 578,6 GiB other 1. Jan. 2026
Qwen3.5-2B-Base Qwen 1,9B — 1,2 GiB apache-2.0 28. Feb. 2026
Qwen3-VL-235B-A22B-Instruct Qwen 235B 21,6B 132,4 GiB apache-2.0 22. Sept. 2025
Nemotron-3-Nano-Omni-30B-A3B-Reasoning-BF16 nvidia 31,6B 3,2B 20,9 GiB other 20. Apr. 2026
Devstral-Small-2-24B-Instruct-2512 mistralai 23,6B — 13,3 GiB apache-2.0 28. Nov. 2025
Qwen3-VL-32B-Instruct Qwen 32,8B — 18,4 GiB apache-2.0 19. Okt. 2025
Step-3.5-Flash stepfun-ai 197B 11,5B 111,7 GiB apache-2.0 1. Feb. 2026
NVIDIA-Nemotron-Nano-9B-v2 nvidia 8,9B — 6,1 GiB other 12. Aug. 2025
Qwen3-VL-30B-A3B-Instruct Qwen 30,5B 3,0B 17,3 GiB apache-2.0 30. Sept. 2025
Qwen2.5-72B-Instruct Qwen 73,0B — 41,0 GiB other 16. Sept. 2024
Llama-3.3-70B-Instruct meta-llama 70,6B — 39,6 GiB llama3.3 26. Nov. 2024
Muse-Glimmer-30B meta-models 27,9B — 16,1 GiB apache-2.0 9. Aug. 2026
Mistral-Nemo-Instruct-2407 mistralai 12,2B — 7,0 GiB apache-2.0 17. Juli 2024
Mistral-Small-3.2-24B-Instruct-2506 mistralai 23,6B — 13,3 GiB apache-2.0 19. Juni 2025
gemma-4-E2B google 4,6B — 3,2 GiB apache-2.0 2. März 2026
MiniCPM-V-4.6 openbmb 752M — 0,5 GiB apache-2.0 13. Apr. 2026
Qwen3-Next-80B-A3B-Instruct Qwen 79,7B 3,6B 45,2 GiB apache-2.0 9. Sept. 2025
Kimi-Linear-48B-A3B-Instruct moonshotai 49,1B 3,1B 28,0 GiB mit 30. Okt. 2025
MiniMax-M2 MiniMaxAI 229B 10,4B 128,8 GiB other 22. Okt. 2025
EuroLLM-22B-Instruct-2512 utter-project 22,6B — 12,7 GiB apache-2.0 5. Dez. 2025
granite-vision-4.1-4b ibm-granite 3,4B — 2,0 GiB apache-2.0 16. Apr. 2026
Qwen3-235B-A22B-Instruct-2507 Qwen 235B 21,6B 132,4 GiB apache-2.0 21. Juli 2025
MiMo-V2.5 XiaomiMiMo 309B 14,8B 175,8 GiB mit 27. Apr. 2026
Llama-4-Scout-17B-16E-Instruct meta-llama 108B 16,1B 60,9 GiB other 2. Apr. 2025
GLM-5.3-Flash-BF16 zai-org 313B 16,7B 187,0 GiB mit 25. Aug. 2026
DeepSeek-R1-Distill-Llama-8B deepseek-ai 8,0B — 4,6 GiB mit 20. Jan. 2025
Qwen3.5-35B-A3B-Base Qwen 34,7B 2,9B 19,7 GiB apache-2.0 24. Feb. 2026
GLM-4.5 zai-org 353B 32,9B 201,6 GiB mit 20. Juli 2025
Ministral-3-14B-Instruct-2512 mistralai 13,5B — 7,7 GiB apache-2.0 31. Okt. 2025
Ministral-3-8B-Instruct-2512 mistralai 8,5B — 4,8 GiB apache-2.0 31. Okt. 2025
LFM2.5-1.2B-Instruct LiquidAI 1,2B — 0,7 GiB other 6. Jan. 2026
LFM2.5-2.6B LiquidAI 2,7B — 1,6 GiB other 28. Juli 2026
Ministral-3-14B-Reasoning-2512 mistralai 13,5B — 7,7 GiB apache-2.0 31. Okt. 2025
Qwen3-VL-8B-Thinking Qwen 8,2B — 4,7 GiB apache-2.0 11. Okt. 2025
MiMo-V2.6-Flash-RL XiaomiMiMo 309B 14,8B — mit 21. Sept. 2026
GLM-4.6V-Flash zai-org 9,4B — 5,7 GiB mit 7. Dez. 2025
Ministral-3-3B-Instruct-2512 mistralai 3,4B — 2,0 GiB apache-2.0 31. Okt. 2025
MiMo-V2.6-Pro-RL XiaomiMiMo 1,02T 41,0B — mit 21. Sept. 2026
Cosmos-Reason2-8B nvidia 8,2B — 4,7 GiB other 12. Dez. 2025
granite-4.1-8b ibm-granite 8,8B — 5,0 GiB apache-2.0 6. Apr. 2026
granite-4.2-8b ibm-granite 8,8B — 5,0 GiB apache-2.0 7. Aug. 2026
granite-3.3-8b-instruct ibm-granite 8,2B — 4,6 GiB apache-2.0 9. Apr. 2025
Llama-3.1-70B-Instruct meta-llama 70,6B — 39,6 GiB llama3.1 16. Juli 2024
granite-4.1-30b ibm-granite 28,9B — 16,3 GiB apache-2.0 6. Apr. 2026
GLM-4.7 zai-org 353B 32,9B 201,6 GiB mit 22. Dez. 2025
LFM2.5-230M LiquidAI 230M — 0,1 GiB other 24. Juni 2026
olmOCR-2-7B-1025 allenai 7,6B — 4,4 GiB apache-2.0 6. Okt. 2025
Qwen3-VL-2B-Thinking Qwen 1,7B — 1,0 GiB apache-2.0 19. Okt. 2025
gemma-4-12B google 11,9B — — apache-2.0 23. Mai 2026
Mistral-Medium-3.5-128B mistralai 125B — 69,8 GiB other 31. März 2026
medgemma-1.5-4b-it google 3,9B — 2,3 GiB other 7. Jan. 2026
Mistral-Small-4-119B-2603 mistralai 119B 6,1B 67,6 GiB apache-2.0 23. Jan. 2026
MiniCPM-V-4.6-Thinking openbmb 752M — 0,5 GiB apache-2.0 8. Mai 2026
MiMo-V2-Flash XiaomiMiMo 309B 14,8B 174,0 GiB mit 16. Dez. 2025
MiniCPM-V-4.7-35B-A3B openbmb 34,7B 2,9B 19,7 GiB apache-2.0 7. Okt. 2026
granite-guardian-4.1-8b ibm-granite 8,4B — 4,8 GiB apache-2.0 16. Apr. 2026
Kimi-K2-Thinking moonshotai 1,03T 31,7B 578,6 GiB other 4. Nov. 2025
LFM2.5-350M LiquidAI 354M — 0,2 GiB other 31. März 2026
DeepSeek-R1-Distill-Llama-70B deepseek-ai 70,6B — 39,6 GiB mit 20. Jan. 2025
EXAONE-4.5-33B LGAI-EXAONE 32,5B — 18,7 GiB other 4. Apr. 2026
Olmo-3-32B-Think-SFT allenai 32,2B — 18,1 GiB apache-2.0 14. Nov. 2025
gemma-4-26B-A4B google 25,2B 3,8B 15,6 GiB apache-2.0 12. März 2026
Qwen3-Coder-480B-A35B-Instruct Qwen 480B 34,5B 270,1 GiB apache-2.0 22. Juli 2025
AI21-Jamba-Reasoning-3B ai21labs 3,2B — 1,8 GiB apache-2.0 5. Okt. 2025
granite-4.2-3b ibm-granite 3,7B — 2,1 GiB apache-2.0 7. Aug. 2026
LFM2.5-VL-450M LiquidAI 354M — 0,2 GiB other 8. Apr. 2026
granite-4.2-30b ibm-granite 29,3B — 16,5 GiB apache-2.0 7. Aug. 2026
QwQ-32B Qwen 32,8B — 18,5 GiB apache-2.0 5. März 2025
Olmo-3-7B-Instruct-SFT allenai 7,3B — 4,2 GiB apache-2.0 17. Nov. 2025
LFM2.5-8B-A1B LiquidAI 8,5B 1,7B 4,8 GiB other 28. Mai 2026
NVIDIA-Nemotron-3.5-Lightning-30B-A3B-Base-BF16 nvidia 31,6B 3,2B 23,7 GiB other 5. Aug. 2026
LFM2.5-VL-1.6B LiquidAI 1,2B — 0,7 GiB other 5. Jan. 2026
LFM2.5-VL-3B LiquidAI 2,7B — 1,6 GiB other 11. Aug. 2026
MiMo-V2.6-Distill-Qwen-9B XiaomiMiMo 9,0B — 5,4 GiB mit 21. Sept. 2026
AI21-Jamba2-3B ai21labs 3,2B — 1,8 GiB apache-2.0 6. Jan. 2026
Qwen3.8-2.4T-A95B Qwen 2,42T 93,3B — other 8. Aug. 2026
granite-4.0-350m ibm-granite 352M — 0,2 GiB apache-2.0 7. Okt. 2025
MiniCPM-V-4.7-1B openbmb 1,0B — 0,6 GiB apache-2.0 6. Okt. 2026
Qwen3-VL-4B-Thinking Qwen 4,0B — 2,3 GiB apache-2.0 11. Okt. 2025
Holo2-4B Hcompany 4,4B — 2,5 GiB apache-2.0 10. Nov. 2025
translategemma-4b-it google 3,9B — 2,3 GiB gemma 12. Jan. 2026
d1-3B LiquidAI 2,7B — 1,6 GiB other 5. Okt. 2026
command-a-plus-05-2026-bf16 CohereLabs 218B 25,0B 125,8 GiB apache-2.0 11. Mai 2026
Olmo-3.1-32B-Think allenai 32,2B — 18,1 GiB apache-2.0 10. Dez. 2025
Step-3.7-Flash stepfun-ai 197B 11,5B — apache-2.0 23. Mai 2026
gemma-2-27b-it google 27,2B — 15,5 GiB gemma 24. Juni 2024
Olmo-3.1-32B-Instruct allenai 32,2B — 18,1 GiB apache-2.0 10. Dez. 2025
EuroLLM-9B-Instruct-2512 utter-project 9,2B — 5,2 GiB apache-2.0 26. Jan. 2026
MiMo-V2.5-Pro XiaomiMiMo 1,02T 41,0B 580,1 GiB mit 27. Apr. 2026
functiongemma-270m-it google 268M — 0,2 GiB gemma 8. Okt. 2025
Olmo-3-1125-32B allenai 32,2B — 18,1 GiB apache-2.0 4. Nov. 2025
Ministral-3-3B-Reasoning-2512 mistralai 3,4B — 2,0 GiB apache-2.0 31. Okt. 2025
UI-Venus-2-9B inclusionAI 9,0B — 5,5 GiB — 26. Aug. 2026
Mellum2-12B-A2.5B-Instruct JetBrains 12,1B 2,2B 7,6 GiB apache-2.0 26. Mai 2026
Olmo-3-32B-Think allenai 32,2B — 18,1 GiB apache-2.0 19. Nov. 2025
LFM2-8B-A1B LiquidAI 8,3B 1,6B 4,7 GiB other 7. Okt. 2025
Mellum2-12B-A2.5B-Base JetBrains 12,1B 2,2B 7,5 GiB apache-2.0 26. Mai 2026
K-EXAONE-236B-A23B LGAI-EXAONE 237B 22,7B 133,6 GiB other 26. Dez. 2025
LFM2.5-24B-A2B LiquidAI 24,0B 2,5B 13,5 GiB other 12. Okt. 2026
Ministral-3-8B-Reasoning-2512 mistralai 8,5B — 4,8 GiB apache-2.0 31. Okt. 2025
Olmo-3-7B-Instruct-DPO allenai 7,3B — 4,2 GiB apache-2.0 19. Nov. 2025
KAT-Coder-V2.5-Dev Kwaipilot 34,7B 2,9B 19,9 GiB apache-2.0 23. Juli 2026
NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16 nvidia 121B 12,2B — other 12. Okt. 2026
Trinity-Mini arcee-ai 26,1B 3,1B 14,8 GiB other 1. Dez. 2025
Youtu-LLM-2B tencent 2,0B — 1,1 GiB other 31. Dez. 2025
Holo-3.1-4B Hcompany 4,8B — 2,9 GiB apache-2.0 29. Mai 2026
Nemotron-3-Content-Safety nvidia 3,9B — 2,3 GiB other 6. März 2026
MiniMax-M2.1 MiniMaxAI 229B 10,4B 128,8 GiB other 20. Dez. 2025
LFM2.5-1.2B-Base LiquidAI 1,2B — 0,7 GiB other 5. Jan. 2026
granite-4.0-1b ibm-granite 1,6B — 1,0 GiB apache-2.0 7. Okt. 2025
Qwen3-VL-32B-Thinking Qwen 32,8B — 18,4 GiB apache-2.0 19. Okt. 2025
MiniCPM5-2B-Base openbmb 2,5B — 1,5 GiB apache-2.0 27. Aug. 2026
MiMo-V2.6-Flash-MOPD XiaomiMiMo 309B 14,8B — mit 27. Sept. 2026
translategemma-12b-it google 11,8B — 6,8 GiB gemma 12. Jan. 2026
Solar-Open-100B upstage 103B 11,2B 58,0 GiB other 10. Dez. 2025
Olmo-3-7B-Think-SFT allenai 7,3B — 4,2 GiB apache-2.0 14. Okt. 2025
LFM2.5-1.2B-JP-202606 LiquidAI 1,2B — 0,7 GiB other 26. Mai 2026
Nemotron-Cascade-2-30B-A3B nvidia 31,6B 3,2B 23,0 GiB other 18. März 2026
Qwen-AgentWorld-35B-A3B Qwen 34,7B 2,9B — apache-2.0 22. Juni 2026
tiny-aya-global CohereLabs 3,3B — 2,0 GiB cc-by-nc-4.0 13. Feb. 2026
LFM2.5-1.2B-Thinking LiquidAI 1,2B — 0,7 GiB other 20. Jan. 2026
North-Mini-Code-1.0 CohereLabs 30,5B 3,3B 17,5 GiB apache-2.0 5. Juni 2026
Holo-3.1-0.8B Hcompany 1,0B — 0,6 GiB apache-2.0 29. Mai 2026
NVIDIA-Nemotron-3-Super-120B-A12B-Base-BF16 nvidia 121B 12,2B 80,1 GiB other 10. März 2026
MiMo-V2.6-Pro-MOPD XiaomiMiMo 1,02T 41,0B — mit 27. Sept. 2026
MiniCPM5-1B-Base openbmb 1,1B — 0,6 GiB apache-2.0 21. Mai 2026
translategemma-27b-it google 27,0B — 15,4 GiB gemma 12. Jan. 2026
Olmo-3-7B-Think-DPO allenai 7,3B — 4,2 GiB apache-2.0 18. Nov. 2025
Bielik-Minitron-7B-v3.0-Instruct speakleash 7,5B — 4,2 GiB apache-2.0 22. Jan. 2026
LFM2.5-2.6B-Base LiquidAI 2,7B — 1,6 GiB other 1. Aug. 2026
MiniCPM5-1B-SFT openbmb 1,1B — 0,6 GiB apache-2.0 21. Mai 2026
Devstral-2-123B-Instruct-2512 mistralai 125B — 69,8 GiB other 28. Nov. 2025
UI-Venus-1.5-2B inclusionAI 2,0B — 1,2 GiB apache-2.0 9. Feb. 2026
Fara1.5-9B microsoft 9,0B — 5,5 GiB mit 12. Mai 2026
kanana-2-3b-instruct kakaocorp 3,5B — 2,0 GiB other 24. Juli 2026
Mellum2-12B-A2.5B-Thinking-SFT JetBrains 12,1B 2,2B 7,5 GiB apache-2.0 26. Mai 2026
Ising-Calibration-1.5-31B-BF16 nvidia 30,7B — 18,3 GiB other 13. Juli 2026
granite-4.0-h-350m ibm-granite 340M — 0,2 GiB apache-2.0 7. Okt. 2025
Trinity-Nano-Preview arcee-ai 6,1B 819M 3,5 GiB other 1. Dez. 2025
Fara-7B microsoft 7,6B — 4,4 GiB mit 30. Okt. 2025
Mellum2.1-12B-A2.5B-Thinking JetBrains 12,1B 2,2B 7,5 GiB apache-2.0 20. Sept. 2026
Bielik-11B-v3.0-Instruct speakleash 11,2B — 6,3 GiB apache-2.0 7. Nov. 2025
Olmo-3.1-32B-Instruct-DPO allenai 32,2B — 18,1 GiB apache-2.0 18. Nov. 2025
GLM-4.6V zai-org 107B 12,8B 65,7 GiB mit 7. Dez. 2025
Kimi-Linear-48B-A3B-Base moonshotai 49,1B 3,1B 27,7 GiB mit 30. Okt. 2025
Mellum2-12B-A2.5B-Thinking JetBrains 12,1B 2,2B 7,6 GiB apache-2.0 26. Mai 2026
LFM2-24B-A2B LiquidAI 23,8B 2,3B 13,4 GiB other 24. Feb. 2026
LFM2-VL-3B LiquidAI 2,6B — 1,5 GiB other 22. Okt. 2025
Olmo-3-7B-RL-Zero-Math allenai 7,3B — 4,2 GiB apache-2.0 17. Nov. 2025
granite-4.0-h-1b ibm-granite 1,5B — 0,8 GiB apache-2.0 7. Okt. 2025
Cosmos-Reason2-32B nvidia 32,8B — 18,4 GiB other 29. Apr. 2026
BitCPM-CANN-3B-unquantized openbmb 3,6B — 2,0 GiB apache-2.0 18. Mai 2026
EuroLLM-22B-2512 utter-project 22,6B — 12,7 GiB apache-2.0 24. Nov. 2025
Olmo-3.1-7B-RL-Zero-Math allenai 7,3B — 4,2 GiB apache-2.0 12. Dez. 2025
tiny-aya-earth CohereLabs 3,3B — 2,0 GiB cc-by-nc-4.0 13. Feb. 2026
Nemotron-Orchestrator-8B nvidia 8,2B — 4,7 GiB — 25. Nov. 2025
Holo4-35B-A3B Hcompany 34,7B 2,9B 20,8 GiB apache-2.0 24. Sept. 2026
AutoGLM-Phone-9B zai-org 9,4B — 5,7 GiB mit 8. Dez. 2025
Mistral-Large-3-675B-Instruct-2512 mistralai 673B 39,0B 379,0 GiB apache-2.0 28. Nov. 2025
WebWorld-32B Qwen 32,8B — 18,4 GiB apache-2.0 13. Feb. 2026
Trinity-Large-Thinking arcee-ai 399B 12,8B 225,2 GiB other 1. Apr. 2026
Fara1.5-27B microsoft 26,9B — 16,3 GiB mit 17. Juli 2026
Ling-1T inclusionAI 1,00T 49,8B 563,2 GiB mit 2. Okt. 2025
AstaBrief_8B allenai 8,2B — 4,7 GiB apache-2.0 9. Feb. 2026
OptiMind-SFT microsoft 20,9B 3,6B 14,7 GiB mit 10. Dez. 2025
UI-Venus-1.5-8B inclusionAI 8,2B — 4,7 GiB apache-2.0 9. Feb. 2026
FrogNano-4B-2609 microsoft 4,2B — 2,6 GiB mit 17. Sept. 2026
Olmo-3-7B-RL-Zero-IF allenai 7,3B — 4,2 GiB apache-2.0 17. Nov. 2025
Olmo-3-7B-RL-Zero-Code allenai 7,3B — 4,2 GiB apache-2.0 17. Nov. 2025
Muse-Spark-Open-816B-A42B meta-models 820B 44,4B — other 15. Sept. 2026
Apertus-v1.1-1.5B swiss-ai 1,5B — 0,9 GiB apache-2.0 18. Feb. 2026
Qwen3-Coder-Next-Base Qwen 79,7B 3,6B 45,2 GiB apache-2.0 1. Feb. 2026
Olmo-3-7B-RL-Zero-General allenai 7,3B — 4,2 GiB apache-2.0 17. Nov. 2025
rnj-1-instruct EssentialAI 8,3B — 4,8 GiB apache-2.0 4. Dez. 2025
Youtu-VL-4B-Instruct tencent 4,9B — 2,9 GiB other 23. Jan. 2026
Beam-1.0-501B-A23B reflection 501B 22,7B — apache-2.0 7. Okt. 2026
Hermes-4.3-36B NousResearch 36,2B — 20,3 GiB apache-2.0 17. Nov. 2025
Apriel-1.6-15b-Thinker ServiceNow-AI 14,4B — 8,2 GiB mit 28. Nov. 2025
AprielGuard ServiceNow-AI 7,9B — 4,5 GiB mit 21. Nov. 2025
EuroMoE-2.6B-A0.6B-Instruct-2512 utter-project 2,6B 498M 1,5 GiB apache-2.0 15. Dez. 2025
Fara1.5-4B microsoft 4,2B — 2,7 GiB mit 17. Juli 2026
Holo4-27B Hcompany 26,9B — 15,4 GiB cc-by-nc-4.0 24. Sept. 2026
UI-Venus-1.5-30B-A3B inclusionAI 30,5B 3,0B 17,3 GiB apache-2.0 9. Feb. 2026
Nemotron-Cascade-14B-Thinking nvidia 14,8B — 8,4 GiB other 8. Dez. 2025
Qwen3.8-3.6-27B-blend JetBrains 26,9B — 16,2 GiB apache-2.0 15. Sept. 2026
LFM2.5-1.2B-JP LiquidAI 1,2B — 0,7 GiB other 4. Jan. 2026
Apertus-v1.1-1.5B-Instruct swiss-ai 1,5B — 0,9 GiB apache-2.0 3. Mai 2026
Olmo-3-32B-Think-DPO allenai 32,2B — 18,1 GiB apache-2.0 14. Nov. 2025
LFM2.5-Encoder-350M-Diffusion LiquidAI 354M — 0,2 GiB other 10. Juli 2026
Riva-Translate-4B-Instruct-v1.1 nvidia 4,2B — 2,6 GiB — 5. Nov. 2025
Holo-3.1-9B Hcompany 9,0B — 5,2 GiB apache-2.0 29. Mai 2026
Trinity-Nano-Base arcee-ai 6,1B 819M 3,5 GiB other 1. Dez. 2025
Nemotron-Cascade-8B-Thinking nvidia 8,2B — 4,7 GiB other 8. Dez. 2025
Intern-S2-397B internlm 396B 16,3B 237,1 GiB apache-2.0 13. Sept. 2026
Youtu-LLM-2B-Base tencent 2,0B — 1,1 GiB other 31. Dez. 2025
AutoGLM-Phone-9B-Multilingual zai-org 9,4B — 5,7 GiB mit 9. Dez. 2025
Olmo-3-7B-RL-Zero-Mix allenai 7,3B — 4,2 GiB apache-2.0 1. Dez. 2025
CapRL-Qwen3VL-4B internlm 4,4B — 2,5 GiB apache-2.0 24. Dez. 2025
LFM2-2.6B-Longevity LiquidAI 2,6B — 1,5 GiB other 25. Mai 2026
UI-Mate-9B tencent 9,0B — 5,5 GiB apache-2.0 14. Aug. 2026
Kimi-Linear-REAP-35B-A3B-Instruct cerebras 35,1B 3,1B 19,8 GiB mit 6. Nov. 2025
WebWorld-8B Qwen 8,2B — 4,7 GiB apache-2.0 13. Feb. 2026
AI21-Jamba2-Mini ai21labs 51,6B 11,8B 29,0 GiB apache-2.0 6. Jan. 2026
MiMo-Embodied-7B XiaomiMiMo 7,6B — 4,4 GiB mit 19. Nov. 2025
AesCode-8B microsoft 8,2B — 4,9 GiB apache-2.0 29. Sept. 2026
UserRepGen-4B microsoft 4,2B — 2,5 GiB mit 14. Okt. 2026
AesCode-32B microsoft 32,8B — 19,1 GiB apache-2.0 29. Sept. 2026
ContextPilot-14B tencent 14,8B — 8,7 GiB other 27. Aug. 2026
ContextPilot-E4B tencent 7,5B — 4,9 GiB other 27. Aug. 2026
LFM2-2.6B-Transcript LiquidAI 2,6B — 1,5 GiB other 5. Jan. 2026
Holotron4-30B-A3B Hcompany 31,6B 3,2B 22,8 GiB other 24. Sept. 2026
kanana-2-3b-base kakaocorp 3,2B — 1,8 GiB other 24. Juli 2026
UI-Mate-27B tencent 26,9B — 16,3 GiB apache-2.0 14. Aug. 2026
Baichuan-M3-235B baichuan-inc 235B 21,6B 132,4 GiB apache-2.0 13. Jan. 2026
Apertus-v1.1-4B swiss-ai 3,8B — 2,3 GiB apache-2.0 12. Apr. 2026
Nemotron-Cascade-8B nvidia 8,2B — 4,7 GiB other 16. Dez. 2025
INTELLECT-3 PrimeIntellect 107B 12,8B 66,5 GiB mit 26. Nov. 2025
Ising-Calibration-1-35B-A3B nvidia 34,7B 2,9B 19,7 GiB other 30. März 2026
ContextPilot-8B tencent 8,2B — 4,7 GiB other 27. Aug. 2026
LFM2-2.6B-Exp LiquidAI 2,7B — 1,5 GiB other 25. Dez. 2025
NVIDIA-Nemotron-Labs-3-Elastic-30B-A3B-BF16 nvidia 31,6B 3,2B 22,8 GiB other 1. Apr. 2026
Nemotron-Terminal-8B nvidia 8,2B — 4,7 GiB other 17. Feb. 2026
tiny-aya-fire CohereLabs 3,3B — 2,0 GiB cc-by-nc-4.0 13. Feb. 2026
HARC-Qwen2.5-7B-Instruct microsoft 7,6B — 4,4 GiB apache-2.0 2. Juli 2026
WebWorld-14B Qwen 14,8B — 8,4 GiB apache-2.0 13. Feb. 2026
AgentCPM-Explore openbmb 4,4B — 2,5 GiB apache-2.0 11. Jan. 2026
Olmo-3.1-7B-RL-Zero-Code allenai 7,3B — 4,2 GiB apache-2.0 10. Dez. 2025
HARC-Llama-3.1-8B-Instruct microsoft 8,0B — 4,6 GiB llama3.1 2. Juli 2026
Trinity-Large-TrueBase arcee-ai 399B 12,8B 225,0 GiB other 27. Jan. 2026
SingGuard-2b inclusionAI 1,7B — 1,0 GiB apache-2.0 25. Mai 2026
X-Reasoner-7B microsoft 7,6B — 4,4 GiB apache-2.0 3. Feb. 2026
MathForm-8B openbmb 8,2B — 4,7 GiB apache-2.0 14. Aug. 2026
NousCoder-14B NousResearch 14,8B — 8,4 GiB apache-2.0 23. Dez. 2025
Trinity-Large-Base arcee-ai 399B 12,8B 225,0 GiB other 27. Jan. 2026
Nemotron-Terminal-32B nvidia 32,8B — 18,4 GiB other 17. Feb. 2026
tiny-aya-water CohereLabs 3,3B — 2,0 GiB cc-by-nc-4.0 13. Feb. 2026
Holo-3.1-35B-A3B Hcompany 34,7B 2,9B 19,7 GiB apache-2.0 29. Mai 2026
Qwen2.5-VL-7B-Surg-CholecT50 nvidia 7,6B — 4,4 GiB other 28. Okt. 2025
Nemotron-Terminal-14B nvidia 14,8B — 8,4 GiB other 17. Feb. 2026
FrogBoss-32B-2510 microsoft 32,8B — 18,4 GiB mit 5. Jan. 2026
Holo3-35B-A3B Hcompany 34,7B 2,9B 19,7 GiB apache-2.0 23. März 2026
UI-Mate-democua-27B tencent 26,9B — 15,4 GiB apache-2.0 14. Aug. 2026
Trinity-Mini-Base-Pre-Anneal arcee-ai 26,1B 3,1B 14,7 GiB other 11. Dez. 2025
GLM-4.7-Flash-REAP-23B-A3B cerebras 23,0B 3,6B 13,1 GiB mit 23. Jan. 2026
Trinity-Mini-Base arcee-ai 26,1B 3,1B 14,7 GiB other 1. Dez. 2025
SmolLM3-3B-GSM8K-SFT HuggingFaceTB 3,1B — 1,8 GiB apache-2.0 3. Apr. 2026
cogito-671b-v2.1 deepcogito 671B 36,6B 377,6 GiB mit 24. Okt. 2025
GELab-Zero-4B-preview stepfun-ai 4,0B — 2,3 GiB apache-2.0 28. Nov. 2025
CapRL-Qwen3VL-2B internlm 2,0B — 1,2 GiB apache-2.0 24. Dez. 2025
JanusCoderV-7B internlm 7,6B — 4,4 GiB apache-2.0 27. Okt. 2025
LFM2.5-VL-1.6B-Extract LiquidAI 1,2B — 0,7 GiB other 26. Mai 2026
granite-guardian-4.0-3b-toxicity-ja ibm-granite 3,4B — 2,0 GiB apache-2.0 6. Apr. 2026
Qwen3-Coder-REAP-25B-A3B cerebras 24,9B 3,0B 14,2 GiB apache-2.0 20. Okt. 2025
LFM2.5-VL-450M-Extract LiquidAI 354M — 0,2 GiB other 26. Mai 2026
JanusCoder-14B internlm 14,8B — 8,4 GiB apache-2.0 27. Okt. 2025
Step3-VL-10B-Base stepfun-ai 8,2B — 4,7 GiB apache-2.0 13. Jan. 2026
granite-guardian-3.2-8b-factuality-detection ibm-granite 8,2B — 4,6 GiB apache-2.0 10. Nov. 2025
ZwZ-4B inclusionAI 4,4B — 2,5 GiB apache-2.0 12. Feb. 2026
FrogMini-14B-2510 microsoft 14,8B — 8,4 GiB mit 9. Jan. 2026
Qwen3-Nemotron-235B-A22B-GenRM nvidia 235B 21,6B 132,4 GiB apache-2.0 3. Dez. 2025
Trinity-Nano-Base-Pre-Anneal arcee-ai 6,1B 819M 3,5 GiB other 11. Dez. 2025
Mellum2-12B-A2.5B-Instruct-SFT JetBrains 12,1B 2,2B 7,5 GiB apache-2.0 26. Mai 2026
KAT-Dev-72B-Exp Kwaipilot 72,7B — 44,2 GiB apache-2.0 10. Okt. 2025
Qwen3-Nemotron-8B-BRRM nvidia 8,2B — 4,7 GiB other 21. Okt. 2025
ZwZ-8B inclusionAI 8,2B — 4,7 GiB apache-2.0 12. Feb. 2026
GLM-4.5-Air-REAP-82B-A12B cerebras 81,9B 12,8B 52,7 GiB mit 20. Okt. 2025
RLVR-8B-0926 stepfun-ai 8,2B — 4,7 GiB mit 9. Dez. 2025
Spatial-SSRL-Qwen3VL-4B internlm 4,4B — 2,5 GiB apache-2.0 21. Nov. 2025
JanusCoder-8B internlm 8,2B — 4,7 GiB apache-2.0 27. Okt. 2025
ArmorOCR inclusionAI 8,2B — 4,7 GiB apache-2.0 20. Aug. 2026
Spatial-SSRL-7B internlm 7,6B — 4,4 GiB apache-2.0 29. Okt. 2025
Holo2-8B Hcompany 8,2B — 4,7 GiB apache-2.0 10. Nov. 2025
SERA-32B allenai 32,8B — 18,4 GiB apache-2.0 27. Jan. 2026
Holo2-30B-A3B Hcompany 30,5B 3,0B 17,3 GiB cc-by-nc-4.0 10. Nov. 2025
ZwZ-2B inclusionAI 2,0B — 1,2 GiB apache-2.0 4. März 2026
Qwen3-Coder-REAP-363B-A35B cerebras 363B 34,5B 204,2 GiB apache-2.0 30. Okt. 2025
Holo2-235B-A22B Hcompany 235B 21,6B 132,4 GiB cc-by-nc-4.0 28. Jan. 2026
MiniMax-M2.5-REAP-139B-A10B cerebras 139B 10,4B 78,4 GiB other 18. Feb. 2026
Qwen3-Nemotron-14B-BRRM nvidia 14,8B — 8,4 GiB other 22. Okt. 2025
intent-aware-lfqa-llama3-8b-intent-explicit allenai 8,0B — 4,6 GiB odc-by 13. Apr. 2026
Step-3.5-Flash-REAP-121B-A11B cerebras 121B 11,4B 67,8 GiB other 25. Feb. 2026
GLM-4.7-REAP-218B-A32B cerebras 218B 32,8B 123,0 GiB mit 10. Jan. 2026
intent-aware-lfqa-llama3-8b-intent-implicit allenai 8,0B — 4,6 GiB odc-by 13. Apr. 2026
Step-3.5-Flash-REAP-149B-A11B cerebras 149B 11,4B 83,8 GiB other 25. Feb. 2026
intent-aware-lfqa-qwen3-4b-intent-explicit allenai 4,4B — 2,5 GiB odc-by 13. Apr. 2026
GLM-4.6-REAP-268B-A32B cerebras 269B 32,8B 151,4 GiB mit 24. Okt. 2025
GLM-4.7-REAP-268B-A32B cerebras 269B 32,8B 151,1 GiB mit 10. Jan. 2026
intent-aware-lfqa-qwen3-8b-intent-explicit allenai 8,2B — 4,7 GiB odc-by 13. Apr. 2026
intent-aware-lfqa-qwen3-4b-intent-implicit allenai 4,4B — 2,5 GiB odc-by 13. Apr. 2026
intent-aware-lfqa-qwen3-8b-multiview allenai 8,2B — 4,7 GiB odc-by 13. Apr. 2026
intent-aware-lfqa-llama3-8b-multiview allenai 8,0B — 4,6 GiB odc-by 13. Apr. 2026
intent-aware-lfqa-qwen3-8b-intent-implicit allenai 8,2B — 4,7 GiB odc-by 13. Apr. 2026
intent-aware-lfqa-qwen3-4b-baseline allenai 4,4B — 2,5 GiB odc-by 13. Apr. 2026
ZwZ-7B inclusionAI 7,6B — 4,4 GiB apache-2.0 12. Feb. 2026
intent-aware-lfqa-qwen3-8b-baseline allenai 8,2B — 4,7 GiB odc-by 13. Apr. 2026
intent-aware-lfqa-llama3-8b-baseline allenai 8,0B — 4,6 GiB odc-by 13. Apr. 2026
intent-aware-lfqa-qwen3-4b-multiview allenai 4,4B — 2,5 GiB odc-by 13. Apr. 2026
HiPO-1.7B Kwaipilot 2,0B — 1,2 GiB apache-2.0 31. Okt. 2025

Die Parameter zählen die Tensoren, die llama.cpp lädt (Multi-Token-Prediction-Schichten werden nicht mitgezählt). Aktive Parameter pro Token zählen die Nicht-Experten-Tensoren und die verwendeten Experten, aber nicht den Lookup im Input-Embedding; ein gekoppeltes Input-/Output-Embedding wird einmal gezählt, und zwar als Ausgabeschicht. Modellkarten zählen diese oft anders, daher können ihre Angaben höher ausfallen. Methodik