Mellum2-12B-A2.5B-Thinking-SFT：需要多少显存？

本页面由 AI 自动撰写和翻译，并由软件对照来源进行检查，没有人工编辑。规格来自所列来源；显存需求和速度是按已公布的公式计算出的估算值。 我们如何使用 AI

Mellum2-12B-A2.5B-Thinking-SFT 是混合专家（MoE）模型，共有 12.1B 个参数，其中每个 token 约有 2.2B 激活（不含输入嵌入查表）。在 Q4_K_M 量化、8,192 token 上下文下，单张显卡需要 9.4 GiB 可用显存，结果才会是“能装下”。

数值更新于 2026年10月19日

关键信息

GGUF 文件与所需显存

所有量化均来自同一个 GGUF 仓库的同一个固定版本： mradermacher/Mellum2-12B-A2.5B-Thinking-SFT-i1-GGUF@b51f037

各量化所需的最小 GPU

可运行 Mellum2-12B-A2.5B-Thinking-SFT 的 GPU

“能装下”是指 llama.cpp 默认的 --fit 加载检查会把所有层放到 GPU 上：我们对 llama.cpp 缓冲区的估算，加上误差余量，再加上 llama.cpp 每张卡 1 GiB 的预留，不超过被视为可用的显存。这并不保证生成过程中的峰值显存也能装下。 结果是如何判定的

临界的 GPU

单张显卡装不下的 GPU

没有结论的 GPU

• CUDA（NVIDIA）：llama.cpp，CUDA 后端（NVIDIA 独立 GPU），所有层都放在 GPU 上，开启 Flash Attention，微批次大小（-ub）为 512，F16 KV 缓存，上下文（-c）如表中所示；“能装下”按 llama-server 默认的 4 个并行序列（-np auto，统一 KV 缓存）判定，“装不下”按 1 个序列判定；GPU 空闲，没有其他程序占用其显存。
• Linux 上的 ROCm（AMD）：llama.cpp，Linux 上的 ROCm 后端（AMD 独立 GPU），所有层都放在 GPU 上，开启 Flash Attention，微批次大小（-ub）为 512，F16 KV 缓存，上下文（-c）如表中所示；“能装下”按 llama-server 默认的 4 个并行序列（-np auto，统一 KV 缓存）判定，“装不下”按 1 个序列判定；GPU 空闲，没有其他程序占用其显存。

速度上限等于显存带宽除以每生成一个 token 所需读取的字节数。这是理论上界；公开的 llama.cpp 基准测试通常能达到其约二分之一到五分之四，小模型和 MoE 模型往往更低。 公开基准测试

原始权重

该模型的原始权重文件（safetensors，按方法说明中的方式统计）共计 22.6 GiB。这些仅供参考；本页所有估算均针对上方的 GGUF 文件，并使用 llama.cpp 运行。 JetBrains/Mellum2-12B-A2.5B-Thinking-SFT · 方法说明

来源

• Hugging Face: JetBrains/Mellum2-12B-A2.5B-Thinking-SFT@9960b87
• Hugging Face (GGUF): mradermacher/Mellum2-12B-A2.5B-Thinking-SFT-i1-GGUF@b51f037
• 方法说明（llama.cpp 5aeac37a）