DeskGPU
日本語

MiniCPM5-1B:必要な VRAM はどれくらい?

このページはAIが自動的に作成・翻訳し、人手による編集なしに、ソフトウェアが出典と照合して確認したものです。仕様は記載の出典に基づいています。必要なメモリ量と速度は、公開されている計算式による推定です。 AIの利用について

MiniCPM5-1B のパラメータ数は 1.1B です。Q4_K_M、コンテキスト 8,192 トークンの場合、結果が「収まる」になるには、単一の GPU に 2.0 GiB の利用可能なメモリが必要です。

値の更新日:2026年10月19日

主な事実

元のリポジトリ
openbmb/MiniCPM5-1B@87179e5
公開元
openbmb
ライセンス
apache-2.0
パラメータ数(GGUF テンソルテーブル:llama.cpp が読み込むテンソル。マルチトークン予測レイヤーは含みません)
1.1B
元のリポジトリが報告するパラメータ数(ビジョンエンコーダーや追加レイヤーを含む場合があります)
1.1B
レイヤー数
24
アテンション構成
フルアテンションレイヤー 24 層
トークンあたりの KV キャッシュ(F16、全アテンションレイヤー)
24.0 KiB
対応する最長コンテキスト長
131,072

GGUF ファイルと必要メモリ

すべての量子化は、固定された1つのリビジョンの1つのGGUFリポジトリに由来します: mradermacher/MiniCPM5-1B-i1-GGUF@f46773f

ファイルサイズは Hugging Face 上の実ファイルのものです。その他の列は X、すなわち結果が「収まる」となるために GPU 単体で必要な利用可能メモリ(最大バッファの推定 ÷ 0.95 + 1 GiB)を示します。条件は llama.cpp を使用、Flash Attention 有効、F16 の KV cache、並列シーケンス 4、マイクロバッチ 512 です。特定の GPU には依存しません。
量子化ファイルサイズコンテキスト長 4,096 での Xコンテキスト長 8,192 での Xコンテキスト長 32,768 での Xコンテキスト長 131,072 での X
Q6_K 0.83 GiB 2.1 GiB2.2 GiB2.8 GiB5.4 GiB
Q5_K_M 0.73 GiB 2.0 GiB2.1 GiB2.7 GiB5.3 GiB
Q4_K_M 0.64 GiB 1.9 GiB2.0 GiB2.7 GiB5.2 GiB
Q4_0 0.62 GiB 1.9 GiB2.0 GiB2.7 GiB5.2 GiB
IQ4_XS 0.60 GiB 1.9 GiB2.0 GiB2.6 GiB5.2 GiB
Q3_K_M 0.54 GiB 1.9 GiB2.0 GiB2.6 GiB5.2 GiB
IQ3_XXS 0.46 GiB 1.8 GiB1.9 GiB2.5 GiB5.1 GiB
Q2_K 0.45 GiB 1.8 GiB1.9 GiB2.5 GiB5.1 GiB
IQ2_M 0.43 GiB 1.7 GiB1.8 GiB2.5 GiB5.0 GiB
IQ2_XXS 0.36 GiB 1.7 GiB1.8 GiB2.4 GiB5.0 GiB

各量子化で最小のGPU

各量子化について、コンテキスト長 8,192 トークンで、1枚のカードで推定が「収まる」となる掲載GPUのうち、メモリが最も少ないものです。結果が「不明」のGPU(実行プロファイルがないもの、ワークステーション向けおよびデータセンター向けカード、ユニファイドメモリ)は対象外です。
量子化収まる最小のGPU(1枚)メモリ
Q6_K NVIDIA GeForce RTX 2060 6GB 6 GB
Q5_K_M NVIDIA GeForce RTX 2060 6GB 6 GB
Q4_K_M NVIDIA GeForce RTX 2060 6GB 6 GB
Q4_0 NVIDIA GeForce RTX 2060 6GB 6 GB
IQ4_XS NVIDIA GeForce RTX 2060 6GB 6 GB
Q3_K_M NVIDIA GeForce RTX 2060 6GB 6 GB
IQ3_XXS NVIDIA GeForce RTX 2060 6GB 6 GB
Q2_K NVIDIA GeForce RTX 2060 6GB 6 GB
IQ2_M NVIDIA GeForce RTX 2060 6GB 6 GB
IQ2_XXS NVIDIA GeForce RTX 2060 6GB 6 GB

MiniCPM5-1B を実行できる GPU

「収まる」とは、llama.cpp のデフォルトの --fit 読み込みチェックで、すべてのレイヤーが GPU に配置されることを意味します。つまり、当サイトによる llama.cpp のバッファの推定値に、誤差マージンと、llama.cpp のカード 1 枚あたり 1 GiB のリザーブを加えた値が、利用可能として計上されたメモリ以内であることを指します。生成中のピークメモリが収まることを保証するものではありません。 結果の判定方法

コンテキスト長 8,192 トークン。カード1枚に収まる最も高い量子化、その最長コンテキスト長、速度の上限を示します。
GPU メモリ 実行プロファイル 収まる最高の量子化 「収まる」に必要な利用可能メモリ 最長コンテキスト長 速度の上限 結果
NVIDIA GeForce GTX 1060 6 GB CUDA(NVIDIA) Q6_K 2.2 GiB 34,560 ≤ 208 トークン/秒 収まる
NVIDIA GeForce GTX 1660 6 GB CUDA(NVIDIA) Q6_K 2.2 GiB 34,560 ≤ 208 トークン/秒 収まる
NVIDIA GeForce GTX 1660 SUPER 6 GB CUDA(NVIDIA) Q6_K 2.2 GiB 34,560 ≤ 364 トークン/秒 収まる
NVIDIA GeForce RTX 2060 6GB 6 GB CUDA(NVIDIA) Q6_K 2.2 GiB 34,560 ≤ 364 トークン/秒 収まる
NVIDIA GeForce GTX 1070 8 GB CUDA(NVIDIA) Q6_K 2.2 GiB 111,104 ≤ 277 トークン/秒 収まる
NVIDIA GeForce GTX 1070 Ti 8 GB CUDA(NVIDIA) Q6_K 2.2 GiB 111,104 ≤ 277 トークン/秒 収まる
NVIDIA GeForce GTX 1080 8 GB CUDA(NVIDIA) Q6_K 2.2 GiB 111,104 ≤ 347 トークン/秒 収まる
NVIDIA GeForce RTX 2060 SUPER 8 GB CUDA(NVIDIA) Q6_K 2.2 GiB 111,104 ≤ 485 トークン/秒 収まる
NVIDIA GeForce RTX 2070 8 GB CUDA(NVIDIA) Q6_K 2.2 GiB 111,104 ≤ 485 トークン/秒 収まる
NVIDIA GeForce RTX 2080 8 GB CUDA(NVIDIA) Q6_K 2.2 GiB 111,104 ≤ 485 トークン/秒 収まる
NVIDIA GeForce RTX 3050 8GB 8 GB CUDA(NVIDIA) Q6_K 2.2 GiB 111,104 ≤ 243 トークン/秒 収まる
NVIDIA GeForce RTX 3060 Ti 8 GB CUDA(NVIDIA) Q6_K 2.2 GiB 111,104 ≤ 485 トークン/秒 収まる
NVIDIA GeForce RTX 3070 8 GB CUDA(NVIDIA) Q6_K 2.2 GiB 111,104 ≤ 485 トークン/秒 収まる
NVIDIA GeForce RTX 3070 Ti 8 GB CUDA(NVIDIA) Q6_K 2.2 GiB 111,104 ≤ 658 トークン/秒 収まる
NVIDIA GeForce RTX 4060 8 GB CUDA(NVIDIA) Q6_K 2.2 GiB 111,104 ≤ 295 トークン/秒 収まる
NVIDIA GeForce RTX 5060 8 GB CUDA(NVIDIA) Q6_K 2.2 GiB 131,072 ≤ 485 トークン/秒 収まる
NVIDIA GeForce RTX 3080 10GB 10 GB CUDA(NVIDIA) Q6_K 2.2 GiB 131,072 ≤ 823 トークン/秒 収まる
NVIDIA GeForce GTX 1080 Ti 11 GB CUDA(NVIDIA) Q6_K 2.2 GiB 131,072 ≤ 524 トークン/秒 収まる
NVIDIA GeForce RTX 2080 Ti 11 GB CUDA(NVIDIA) Q6_K 2.2 GiB 131,072 ≤ 667 トークン/秒 収まる
AMD Radeon RX 7700 XT 12 GB Linux 上の ROCm(AMD) Q6_K 2.2 GiB 131,072 — 収まる
NVIDIA GeForce RTX 3080 Ti 12 GB CUDA(NVIDIA) Q6_K 2.2 GiB 131,072 ≤ 988 トークン/秒 収まる
NVIDIA GeForce RTX 4070 12 GB CUDA(NVIDIA) Q6_K 2.2 GiB 131,072 ≤ 546 トークン/秒 収まる
NVIDIA GeForce RTX 4070 Ti 12 GB CUDA(NVIDIA) Q6_K 2.2 GiB 131,072 ≤ 546 トークン/秒 収まる
NVIDIA GeForce RTX 5070 12 GB CUDA(NVIDIA) Q6_K 2.2 GiB 131,072 ≤ 728 トークン/秒 収まる
AMD Radeon RX 7800 XT 16 GB Linux 上の ROCm(AMD) Q6_K 2.2 GiB 131,072 — 収まる
AMD Radeon RX 7900 GRE 16 GB Linux 上の ROCm(AMD) Q6_K 2.2 GiB 131,072 — 収まる
NVIDIA GeForce RTX 4060 Ti 16GB 16 GB CUDA(NVIDIA) Q6_K 2.2 GiB 131,072 ≤ 312 トークン/秒 収まる
NVIDIA GeForce RTX 4070 Ti SUPER 16 GB CUDA(NVIDIA) Q6_K 2.2 GiB 131,072 ≤ 728 トークン/秒 収まる
NVIDIA GeForce RTX 4080 16 GB CUDA(NVIDIA) Q6_K 2.2 GiB 131,072 ≤ 776 トークン/秒 収まる
NVIDIA GeForce RTX 5060 Ti 16GB 16 GB CUDA(NVIDIA) Q6_K 2.2 GiB 131,072 — 収まる
NVIDIA GeForce RTX 5070 Ti 16 GB CUDA(NVIDIA) Q6_K 2.2 GiB 131,072 ≤ 970 トークン/秒 収まる
NVIDIA GeForce RTX 5080 16 GB CUDA(NVIDIA) Q6_K 2.2 GiB 131,072 ≤ 1,040 トークン/秒 収まる
AMD Radeon RX 7900 XT 20 GB Linux 上の ROCm(AMD) Q6_K 2.2 GiB 131,072 — 収まる
AMD Radeon RX 7900 XTX 24 GB Linux 上の ROCm(AMD) Q6_K 2.2 GiB 131,072 — 収まる
NVIDIA GeForce RTX 3090 24 GB CUDA(NVIDIA) Q6_K 2.2 GiB 131,072 ≤ 1,014 トークン/秒 収まる
NVIDIA GeForce RTX 3090 Ti 24 GB CUDA(NVIDIA) Q6_K 2.2 GiB 131,072 ≤ 1,091 トークン/秒 収まる
NVIDIA GeForce RTX 5090 32 GB CUDA(NVIDIA) Q6_K 2.2 GiB 131,072 ≤ 1,940 トークン/秒 収まる

判定のないGPU

コンテキスト長 8,192 トークン。これらのGPUには判定がありません(「判定がない理由」を参照)。表示している必要量は、最も低い量子化のものです。
GPU メモリ 実行プロファイル 最小の量子化 「収まる」に必要な利用可能メモリ 判定がない理由 結果
NVIDIA GeForce GTX 1050 Ti 4 GB CUDA(NVIDIA) IQ2_XXS 1.8 GiB 不明:予約分を差し引くと残りのメモリが少なすぎて、確実に判定できません 不明
NVIDIA GeForce GTX 1650 4 GB CUDA(NVIDIA) IQ2_XXS 1.8 GiB 不明:予約分を差し引くと残りのメモリが少なすぎて、確実に判定できません 不明
AMD Radeon Pro V520 8 GB Linux 上の ROCm(AMD) IQ2_XXS 1.8 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
NVIDIA P4 8 GB CUDA(NVIDIA) IQ2_XXS 1.8 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
NVIDIA P100 16 GB CUDA(NVIDIA) IQ2_XXS 1.8 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
NVIDIA L4 24 GB CUDA(NVIDIA) IQ2_XXS 1.8 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
NVIDIA Tesla P40 24 GB CUDA(NVIDIA) IQ2_XXS 1.8 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
AMD Radeon AI PRO R9700 32 GB Linux 上の ROCm(AMD) IQ2_XXS 1.8 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
AMD Radeon PRO W7800 32GB 32 GB Linux 上の ROCm(AMD) IQ2_XXS 1.8 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
NVIDIA Tesla V100 32GB 32 GB CUDA(NVIDIA) IQ2_XXS 1.8 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
AMD Radeon PRO W7800 48GB 48 GB Linux 上の ROCm(AMD) IQ2_XXS 1.8 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
AMD Radeon PRO W7900 48 GB Linux 上の ROCm(AMD) IQ2_XXS 1.8 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
NVIDIA L40 48 GB CUDA(NVIDIA) IQ2_XXS 1.8 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
AMD Instinct MI210 64 GB Linux 上の ROCm(AMD) IQ2_XXS 1.8 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
NVIDIA H100 PCIe 80 GB CUDA(NVIDIA) IQ2_XXS 1.8 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
NVIDIA H100 NVL 94 GB CUDA(NVIDIA) IQ2_XXS 1.8 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
NVIDIA H200 SXM 141 GB CUDA(NVIDIA) IQ2_XXS 1.8 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
NVIDIA B200 180 GB CUDA(NVIDIA) IQ2_XXS 1.8 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
AMD Instinct MI300X 192 GB Linux 上の ROCm(AMD) IQ2_XXS 1.8 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
NVIDIA B100 192 GB CUDA(NVIDIA) IQ2_XXS 1.8 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
AMD Instinct MI325X 256 GB Linux 上の ROCm(AMD) IQ2_XXS 1.8 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
AMD Instinct MI350X 288 GB Linux 上の ROCm(AMD) IQ2_XXS 1.8 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
AMD Instinct MI355X 288 GB Linux 上の ROCm(AMD) IQ2_XXS 1.8 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明

速度の上限は、メモリ帯域幅を、生成されるトークン一つあたりに読み込まれるバイト数で割った値です。これは理論上の上限であり、公開されている llama.cpp のベンチマークでは通常、その半分から五分の四程度に達します。小さなモデルや MoE モデルでは、これより低くなることが多くあります。 公開ベンチマーク

元の重み

このモデルの元の重みファイル(safetensors、算出方法は方法論に記載)の合計は2.0 GiBです。参考として掲載しているだけで、このページのすべての推定は、上記のGGUFファイルをllama.cppで実行した場合のものです。 openbmb/MiniCPM5-1B · 算出方法

出典