Ministral-3-14B-Reasoning-2512:必要な VRAM はどれくらい?
このページはAIが自動的に作成・翻訳し、人手による編集なしに、ソフトウェアが出典と照合して確認したものです。仕様は記載の出典に基づいています。必要なメモリ量と速度は、公開されている計算式による推定です。 AIの利用について
Ministral-3-14B-Reasoning-2512 のパラメータ数は 13.5B です。Q4_K_M、コンテキスト 8,192 トークンの場合、結果が「収まる」になるには、単一の GPU に 10.3 GiB の利用可能なメモリが必要です。
値の更新日:2026年10月19日
主な事実
- 元のリポジトリ
- mistralai/Ministral-3-14B-Reasoning-2512@51f9210
- 公開元
- mistralai
- ライセンス
- apache-2.0
- パラメータ数(GGUF テンソルテーブル:llama.cpp が読み込むテンソル。マルチトークン予測レイヤーは含みません)
- 13.5B
- 元のリポジトリが報告するパラメータ数(ビジョンエンコーダーや追加レイヤーを含む場合があります)
- 13.9B
- レイヤー数
- 40
- アテンション構成
- フルアテンションレイヤー 40 層
- トークンあたりの KV キャッシュ(F16、全アテンションレイヤー)
- 160.0 KiB
- 対応する最長コンテキスト長
- 262,144
GGUF ファイルと必要メモリ
すべての量子化は、固定された1つのリビジョンの1つのGGUFリポジトリに由来します: mistralai/Ministral-3-14B-Reasoning-2512-GGUF@fe3b038
ファイルサイズは Hugging Face 上の実ファイルのものです。その他の列は X、すなわち結果が「収まる」となるために GPU 単体で必要な利用可能メモリ(最大バッファの推定 ÷ 0.95 + 1 GiB)を示します。条件は llama.cpp を使用、Flash Attention 有効、F16 の KV cache、並列シーケンス 4、マイクロバッチ 512 です。特定の GPU には依存しません。 | 量子化 | ファイルサイズ | コンテキスト長 4,096 での X | コンテキスト長 8,192 での X | コンテキスト長 32,768 での X | コンテキスト長 131,072 での X |
| BF16 | 25.17 GiB | 27.1 GiB | 27.8 GiB | 31.8 GiB | 47.7 GiB |
| Q8_0 | 13.37 GiB | 15.3 GiB | 16.0 GiB | 20.0 GiB | 35.9 GiB |
| Q5_K_M | 8.96 GiB | 10.9 GiB | 11.6 GiB | 15.6 GiB | 31.6 GiB |
| Q4_K_M | 7.67 GiB | 9.6 GiB | 10.3 GiB | 14.3 GiB | 30.3 GiB |
各量子化で最小のGPU
Ministral-3-14B-Reasoning-2512 を実行できる GPU
「収まる」とは、llama.cpp のデフォルトの --fit 読み込みチェックで、すべてのレイヤーが GPU に配置されることを意味します。つまり、当サイトによる llama.cpp のバッファの推定値に、誤差マージンと、llama.cpp のカード 1 枚あたり 1 GiB のリザーブを加えた値が、利用可能として計上されたメモリ以内であることを指します。生成中のピークメモリが収まることを保証するものではありません。 結果の判定方法
コンテキスト長 8,192 トークン。カード1枚に収まる最も高い量子化、その最長コンテキスト長、速度の上限を示します。 | GPU | メモリ | 実行プロファイル | 収まる最高の量子化 | 「収まる」に必要な利用可能メモリ | 最長コンテキスト長 | 速度の上限 | 結果 |
| AMD Radeon RX 7700 XT | 12 GB | Linux 上の ROCm(AMD) | Q4_K_M | 10.3 GiB | 9,984 | — | 収まる |
| AMD Radeon RX 7800 XT | 16 GB | Linux 上の ROCm(AMD) | Q5_K_M | 11.6 GiB | 27,648 | — | 収まる |
| AMD Radeon RX 7900 GRE | 16 GB | Linux 上の ROCm(AMD) | Q5_K_M | 11.6 GiB | 26,880 | — | 収まる |
| NVIDIA GeForce RTX 4060 Ti 16GB | 16 GB | CUDA(NVIDIA) | Q5_K_M | 11.6 GiB | 22,272 | ≤ 27.4 トークン/秒 | 収まる |
| NVIDIA GeForce RTX 4070 Ti SUPER | 16 GB | CUDA(NVIDIA) | Q5_K_M | 11.6 GiB | 16,128 | ≤ 64.0 トークン/秒 | 収まる |
| NVIDIA GeForce RTX 4080 | 16 GB | CUDA(NVIDIA) | Q5_K_M | 11.6 GiB | 16,128 | ≤ 68.3 トークン/秒 | 収まる |
| NVIDIA GeForce RTX 5060 Ti 16GB | 16 GB | CUDA(NVIDIA) | Q5_K_M | 11.6 GiB | 16,128 | — | 収まる |
| NVIDIA GeForce RTX 5070 Ti | 16 GB | CUDA(NVIDIA) | Q5_K_M | 11.6 GiB | 16,128 | ≤ 85.4 トークン/秒 | 収まる |
| NVIDIA GeForce RTX 5080 | 16 GB | CUDA(NVIDIA) | Q5_K_M | 11.6 GiB | 16,128 | ≤ 91.5 トークン/秒 | 収まる |
| AMD Radeon RX 7900 XT | 20 GB | Linux 上の ROCm(AMD) | Q8_0 | 16.0 GiB | 24,320 | — | 収まる |
| AMD Radeon RX 7900 XTX | 24 GB | Linux 上の ROCm(AMD) | Q8_0 | 16.0 GiB | 49,664 | — | 収まる |
| NVIDIA GeForce RTX 3090 | 24 GB | CUDA(NVIDIA) | Q8_0 | 16.0 GiB | 41,728 | ≤ 62.5 トークン/秒 | 収まる |
| NVIDIA GeForce RTX 3090 Ti | 24 GB | CUDA(NVIDIA) | Q8_0 | 16.0 GiB | 38,144 | ≤ 67.3 トークン/秒 | 収まる |
| NVIDIA GeForce RTX 5090 | 32 GB | CUDA(NVIDIA) | BF16 | 27.8 GiB | 17,152 | ≤ 66.3 トークン/秒 | 収まる |
境界のGPU
カード1枚に収まらないGPU
判定のないGPU
コンテキスト長 8,192 トークン。これらのGPUには判定がありません(「判定がない理由」を参照)。表示している必要量は、最も低い量子化のものです。 | GPU | メモリ | 実行プロファイル | 最小の量子化 | 「収まる」に必要な利用可能メモリ | 判定がない理由 | 結果 |
| NVIDIA P100 | 16 GB | CUDA(NVIDIA) | Q4_K_M | 10.3 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| NVIDIA L4 | 24 GB | CUDA(NVIDIA) | Q4_K_M | 10.3 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| NVIDIA Tesla P40 | 24 GB | CUDA(NVIDIA) | Q4_K_M | 10.3 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| AMD Radeon AI PRO R9700 | 32 GB | Linux 上の ROCm(AMD) | Q4_K_M | 10.3 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| AMD Radeon PRO W7800 32GB | 32 GB | Linux 上の ROCm(AMD) | Q4_K_M | 10.3 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| NVIDIA Tesla V100 32GB | 32 GB | CUDA(NVIDIA) | Q4_K_M | 10.3 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| AMD Radeon PRO W7800 48GB | 48 GB | Linux 上の ROCm(AMD) | Q4_K_M | 10.3 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| AMD Radeon PRO W7900 | 48 GB | Linux 上の ROCm(AMD) | Q4_K_M | 10.3 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| NVIDIA L40 | 48 GB | CUDA(NVIDIA) | Q4_K_M | 10.3 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| AMD Instinct MI210 | 64 GB | Linux 上の ROCm(AMD) | Q4_K_M | 10.3 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| NVIDIA H100 PCIe | 80 GB | CUDA(NVIDIA) | Q4_K_M | 10.3 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| NVIDIA H100 NVL | 94 GB | CUDA(NVIDIA) | Q4_K_M | 10.3 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| NVIDIA H200 SXM | 141 GB | CUDA(NVIDIA) | Q4_K_M | 10.3 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| NVIDIA B200 | 180 GB | CUDA(NVIDIA) | Q4_K_M | 10.3 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| AMD Instinct MI300X | 192 GB | Linux 上の ROCm(AMD) | Q4_K_M | 10.3 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| NVIDIA B100 | 192 GB | CUDA(NVIDIA) | Q4_K_M | 10.3 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| AMD Instinct MI325X | 256 GB | Linux 上の ROCm(AMD) | Q4_K_M | 10.3 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| AMD Instinct MI350X | 288 GB | Linux 上の ROCm(AMD) | Q4_K_M | 10.3 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| AMD Instinct MI355X | 288 GB | Linux 上の ROCm(AMD) | Q4_K_M | 10.3 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
- CUDA(NVIDIA):llama.cpp、CUDA バックエンド(NVIDIA ディスクリート GPU)、全レイヤーを GPU 上に配置、Flash Attention 有効、マイクロバッチ(-ub)512、F16 の KV cache、コンテキスト長(-c)は表示のとおり。「収まる」は llama-server の既定である 4 並列シーケンス(-np auto、統合 KV cache)で判定し、「収まらない」は 1 シーケンスで判定します。GPU はアイドル状態で、他のプログラムがメモリを使用していないものとします。
- Linux 上の ROCm(AMD):llama.cpp、Linux 上の ROCm バックエンド(AMD ディスクリート GPU)、全レイヤーを GPU 上に配置、Flash Attention 有効、マイクロバッチ(-ub)512、F16 の KV cache、コンテキスト長(-c)は表示のとおり。「収まる」は llama-server の既定である 4 並列シーケンス(-np auto、統合 KV cache)で判定し、「収まらない」は 1 シーケンスで判定します。GPU はアイドル状態で、他のプログラムがメモリを使用していないものとします。
速度の上限は、メモリ帯域幅を、生成されるトークン一つあたりに読み込まれるバイト数で割った値です。これは理論上の上限であり、公開されている llama.cpp のベンチマークでは通常、その半分から五分の四程度に達します。小さなモデルや MoE モデルでは、これより低くなることが多くあります。 公開ベンチマーク
元の重み
このモデルの元の重みファイル(safetensors、算出方法は方法論に記載)の合計は26.0 GiBです。参考として掲載しているだけで、このページのすべての推定は、上記のGGUFファイルをllama.cppで実行した場合のものです。 mistralai/Ministral-3-14B-Reasoning-2512 · 算出方法
出典