DeskGPU
日本語

MiMo-V2.6-Flash-RL:必要な VRAM はどれくらい?

このページはAIが自動的に作成・翻訳し、人手による編集なしに、ソフトウェアが出典と照合して確認したものです。仕様は記載の出典に基づいています。必要なメモリ量と速度は、公開されている計算式による推定です。 AIの利用について

MiMo-V2.6-Flash-RL は、パラメータ数 309B の MoE(混合エキスパート)モデルで、1トークンあたり約 14.8B が有効になります(入力埋め込みの参照は含みません)。MXFP4 で、コンテキスト長が 8,192 トークンの場合、結果が「収まる」となるには、1枚の GPU に 165.1 GiB の利用可能なメモリが必要です。

値の更新日:2026年10月19日

主な事実

元のリポジトリ
XiaomiMiMo/MiMo-V2.6-Flash-RL@dcd3fd8
公開元
XiaomiMiMo
ライセンス
mit
パラメータ数(GGUF テンソルテーブル:llama.cpp が読み込むテンソル。マルチトークン予測レイヤーは含みません)
309B
トークンあたりのアクティブパラメータ数(入力埋め込みの参照は含みません)
14.8B
元のリポジトリが報告するパラメータ数(ビジョンエンコーダーや追加レイヤーを含む場合があります)
311B
レイヤー数
48
アテンション構成
フルアテンションレイヤー 9 層;スライディングウィンドウレイヤー 39 層(128 トークン)
トークンあたりの KV キャッシュ(F16、全アテンションレイヤー)
217.5 KiB
対応する最長コンテキスト長
1,048,576

アーキテクチャは GGUF ヘッダーのみに基づいています。このサイトはまだこのアーキテクチャの config.json 形式を読み取れないため、ヘッダーを照合していません。

GGUF ファイルと必要メモリ

すべての量子化は、固定された1つのリビジョンの1つのGGUFリポジトリに由来します: ggml-org/MiMo-V2.6-Flash-RL-GGUF@b0b2d0f

ファイルサイズは Hugging Face 上の実ファイルのものです。その他の列は X、すなわち結果が「収まる」となるために GPU 単体で必要な利用可能メモリ(最大バッファの推定 ÷ 0.95 + 1 GiB)を示します。条件は llama.cpp を使用、Flash Attention 有効、F16 の KV cache、並列シーケンス 4、マイクロバッチ 512 です。特定の GPU には依存しません。
量子化ファイルサイズコンテキスト長 4,096 での Xコンテキスト長 8,192 での Xコンテキスト長 32,768 での Xコンテキスト長 131,072 での X
MXFP4 155.87 GiB(2 ファイル) 165.0 GiB165.1 GiB165.7 GiB168.2 GiB
Q2_K 117.69 GiB(2 ファイル) 124.8 GiB124.9 GiB125.5 GiB128.0 GiB

各量子化で最小のGPU

各量子化について、コンテキスト長 8,192 トークンで、1枚のカードで推定が「収まる」となる掲載GPUのうち、メモリが最も少ないものです。結果が「不明」のGPU(実行プロファイルがないもの、ワークステーション向けおよびデータセンター向けカード、ユニファイドメモリ)は対象外です。
量子化収まる最小のGPU(1枚)メモリ
MXFP4 1枚のカードに収まる掲載GPUはありません。複数のカードを使う場合は、次を参照してください: 計算ツール —
Q2_K 1枚のカードに収まる掲載GPUはありません。複数のカードを使う場合は、次を参照してください: 計算ツール —

MiMo-V2.6-Flash-RL を実行できる GPU

「収まる」とは、llama.cpp のデフォルトの --fit 読み込みチェックで、すべてのレイヤーが GPU に配置されることを意味します。つまり、当サイトによる llama.cpp のバッファの推定値に、誤差マージンと、llama.cpp のカード 1 枚あたり 1 GiB のリザーブを加えた値が、利用可能として計上されたメモリ以内であることを指します。生成中のピークメモリが収まることを保証するものではありません。 結果の判定方法

データベース内に、このモデルが単一のカードに収まる GPU はありません。

カード1枚に収まらないGPU

コンテキスト長 8,192 トークン。最も低い量子化でもカード1枚には収まりません。
GPU メモリ 実行プロファイル 最小の量子化 「収まる」に必要な利用可能メモリ 同一カード複数枚 結果
NVIDIA GeForce GTX 1050 Ti 4 GB CUDA(NVIDIA) Q2_K 124.9 GiB 8 枚でも収まりません。 収まらない
NVIDIA GeForce GTX 1650 4 GB CUDA(NVIDIA) Q2_K 124.9 GiB 8 枚でも収まりません。 収まらない
NVIDIA GeForce GTX 1060 6 GB CUDA(NVIDIA) Q2_K 124.9 GiB 8 枚でも収まりません。 収まらない
NVIDIA GeForce GTX 1660 6 GB CUDA(NVIDIA) Q2_K 124.9 GiB 8 枚でも収まりません。 収まらない
NVIDIA GeForce GTX 1660 SUPER 6 GB CUDA(NVIDIA) Q2_K 124.9 GiB 8 枚でも収まりません。 収まらない
NVIDIA GeForce RTX 2060 6GB 6 GB CUDA(NVIDIA) Q2_K 124.9 GiB 8 枚でも収まりません。 収まらない
AMD Radeon Pro V520 8 GB Linux 上の ROCm(AMD) Q2_K 124.9 GiB 8 枚でも収まりません。 収まらない
NVIDIA GeForce GTX 1070 8 GB CUDA(NVIDIA) Q2_K 124.9 GiB 8 枚でも収まりません。 収まらない
NVIDIA GeForce GTX 1070 Ti 8 GB CUDA(NVIDIA) Q2_K 124.9 GiB 8 枚でも収まりません。 収まらない
NVIDIA GeForce GTX 1080 8 GB CUDA(NVIDIA) Q2_K 124.9 GiB 8 枚でも収まりません。 収まらない
NVIDIA GeForce RTX 2060 SUPER 8 GB CUDA(NVIDIA) Q2_K 124.9 GiB 8 枚でも収まりません。 収まらない
NVIDIA GeForce RTX 2070 8 GB CUDA(NVIDIA) Q2_K 124.9 GiB 8 枚でも収まりません。 収まらない
NVIDIA GeForce RTX 2080 8 GB CUDA(NVIDIA) Q2_K 124.9 GiB 8 枚でも収まりません。 収まらない
NVIDIA GeForce RTX 3050 8GB 8 GB CUDA(NVIDIA) Q2_K 124.9 GiB 8 枚でも収まりません。 収まらない
NVIDIA GeForce RTX 3060 Ti 8 GB CUDA(NVIDIA) Q2_K 124.9 GiB 8 枚でも収まりません。 収まらない
NVIDIA GeForce RTX 3070 8 GB CUDA(NVIDIA) Q2_K 124.9 GiB 8 枚でも収まりません。 収まらない
NVIDIA GeForce RTX 3070 Ti 8 GB CUDA(NVIDIA) Q2_K 124.9 GiB 8 枚でも収まりません。 収まらない
NVIDIA GeForce RTX 4060 8 GB CUDA(NVIDIA) Q2_K 124.9 GiB 8 枚でも収まりません。 収まらない
NVIDIA GeForce RTX 5060 8 GB CUDA(NVIDIA) Q2_K 124.9 GiB 8 枚でも収まりません。 収まらない
NVIDIA P4 8 GB CUDA(NVIDIA) Q2_K 124.9 GiB 8 枚でも収まりません。 収まらない
NVIDIA GeForce RTX 3080 10GB 10 GB CUDA(NVIDIA) Q2_K 124.9 GiB 8 枚でも収まりません。 収まらない
NVIDIA GeForce GTX 1080 Ti 11 GB CUDA(NVIDIA) Q2_K 124.9 GiB 8 枚でも収まりません。 収まらない
NVIDIA GeForce RTX 2080 Ti 11 GB CUDA(NVIDIA) Q2_K 124.9 GiB 8 枚でも収まりません。 収まらない
AMD Radeon RX 7700 XT 12 GB Linux 上の ROCm(AMD) Q2_K 124.9 GiB 8 枚でも収まりません。 収まらない
NVIDIA GeForce RTX 3080 Ti 12 GB CUDA(NVIDIA) Q2_K 124.9 GiB 8 枚でも収まりません。 収まらない
NVIDIA GeForce RTX 4070 12 GB CUDA(NVIDIA) Q2_K 124.9 GiB 8 枚でも収まりません。 収まらない
NVIDIA GeForce RTX 4070 Ti 12 GB CUDA(NVIDIA) Q2_K 124.9 GiB 8 枚でも収まりません。 収まらない
NVIDIA GeForce RTX 5070 12 GB CUDA(NVIDIA) Q2_K 124.9 GiB 8 枚でも収まりません。 収まらない
AMD Radeon RX 7800 XT 16 GB Linux 上の ROCm(AMD) Q2_K 124.9 GiB 8 枚では境界です。 収まらない
AMD Radeon RX 7900 GRE 16 GB Linux 上の ROCm(AMD) Q2_K 124.9 GiB 8 枚では境界です。 収まらない
NVIDIA GeForce RTX 4060 Ti 16GB 16 GB CUDA(NVIDIA) Q2_K 124.9 GiB 8 枚では境界です。 収まらない
NVIDIA GeForce RTX 4070 Ti SUPER 16 GB CUDA(NVIDIA) Q2_K 124.9 GiB 8 枚では境界です。 収まらない
NVIDIA GeForce RTX 4080 16 GB CUDA(NVIDIA) Q2_K 124.9 GiB 8 枚では境界です。 収まらない
NVIDIA GeForce RTX 5060 Ti 16GB 16 GB CUDA(NVIDIA) Q2_K 124.9 GiB 8 枚では境界です。 収まらない
NVIDIA GeForce RTX 5070 Ti 16 GB CUDA(NVIDIA) Q2_K 124.9 GiB 8 枚では境界です。 収まらない
NVIDIA GeForce RTX 5080 16 GB CUDA(NVIDIA) Q2_K 124.9 GiB 8 枚では境界です。 収まらない
NVIDIA P100 16 GB CUDA(NVIDIA) Q2_K 124.9 GiB — 収まらない
AMD Radeon RX 7900 XT 20 GB Linux 上の ROCm(AMD) Q2_K 124.9 GiB 同一カード 8 枚(既定の均等分割)で収まる見込みです。 それより少ない枚数では境界です。 収まらない
AMD Radeon RX 7900 XTX 24 GB Linux 上の ROCm(AMD) Q2_K 124.9 GiB 同一カード 6 枚(既定の均等分割)で収まる見込みです。 それより少ない枚数では境界です。 収まらない
NVIDIA GeForce RTX 3090 24 GB CUDA(NVIDIA) Q2_K 124.9 GiB 同一カード 8 枚(既定の均等分割)で収まる見込みです。 それより少ない枚数では境界です。 収まらない
NVIDIA GeForce RTX 3090 Ti 24 GB CUDA(NVIDIA) Q2_K 124.9 GiB 同一カード 8 枚(既定の均等分割)で収まる見込みです。 それより少ない枚数では境界です。 収まらない
NVIDIA L4 24 GB CUDA(NVIDIA) Q2_K 124.9 GiB — 収まらない
NVIDIA Tesla P40 24 GB CUDA(NVIDIA) Q2_K 124.9 GiB — 収まらない
AMD Radeon AI PRO R9700 32 GB Linux 上の ROCm(AMD) Q2_K 124.9 GiB — 収まらない
AMD Radeon PRO W7800 32GB 32 GB Linux 上の ROCm(AMD) Q2_K 124.9 GiB — 収まらない
NVIDIA GeForce RTX 5090 32 GB CUDA(NVIDIA) Q2_K 124.9 GiB 同一カード 5 枚(既定の均等分割)で収まる見込みです。 それより少ない枚数では境界です。 収まらない
NVIDIA Tesla V100 32GB 32 GB CUDA(NVIDIA) Q2_K 124.9 GiB — 収まらない
AMD Radeon PRO W7800 48GB 48 GB Linux 上の ROCm(AMD) Q2_K 124.9 GiB — 収まらない
AMD Radeon PRO W7900 48 GB Linux 上の ROCm(AMD) Q2_K 124.9 GiB — 収まらない
NVIDIA L40 48 GB CUDA(NVIDIA) Q2_K 124.9 GiB — 収まらない
AMD Instinct MI210 64 GB Linux 上の ROCm(AMD) Q2_K 124.9 GiB — 収まらない
NVIDIA H100 PCIe 80 GB CUDA(NVIDIA) Q2_K 124.9 GiB — 収まらない
NVIDIA H100 NVL 94 GB CUDA(NVIDIA) Q2_K 124.9 GiB — 収まらない

判定のないGPU

コンテキスト長 8,192 トークン。これらのGPUには判定がありません(「判定がない理由」を参照)。表示している必要量は、最も低い量子化のものです。
GPU メモリ 実行プロファイル 最小の量子化 「収まる」に必要な利用可能メモリ 判定がない理由 結果
NVIDIA H200 SXM 141 GB CUDA(NVIDIA) Q2_K 124.9 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
NVIDIA B200 180 GB CUDA(NVIDIA) Q2_K 124.9 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
AMD Instinct MI300X 192 GB Linux 上の ROCm(AMD) Q2_K 124.9 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
NVIDIA B100 192 GB CUDA(NVIDIA) Q2_K 124.9 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
AMD Instinct MI325X 256 GB Linux 上の ROCm(AMD) Q2_K 124.9 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
AMD Instinct MI350X 288 GB Linux 上の ROCm(AMD) Q2_K 124.9 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
AMD Instinct MI355X 288 GB Linux 上の ROCm(AMD) Q2_K 124.9 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明

速度の上限は、メモリ帯域幅を、生成されるトークン一つあたりに読み込まれるバイト数で割った値です。これは理論上の上限であり、公開されている llama.cpp のベンチマークでは通常、その半分から五分の四程度に達します。小さなモデルや MoE モデルでは、これより低くなることが多くあります。 公開ベンチマーク

元の重み

このモデルの元の重みファイル(safetensors、算出方法は方法論に記載)の合計は161.1 GiBです。参考として掲載しているだけで、このページのすべての推定は、上記のGGUFファイルをllama.cppで実行した場合のものです。 XiaomiMiMo/MiMo-V2.6-Flash-RL · 算出方法

出典