MiMo-V2.5-Pro:必要な VRAM はどれくらい?
このページはAIが自動的に作成・翻訳し、人手による編集なしに、ソフトウェアが出典と照合して確認したものです。仕様は記載の出典に基づいています。必要なメモリ量と速度は、公開されている計算式による推定です。 AIの利用について
MiMo-V2.5-Pro は、パラメータ数 1.02T の MoE(混合エキスパート)モデルで、1トークンあたり約 41.0B が有効になります(入力埋め込みの参照は含みません)。Q4_K_M で、コンテキスト長が 8,192 トークンの場合、結果が「収まる」となるには、1枚の GPU に 610.8 GiB の利用可能なメモリが必要です。
主な事実
- 元のリポジトリ
- XiaomiMiMo/MiMo-V2.5-Pro@21d1ecf
- 公開元
- XiaomiMiMo
- ライセンス
- mit
- パラメータ数(GGUF テンソルテーブル:llama.cpp が読み込むテンソル。マルチトークン予測レイヤーは含みません)
- 1.02T
- トークンあたりのアクティブパラメータ数(入力埋め込みの参照は含みません)
- 41.0B
- 元のリポジトリが報告するパラメータ数(ビジョンエンコーダーや追加レイヤーを含む場合があります)
- 1.02T
- レイヤー数
- 70
- アテンション構成
- フルアテンションレイヤー 10 層;スライディングウィンドウレイヤー 60 層(128 トークン)
- トークンあたりの KV キャッシュ(F16、全アテンションレイヤー)
- 350.0 KiB
- 対応する最長コンテキスト長
- 1,048,576
含めていないもの:llama.cppがデフォルトでは読み込まない3個のマルチトークン予測(MTP / NextN)レイヤー(1.9Bパラメータ)。
アーキテクチャは GGUF ヘッダーのみに基づいています。このサイトはまだこのアーキテクチャの config.json 形式を読み取れないため、ヘッダーを照合していません。
GGUF ファイルと必要メモリ
すべての量子化は、固定された1つのリビジョンの1つのGGUFリポジトリに由来します: bartowski/MiMo-V2.5-Pro-GGUF@691955a
| 量子化 | ファイルサイズ | コンテキスト長 4,096 での X | コンテキスト長 8,192 での X | コンテキスト長 32,768 での X | コンテキスト長 131,072 での X |
|---|---|---|---|---|---|
| Q4_K_M | 580.09 GiB(17 ファイル) | 610.6 GiB | 610.8 GiB | 612.1 GiB | 617.2 GiB |
| Q4_0 | 539.02 GiB(15 ファイル) | 567.6 GiB | 567.8 GiB | 569.1 GiB | 574.3 GiB |
| IQ4_XS | 508.09 GiB(14 ファイル) | 535.1 GiB | 535.3 GiB | 536.6 GiB | 541.7 GiB |
| Q3_K_M | 434.60 GiB(12 ファイル) | 457.8 GiB | 458.1 GiB | 459.3 GiB | 464.5 GiB |
| IQ3_XXS | 397.96 GiB(11 ファイル) | 419.3 GiB | 419.5 GiB | 420.8 GiB | 425.9 GiB |
| Q2_K | 333.73 GiB(10 ファイル) | 351.7 GiB | 352.0 GiB | 353.2 GiB | 358.4 GiB |
| IQ2_M | 321.02 GiB(9 ファイル) | 338.3 GiB | 338.5 GiB | 339.8 GiB | 344.9 GiB |
| IQ2_XXS | 256.27 GiB(8 ファイル) | 270.2 GiB | 270.4 GiB | 271.7 GiB | 276.8 GiB |
各量子化で最小のGPU
| 量子化 | 収まる最小のGPU(1枚) | メモリ |
|---|---|---|
| Q4_K_M | 1枚のカードに収まる掲載GPUはありません。複数のカードを使う場合は、次を参照してください: 計算ツール | — |
| Q4_0 | 1枚のカードに収まる掲載GPUはありません。複数のカードを使う場合は、次を参照してください: 計算ツール | — |
| IQ4_XS | 1枚のカードに収まる掲載GPUはありません。複数のカードを使う場合は、次を参照してください: 計算ツール | — |
| Q3_K_M | 1枚のカードに収まる掲載GPUはありません。複数のカードを使う場合は、次を参照してください: 計算ツール | — |
| IQ3_XXS | 1枚のカードに収まる掲載GPUはありません。複数のカードを使う場合は、次を参照してください: 計算ツール | — |
| Q2_K | 1枚のカードに収まる掲載GPUはありません。複数のカードを使う場合は、次を参照してください: 計算ツール | — |
| IQ2_M | 1枚のカードに収まる掲載GPUはありません。複数のカードを使う場合は、次を参照してください: 計算ツール | — |
| IQ2_XXS | 1枚のカードに収まる掲載GPUはありません。複数のカードを使う場合は、次を参照してください: 計算ツール | — |
MiMo-V2.5-Pro を実行できる GPU
データベース内に、このモデルが単一のカードに収まる GPU はありません。
カード1枚に収まらないGPU
| GPU | メモリ | 実行プロファイル | 最小の量子化 | 「収まる」に必要な利用可能メモリ | 同一カード複数枚 | 結果 |
|---|---|---|---|---|---|---|
| NVIDIA GeForce GTX 1050 Ti | 4 GB | CUDA(NVIDIA) | IQ2_XXS | 270.4 GiB | 8 枚でも収まりません。 | 収まらない |
| NVIDIA GeForce GTX 1650 | 4 GB | CUDA(NVIDIA) | IQ2_XXS | 270.4 GiB | 8 枚でも収まりません。 | 収まらない |
| NVIDIA GeForce GTX 1060 | 6 GB | CUDA(NVIDIA) | IQ2_XXS | 270.4 GiB | 8 枚でも収まりません。 | 収まらない |
| NVIDIA GeForce GTX 1660 | 6 GB | CUDA(NVIDIA) | IQ2_XXS | 270.4 GiB | 8 枚でも収まりません。 | 収まらない |
| NVIDIA GeForce GTX 1660 SUPER | 6 GB | CUDA(NVIDIA) | IQ2_XXS | 270.4 GiB | 8 枚でも収まりません。 | 収まらない |
| NVIDIA GeForce RTX 2060 6GB | 6 GB | CUDA(NVIDIA) | IQ2_XXS | 270.4 GiB | 8 枚でも収まりません。 | 収まらない |
| AMD Radeon Pro V520 | 8 GB | Linux 上の ROCm(AMD) | IQ2_XXS | 270.4 GiB | 8 枚でも収まりません。 | 収まらない |
| NVIDIA GeForce GTX 1070 | 8 GB | CUDA(NVIDIA) | IQ2_XXS | 270.4 GiB | 8 枚でも収まりません。 | 収まらない |
| NVIDIA GeForce GTX 1070 Ti | 8 GB | CUDA(NVIDIA) | IQ2_XXS | 270.4 GiB | 8 枚でも収まりません。 | 収まらない |
| NVIDIA GeForce GTX 1080 | 8 GB | CUDA(NVIDIA) | IQ2_XXS | 270.4 GiB | 8 枚でも収まりません。 | 収まらない |
| NVIDIA GeForce RTX 2060 SUPER | 8 GB | CUDA(NVIDIA) | IQ2_XXS | 270.4 GiB | 8 枚でも収まりません。 | 収まらない |
| NVIDIA GeForce RTX 2070 | 8 GB | CUDA(NVIDIA) | IQ2_XXS | 270.4 GiB | 8 枚でも収まりません。 | 収まらない |
| NVIDIA GeForce RTX 2080 | 8 GB | CUDA(NVIDIA) | IQ2_XXS | 270.4 GiB | 8 枚でも収まりません。 | 収まらない |
| NVIDIA GeForce RTX 3050 8GB | 8 GB | CUDA(NVIDIA) | IQ2_XXS | 270.4 GiB | 8 枚でも収まりません。 | 収まらない |
| NVIDIA GeForce RTX 3060 Ti | 8 GB | CUDA(NVIDIA) | IQ2_XXS | 270.4 GiB | 8 枚でも収まりません。 | 収まらない |
| NVIDIA GeForce RTX 3070 | 8 GB | CUDA(NVIDIA) | IQ2_XXS | 270.4 GiB | 8 枚でも収まりません。 | 収まらない |
| NVIDIA GeForce RTX 3070 Ti | 8 GB | CUDA(NVIDIA) | IQ2_XXS | 270.4 GiB | 8 枚でも収まりません。 | 収まらない |
| NVIDIA GeForce RTX 4060 | 8 GB | CUDA(NVIDIA) | IQ2_XXS | 270.4 GiB | 8 枚でも収まりません。 | 収まらない |
| NVIDIA GeForce RTX 5060 | 8 GB | CUDA(NVIDIA) | IQ2_XXS | 270.4 GiB | 8 枚でも収まりません。 | 収まらない |
| NVIDIA P4 | 8 GB | CUDA(NVIDIA) | IQ2_XXS | 270.4 GiB | 8 枚でも収まりません。 | 収まらない |
| NVIDIA GeForce RTX 3080 10GB | 10 GB | CUDA(NVIDIA) | IQ2_XXS | 270.4 GiB | 8 枚でも収まりません。 | 収まらない |
| NVIDIA GeForce GTX 1080 Ti | 11 GB | CUDA(NVIDIA) | IQ2_XXS | 270.4 GiB | 8 枚でも収まりません。 | 収まらない |
| NVIDIA GeForce RTX 2080 Ti | 11 GB | CUDA(NVIDIA) | IQ2_XXS | 270.4 GiB | 8 枚でも収まりません。 | 収まらない |
| AMD Radeon RX 7700 XT | 12 GB | Linux 上の ROCm(AMD) | IQ2_XXS | 270.4 GiB | 8 枚でも収まりません。 | 収まらない |
| NVIDIA GeForce RTX 3080 Ti | 12 GB | CUDA(NVIDIA) | IQ2_XXS | 270.4 GiB | 8 枚でも収まりません。 | 収まらない |
| NVIDIA GeForce RTX 4070 | 12 GB | CUDA(NVIDIA) | IQ2_XXS | 270.4 GiB | 8 枚でも収まりません。 | 収まらない |
| NVIDIA GeForce RTX 4070 Ti | 12 GB | CUDA(NVIDIA) | IQ2_XXS | 270.4 GiB | 8 枚でも収まりません。 | 収まらない |
| NVIDIA GeForce RTX 5070 | 12 GB | CUDA(NVIDIA) | IQ2_XXS | 270.4 GiB | 8 枚でも収まりません。 | 収まらない |
| AMD Radeon RX 7800 XT | 16 GB | Linux 上の ROCm(AMD) | IQ2_XXS | 270.4 GiB | 8 枚でも収まりません。 | 収まらない |
| AMD Radeon RX 7900 GRE | 16 GB | Linux 上の ROCm(AMD) | IQ2_XXS | 270.4 GiB | 8 枚でも収まりません。 | 収まらない |
| NVIDIA GeForce RTX 4060 Ti 16GB | 16 GB | CUDA(NVIDIA) | IQ2_XXS | 270.4 GiB | 8 枚でも収まりません。 | 収まらない |
| NVIDIA GeForce RTX 4070 Ti SUPER | 16 GB | CUDA(NVIDIA) | IQ2_XXS | 270.4 GiB | 8 枚でも収まりません。 | 収まらない |
| NVIDIA GeForce RTX 4080 | 16 GB | CUDA(NVIDIA) | IQ2_XXS | 270.4 GiB | 8 枚でも収まりません。 | 収まらない |
| NVIDIA GeForce RTX 5060 Ti 16GB | 16 GB | CUDA(NVIDIA) | IQ2_XXS | 270.4 GiB | 8 枚でも収まりません。 | 収まらない |
| NVIDIA GeForce RTX 5070 Ti | 16 GB | CUDA(NVIDIA) | IQ2_XXS | 270.4 GiB | 8 枚でも収まりません。 | 収まらない |
| NVIDIA GeForce RTX 5080 | 16 GB | CUDA(NVIDIA) | IQ2_XXS | 270.4 GiB | 8 枚でも収まりません。 | 収まらない |
| NVIDIA P100 | 16 GB | CUDA(NVIDIA) | IQ2_XXS | 270.4 GiB | 8 枚でも収まりません。 | 収まらない |
| AMD Radeon RX 7900 XT | 20 GB | Linux 上の ROCm(AMD) | IQ2_XXS | 270.4 GiB | 8 枚でも収まりません。 | 収まらない |
| AMD Radeon RX 7900 XTX | 24 GB | Linux 上の ROCm(AMD) | IQ2_XXS | 270.4 GiB | 8 枚でも収まりません。 | 収まらない |
| NVIDIA GeForce RTX 3090 | 24 GB | CUDA(NVIDIA) | IQ2_XXS | 270.4 GiB | 8 枚でも収まりません。 | 収まらない |
| NVIDIA GeForce RTX 3090 Ti | 24 GB | CUDA(NVIDIA) | IQ2_XXS | 270.4 GiB | 8 枚でも収まりません。 | 収まらない |
| NVIDIA L4 | 24 GB | CUDA(NVIDIA) | IQ2_XXS | 270.4 GiB | 8 枚でも収まりません。 | 収まらない |
| NVIDIA Tesla P40 | 24 GB | CUDA(NVIDIA) | IQ2_XXS | 270.4 GiB | 8 枚でも収まりません。 | 収まらない |
| AMD Radeon AI PRO R9700 | 32 GB | Linux 上の ROCm(AMD) | IQ2_XXS | 270.4 GiB | — | 収まらない |
| AMD Radeon PRO W7800 32GB | 32 GB | Linux 上の ROCm(AMD) | IQ2_XXS | 270.4 GiB | — | 収まらない |
| NVIDIA GeForce RTX 5090 | 32 GB | CUDA(NVIDIA) | IQ2_XXS | 270.4 GiB | 8 枚では境界です。 | 収まらない |
| NVIDIA Tesla V100 32GB | 32 GB | CUDA(NVIDIA) | IQ2_XXS | 270.4 GiB | — | 収まらない |
| AMD Radeon PRO W7800 48GB | 48 GB | Linux 上の ROCm(AMD) | IQ2_XXS | 270.4 GiB | — | 収まらない |
| AMD Radeon PRO W7900 | 48 GB | Linux 上の ROCm(AMD) | IQ2_XXS | 270.4 GiB | — | 収まらない |
| NVIDIA L40 | 48 GB | CUDA(NVIDIA) | IQ2_XXS | 270.4 GiB | — | 収まらない |
| AMD Instinct MI210 | 64 GB | Linux 上の ROCm(AMD) | IQ2_XXS | 270.4 GiB | — | 収まらない |
| NVIDIA H100 PCIe | 80 GB | CUDA(NVIDIA) | IQ2_XXS | 270.4 GiB | — | 収まらない |
| NVIDIA H100 NVL | 94 GB | CUDA(NVIDIA) | IQ2_XXS | 270.4 GiB | — | 収まらない |
| NVIDIA H200 SXM | 141 GB | CUDA(NVIDIA) | IQ2_XXS | 270.4 GiB | — | 収まらない |
| NVIDIA B200 | 180 GB | CUDA(NVIDIA) | IQ2_XXS | 270.4 GiB | — | 収まらない |
| AMD Instinct MI300X | 192 GB | Linux 上の ROCm(AMD) | IQ2_XXS | 270.4 GiB | — | 収まらない |
| NVIDIA B100 | 192 GB | CUDA(NVIDIA) | IQ2_XXS | 270.4 GiB | — | 収まらない |
判定のないGPU
| GPU | メモリ | 実行プロファイル | 最小の量子化 | 「収まる」に必要な利用可能メモリ | 判定がない理由 | 結果 |
|---|---|---|---|---|---|---|
| AMD Instinct MI325X | 256 GB | Linux 上の ROCm(AMD) | IQ2_XXS | 270.4 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| AMD Instinct MI350X | 288 GB | Linux 上の ROCm(AMD) | IQ2_XXS | 270.4 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| AMD Instinct MI355X | 288 GB | Linux 上の ROCm(AMD) | IQ2_XXS | 270.4 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
- CUDA(NVIDIA):llama.cpp、CUDA バックエンド(NVIDIA ディスクリート GPU)、全レイヤーを GPU 上に配置、Flash Attention 有効、マイクロバッチ(-ub)512、F16 の KV cache、コンテキスト長(-c)は表示のとおり。「収まる」は llama-server の既定である 4 並列シーケンス(-np auto、統合 KV cache)で判定し、「収まらない」は 1 シーケンスで判定します。GPU はアイドル状態で、他のプログラムがメモリを使用していないものとします。
- Linux 上の ROCm(AMD):llama.cpp、Linux 上の ROCm バックエンド(AMD ディスクリート GPU)、全レイヤーを GPU 上に配置、Flash Attention 有効、マイクロバッチ(-ub)512、F16 の KV cache、コンテキスト長(-c)は表示のとおり。「収まる」は llama-server の既定である 4 並列シーケンス(-np auto、統合 KV cache)で判定し、「収まらない」は 1 シーケンスで判定します。GPU はアイドル状態で、他のプログラムがメモリを使用していないものとします。
元の重み
このモデルの元の重みファイル(safetensors、算出方法は方法論に記載)の合計は962.4 GiBです。参考として掲載しているだけで、このページのすべての推定は、上記のGGUFファイルをllama.cppで実行した場合のものです。 XiaomiMiMo/MiMo-V2.5-Pro · 算出方法