GLM-4.7-Flash:必要な VRAM はどれくらい?
このページはAIが自動的に作成・翻訳し、人手による編集なしに、ソフトウェアが出典と照合して確認したものです。仕様は記載の出典に基づいています。必要なメモリ量と速度は、公開されている計算式による推定です。 AIの利用について
GLM-4.7-Flash は、パラメータ数 29.9B の MoE(混合エキスパート)モデルで、1トークンあたり約 3.6B が有効になります(入力埋め込みの参照は含みません)。Q4_K_M で、コンテキスト長が 8,192 トークンの場合、結果が「収まる」となるには、1枚の GPU に 19.5 GiB の利用可能なメモリが必要です。
値の更新日:2026年10月19日
主な事実
- 元のリポジトリ
- zai-org/GLM-4.7-Flash@7dd2089
- 公開元
- zai-org
- ライセンス
- mit
- パラメータ数(GGUF テンソルテーブル:llama.cpp が読み込むテンソル。マルチトークン予測レイヤーは含みません)
- 29.9B
- トークンあたりのアクティブパラメータ数(入力埋め込みの参照は含みません)
- 3.6B
- 元のリポジトリが報告するパラメータ数(ビジョンエンコーダーや追加レイヤーを含む場合があります)
- 31.2B
- レイヤー数
- 47
- アテンション構成
- フルアテンションレイヤー 47 層
- トークンあたりの KV キャッシュ(F16、全アテンションレイヤー)
- 52.9 KiB
- 対応する最長コンテキスト長
- 202,752
GGUF ファイルと必要メモリ
すべての量子化は、固定された1つのリビジョンの1つのGGUFリポジトリに由来します: unsloth/GLM-4.7-Flash-GGUF@0d32489
ファイルサイズは Hugging Face 上の実ファイルのものです。その他の列は X、すなわち結果が「収まる」となるために GPU 単体で必要な利用可能メモリ(最大バッファの推定 ÷ 0.95 + 1 GiB)を示します。条件は llama.cpp を使用、Flash Attention 有効、F16 の KV cache、並列シーケンス 4、マイクロバッチ 512 です。特定の GPU には依存しません。 | 量子化 | ファイルサイズ | コンテキスト長 4,096 での X | コンテキスト長 8,192 での X | コンテキスト長 32,768 での X | コンテキスト長 131,072 での X |
| BF16 | 55.79 GiB(2 ファイル) | 59.6 GiB | 59.9 GiB | 61.2 GiB | 66.6 GiB |
| Q8_0 | 29.66 GiB | 32.4 GiB | 32.6 GiB | 34.0 GiB | 39.4 GiB |
| Q6_K | 23.00 GiB | 25.5 GiB | 25.7 GiB | 27.1 GiB | 32.5 GiB |
| Q5_K_M | 19.94 GiB | 22.3 GiB | 22.5 GiB | 23.9 GiB | 29.3 GiB |
| Q4_K_M | 17.05 GiB | 19.3 GiB | 19.5 GiB | 20.9 GiB | 26.3 GiB |
| Q4_0 | 16.03 GiB | 18.2 GiB | 18.5 GiB | 19.8 GiB | 25.2 GiB |
| IQ4_XS | 15.15 GiB | 17.3 GiB | 17.5 GiB | 18.9 GiB | 24.3 GiB |
| Q3_K_M | 13.61 GiB | 15.7 GiB | 15.9 GiB | 17.3 GiB | 22.7 GiB |
| Q2_K | 10.57 GiB | 12.5 GiB | 12.8 GiB | 14.1 GiB | 19.5 GiB |
各量子化で最小のGPU
GLM-4.7-Flash を実行できる GPU
「収まる」とは、llama.cpp のデフォルトの --fit 読み込みチェックで、すべてのレイヤーが GPU に配置されることを意味します。つまり、当サイトによる llama.cpp のバッファの推定値に、誤差マージンと、llama.cpp のカード 1 枚あたり 1 GiB のリザーブを加えた値が、利用可能として計上されたメモリ以内であることを指します。生成中のピークメモリが収まることを保証するものではありません。 結果の判定方法
コンテキスト長 8,192 トークン。カード1枚に収まる最も高い量子化、その最長コンテキスト長、速度の上限を示します。 | GPU | メモリ | 実行プロファイル | 収まる最高の量子化 | 「収まる」に必要な利用可能メモリ | 最長コンテキスト長 | 速度の上限 | 結果 |
| AMD Radeon RX 7800 XT | 16 GB | Linux 上の ROCm(AMD) | Q2_K | 12.8 GiB | 44,032 | — | 収まる |
| AMD Radeon RX 7900 GRE | 16 GB | Linux 上の ROCm(AMD) | Q2_K | 12.8 GiB | 41,728 | — | 収まる |
| NVIDIA GeForce RTX 4060 Ti 16GB | 16 GB | CUDA(NVIDIA) | Q2_K | 12.8 GiB | 28,160 | ≤ 128 トークン/秒 | 収まる |
| NVIDIA GeForce RTX 4070 Ti SUPER | 16 GB | CUDA(NVIDIA) | Q2_K | 12.8 GiB | 9,984 | ≤ 299 トークン/秒 | 収まる |
| NVIDIA GeForce RTX 4080 | 16 GB | CUDA(NVIDIA) | Q2_K | 12.8 GiB | 9,984 | ≤ 319 トークン/秒 | 収まる |
| NVIDIA GeForce RTX 5060 Ti 16GB | 16 GB | CUDA(NVIDIA) | Q2_K | 12.8 GiB | 9,984 | — | 収まる |
| NVIDIA GeForce RTX 5070 Ti | 16 GB | CUDA(NVIDIA) | Q2_K | 12.8 GiB | 9,984 | ≤ 399 トークン/秒 | 収まる |
| NVIDIA GeForce RTX 5080 | 16 GB | CUDA(NVIDIA) | Q2_K | 12.8 GiB | 9,984 | ≤ 427 トークン/秒 | 収まる |
| AMD Radeon RX 7900 XT | 20 GB | Linux 上の ROCm(AMD) | Q4_0 | 18.5 GiB | 11,008 | — | 収まる |
| AMD Radeon RX 7900 XTX | 24 GB | Linux 上の ROCm(AMD) | Q5_K_M | 22.5 GiB | 12,032 | — | 収まる |
| NVIDIA GeForce RTX 3090 | 24 GB | CUDA(NVIDIA) | Q4_K_M | 19.5 GiB | 42,752 | ≤ 329 トークン/秒 | 収まる |
| NVIDIA GeForce RTX 3090 Ti | 24 GB | CUDA(NVIDIA) | Q4_K_M | 19.5 GiB | 32,512 | ≤ 354 トークン/秒 | 収まる |
| NVIDIA GeForce RTX 5090 | 32 GB | CUDA(NVIDIA) | Q6_K | 25.7 GiB | 72,448 | ≤ 512 トークン/秒 | 収まる |
境界のGPU
カード1枚に収まらないGPU
判定のないGPU
コンテキスト長 8,192 トークン。これらのGPUには判定がありません(「判定がない理由」を参照)。表示している必要量は、最も低い量子化のものです。 | GPU | メモリ | 実行プロファイル | 最小の量子化 | 「収まる」に必要な利用可能メモリ | 判定がない理由 | 結果 |
| NVIDIA P100 | 16 GB | CUDA(NVIDIA) | Q2_K | 12.8 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| NVIDIA L4 | 24 GB | CUDA(NVIDIA) | Q2_K | 12.8 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| NVIDIA Tesla P40 | 24 GB | CUDA(NVIDIA) | Q2_K | 12.8 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| AMD Radeon AI PRO R9700 | 32 GB | Linux 上の ROCm(AMD) | Q2_K | 12.8 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| AMD Radeon PRO W7800 32GB | 32 GB | Linux 上の ROCm(AMD) | Q2_K | 12.8 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| NVIDIA Tesla V100 32GB | 32 GB | CUDA(NVIDIA) | Q2_K | 12.8 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| AMD Radeon PRO W7800 48GB | 48 GB | Linux 上の ROCm(AMD) | Q2_K | 12.8 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| AMD Radeon PRO W7900 | 48 GB | Linux 上の ROCm(AMD) | Q2_K | 12.8 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| NVIDIA L40 | 48 GB | CUDA(NVIDIA) | Q2_K | 12.8 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| AMD Instinct MI210 | 64 GB | Linux 上の ROCm(AMD) | Q2_K | 12.8 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| NVIDIA H100 PCIe | 80 GB | CUDA(NVIDIA) | Q2_K | 12.8 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| NVIDIA H100 NVL | 94 GB | CUDA(NVIDIA) | Q2_K | 12.8 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| NVIDIA H200 SXM | 141 GB | CUDA(NVIDIA) | Q2_K | 12.8 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| NVIDIA B200 | 180 GB | CUDA(NVIDIA) | Q2_K | 12.8 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| AMD Instinct MI300X | 192 GB | Linux 上の ROCm(AMD) | Q2_K | 12.8 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| NVIDIA B100 | 192 GB | CUDA(NVIDIA) | Q2_K | 12.8 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| AMD Instinct MI325X | 256 GB | Linux 上の ROCm(AMD) | Q2_K | 12.8 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| AMD Instinct MI350X | 288 GB | Linux 上の ROCm(AMD) | Q2_K | 12.8 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| AMD Instinct MI355X | 288 GB | Linux 上の ROCm(AMD) | Q2_K | 12.8 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
- CUDA(NVIDIA):llama.cpp、CUDA バックエンド(NVIDIA ディスクリート GPU)、全レイヤーを GPU 上に配置、Flash Attention 有効、マイクロバッチ(-ub)512、F16 の KV cache、コンテキスト長(-c)は表示のとおり。「収まる」は llama-server の既定である 4 並列シーケンス(-np auto、統合 KV cache)で判定し、「収まらない」は 1 シーケンスで判定します。GPU はアイドル状態で、他のプログラムがメモリを使用していないものとします。
- Linux 上の ROCm(AMD):llama.cpp、Linux 上の ROCm バックエンド(AMD ディスクリート GPU)、全レイヤーを GPU 上に配置、Flash Attention 有効、マイクロバッチ(-ub)512、F16 の KV cache、コンテキスト長(-c)は表示のとおり。「収まる」は llama-server の既定である 4 並列シーケンス(-np auto、統合 KV cache)で判定し、「収まらない」は 1 シーケンスで判定します。GPU はアイドル状態で、他のプログラムがメモリを使用していないものとします。
速度の上限は、メモリ帯域幅を、生成されるトークン一つあたりに読み込まれるバイト数で割った値です。これは理論上の上限であり、公開されている llama.cpp のベンチマークでは通常、その半分から五分の四程度に達します。小さなモデルや MoE モデルでは、これより低くなることが多くあります。 公開ベンチマーク
元の重み
このモデルの元の重みファイル(safetensors、算出方法は方法論に記載)の合計は58.2 GiBです。参考として掲載しているだけで、このページのすべての推定は、上記のGGUFファイルをllama.cppで実行した場合のものです。 zai-org/GLM-4.7-Flash · 算出方法
出典