DeskGPU
日本語

Qwen3-Coder-REAP-25B-A3B:必要な VRAM はどれくらい?

このページはAIが自動的に作成・翻訳し、人手による編集なしに、ソフトウェアが出典と照合して確認したものです。仕様は記載の出典に基づいています。必要なメモリ量と速度は、公開されている計算式による推定です。 AIの利用について

Qwen3-Coder-REAP-25B-A3B は、パラメータ数 24.9B の MoE(混合エキスパート)モデルで、1トークンあたり約 3.0B が有効になります(入力埋め込みの参照は含みません)。Q4_K_M で、コンテキスト長が 8,192 トークンの場合、結果が「収まる」となるには、1枚の GPU に 16.8 GiB の利用可能なメモリが必要です。

値の更新日:2026年10月19日

主な事実

元のリポジトリ
cerebras/Qwen3-Coder-REAP-25B-A3B@cb22381
公開元
cerebras
ライセンス
apache-2.0
パラメータ数(GGUF テンソルテーブル:llama.cpp が読み込むテンソル。マルチトークン予測レイヤーは含みません)
24.9B
トークンあたりのアクティブパラメータ数(入力埋め込みの参照は含みません)
3.0B
元のリポジトリが報告するパラメータ数(ビジョンエンコーダーや追加レイヤーを含む場合があります)
24.9B
レイヤー数
48
アテンション構成
フルアテンションレイヤー 48 層
トークンあたりの KV キャッシュ(F16、全アテンションレイヤー)
96.0 KiB
対応する最長コンテキスト長
262,144

GGUF ファイルと必要メモリ

すべての量子化は、固定された1つのリビジョンの1つのGGUFリポジトリに由来します: bartowski/cerebras_Qwen3-Coder-REAP-25B-A3B-GGUF@c279f99

ファイルサイズは Hugging Face 上の実ファイルのものです。その他の列は X、すなわち結果が「収まる」となるために GPU 単体で必要な利用可能メモリ(最大バッファの推定 ÷ 0.95 + 1 GiB)を示します。条件は llama.cpp を使用、Flash Attention 有効、F16 の KV cache、並列シーケンス 4、マイクロバッチ 512 です。特定の GPU には依存しません。
量子化ファイルサイズコンテキスト長 4,096 での Xコンテキスト長 8,192 での Xコンテキスト長 32,768 での Xコンテキスト長 131,072 での X
BF16 46.34 GiB 49.9 GiB50.3 GiB52.7 GiB62.4 GiB
Q8_0 24.64 GiB 27.3 GiB27.7 GiB30.1 GiB39.8 GiB
Q6_K 19.05 GiB 21.5 GiB21.9 GiB24.3 GiB34.0 GiB
Q5_K_M 16.50 GiB 18.9 GiB19.3 GiB21.7 GiB31.4 GiB
Q4_K_M 14.15 GiB 16.4 GiB16.8 GiB19.2 GiB28.9 GiB
Q4_0 13.39 GiB 15.6 GiB16.0 GiB18.4 GiB28.1 GiB
IQ4_XS 12.52 GiB 14.7 GiB15.1 GiB17.5 GiB27.2 GiB
Q3_K_M 10.72 GiB 12.9 GiB13.3 GiB15.7 GiB25.3 GiB
IQ3_XXS 9.31 GiB 11.4 GiB11.8 GiB14.2 GiB23.9 GiB
Q2_K 8.33 GiB 10.4 GiB10.8 GiB13.2 GiB22.9 GiB
IQ2_M 7.55 GiB 9.5 GiB9.9 GiB12.3 GiB22.0 GiB
IQ2_XXS 5.80 GiB 7.7 GiB8.1 GiB10.5 GiB20.2 GiB

各量子化で最小のGPU

各量子化について、コンテキスト長 8,192 トークンで、1枚のカードで推定が「収まる」となる掲載GPUのうち、メモリが最も少ないものです。結果が「不明」のGPU(実行プロファイルがないもの、ワークステーション向けおよびデータセンター向けカード、ユニファイドメモリ)は対象外です。
量子化収まる最小のGPU(1枚)メモリ
BF16 1枚のカードに収まる掲載GPUはありません。複数のカードを使う場合は、次を参照してください: 計算ツール —
Q8_0 NVIDIA GeForce RTX 5090 32 GB
Q6_K AMD Radeon RX 7900 XTX 24 GB
Q5_K_M AMD Radeon RX 7900 XTX 24 GB
Q4_K_M AMD Radeon RX 7900 XT 20 GB
Q4_0 AMD Radeon RX 7900 XT 20 GB
IQ4_XS AMD Radeon RX 7900 XT 20 GB
Q3_K_M AMD Radeon RX 7800 XT 16 GB
IQ3_XXS AMD Radeon RX 7800 XT 16 GB
Q2_K AMD Radeon RX 7800 XT 16 GB
IQ2_M AMD Radeon RX 7700 XT 12 GB
IQ2_XXS NVIDIA GeForce RTX 3080 Ti 12 GB

Qwen3-Coder-REAP-25B-A3B を実行できる GPU

「収まる」とは、llama.cpp のデフォルトの --fit 読み込みチェックで、すべてのレイヤーが GPU に配置されることを意味します。つまり、当サイトによる llama.cpp のバッファの推定値に、誤差マージンと、llama.cpp のカード 1 枚あたり 1 GiB のリザーブを加えた値が、利用可能として計上されたメモリ以内であることを指します。生成中のピークメモリが収まることを保証するものではありません。 結果の判定方法

コンテキスト長 8,192 トークン。カード1枚に収まる最も高い量子化、その最長コンテキスト長、速度の上限を示します。
GPU メモリ 実行プロファイル 収まる最高の量子化 「収まる」に必要な利用可能メモリ 最長コンテキスト長 速度の上限 結果
AMD Radeon RX 7700 XT 12 GB Linux 上の ROCm(AMD) IQ2_M 9.9 GiB 15,360 — 収まる
NVIDIA GeForce RTX 3080 Ti 12 GB CUDA(NVIDIA) IQ2_XXS 8.1 GiB 15,872 ≤ 487 トークン/秒 収まる
NVIDIA GeForce RTX 4070 12 GB CUDA(NVIDIA) IQ2_XXS 8.1 GiB 15,872 ≤ 269 トークン/秒 収まる
NVIDIA GeForce RTX 4070 Ti 12 GB CUDA(NVIDIA) IQ2_XXS 8.1 GiB 15,872 ≤ 269 トークン/秒 収まる
NVIDIA GeForce RTX 5070 12 GB CUDA(NVIDIA) IQ2_XXS 8.1 GiB 15,872 ≤ 359 トークン/秒 収まる
AMD Radeon RX 7800 XT 16 GB Linux 上の ROCm(AMD) Q3_K_M 13.3 GiB 23,296 — 収まる
AMD Radeon RX 7900 GRE 16 GB Linux 上の ROCm(AMD) Q3_K_M 13.3 GiB 22,016 — 収まる
NVIDIA GeForce RTX 4060 Ti 16GB 16 GB CUDA(NVIDIA) Q3_K_M 13.3 GiB 14,336 ≤ 117 トークン/秒 収まる
NVIDIA GeForce RTX 4070 Ti SUPER 16 GB CUDA(NVIDIA) IQ3_XXS 11.8 GiB 19,200 ≤ 298 トークン/秒 収まる
NVIDIA GeForce RTX 4080 16 GB CUDA(NVIDIA) IQ3_XXS 11.8 GiB 19,200 ≤ 318 トークン/秒 収まる
NVIDIA GeForce RTX 5060 Ti 16GB 16 GB CUDA(NVIDIA) IQ3_XXS 11.8 GiB 19,200 — 収まる
NVIDIA GeForce RTX 5070 Ti 16 GB CUDA(NVIDIA) IQ3_XXS 11.8 GiB 19,200 ≤ 397 トークン/秒 収まる
NVIDIA GeForce RTX 5080 16 GB CUDA(NVIDIA) IQ3_XXS 11.8 GiB 19,200 ≤ 426 トークン/秒 収まる
AMD Radeon RX 7900 XT 20 GB Linux 上の ROCm(AMD) Q4_K_M 16.8 GiB 26,368 — 収まる
AMD Radeon RX 7900 XTX 24 GB Linux 上の ROCm(AMD) Q6_K 21.9 GiB 16,640 — 収まる
NVIDIA GeForce RTX 3090 24 GB CUDA(NVIDIA) Q5_K_M 19.3 GiB 30,208 ≤ 309 トークン/秒 収まる
NVIDIA GeForce RTX 3090 Ti 24 GB CUDA(NVIDIA) Q5_K_M 19.3 GiB 24,320 ≤ 332 トークン/秒 収まる
NVIDIA GeForce RTX 5090 32 GB CUDA(NVIDIA) Q8_0 27.7 GiB 23,552 ≤ 441 トークン/秒 収まる

境界のGPU

コンテキスト長 8,192 トークン。これらのカードでは、どの量子化も収まりません。表示している量子化は、境界となる中で最も高いものです。
GPU メモリ 実行プロファイル 境界となる最高の量子化 「収まる」に必要な利用可能メモリ 結果
NVIDIA GeForce GTX 1070 8 GB CUDA(NVIDIA) IQ2_M 9.9 GiB 境界
NVIDIA GeForce GTX 1070 Ti 8 GB CUDA(NVIDIA) IQ2_M 9.9 GiB 境界
NVIDIA GeForce GTX 1080 8 GB CUDA(NVIDIA) IQ2_M 9.9 GiB 境界
NVIDIA GeForce RTX 2060 SUPER 8 GB CUDA(NVIDIA) IQ2_M 9.9 GiB 境界
NVIDIA GeForce RTX 2070 8 GB CUDA(NVIDIA) IQ2_M 9.9 GiB 境界
NVIDIA GeForce RTX 2080 8 GB CUDA(NVIDIA) IQ2_M 9.9 GiB 境界
NVIDIA GeForce RTX 3050 8GB 8 GB CUDA(NVIDIA) IQ2_M 9.9 GiB 境界
NVIDIA GeForce RTX 3060 Ti 8 GB CUDA(NVIDIA) IQ2_M 9.9 GiB 境界
NVIDIA GeForce RTX 3070 8 GB CUDA(NVIDIA) IQ2_M 9.9 GiB 境界
NVIDIA GeForce RTX 3070 Ti 8 GB CUDA(NVIDIA) IQ2_M 9.9 GiB 境界
NVIDIA GeForce RTX 4060 8 GB CUDA(NVIDIA) IQ2_M 9.9 GiB 境界
NVIDIA GeForce RTX 5060 8 GB CUDA(NVIDIA) IQ2_M 9.9 GiB 境界
NVIDIA GeForce RTX 3080 10GB 10 GB CUDA(NVIDIA) IQ3_XXS 11.8 GiB 境界
NVIDIA GeForce GTX 1080 Ti 11 GB CUDA(NVIDIA) Q3_K_M 13.3 GiB 境界
NVIDIA GeForce RTX 2080 Ti 11 GB CUDA(NVIDIA) Q3_K_M 13.3 GiB 境界

カード1枚に収まらないGPU

コンテキスト長 8,192 トークン。最も低い量子化でもカード1枚には収まりません。
GPU メモリ 実行プロファイル 最小の量子化 「収まる」に必要な利用可能メモリ 同一カード複数枚 結果
NVIDIA GeForce GTX 1050 Ti 4 GB CUDA(NVIDIA) IQ2_XXS 8.1 GiB — 収まらない
NVIDIA GeForce GTX 1650 4 GB CUDA(NVIDIA) IQ2_XXS 8.1 GiB — 収まらない
NVIDIA GeForce GTX 1060 6 GB CUDA(NVIDIA) IQ2_XXS 8.1 GiB 同一カード 5 枚(既定の均等分割)で収まる見込みです。 それより少ない枚数では境界です。 収まらない
NVIDIA GeForce GTX 1660 6 GB CUDA(NVIDIA) IQ2_XXS 8.1 GiB 同一カード 5 枚(既定の均等分割)で収まる見込みです。 それより少ない枚数では境界です。 収まらない
NVIDIA GeForce GTX 1660 SUPER 6 GB CUDA(NVIDIA) IQ2_XXS 8.1 GiB 同一カード 5 枚(既定の均等分割)で収まる見込みです。 それより少ない枚数では境界です。 収まらない
NVIDIA GeForce RTX 2060 6GB 6 GB CUDA(NVIDIA) IQ2_XXS 8.1 GiB 同一カード 5 枚(既定の均等分割)で収まる見込みです。 それより少ない枚数では境界です。 収まらない

判定のないGPU

コンテキスト長 8,192 トークン。これらのGPUには判定がありません(「判定がない理由」を参照)。表示している必要量は、最も低い量子化のものです。
GPU メモリ 実行プロファイル 最小の量子化 「収まる」に必要な利用可能メモリ 判定がない理由 結果
AMD Radeon Pro V520 8 GB Linux 上の ROCm(AMD) IQ2_XXS 8.1 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
NVIDIA P4 8 GB CUDA(NVIDIA) IQ2_XXS 8.1 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
NVIDIA P100 16 GB CUDA(NVIDIA) IQ2_XXS 8.1 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
NVIDIA L4 24 GB CUDA(NVIDIA) IQ2_XXS 8.1 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
NVIDIA Tesla P40 24 GB CUDA(NVIDIA) IQ2_XXS 8.1 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
AMD Radeon AI PRO R9700 32 GB Linux 上の ROCm(AMD) IQ2_XXS 8.1 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
AMD Radeon PRO W7800 32GB 32 GB Linux 上の ROCm(AMD) IQ2_XXS 8.1 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
NVIDIA Tesla V100 32GB 32 GB CUDA(NVIDIA) IQ2_XXS 8.1 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
AMD Radeon PRO W7800 48GB 48 GB Linux 上の ROCm(AMD) IQ2_XXS 8.1 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
AMD Radeon PRO W7900 48 GB Linux 上の ROCm(AMD) IQ2_XXS 8.1 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
NVIDIA L40 48 GB CUDA(NVIDIA) IQ2_XXS 8.1 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
AMD Instinct MI210 64 GB Linux 上の ROCm(AMD) IQ2_XXS 8.1 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
NVIDIA H100 PCIe 80 GB CUDA(NVIDIA) IQ2_XXS 8.1 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
NVIDIA H100 NVL 94 GB CUDA(NVIDIA) IQ2_XXS 8.1 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
NVIDIA H200 SXM 141 GB CUDA(NVIDIA) IQ2_XXS 8.1 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
NVIDIA B200 180 GB CUDA(NVIDIA) IQ2_XXS 8.1 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
AMD Instinct MI300X 192 GB Linux 上の ROCm(AMD) IQ2_XXS 8.1 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
NVIDIA B100 192 GB CUDA(NVIDIA) IQ2_XXS 8.1 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
AMD Instinct MI325X 256 GB Linux 上の ROCm(AMD) IQ2_XXS 8.1 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
AMD Instinct MI350X 288 GB Linux 上の ROCm(AMD) IQ2_XXS 8.1 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
AMD Instinct MI355X 288 GB Linux 上の ROCm(AMD) IQ2_XXS 8.1 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明

速度の上限は、メモリ帯域幅を、生成されるトークン一つあたりに読み込まれるバイト数で割った値です。これは理論上の上限であり、公開されている llama.cpp のベンチマークでは通常、その半分から五分の四程度に達します。小さなモデルや MoE モデルでは、これより低くなることが多くあります。 公開ベンチマーク

元の重み

このモデルの元の重みファイル(safetensors、算出方法は方法論に記載)の合計は46.3 GiBです。参考として掲載しているだけで、このページのすべての推定は、上記のGGUFファイルをllama.cppで実行した場合のものです。 cerebras/Qwen3-Coder-REAP-25B-A3B · 算出方法

出典