DeskGPU
日本語

Qwen3.6-27B:必要な VRAM はどれくらい?

このページはAIが自動的に作成・翻訳し、人手による編集なしに、ソフトウェアが出典と照合して確認したものです。仕様は記載の出典に基づいています。必要なメモリ量と速度は、公開されている計算式による推定です。 AIの利用について

Qwen3.6-27B のパラメータ数は 26.9B です。Q4_K_M、コンテキスト 8,192 トークンの場合、結果が「収まる」になるには、単一の GPU に 18.4 GiB の利用可能なメモリが必要です。

値の更新日:2026年10月19日

主な事実

元のリポジトリ
Qwen/Qwen3.6-27B@6a9e13b
公開元
Qwen
ライセンス
apache-2.0
パラメータ数(GGUF テンソルテーブル:llama.cpp が読み込むテンソル。マルチトークン予測レイヤーは含みません)
26.9B
元のリポジトリが報告するパラメータ数(ビジョンエンコーダーや追加レイヤーを含む場合があります)
27.8B
レイヤー数
64
アテンション構成
フルアテンションレイヤー 16 層;リカレント/線形アテンションレイヤー 48 層(固定サイズの状態)
トークンあたりの KV キャッシュ(F16、全アテンションレイヤー)
64.0 KiB
対応する最長コンテキスト長
262,144
画像入力
モデルは対応していますが、ここでの推定はテキストのみが対象です(ビジョンプロジェクターには追加のメモリが必要です)。

GGUF ファイルと必要メモリ

すべての量子化は、固定された1つのリビジョンの1つのGGUFリポジトリに由来します: unsloth/Qwen3.6-27B-GGUF@82d411a

ファイルサイズは Hugging Face 上の実ファイルのものです。その他の列は X、すなわち結果が「収まる」となるために GPU 単体で必要な利用可能メモリ(最大バッファの推定 ÷ 0.95 + 1 GiB)を示します。条件は llama.cpp を使用、Flash Attention 有効、F16 の KV cache、並列シーケンス 4、マイクロバッチ 512 です。特定の GPU には依存しません。
量子化ファイルサイズコンテキスト長 4,096 での Xコンテキスト長 8,192 での Xコンテキスト長 32,768 での Xコンテキスト長 131,072 での X
BF16 50.11 GiB(2 ファイル) 52.6 GiB52.9 GiB54.5 GiB61.0 GiB
Q8_0 26.63 GiB 29.1 GiB29.4 GiB31.0 GiB37.5 GiB
Q6_K 20.98 GiB 23.4 GiB23.7 GiB25.3 GiB31.8 GiB
Q5_K_M 18.17 GiB 20.6 GiB20.9 GiB22.5 GiB29.1 GiB
Q4_K_M 15.66 GiB 18.2 GiB18.4 GiB20.1 GiB26.6 GiB
Q4_0 14.71 GiB 17.2 GiB17.4 GiB19.1 GiB25.6 GiB
IQ4_XS 14.38 GiB 16.8 GiB17.1 GiB18.7 GiB25.2 GiB
Q3_K_M 12.65 GiB 15.2 GiB15.4 GiB17.1 GiB23.6 GiB

各量子化で最小のGPU

各量子化について、コンテキスト長 8,192 トークンで、1枚のカードで推定が「収まる」となる掲載GPUのうち、メモリが最も少ないものです。結果が「不明」のGPU(実行プロファイルがないもの、ワークステーション向けおよびデータセンター向けカード、ユニファイドメモリ)は対象外です。
量子化収まる最小のGPU(1枚)メモリ
BF16 1枚のカードに収まる掲載GPUはありません。複数のカードを使う場合は、次を参照してください: 計算ツール —
Q8_0 1枚のカードに収まる掲載GPUはありません。複数のカードを使う場合は、次を参照してください: 計算ツール —
Q6_K NVIDIA GeForce RTX 5090 32 GB
Q5_K_M AMD Radeon RX 7900 XTX 24 GB
Q4_K_M AMD Radeon RX 7900 XT 20 GB
Q4_0 AMD Radeon RX 7900 XT 20 GB
IQ4_XS AMD Radeon RX 7900 XT 20 GB
Q3_K_M AMD Radeon RX 7900 XT 20 GB

Qwen3.6-27B を実行できる GPU

「収まる」とは、llama.cpp のデフォルトの --fit 読み込みチェックで、すべてのレイヤーが GPU に配置されることを意味します。つまり、当サイトによる llama.cpp のバッファの推定値に、誤差マージンと、llama.cpp のカード 1 枚あたり 1 GiB のリザーブを加えた値が、利用可能として計上されたメモリ以内であることを指します。生成中のピークメモリが収まることを保証するものではありません。 結果の判定方法

コンテキスト長 8,192 トークン。カード1枚に収まる最も高い量子化、その最長コンテキスト長、速度の上限を示します。
GPU メモリ 実行プロファイル 収まる最高の量子化 「収まる」に必要な利用可能メモリ 最長コンテキスト長 速度の上限 結果
AMD Radeon RX 7900 XT 20 GB Linux 上の ROCm(AMD) Q4_K_M 18.4 GiB 11,008 — 収まる
AMD Radeon RX 7900 XTX 24 GB Linux 上の ROCm(AMD) Q5_K_M 20.9 GiB 35,840 — 収まる
NVIDIA GeForce RTX 3090 24 GB CUDA(NVIDIA) Q5_K_M 20.9 GiB 15,872 ≤ 48.8 トークン/秒 収まる
NVIDIA GeForce RTX 3090 Ti 24 GB CUDA(NVIDIA) Q4_K_M 18.4 GiB 45,056 ≤ 60.6 トークン/秒 収まる
NVIDIA GeForce RTX 5090 32 GB CUDA(NVIDIA) Q6_K 23.7 GiB 91,648 ≤ 81.4 トークン/秒 収まる

境界のGPU

コンテキスト長 8,192 トークン。これらのカードでは、どの量子化も収まりません。表示している量子化は、境界となる中で最も高いものです。
GPU メモリ 実行プロファイル 境界となる最高の量子化 「収まる」に必要な利用可能メモリ 結果
AMD Radeon RX 7800 XT 16 GB Linux 上の ROCm(AMD) Q4_K_M 18.4 GiB 境界
AMD Radeon RX 7900 GRE 16 GB Linux 上の ROCm(AMD) Q4_K_M 18.4 GiB 境界
NVIDIA GeForce RTX 4060 Ti 16GB 16 GB CUDA(NVIDIA) Q4_K_M 18.4 GiB 境界
NVIDIA GeForce RTX 4070 Ti SUPER 16 GB CUDA(NVIDIA) Q4_K_M 18.4 GiB 境界
NVIDIA GeForce RTX 4080 16 GB CUDA(NVIDIA) Q4_K_M 18.4 GiB 境界
NVIDIA GeForce RTX 5060 Ti 16GB 16 GB CUDA(NVIDIA) Q4_K_M 18.4 GiB 境界
NVIDIA GeForce RTX 5070 Ti 16 GB CUDA(NVIDIA) Q4_K_M 18.4 GiB 境界
NVIDIA GeForce RTX 5080 16 GB CUDA(NVIDIA) Q4_K_M 18.4 GiB 境界

カード1枚に収まらないGPU

コンテキスト長 8,192 トークン。最も低い量子化でもカード1枚には収まりません。
GPU メモリ 実行プロファイル 最小の量子化 「収まる」に必要な利用可能メモリ 同一カード複数枚 結果
NVIDIA GeForce GTX 1050 Ti 4 GB CUDA(NVIDIA) Q3_K_M 15.4 GiB — 収まらない
NVIDIA GeForce GTX 1650 4 GB CUDA(NVIDIA) Q3_K_M 15.4 GiB — 収まらない
NVIDIA GeForce GTX 1060 6 GB CUDA(NVIDIA) Q3_K_M 15.4 GiB 8 枚では境界です。 収まらない
NVIDIA GeForce GTX 1660 6 GB CUDA(NVIDIA) Q3_K_M 15.4 GiB 8 枚では境界です。 収まらない
NVIDIA GeForce GTX 1660 SUPER 6 GB CUDA(NVIDIA) Q3_K_M 15.4 GiB 8 枚では境界です。 収まらない
NVIDIA GeForce RTX 2060 6GB 6 GB CUDA(NVIDIA) Q3_K_M 15.4 GiB 8 枚では境界です。 収まらない
AMD Radeon Pro V520 8 GB Linux 上の ROCm(AMD) Q3_K_M 15.4 GiB — 収まらない
NVIDIA GeForce GTX 1070 8 GB CUDA(NVIDIA) Q3_K_M 15.4 GiB 同一カード 6 枚(既定の均等分割)で収まる見込みです。 それより少ない枚数では境界です。 収まらない
NVIDIA GeForce GTX 1070 Ti 8 GB CUDA(NVIDIA) Q3_K_M 15.4 GiB 同一カード 6 枚(既定の均等分割)で収まる見込みです。 それより少ない枚数では境界です。 収まらない
NVIDIA GeForce GTX 1080 8 GB CUDA(NVIDIA) Q3_K_M 15.4 GiB 同一カード 6 枚(既定の均等分割)で収まる見込みです。 それより少ない枚数では境界です。 収まらない
NVIDIA GeForce RTX 2060 SUPER 8 GB CUDA(NVIDIA) Q3_K_M 15.4 GiB 同一カード 6 枚(既定の均等分割)で収まる見込みです。 それより少ない枚数では境界です。 収まらない
NVIDIA GeForce RTX 2070 8 GB CUDA(NVIDIA) Q3_K_M 15.4 GiB 同一カード 6 枚(既定の均等分割)で収まる見込みです。 それより少ない枚数では境界です。 収まらない
NVIDIA GeForce RTX 2080 8 GB CUDA(NVIDIA) Q3_K_M 15.4 GiB 同一カード 6 枚(既定の均等分割)で収まる見込みです。 それより少ない枚数では境界です。 収まらない
NVIDIA GeForce RTX 3050 8GB 8 GB CUDA(NVIDIA) Q3_K_M 15.4 GiB 同一カード 6 枚(既定の均等分割)で収まる見込みです。 それより少ない枚数では境界です。 収まらない
NVIDIA GeForce RTX 3060 Ti 8 GB CUDA(NVIDIA) Q3_K_M 15.4 GiB 同一カード 6 枚(既定の均等分割)で収まる見込みです。 それより少ない枚数では境界です。 収まらない
NVIDIA GeForce RTX 3070 8 GB CUDA(NVIDIA) Q3_K_M 15.4 GiB 同一カード 6 枚(既定の均等分割)で収まる見込みです。 それより少ない枚数では境界です。 収まらない
NVIDIA GeForce RTX 3070 Ti 8 GB CUDA(NVIDIA) Q3_K_M 15.4 GiB 同一カード 6 枚(既定の均等分割)で収まる見込みです。 それより少ない枚数では境界です。 収まらない
NVIDIA GeForce RTX 4060 8 GB CUDA(NVIDIA) Q3_K_M 15.4 GiB 同一カード 6 枚(既定の均等分割)で収まる見込みです。 それより少ない枚数では境界です。 収まらない
NVIDIA GeForce RTX 5060 8 GB CUDA(NVIDIA) Q3_K_M 15.4 GiB 同一カード 5 枚(既定の均等分割)で収まる見込みです。 それより少ない枚数では境界です。 収まらない
NVIDIA P4 8 GB CUDA(NVIDIA) Q3_K_M 15.4 GiB — 収まらない
NVIDIA GeForce RTX 3080 10GB 10 GB CUDA(NVIDIA) Q3_K_M 15.4 GiB 同一カード 3 枚(既定の均等分割)で収まる見込みです。 それより少ない枚数では境界です。 収まらない
NVIDIA GeForce GTX 1080 Ti 11 GB CUDA(NVIDIA) Q3_K_M 15.4 GiB 同一カード 3 枚(既定の均等分割)で収まる見込みです。 それより少ない枚数では境界です。 収まらない
NVIDIA GeForce RTX 2080 Ti 11 GB CUDA(NVIDIA) Q3_K_M 15.4 GiB 同一カード 3 枚(既定の均等分割)で収まる見込みです。 それより少ない枚数では境界です。 収まらない
AMD Radeon RX 7700 XT 12 GB Linux 上の ROCm(AMD) Q3_K_M 15.4 GiB 同一カード 2 枚(既定の均等分割)で収まる見込みです。 収まらない
NVIDIA GeForce RTX 3080 Ti 12 GB CUDA(NVIDIA) Q3_K_M 15.4 GiB 同一カード 2 枚(既定の均等分割)で収まる見込みです。 収まらない
NVIDIA GeForce RTX 4070 12 GB CUDA(NVIDIA) Q3_K_M 15.4 GiB 同一カード 2 枚(既定の均等分割)で収まる見込みです。 収まらない
NVIDIA GeForce RTX 4070 Ti 12 GB CUDA(NVIDIA) Q3_K_M 15.4 GiB 同一カード 2 枚(既定の均等分割)で収まる見込みです。 収まらない
NVIDIA GeForce RTX 5070 12 GB CUDA(NVIDIA) Q3_K_M 15.4 GiB 同一カード 2 枚(既定の均等分割)で収まる見込みです。 収まらない

判定のないGPU

コンテキスト長 8,192 トークン。これらのGPUには判定がありません(「判定がない理由」を参照)。表示している必要量は、最も低い量子化のものです。
GPU メモリ 実行プロファイル 最小の量子化 「収まる」に必要な利用可能メモリ 判定がない理由 結果
NVIDIA P100 16 GB CUDA(NVIDIA) Q3_K_M 15.4 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
NVIDIA L4 24 GB CUDA(NVIDIA) Q3_K_M 15.4 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
NVIDIA Tesla P40 24 GB CUDA(NVIDIA) Q3_K_M 15.4 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
AMD Radeon AI PRO R9700 32 GB Linux 上の ROCm(AMD) Q3_K_M 15.4 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
AMD Radeon PRO W7800 32GB 32 GB Linux 上の ROCm(AMD) Q3_K_M 15.4 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
NVIDIA Tesla V100 32GB 32 GB CUDA(NVIDIA) Q3_K_M 15.4 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
AMD Radeon PRO W7800 48GB 48 GB Linux 上の ROCm(AMD) Q3_K_M 15.4 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
AMD Radeon PRO W7900 48 GB Linux 上の ROCm(AMD) Q3_K_M 15.4 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
NVIDIA L40 48 GB CUDA(NVIDIA) Q3_K_M 15.4 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
AMD Instinct MI210 64 GB Linux 上の ROCm(AMD) Q3_K_M 15.4 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
NVIDIA H100 PCIe 80 GB CUDA(NVIDIA) Q3_K_M 15.4 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
NVIDIA H100 NVL 94 GB CUDA(NVIDIA) Q3_K_M 15.4 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
NVIDIA H200 SXM 141 GB CUDA(NVIDIA) Q3_K_M 15.4 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
NVIDIA B200 180 GB CUDA(NVIDIA) Q3_K_M 15.4 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
AMD Instinct MI300X 192 GB Linux 上の ROCm(AMD) Q3_K_M 15.4 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
NVIDIA B100 192 GB CUDA(NVIDIA) Q3_K_M 15.4 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
AMD Instinct MI325X 256 GB Linux 上の ROCm(AMD) Q3_K_M 15.4 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
AMD Instinct MI350X 288 GB Linux 上の ROCm(AMD) Q3_K_M 15.4 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
AMD Instinct MI355X 288 GB Linux 上の ROCm(AMD) Q3_K_M 15.4 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明

速度の上限は、メモリ帯域幅を、生成されるトークン一つあたりに読み込まれるバイト数で割った値です。これは理論上の上限であり、公開されている llama.cpp のベンチマークでは通常、その半分から五分の四程度に達します。小さなモデルや MoE モデルでは、これより低くなることが多くあります。 公開ベンチマーク

元の重み

このモデルの元の重みファイル(safetensors、算出方法は方法論に記載)の合計は51.7 GiBです。参考として掲載しているだけで、このページのすべての推定は、上記のGGUFファイルをllama.cppで実行した場合のものです。 Qwen/Qwen3.6-27B · 算出方法

出典