AMD Radeon RX 7900 XT で Qwen3.8-27B を動かせる?
このページはAIが自動的に作成・翻訳し、人手による編集なしに、ソフトウェアが出典と照合して確認したものです。仕様は記載の出典に基づいています。必要なメモリ量と速度は、公開されている計算式による推定です。 AIの利用について
収まる llama.cpp の既定のロード確認では、Qwen3.8-27B は Q4_0、コンテキスト 8,192 トークンで AMD Radeon RX 7900 XT に収まります。「収まる」とするには、1 枚あたり 17.7 GiB の利用可能なメモリが必要です。
Q4_0 では、収まる最長のコンテキスト長は 21,504 トークンです。
実行プロファイル: llama.cpp、Linux 上の ROCm バックエンド(AMD ディスクリート GPU)、全レイヤーを GPU 上に配置、Flash Attention 有効、マイクロバッチ(-ub)512、F16 の KV cache、コンテキスト長(-c)は表示のとおり。「収まる」は llama-server の既定である 4 並列シーケンス(-np auto、統合 KV cache)で判定し、「収まらない」は 1 シーケンスで判定します。GPU はアイドル状態で、他のプログラムがメモリを使用していないものとします。
「収まる」の判定で利用可能とみなすメモリ(C_low):1枚あたり 18.63 GiB = 公称 20 GiB − 144 MiB(この実行プロファイルのコンシューマー向けおよびワークステーション向け GPU で測定された、公称値と報告された合計値との最大の差。この GPU 自体の合計値を報告する公開ログがないため使用)− 1,216 MiB(この実行プロファイルの公開ログで見られた最大の起動時および実行時の使用量)。64 MiB の倍数に切り捨てています。
これらの結果は、カードのデフォルト構成を前提としています。使用可能なメモリを減らす設定(たとえば、カードが対応している場合の ECC)は対象外です。
「収まらない」の判定に使うメモリ(C_high):1 枚あたり全量の 20 GiB。 実行プロファイルとその測定結果
量子化とコンテキスト長ごとの必要メモリ
| 量子化 | 4,096 | 8,192 | 32,768 | 131,072 |
|---|---|---|---|---|
| BF16 | 52.6 GiB 収まらない | 52.9 GiB 収まらない | 54.5 GiB 収まらない | 61.0 GiB 収まらない |
| Q8_0 | 29.2 GiB 収まらない | 29.4 GiB 収まらない | 31.1 GiB 収まらない | 37.6 GiB 収まらない |
| Q6_K | 24.5 GiB 境界 | 24.8 GiB 収まらない | 26.4 GiB 収まらない | 32.9 GiB 収まらない |
| Q5_K_M | 21.8 GiB 境界 | 22.1 GiB 境界 | 23.7 GiB 境界 | 30.2 GiB 収まらない |
| Q4_K_M | 18.5 GiB 収まる | 18.8 GiB 境界 | 20.4 GiB 境界 | 27.0 GiB 収まらない |
| Q4_0 | 17.5 GiB 収まる | 17.7 GiB 収まる | 19.4 GiB 境界 | 25.9 GiB 収まらない |
| IQ4_XS | 16.6 GiB 収まる | 16.9 GiB 収まる | 18.5 GiB 収まる | 25.1 GiB 収まらない |
| Q3_K_M | 14.6 GiB 収まる | 14.9 GiB 収まる | 16.5 GiB 収まる | 23.0 GiB 境界 |
| IQ3_XXS | 13.5 GiB 収まる | 13.8 GiB 収まる | 15.4 GiB 収まる | 21.9 GiB 境界 |
| Q2_K | 12.2 GiB 収まる | 12.5 GiB 収まる | 14.1 GiB 収まる | 20.6 GiB 境界 |
| IQ2_M | 11.9 GiB 収まる | 12.2 GiB 収まる | 13.8 GiB 収まる | 20.3 GiB 境界 |
| IQ2_XXS | 10.3 GiB 収まる | 10.6 GiB 収まる | 12.2 GiB 収まる | 18.7 GiB 境界 |
代替候補
Qwen3.8-27Bが収まる、その他の20 GBのGPU
同じメモリ容量の他のGPUで、このモデルが収まるものはありません。
出典
- モデルページ(すべての量子化とそのファイル): Qwen3.8-27B
- GPU ページ(各スペックとその出典): AMD Radeon RX 7900 XT
- Hugging Face 上のモデルファイル(固定されたリビジョン): Qwen/Qwen3.8-27B@1d4bf0f, bartowski/Qwen3.8-27B-GGUF@87410e7
- AMD Radeon RX 7900 XT のメモリ容量の出典: Wikipedia: Radeon RX 7000 series(CC BY-SA 4.0)、ROCm documentation gpu-specs.rst(MIT)
- 算出方法