AMD Radeon RX 7800 XT で gemma-3-12b-it を動かせる？

このページはAIが自動的に作成・翻訳し、人手による編集なしに、ソフトウェアが出典と照合して確認したものです。仕様は記載の出典に基づいています。必要なメモリ量と速度は、公開されている計算式による推定です。 AIの利用について

収まる llama.cpp の既定のロード確認では、gemma-3-12b-it は Q6_K、コンテキスト 8,192 トークンで AMD Radeon RX 7800 XT に収まります。「収まる」とするには、1 枚あたり 13.0 GiB の利用可能なメモリが必要です。

Q6_K では、収まる最長のコンテキスト長は 34,048 トークンです。

「収まる」とは、llama.cpp のデフォルトの --fit 読み込みチェックで、すべてのレイヤーが GPU に配置されることを意味します。つまり、当サイトによる llama.cpp のバッファの推定値に、誤差マージンと、llama.cpp のカード 1 枚あたり 1 GiB のリザーブを加えた値が、利用可能として計上されたメモリ以内であることを指します。生成中のピークメモリが収まることを保証するものではありません。 結果の判定方法

値の更新日：2026年10月19日 · 計算ツール

量子化とコンテキスト長ごとの必要メモリ

速度の上限は示していません。AMD Radeon RX 7800 XTのメモリ帯域幅が、独立した2つのオープンな情報源で確認されていないためです。

代替候補

出典

• モデルページ（すべての量子化とそのファイル）： gemma-3-12b-it
• GPU ページ（各スペックとその出典）： AMD Radeon RX 7800 XT
• Hugging Face 上のモデルファイル（固定されたリビジョン）： google/gemma-3-12b-it@96b6f1e, unsloth/gemma-3-12b-it-GGUF@d15e4c7
• AMD Radeon RX 7800 XT のメモリ容量の出典： Wikipedia: Radeon RX 7000 series（CC BY-SA 4.0）、ROCm documentation gpu-specs.rst（MIT）
• 算出方法