AMD Radeon RX 7900 XT 能运行 gpt-oss-20b 吗？

本页面由 AI 自动撰写和翻译，并由软件对照来源进行检查，没有人工编辑。规格来自所列来源；显存需求和速度是按已公布的公式计算出的估算值。我们如何使用 AI

能装下按 llama.cpp 的默认加载检查，gpt-oss-20b 在 AMD Radeon RX 7900 XT 上以 Q8_0 量化、8,192 token 的上下文长度运行时“能装下”。单张显卡需要 12.9 GiB 可用显存，结果才会是“能装下”。

在 Q8_0 量化下，能装下的最长上下文为 131,072 token。

“能装下”是指 llama.cpp 默认的 --fit 加载检查会把所有层放到 GPU 上：我们对 llama.cpp 缓冲区的估算，加上误差余量，再加上 llama.cpp 每张卡 1 GiB 的预留，不超过被视为可用的显存。这并不保证生成过程中的峰值显存也能装下。结果是如何判定的

数值更新于 2026年10月19日 · 计算器

运行档案： llama.cpp，Linux 上的 ROCm 后端（AMD 独立 GPU），所有层都放在 GPU 上，开启 Flash Attention，微批次大小（-ub）为 512，F16 KV 缓存，上下文（-c）如表中所示；“能装下”按 llama-server 默认的 4 个并行序列（-np auto，统一 KV 缓存）判定，“装不下”按 1 个序列判定；GPU 空闲，没有其他程序占用其显存。

计为“能装下”可用的显存（C_low）：每卡 18.63 GiB = 标称 20 GiB − 144 MiB（此运行档案中消费级和工作站 GPU 上测得的标称值与报告总量之间的最大差值，因没有公开日志报告该 GPU 自身的总量而采用）− 1,216 MiB（此运行档案的公开日志中出现的最大启动及运行占用），并向下取整到 64 MiB 的倍数。

这些结果假定使用显卡的默认配置。会减少可用显存的设置（例如显卡支持时的 ECC）不在考虑范围内。

用于“装不下”的显存（C_high）：每卡全部 20 GiB。运行档案及其实测数据

按量化和上下文划分的显存需求

“能装下”所需的可用显存（X，每卡 GiB）以及在 AMD Radeon RX 7900 XT 上的结果。
量化	4,096	8,192	32,768	131,072
Q8_0	12.8 GiB 能装下	12.9 GiB 能装下	13.5 GiB 能装下	16.1 GiB 能装下
Q6_K	12.7 GiB 能装下	12.8 GiB 能装下	13.5 GiB 能装下	16.0 GiB 能装下
Q5_K_M	12.6 GiB 能装下	12.7 GiB 能装下	13.3 GiB 能装下	15.9 GiB 能装下
Q4_K_M	12.5 GiB 能装下	12.6 GiB 能装下	13.3 GiB 能装下	15.8 GiB 能装下
Q4_0	12.5 GiB 能装下	12.6 GiB 能装下	13.2 GiB 能装下	15.8 GiB 能装下
Q3_K_M	12.5 GiB 能装下	12.6 GiB 能装下	13.2 GiB 能装下	15.8 GiB 能装下
Q2_K	12.4 GiB 能装下	12.6 GiB 能装下	13.2 GiB 能装下	15.8 GiB 能装下

未给出速度上限：AMD Radeon RX 7900 XT 的显存带宽尚未得到两个独立开放来源的确认。

其他选择

其他可以装下 gpt-oss-20b 的 20 GB GPU

没有其他相同显存容量的 GPU 能装下此模型。

来源

模型页面，含所有量化及其文件： gpt-oss-20b
显卡页面，含各项规格及其来源： AMD Radeon RX 7900 XT
Hugging Face 上的模型文件（固定修订版本）： openai/gpt-oss-20b@6cee5e8, unsloth/gpt-oss-20b-GGUF@d449b42
AMD Radeon RX 7900 XT 的显存容量来源： Wikipedia: Radeon RX 7000 series（CC BY-SA 4.0），ROCm documentation gpu-specs.rst（MIT）
方法说明