显卡
本页面由 AI 自动撰写和翻译，并由软件对照来源进行检查，没有人工编辑。规格来自所列来源；显存需求和速度是按已公布的公式计算出的估算值。 我们如何使用 AI
下列每个条目的显存容量都经两个独立的开放来源确认。其他规格仅在两个来源一致时才会显示。
| GPU | 类型 | 显存 | 带宽 | 运行档案 | 能装下的模型（8,192 上下文） |
|---|---|---|---|---|---|
| AMD Instinct MI350X | 数据中心 GPU | 288 GB | 8,000 GB/s | Linux 上的 ROCm（AMD）（仅判定“装不下”） | — |
| AMD Instinct MI355X | 数据中心 GPU | 288 GB | 8,000 GB/s | Linux 上的 ROCm（AMD）（仅判定“装不下”） | — |
| AMD Instinct MI325X | 数据中心 GPU | 256 GB | 6,000 GB/s | Linux 上的 ROCm（AMD）（仅判定“装不下”） | — |
| AMD Instinct MI300X | 数据中心 GPU | 192 GB | 5,300 GB/s | Linux 上的 ROCm（AMD）（仅判定“装不下”） | — |
| NVIDIA B100 | 数据中心 GPU | 192 GB | 8,000 GB/s | CUDA（NVIDIA）（仅判定“装不下”） | — |
| NVIDIA B200 | 数据中心 GPU | 180 GB | — | CUDA（NVIDIA）（仅判定“装不下”） | — |
| NVIDIA H200 SXM | 数据中心 GPU | 141 GB | — | CUDA（NVIDIA）（仅判定“装不下”） | — |
| NVIDIA H100 NVL | 数据中心 GPU | 94 GB | 3,938 GB/s | CUDA（NVIDIA）（仅判定“装不下”） | — |
| NVIDIA H100 PCIe | 数据中心 GPU | 80 GB | — | CUDA（NVIDIA）（仅判定“装不下”） | — |
| AMD Instinct MI210 | 数据中心 GPU | 64 GB | 1,638 GB/s | Linux 上的 ROCm（AMD）（仅判定“装不下”） | — |
| AMD Radeon PRO W7800 48GB | 工作站 GPU | 48 GB | — | Linux 上的 ROCm（AMD）（仅判定“装不下”） | — |
| AMD Radeon PRO W7900 | 工作站 GPU | 48 GB | — | Linux 上的 ROCm（AMD）（仅判定“装不下”） | — |
| NVIDIA L40 | 数据中心 GPU | 48 GB | 864 GB/s | CUDA（NVIDIA）（仅判定“装不下”） | — |
| AMD Radeon AI PRO R9700 | 工作站 GPU | 32 GB | — | Linux 上的 ROCm（AMD）（仅判定“装不下”） | — |
| AMD Radeon PRO W7800 32GB | 工作站 GPU | 32 GB | — | Linux 上的 ROCm（AMD）（仅判定“装不下”） | — |
| NVIDIA GeForce RTX 5090 | 桌面 GPU | 32 GB | 1,792 GB/s | CUDA（NVIDIA） | 311 |
| NVIDIA Tesla V100 32GB | 数据中心 GPU | 32 GB | 900 GB/s | CUDA（NVIDIA）（仅判定“装不下”） | — |
| AMD Radeon RX 7900 XTX | 桌面 GPU | 24 GB | — | Linux 上的 ROCm（AMD） | 309 |
| NVIDIA GeForce RTX 3090 | 桌面 GPU | 24 GB | 936 GB/s | CUDA（NVIDIA） | 305 |
| NVIDIA GeForce RTX 3090 Ti | 桌面 GPU | 24 GB | 1,008 GB/s | CUDA（NVIDIA） | 305 |
| NVIDIA L4 | 数据中心 GPU | 24 GB | 300 GB/s | CUDA（NVIDIA）（仅判定“装不下”） | — |
| NVIDIA Tesla P40 | 数据中心 GPU | 24 GB | 346 GB/s | CUDA（NVIDIA）（仅判定“装不下”） | — |
| AMD Radeon RX 7900 XT | 桌面 GPU | 20 GB | — | Linux 上的 ROCm（AMD） | 295 |
| AMD Radeon RX 7800 XT | 桌面 GPU | 16 GB | — | Linux 上的 ROCm（AMD） | 281 |
| AMD Radeon RX 7900 GRE | 桌面 GPU | 16 GB | — | Linux 上的 ROCm（AMD） | 279 |
| NVIDIA GeForce RTX 4060 Ti 16GB | 桌面 GPU | 16 GB | 288 GB/s | CUDA（NVIDIA） | 272 |
| NVIDIA GeForce RTX 4070 Ti SUPER | 桌面 GPU | 16 GB | 672 GB/s | CUDA（NVIDIA） | 260 |
| NVIDIA GeForce RTX 4080 | 桌面 GPU | 16 GB | 717 GB/s | CUDA（NVIDIA） | 260 |
| NVIDIA GeForce RTX 5060 Ti 16GB | 桌面 GPU | 16 GB | — | CUDA（NVIDIA） | 260 |
| NVIDIA GeForce RTX 5070 Ti | 桌面 GPU | 16 GB | 896 GB/s | CUDA（NVIDIA） | 260 |
| NVIDIA GeForce RTX 5080 | 桌面 GPU | 16 GB | 960 GB/s | CUDA（NVIDIA） | 260 |
| NVIDIA P100 | 数据中心 GPU | 16 GB | 732 GB/s | CUDA（NVIDIA）（仅判定“装不下”） | — |
| AMD Radeon RX 7700 XT | 桌面 GPU | 12 GB | — | Linux 上的 ROCm（AMD） | 234 |
| NVIDIA GeForce RTX 3080 Ti | 桌面 GPU | 12 GB | 912 GB/s | CUDA（NVIDIA） | 223 |
| NVIDIA GeForce RTX 4070 | 桌面 GPU | 12 GB | 504 GB/s | CUDA（NVIDIA） | 223 |
| NVIDIA GeForce RTX 4070 Ti | 桌面 GPU | 12 GB | 504 GB/s | CUDA（NVIDIA） | 223 |
| NVIDIA GeForce RTX 5070 | 桌面 GPU | 12 GB | 672 GB/s | CUDA（NVIDIA） | 223 |
| NVIDIA GeForce GTX 1080 Ti | 桌面 GPU | 11 GB | 484 GB/s | CUDA（NVIDIA） | 208 |
| NVIDIA GeForce RTX 2080 Ti | 桌面 GPU | 11 GB | 616 GB/s | CUDA（NVIDIA） | 208 |
| NVIDIA GeForce RTX 3080 10GB | 桌面 GPU | 10 GB | 760 GB/s | CUDA（NVIDIA） | 189 |
| AMD Radeon Pro V520 | 数据中心 GPU | 8 GB | 512 GB/s | Linux 上的 ROCm（AMD）（仅判定“装不下”） | — |
| NVIDIA GeForce GTX 1070 | 桌面 GPU | 8 GB | 256 GB/s | CUDA（NVIDIA） | 137 |
| NVIDIA GeForce GTX 1070 Ti | 桌面 GPU | 8 GB | 256 GB/s | CUDA（NVIDIA） | 137 |
| NVIDIA GeForce GTX 1080 | 桌面 GPU | 8 GB | 320 GB/s | CUDA（NVIDIA） | 137 |
| NVIDIA GeForce RTX 2060 SUPER | 桌面 GPU | 8 GB | 448 GB/s | CUDA（NVIDIA） | 137 |
| NVIDIA GeForce RTX 2070 | 桌面 GPU | 8 GB | 448 GB/s | CUDA（NVIDIA） | 137 |
| NVIDIA GeForce RTX 2080 | 桌面 GPU | 8 GB | 448 GB/s | CUDA（NVIDIA） | 137 |
| NVIDIA GeForce RTX 3050 8GB | 桌面 GPU | 8 GB | 224 GB/s | CUDA（NVIDIA） | 137 |
| NVIDIA GeForce RTX 3060 Ti | 桌面 GPU | 8 GB | 448 GB/s | CUDA（NVIDIA） | 137 |
| NVIDIA GeForce RTX 3070 | 桌面 GPU | 8 GB | 448 GB/s | CUDA（NVIDIA） | 137 |
| NVIDIA GeForce RTX 3070 Ti | 桌面 GPU | 8 GB | 608 GB/s | CUDA（NVIDIA） | 137 |
| NVIDIA GeForce RTX 4060 | 桌面 GPU | 8 GB | 272 GB/s | CUDA（NVIDIA） | 137 |
| NVIDIA GeForce RTX 5060 | 桌面 GPU | 8 GB | 448 GB/s | CUDA（NVIDIA） | 156 |
| NVIDIA P4 | 数据中心 GPU | 8 GB | 192 GB/s | CUDA（NVIDIA）（仅判定“装不下”） | — |
| NVIDIA GeForce GTX 1060 | 桌面 GPU | 6 GB | 192 GB/s | CUDA（NVIDIA） | 53 |
| NVIDIA GeForce GTX 1660 | 桌面 GPU | 6 GB | 192 GB/s | CUDA（NVIDIA） | 53 |
| NVIDIA GeForce GTX 1660 SUPER | 桌面 GPU | 6 GB | 336 GB/s | CUDA（NVIDIA） | 53 |
| NVIDIA GeForce RTX 2060 6GB | 桌面 GPU | 6 GB | 336 GB/s | CUDA（NVIDIA） | 53 |
| NVIDIA GeForce GTX 1050 Ti | 桌面 GPU | 4 GB | 112 GB/s | CUDA（NVIDIA） | 0 |
| NVIDIA GeForce GTX 1650 | 桌面 GPU | 4 GB | 128 GB/s | CUDA（NVIDIA） | 0 |