GPU
このページはAIが自動的に作成・翻訳し、人手による編集なしに、ソフトウェアが出典と照合して確認したものです。仕様は記載の出典に基づいています。必要なメモリ量と速度は、公開されている計算式による推定です。 AIの利用について
以下の各項目は、メモリ容量が二つの独立したオープンな情報源で確認されています。その他の仕様は、二つの情報源が一致する場合のみ表示しています。
| GPU | 種類 | メモリ | 帯域幅 | 実行プロファイル | 収まるモデル（8,192 コンテキスト長） |
|---|---|---|---|---|---|
| AMD Instinct MI350X | データセンター向けGPU | 288 GB | 8,000 GB/秒 | Linux 上の ROCm（AMD）（「収まらない」のみ判定） | — |
| AMD Instinct MI355X | データセンター向けGPU | 288 GB | 8,000 GB/秒 | Linux 上の ROCm（AMD）（「収まらない」のみ判定） | — |
| AMD Instinct MI325X | データセンター向けGPU | 256 GB | 6,000 GB/秒 | Linux 上の ROCm（AMD）（「収まらない」のみ判定） | — |
| AMD Instinct MI300X | データセンター向けGPU | 192 GB | 5,300 GB/秒 | Linux 上の ROCm（AMD）（「収まらない」のみ判定） | — |
| NVIDIA B100 | データセンター向けGPU | 192 GB | 8,000 GB/秒 | CUDA（NVIDIA）（「収まらない」のみ判定） | — |
| NVIDIA B200 | データセンター向けGPU | 180 GB | — | CUDA（NVIDIA）（「収まらない」のみ判定） | — |
| NVIDIA H200 SXM | データセンター向けGPU | 141 GB | — | CUDA（NVIDIA）（「収まらない」のみ判定） | — |
| NVIDIA H100 NVL | データセンター向けGPU | 94 GB | 3,938 GB/秒 | CUDA（NVIDIA）（「収まらない」のみ判定） | — |
| NVIDIA H100 PCIe | データセンター向けGPU | 80 GB | — | CUDA（NVIDIA）（「収まらない」のみ判定） | — |
| AMD Instinct MI210 | データセンター向けGPU | 64 GB | 1,638 GB/秒 | Linux 上の ROCm（AMD）（「収まらない」のみ判定） | — |
| AMD Radeon PRO W7800 48GB | ワークステーション向けGPU | 48 GB | — | Linux 上の ROCm（AMD）（「収まらない」のみ判定） | — |
| AMD Radeon PRO W7900 | ワークステーション向けGPU | 48 GB | — | Linux 上の ROCm（AMD）（「収まらない」のみ判定） | — |
| NVIDIA L40 | データセンター向けGPU | 48 GB | 864 GB/秒 | CUDA（NVIDIA）（「収まらない」のみ判定） | — |
| AMD Radeon AI PRO R9700 | ワークステーション向けGPU | 32 GB | — | Linux 上の ROCm（AMD）（「収まらない」のみ判定） | — |
| AMD Radeon PRO W7800 32GB | ワークステーション向けGPU | 32 GB | — | Linux 上の ROCm（AMD）（「収まらない」のみ判定） | — |
| NVIDIA GeForce RTX 5090 | デスクトップ向けGPU | 32 GB | 1,792 GB/秒 | CUDA（NVIDIA） | 311 |
| NVIDIA Tesla V100 32GB | データセンター向けGPU | 32 GB | 900 GB/秒 | CUDA（NVIDIA）（「収まらない」のみ判定） | — |
| AMD Radeon RX 7900 XTX | デスクトップ向けGPU | 24 GB | — | Linux 上の ROCm（AMD） | 309 |
| NVIDIA GeForce RTX 3090 | デスクトップ向けGPU | 24 GB | 936 GB/秒 | CUDA（NVIDIA） | 305 |
| NVIDIA GeForce RTX 3090 Ti | デスクトップ向けGPU | 24 GB | 1,008 GB/秒 | CUDA（NVIDIA） | 305 |
| NVIDIA L4 | データセンター向けGPU | 24 GB | 300 GB/秒 | CUDA（NVIDIA）（「収まらない」のみ判定） | — |
| NVIDIA Tesla P40 | データセンター向けGPU | 24 GB | 346 GB/秒 | CUDA（NVIDIA）（「収まらない」のみ判定） | — |
| AMD Radeon RX 7900 XT | デスクトップ向けGPU | 20 GB | — | Linux 上の ROCm（AMD） | 295 |
| AMD Radeon RX 7800 XT | デスクトップ向けGPU | 16 GB | — | Linux 上の ROCm（AMD） | 281 |
| AMD Radeon RX 7900 GRE | デスクトップ向けGPU | 16 GB | — | Linux 上の ROCm（AMD） | 279 |
| NVIDIA GeForce RTX 4060 Ti 16GB | デスクトップ向けGPU | 16 GB | 288 GB/秒 | CUDA（NVIDIA） | 272 |
| NVIDIA GeForce RTX 4070 Ti SUPER | デスクトップ向けGPU | 16 GB | 672 GB/秒 | CUDA（NVIDIA） | 260 |
| NVIDIA GeForce RTX 4080 | デスクトップ向けGPU | 16 GB | 717 GB/秒 | CUDA（NVIDIA） | 260 |
| NVIDIA GeForce RTX 5060 Ti 16GB | デスクトップ向けGPU | 16 GB | — | CUDA（NVIDIA） | 260 |
| NVIDIA GeForce RTX 5070 Ti | デスクトップ向けGPU | 16 GB | 896 GB/秒 | CUDA（NVIDIA） | 260 |
| NVIDIA GeForce RTX 5080 | デスクトップ向けGPU | 16 GB | 960 GB/秒 | CUDA（NVIDIA） | 260 |
| NVIDIA P100 | データセンター向けGPU | 16 GB | 732 GB/秒 | CUDA（NVIDIA）（「収まらない」のみ判定） | — |
| AMD Radeon RX 7700 XT | デスクトップ向けGPU | 12 GB | — | Linux 上の ROCm（AMD） | 234 |
| NVIDIA GeForce RTX 3080 Ti | デスクトップ向けGPU | 12 GB | 912 GB/秒 | CUDA（NVIDIA） | 223 |
| NVIDIA GeForce RTX 4070 | デスクトップ向けGPU | 12 GB | 504 GB/秒 | CUDA（NVIDIA） | 223 |
| NVIDIA GeForce RTX 4070 Ti | デスクトップ向けGPU | 12 GB | 504 GB/秒 | CUDA（NVIDIA） | 223 |
| NVIDIA GeForce RTX 5070 | デスクトップ向けGPU | 12 GB | 672 GB/秒 | CUDA（NVIDIA） | 223 |
| NVIDIA GeForce GTX 1080 Ti | デスクトップ向けGPU | 11 GB | 484 GB/秒 | CUDA（NVIDIA） | 208 |
| NVIDIA GeForce RTX 2080 Ti | デスクトップ向けGPU | 11 GB | 616 GB/秒 | CUDA（NVIDIA） | 208 |
| NVIDIA GeForce RTX 3080 10GB | デスクトップ向けGPU | 10 GB | 760 GB/秒 | CUDA（NVIDIA） | 189 |
| AMD Radeon Pro V520 | データセンター向けGPU | 8 GB | 512 GB/秒 | Linux 上の ROCm（AMD）（「収まらない」のみ判定） | — |
| NVIDIA GeForce GTX 1070 | デスクトップ向けGPU | 8 GB | 256 GB/秒 | CUDA（NVIDIA） | 137 |
| NVIDIA GeForce GTX 1070 Ti | デスクトップ向けGPU | 8 GB | 256 GB/秒 | CUDA（NVIDIA） | 137 |
| NVIDIA GeForce GTX 1080 | デスクトップ向けGPU | 8 GB | 320 GB/秒 | CUDA（NVIDIA） | 137 |
| NVIDIA GeForce RTX 2060 SUPER | デスクトップ向けGPU | 8 GB | 448 GB/秒 | CUDA（NVIDIA） | 137 |
| NVIDIA GeForce RTX 2070 | デスクトップ向けGPU | 8 GB | 448 GB/秒 | CUDA（NVIDIA） | 137 |
| NVIDIA GeForce RTX 2080 | デスクトップ向けGPU | 8 GB | 448 GB/秒 | CUDA（NVIDIA） | 137 |
| NVIDIA GeForce RTX 3050 8GB | デスクトップ向けGPU | 8 GB | 224 GB/秒 | CUDA（NVIDIA） | 137 |
| NVIDIA GeForce RTX 3060 Ti | デスクトップ向けGPU | 8 GB | 448 GB/秒 | CUDA（NVIDIA） | 137 |
| NVIDIA GeForce RTX 3070 | デスクトップ向けGPU | 8 GB | 448 GB/秒 | CUDA（NVIDIA） | 137 |
| NVIDIA GeForce RTX 3070 Ti | デスクトップ向けGPU | 8 GB | 608 GB/秒 | CUDA（NVIDIA） | 137 |
| NVIDIA GeForce RTX 4060 | デスクトップ向けGPU | 8 GB | 272 GB/秒 | CUDA（NVIDIA） | 137 |
| NVIDIA GeForce RTX 5060 | デスクトップ向けGPU | 8 GB | 448 GB/秒 | CUDA（NVIDIA） | 156 |
| NVIDIA P4 | データセンター向けGPU | 8 GB | 192 GB/秒 | CUDA（NVIDIA）（「収まらない」のみ判定） | — |
| NVIDIA GeForce GTX 1060 | デスクトップ向けGPU | 6 GB | 192 GB/秒 | CUDA（NVIDIA） | 53 |
| NVIDIA GeForce GTX 1660 | デスクトップ向けGPU | 6 GB | 192 GB/秒 | CUDA（NVIDIA） | 53 |
| NVIDIA GeForce GTX 1660 SUPER | デスクトップ向けGPU | 6 GB | 336 GB/秒 | CUDA（NVIDIA） | 53 |
| NVIDIA GeForce RTX 2060 6GB | デスクトップ向けGPU | 6 GB | 336 GB/秒 | CUDA（NVIDIA） | 53 |
| NVIDIA GeForce GTX 1050 Ti | デスクトップ向けGPU | 4 GB | 112 GB/秒 | CUDA（NVIDIA） | 0 |
| NVIDIA GeForce GTX 1650 | デスクトップ向けGPU | 4 GB | 128 GB/秒 | CUDA（NVIDIA） | 0 |