Apertus-v1.1-1.5B-Instruct:必要な VRAM はどれくらい?
このページはAIが自動的に作成・翻訳し、人手による編集なしに、ソフトウェアが出典と照合して確認したものです。仕様は記載の出典に基づいています。必要なメモリ量と速度は、公開されている計算式による推定です。 AIの利用について
Apertus-v1.1-1.5B-Instruct のパラメータ数は 1.5B です。Q4_K_M、コンテキスト 4,096 トークンの場合、結果が「収まる」になるには、単一の GPU に 2.2 GiB の利用可能なメモリが必要です。
主な事実
- 元のリポジトリ
- swiss-ai/Apertus-v1.1-1.5B-Instruct@9e9d011
- 公開元
- swiss-ai
- ライセンス
- apache-2.0
- パラメータ数(GGUF テンソルテーブル:llama.cpp が読み込むテンソル。マルチトークン予測レイヤーは含みません)
- 1.5B
- 元のリポジトリが報告するパラメータ数(ビジョンエンコーダーや追加レイヤーを含む場合があります)
- 1.5B
- レイヤー数
- 16
- アテンション構成
- フルアテンションレイヤー 16 層
- トークンあたりの KV キャッシュ(F16、全アテンションレイヤー)
- 32.0 KiB
- 対応する最長コンテキスト長
- 4,096
GGUF ファイルと必要メモリ
すべての量子化は、固定された1つのリビジョンの1つのGGUFリポジトリに由来します: mradermacher/Apertus-v1.1-1.5B-Instruct-GGUF@cec44a8
| 量子化 | ファイルサイズ | コンテキスト長 4,096 での X |
|---|---|---|
| F16 | 2.82 GiB | 3.8 GiB |
| Q8_0 | 1.50 GiB | 2.7 GiB |
| Q6_K | 1.16 GiB | 2.4 GiB |
| Q5_K_M | 1.03 GiB | 2.3 GiB |
| Q4_K_M | 0.91 GiB | 2.2 GiB |
| IQ4_XS | 0.84 GiB | 2.1 GiB |
| Q3_K_M | 0.77 GiB | 2.1 GiB |
| Q2_K | 0.64 GiB | 2.0 GiB |
各量子化で最小のGPU
| 量子化 | 収まる最小のGPU(1枚) | メモリ |
|---|---|---|
| F16 | NVIDIA GeForce RTX 3050 8GB | 8 GB |
| Q8_0 | NVIDIA GeForce RTX 2060 6GB | 6 GB |
| Q6_K | NVIDIA GeForce RTX 2060 6GB | 6 GB |
| Q5_K_M | NVIDIA GeForce RTX 2060 6GB | 6 GB |
| Q4_K_M | NVIDIA GeForce RTX 2060 6GB | 6 GB |
| IQ4_XS | NVIDIA GeForce RTX 2060 6GB | 6 GB |
| Q3_K_M | NVIDIA GeForce RTX 2060 6GB | 6 GB |
| Q2_K | NVIDIA GeForce RTX 2060 6GB | 6 GB |
Apertus-v1.1-1.5B-Instruct を実行できる GPU
| GPU | メモリ | 実行プロファイル | 収まる最高の量子化 | 「収まる」に必要な利用可能メモリ | 最長コンテキスト長 | 速度の上限 | 結果 |
|---|---|---|---|---|---|---|---|
| NVIDIA GeForce GTX 1060 | 6 GB | CUDA(NVIDIA) | Q8_0 | 2.7 GiB | 4,096 | ≤ 132 トークン/秒 | 収まる |
| NVIDIA GeForce GTX 1660 | 6 GB | CUDA(NVIDIA) | Q8_0 | 2.7 GiB | 4,096 | ≤ 132 トークン/秒 | 収まる |
| NVIDIA GeForce GTX 1660 SUPER | 6 GB | CUDA(NVIDIA) | Q8_0 | 2.7 GiB | 4,096 | ≤ 231 トークン/秒 | 収まる |
| NVIDIA GeForce RTX 2060 6GB | 6 GB | CUDA(NVIDIA) | Q8_0 | 2.7 GiB | 4,096 | ≤ 231 トークン/秒 | 収まる |
| NVIDIA GeForce GTX 1070 | 8 GB | CUDA(NVIDIA) | F16 | 3.8 GiB | 4,096 | ≤ 97.8 トークン/秒 | 収まる |
| NVIDIA GeForce GTX 1070 Ti | 8 GB | CUDA(NVIDIA) | F16 | 3.8 GiB | 4,096 | ≤ 97.8 トークン/秒 | 収まる |
| NVIDIA GeForce GTX 1080 | 8 GB | CUDA(NVIDIA) | F16 | 3.8 GiB | 4,096 | ≤ 122 トークン/秒 | 収まる |
| NVIDIA GeForce RTX 2060 SUPER | 8 GB | CUDA(NVIDIA) | F16 | 3.8 GiB | 4,096 | ≤ 171 トークン/秒 | 収まる |
| NVIDIA GeForce RTX 2070 | 8 GB | CUDA(NVIDIA) | F16 | 3.8 GiB | 4,096 | ≤ 171 トークン/秒 | 収まる |
| NVIDIA GeForce RTX 2080 | 8 GB | CUDA(NVIDIA) | F16 | 3.8 GiB | 4,096 | ≤ 171 トークン/秒 | 収まる |
| NVIDIA GeForce RTX 3050 8GB | 8 GB | CUDA(NVIDIA) | F16 | 3.8 GiB | 4,096 | ≤ 85.6 トークン/秒 | 収まる |
| NVIDIA GeForce RTX 3060 Ti | 8 GB | CUDA(NVIDIA) | F16 | 3.8 GiB | 4,096 | ≤ 171 トークン/秒 | 収まる |
| NVIDIA GeForce RTX 3070 | 8 GB | CUDA(NVIDIA) | F16 | 3.8 GiB | 4,096 | ≤ 171 トークン/秒 | 収まる |
| NVIDIA GeForce RTX 3070 Ti | 8 GB | CUDA(NVIDIA) | F16 | 3.8 GiB | 4,096 | ≤ 232 トークン/秒 | 収まる |
| NVIDIA GeForce RTX 4060 | 8 GB | CUDA(NVIDIA) | F16 | 3.8 GiB | 4,096 | ≤ 104 トークン/秒 | 収まる |
| NVIDIA GeForce RTX 5060 | 8 GB | CUDA(NVIDIA) | F16 | 3.8 GiB | 4,096 | ≤ 171 トークン/秒 | 収まる |
| NVIDIA GeForce RTX 3080 10GB | 10 GB | CUDA(NVIDIA) | F16 | 3.8 GiB | 4,096 | ≤ 290 トークン/秒 | 収まる |
| NVIDIA GeForce GTX 1080 Ti | 11 GB | CUDA(NVIDIA) | F16 | 3.8 GiB | 4,096 | ≤ 185 トークン/秒 | 収まる |
| NVIDIA GeForce RTX 2080 Ti | 11 GB | CUDA(NVIDIA) | F16 | 3.8 GiB | 4,096 | ≤ 235 トークン/秒 | 収まる |
| AMD Radeon RX 7700 XT | 12 GB | Linux 上の ROCm(AMD) | F16 | 3.8 GiB | 4,096 | — | 収まる |
| NVIDIA GeForce RTX 3080 Ti | 12 GB | CUDA(NVIDIA) | F16 | 3.8 GiB | 4,096 | ≤ 348 トークン/秒 | 収まる |
| NVIDIA GeForce RTX 4070 | 12 GB | CUDA(NVIDIA) | F16 | 3.8 GiB | 4,096 | ≤ 193 トークン/秒 | 収まる |
| NVIDIA GeForce RTX 4070 Ti | 12 GB | CUDA(NVIDIA) | F16 | 3.8 GiB | 4,096 | ≤ 193 トークン/秒 | 収まる |
| NVIDIA GeForce RTX 5070 | 12 GB | CUDA(NVIDIA) | F16 | 3.8 GiB | 4,096 | ≤ 257 トークン/秒 | 収まる |
| AMD Radeon RX 7800 XT | 16 GB | Linux 上の ROCm(AMD) | F16 | 3.8 GiB | 4,096 | — | 収まる |
| AMD Radeon RX 7900 GRE | 16 GB | Linux 上の ROCm(AMD) | F16 | 3.8 GiB | 4,096 | — | 収まる |
| NVIDIA GeForce RTX 4060 Ti 16GB | 16 GB | CUDA(NVIDIA) | F16 | 3.8 GiB | 4,096 | ≤ 110 トークン/秒 | 収まる |
| NVIDIA GeForce RTX 4070 Ti SUPER | 16 GB | CUDA(NVIDIA) | F16 | 3.8 GiB | 4,096 | ≤ 257 トークン/秒 | 収まる |
| NVIDIA GeForce RTX 4080 | 16 GB | CUDA(NVIDIA) | F16 | 3.8 GiB | 4,096 | ≤ 274 トークン/秒 | 収まる |
| NVIDIA GeForce RTX 5060 Ti 16GB | 16 GB | CUDA(NVIDIA) | F16 | 3.8 GiB | 4,096 | — | 収まる |
| NVIDIA GeForce RTX 5070 Ti | 16 GB | CUDA(NVIDIA) | F16 | 3.8 GiB | 4,096 | ≤ 342 トークン/秒 | 収まる |
| NVIDIA GeForce RTX 5080 | 16 GB | CUDA(NVIDIA) | F16 | 3.8 GiB | 4,096 | ≤ 367 トークン/秒 | 収まる |
| AMD Radeon RX 7900 XT | 20 GB | Linux 上の ROCm(AMD) | F16 | 3.8 GiB | 4,096 | — | 収まる |
| AMD Radeon RX 7900 XTX | 24 GB | Linux 上の ROCm(AMD) | F16 | 3.8 GiB | 4,096 | — | 収まる |
| NVIDIA GeForce RTX 3090 | 24 GB | CUDA(NVIDIA) | F16 | 3.8 GiB | 4,096 | ≤ 358 トークン/秒 | 収まる |
| NVIDIA GeForce RTX 3090 Ti | 24 GB | CUDA(NVIDIA) | F16 | 3.8 GiB | 4,096 | ≤ 385 トークン/秒 | 収まる |
| NVIDIA GeForce RTX 5090 | 32 GB | CUDA(NVIDIA) | F16 | 3.8 GiB | 4,096 | ≤ 685 トークン/秒 | 収まる |
判定のないGPU
| GPU | メモリ | 実行プロファイル | 最小の量子化 | 「収まる」に必要な利用可能メモリ | 判定がない理由 | 結果 |
|---|---|---|---|---|---|---|
| NVIDIA GeForce GTX 1050 Ti | 4 GB | CUDA(NVIDIA) | Q2_K | 2.0 GiB | 不明:予約分を差し引くと残りのメモリが少なすぎて、確実に判定できません | 不明 |
| NVIDIA GeForce GTX 1650 | 4 GB | CUDA(NVIDIA) | Q2_K | 2.0 GiB | 不明:予約分を差し引くと残りのメモリが少なすぎて、確実に判定できません | 不明 |
| AMD Radeon Pro V520 | 8 GB | Linux 上の ROCm(AMD) | Q2_K | 2.0 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| NVIDIA P4 | 8 GB | CUDA(NVIDIA) | Q2_K | 2.0 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| NVIDIA P100 | 16 GB | CUDA(NVIDIA) | Q2_K | 2.0 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| NVIDIA L4 | 24 GB | CUDA(NVIDIA) | Q2_K | 2.0 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| NVIDIA Tesla P40 | 24 GB | CUDA(NVIDIA) | Q2_K | 2.0 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| AMD Radeon AI PRO R9700 | 32 GB | Linux 上の ROCm(AMD) | Q2_K | 2.0 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| AMD Radeon PRO W7800 32GB | 32 GB | Linux 上の ROCm(AMD) | Q2_K | 2.0 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| NVIDIA Tesla V100 32GB | 32 GB | CUDA(NVIDIA) | Q2_K | 2.0 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| AMD Radeon PRO W7800 48GB | 48 GB | Linux 上の ROCm(AMD) | Q2_K | 2.0 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| AMD Radeon PRO W7900 | 48 GB | Linux 上の ROCm(AMD) | Q2_K | 2.0 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| NVIDIA L40 | 48 GB | CUDA(NVIDIA) | Q2_K | 2.0 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| AMD Instinct MI210 | 64 GB | Linux 上の ROCm(AMD) | Q2_K | 2.0 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| NVIDIA H100 PCIe | 80 GB | CUDA(NVIDIA) | Q2_K | 2.0 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| NVIDIA H100 NVL | 94 GB | CUDA(NVIDIA) | Q2_K | 2.0 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| NVIDIA H200 SXM | 141 GB | CUDA(NVIDIA) | Q2_K | 2.0 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| NVIDIA B200 | 180 GB | CUDA(NVIDIA) | Q2_K | 2.0 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| AMD Instinct MI300X | 192 GB | Linux 上の ROCm(AMD) | Q2_K | 2.0 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| NVIDIA B100 | 192 GB | CUDA(NVIDIA) | Q2_K | 2.0 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| AMD Instinct MI325X | 256 GB | Linux 上の ROCm(AMD) | Q2_K | 2.0 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| AMD Instinct MI350X | 288 GB | Linux 上の ROCm(AMD) | Q2_K | 2.0 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
| AMD Instinct MI355X | 288 GB | Linux 上の ROCm(AMD) | Q2_K | 2.0 GiB | 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 | 不明 |
- CUDA(NVIDIA):llama.cpp、CUDA バックエンド(NVIDIA ディスクリート GPU)、全レイヤーを GPU 上に配置、Flash Attention 有効、マイクロバッチ(-ub)512、F16 の KV cache、コンテキスト長(-c)は表示のとおり。「収まる」は llama-server の既定である 4 並列シーケンス(-np auto、統合 KV cache)で判定し、「収まらない」は 1 シーケンスで判定します。GPU はアイドル状態で、他のプログラムがメモリを使用していないものとします。
- Linux 上の ROCm(AMD):llama.cpp、Linux 上の ROCm バックエンド(AMD ディスクリート GPU)、全レイヤーを GPU 上に配置、Flash Attention 有効、マイクロバッチ(-ub)512、F16 の KV cache、コンテキスト長(-c)は表示のとおり。「収まる」は llama-server の既定である 4 並列シーケンス(-np auto、統合 KV cache)で判定し、「収まらない」は 1 シーケンスで判定します。GPU はアイドル状態で、他のプログラムがメモリを使用していないものとします。
元の重み
このモデルの元の重みファイル(safetensors、算出方法は方法論に記載)の合計は2.8 GiBです。参考として掲載しているだけで、このページのすべての推定は、上記のGGUFファイルをllama.cppで実行した場合のものです。 swiss-ai/Apertus-v1.1-1.5B-Instruct · 算出方法