DeskGPU
日本語

LFM2.5-VL-450M:必要な VRAM はどれくらい?

このページはAIが自動的に作成・翻訳し、人手による編集なしに、ソフトウェアが出典と照合して確認したものです。仕様は記載の出典に基づいています。必要なメモリ量と速度は、公開されている計算式による推定です。 AIの利用について

LFM2.5-VL-450M のパラメータ数は 354M です。Q4_K_M、コンテキスト 8,192 トークンの場合、結果が「収まる」になるには、単一の GPU に 1.6 GiB の利用可能なメモリが必要です。

値の更新日:2026年10月19日

主な事実

元のリポジトリ
LiquidAI/LFM2.5-VL-450M@fc6221c
公開元
LiquidAI
ライセンス
other
パラメータ数(GGUF テンソルテーブル:llama.cpp が読み込むテンソル。マルチトークン予測レイヤーは含みません)
354M
元のリポジトリが報告するパラメータ数(ビジョンエンコーダーや追加レイヤーを含む場合があります)
449M
レイヤー数
16
アテンション構成
フルアテンションレイヤー 6 層;リカレント/線形アテンションレイヤー 10 層(固定サイズの状態)
トークンあたりの KV キャッシュ(F16、全アテンションレイヤー)
12.0 KiB
対応する最長コンテキスト長
128,000
画像入力
モデルは対応していますが、ここでの推定はテキストのみが対象です(ビジョンプロジェクターには追加のメモリが必要です)。

GGUF ファイルと必要メモリ

すべての量子化は、固定された1つのリビジョンの1つのGGUFリポジトリに由来します: LiquidAI/LFM2.5-VL-450M-GGUF@1abed04

ファイルサイズは Hugging Face 上の実ファイルのものです。その他の列は X、すなわち結果が「収まる」となるために GPU 単体で必要な利用可能メモリ(最大バッファの推定 ÷ 0.95 + 1 GiB)を示します。条件は llama.cpp を使用、Flash Attention 有効、F16 の KV cache、並列シーケンス 4、マイクロバッチ 512 です。特定の GPU には依存しません。
量子化ファイルサイズコンテキスト長 4,096 での Xコンテキスト長 8,192 での Xコンテキスト長 32,768 での X
BF16 0.66 GiB 2.0 GiB2.1 GiB2.4 GiB
Q8_0 0.35 GiB 1.7 GiB1.7 GiB2.1 GiB
Q6_K 0.27 GiB 1.6 GiB1.7 GiB2.0 GiB
Q5_K_M 0.24 GiB 1.6 GiB1.6 GiB2.0 GiB
Q4_K_M 0.21 GiB 1.5 GiB1.6 GiB1.9 GiB
Q4_0 0.20 GiB 1.5 GiB1.6 GiB1.9 GiB

各量子化で最小のGPU

各量子化について、コンテキスト長 8,192 トークンで、1枚のカードで推定が「収まる」となる掲載GPUのうち、メモリが最も少ないものです。結果が「不明」のGPU(実行プロファイルがないもの、ワークステーション向けおよびデータセンター向けカード、ユニファイドメモリ)は対象外です。
量子化収まる最小のGPU(1枚)メモリ
BF16 NVIDIA GeForce RTX 2060 6GB 6 GB
Q8_0 NVIDIA GeForce RTX 2060 6GB 6 GB
Q6_K NVIDIA GeForce RTX 2060 6GB 6 GB
Q5_K_M NVIDIA GeForce RTX 2060 6GB 6 GB
Q4_K_M NVIDIA GeForce RTX 2060 6GB 6 GB
Q4_0 NVIDIA GeForce RTX 2060 6GB 6 GB

LFM2.5-VL-450M を実行できる GPU

「収まる」とは、llama.cpp のデフォルトの --fit 読み込みチェックで、すべてのレイヤーが GPU に配置されることを意味します。つまり、当サイトによる llama.cpp のバッファの推定値に、誤差マージンと、llama.cpp のカード 1 枚あたり 1 GiB のリザーブを加えた値が、利用可能として計上されたメモリ以内であることを指します。生成中のピークメモリが収まることを保証するものではありません。 結果の判定方法

コンテキスト長 8,192 トークン。カード1枚に収まる最も高い量子化、その最長コンテキスト長、速度の上限を示します。
GPU メモリ 実行プロファイル 収まる最高の量子化 「収まる」に必要な利用可能メモリ 最長コンテキスト長 速度の上限 結果
NVIDIA GeForce GTX 1060 6 GB CUDA(NVIDIA) BF16 2.1 GiB 65,024 ≤ 237 トークン/秒 収まる
NVIDIA GeForce GTX 1660 6 GB CUDA(NVIDIA) BF16 2.1 GiB 65,024 ≤ 237 トークン/秒 収まる
NVIDIA GeForce GTX 1660 SUPER 6 GB CUDA(NVIDIA) BF16 2.1 GiB 65,024 ≤ 415 トークン/秒 収まる
NVIDIA GeForce RTX 2060 6GB 6 GB CUDA(NVIDIA) BF16 2.1 GiB 65,024 ≤ 415 トークン/秒 収まる
NVIDIA GeForce GTX 1070 8 GB CUDA(NVIDIA) BF16 2.1 GiB 128,000 ≤ 316 トークン/秒 収まる
NVIDIA GeForce GTX 1070 Ti 8 GB CUDA(NVIDIA) BF16 2.1 GiB 128,000 ≤ 316 トークン/秒 収まる
NVIDIA GeForce GTX 1080 8 GB CUDA(NVIDIA) BF16 2.1 GiB 128,000 ≤ 395 トークン/秒 収まる
NVIDIA GeForce RTX 2060 SUPER 8 GB CUDA(NVIDIA) BF16 2.1 GiB 128,000 ≤ 553 トークン/秒 収まる
NVIDIA GeForce RTX 2070 8 GB CUDA(NVIDIA) BF16 2.1 GiB 128,000 ≤ 553 トークン/秒 収まる
NVIDIA GeForce RTX 2080 8 GB CUDA(NVIDIA) BF16 2.1 GiB 128,000 ≤ 553 トークン/秒 収まる
NVIDIA GeForce RTX 3050 8GB 8 GB CUDA(NVIDIA) BF16 2.1 GiB 128,000 ≤ 277 トークン/秒 収まる
NVIDIA GeForce RTX 3060 Ti 8 GB CUDA(NVIDIA) BF16 2.1 GiB 128,000 ≤ 553 トークン/秒 収まる
NVIDIA GeForce RTX 3070 8 GB CUDA(NVIDIA) BF16 2.1 GiB 128,000 ≤ 553 トークン/秒 収まる
NVIDIA GeForce RTX 3070 Ti 8 GB CUDA(NVIDIA) BF16 2.1 GiB 128,000 ≤ 751 トークン/秒 収まる
NVIDIA GeForce RTX 4060 8 GB CUDA(NVIDIA) BF16 2.1 GiB 128,000 ≤ 336 トークン/秒 収まる
NVIDIA GeForce RTX 5060 8 GB CUDA(NVIDIA) BF16 2.1 GiB 128,000 ≤ 553 トークン/秒 収まる
NVIDIA GeForce RTX 3080 10GB 10 GB CUDA(NVIDIA) BF16 2.1 GiB 128,000 ≤ 939 トークン/秒 収まる
NVIDIA GeForce GTX 1080 Ti 11 GB CUDA(NVIDIA) BF16 2.1 GiB 128,000 ≤ 598 トークン/秒 収まる
NVIDIA GeForce RTX 2080 Ti 11 GB CUDA(NVIDIA) BF16 2.1 GiB 128,000 ≤ 761 トークン/秒 収まる
AMD Radeon RX 7700 XT 12 GB Linux 上の ROCm(AMD) BF16 2.1 GiB 128,000 — 収まる
NVIDIA GeForce RTX 3080 Ti 12 GB CUDA(NVIDIA) BF16 2.1 GiB 128,000 ≤ 1,126 トークン/秒 収まる
NVIDIA GeForce RTX 4070 12 GB CUDA(NVIDIA) BF16 2.1 GiB 128,000 ≤ 622 トークン/秒 収まる
NVIDIA GeForce RTX 4070 Ti 12 GB CUDA(NVIDIA) BF16 2.1 GiB 128,000 ≤ 622 トークン/秒 収まる
NVIDIA GeForce RTX 5070 12 GB CUDA(NVIDIA) BF16 2.1 GiB 128,000 ≤ 830 トークン/秒 収まる
AMD Radeon RX 7800 XT 16 GB Linux 上の ROCm(AMD) BF16 2.1 GiB 128,000 — 収まる
AMD Radeon RX 7900 GRE 16 GB Linux 上の ROCm(AMD) BF16 2.1 GiB 128,000 — 収まる
NVIDIA GeForce RTX 4060 Ti 16GB 16 GB CUDA(NVIDIA) BF16 2.1 GiB 128,000 ≤ 356 トークン/秒 収まる
NVIDIA GeForce RTX 4070 Ti SUPER 16 GB CUDA(NVIDIA) BF16 2.1 GiB 128,000 ≤ 830 トークン/秒 収まる
NVIDIA GeForce RTX 4080 16 GB CUDA(NVIDIA) BF16 2.1 GiB 128,000 ≤ 885 トークン/秒 収まる
NVIDIA GeForce RTX 5060 Ti 16GB 16 GB CUDA(NVIDIA) BF16 2.1 GiB 128,000 — 収まる
NVIDIA GeForce RTX 5070 Ti 16 GB CUDA(NVIDIA) BF16 2.1 GiB 128,000 ≤ 1,106 トークン/秒 収まる
NVIDIA GeForce RTX 5080 16 GB CUDA(NVIDIA) BF16 2.1 GiB 128,000 ≤ 1,186 トークン/秒 収まる
AMD Radeon RX 7900 XT 20 GB Linux 上の ROCm(AMD) BF16 2.1 GiB 128,000 — 収まる
AMD Radeon RX 7900 XTX 24 GB Linux 上の ROCm(AMD) BF16 2.1 GiB 128,000 — 収まる
NVIDIA GeForce RTX 3090 24 GB CUDA(NVIDIA) BF16 2.1 GiB 128,000 ≤ 1,156 トークン/秒 収まる
NVIDIA GeForce RTX 3090 Ti 24 GB CUDA(NVIDIA) BF16 2.1 GiB 128,000 ≤ 1,245 トークン/秒 収まる
NVIDIA GeForce RTX 5090 32 GB CUDA(NVIDIA) BF16 2.1 GiB 128,000 ≤ 2,213 トークン/秒 収まる

判定のないGPU

コンテキスト長 8,192 トークン。これらのGPUには判定がありません(「判定がない理由」を参照)。表示している必要量は、最も低い量子化のものです。
GPU メモリ 実行プロファイル 最小の量子化 「収まる」に必要な利用可能メモリ 判定がない理由 結果
NVIDIA GeForce GTX 1050 Ti 4 GB CUDA(NVIDIA) Q4_0 1.6 GiB 不明:予約分を差し引くと残りのメモリが少なすぎて、確実に判定できません 不明
NVIDIA GeForce GTX 1650 4 GB CUDA(NVIDIA) Q4_0 1.6 GiB 不明:予約分を差し引くと残りのメモリが少なすぎて、確実に判定できません 不明
AMD Radeon Pro V520 8 GB Linux 上の ROCm(AMD) Q4_0 1.6 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
NVIDIA P4 8 GB CUDA(NVIDIA) Q4_0 1.6 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
NVIDIA P100 16 GB CUDA(NVIDIA) Q4_0 1.6 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
NVIDIA L4 24 GB CUDA(NVIDIA) Q4_0 1.6 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
NVIDIA Tesla P40 24 GB CUDA(NVIDIA) Q4_0 1.6 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
AMD Radeon AI PRO R9700 32 GB Linux 上の ROCm(AMD) Q4_0 1.6 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
AMD Radeon PRO W7800 32GB 32 GB Linux 上の ROCm(AMD) Q4_0 1.6 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
NVIDIA Tesla V100 32GB 32 GB CUDA(NVIDIA) Q4_0 1.6 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
AMD Radeon PRO W7800 48GB 48 GB Linux 上の ROCm(AMD) Q4_0 1.6 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
AMD Radeon PRO W7900 48 GB Linux 上の ROCm(AMD) Q4_0 1.6 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
NVIDIA L40 48 GB CUDA(NVIDIA) Q4_0 1.6 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
AMD Instinct MI210 64 GB Linux 上の ROCm(AMD) Q4_0 1.6 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
NVIDIA H100 PCIe 80 GB CUDA(NVIDIA) Q4_0 1.6 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
NVIDIA H100 NVL 94 GB CUDA(NVIDIA) Q4_0 1.6 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
NVIDIA H200 SXM 141 GB CUDA(NVIDIA) Q4_0 1.6 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
NVIDIA B200 180 GB CUDA(NVIDIA) Q4_0 1.6 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
AMD Instinct MI300X 192 GB Linux 上の ROCm(AMD) Q4_0 1.6 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
NVIDIA B100 192 GB CUDA(NVIDIA) Q4_0 1.6 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
AMD Instinct MI325X 256 GB Linux 上の ROCm(AMD) Q4_0 1.6 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
AMD Instinct MI350X 288 GB Linux 上の ROCm(AMD) Q4_0 1.6 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明
AMD Instinct MI355X 288 GB Linux 上の ROCm(AMD) Q4_0 1.6 GiB 不明:この GPU のメモリ構成が確定していないため、「収まらない」のみ表示されます。 不明

速度の上限は、メモリ帯域幅を、生成されるトークン一つあたりに読み込まれるバイト数で割った値です。これは理論上の上限であり、公開されている llama.cpp のベンチマークでは通常、その半分から五分の四程度に達します。小さなモデルや MoE モデルでは、これより低くなることが多くあります。 公開ベンチマーク

元の重み

このモデルの元の重みファイル(safetensors、算出方法は方法論に記載)の合計は0.8 GiBです。参考として掲載しているだけで、このページのすべての推定は、上記のGGUFファイルをllama.cppで実行した場合のものです。 LiquidAI/LFM2.5-VL-450M · 算出方法

出典