LLM推論VRAM & GPU要件カリキュレーター
LLMの展開に必要なGPUの数を正確に計算。NVIDIA、AMD、Huawei Ascend、Mac Mシリーズをサポート。即座にハードウェア要件を取得。
台
メモリ要件 673.99 GB
9 台のGPUが必要(メモリ容量ベース)
671 GB
すべてのモデル重み
0.5 GB
会話履歴キャッシュ
2.07 GB
エキスパートモデル最適化
0.41 GB
一時計算キャッシュ
シナリオ例 (GPU + モデル + 並行性):
これらの例をクリックして、人気のモデル展開シナリオを素早く設定!