DeepSeek VRAM- & GPU-Anforderungsrechner

Berechnen Sie VRAM-Anforderungen und GPU-Anzahl für DeepSeek-Bereitstellung. Unterstützung für NVIDIA, AMD, Apple und Huawei

GPUs

Speicheranforderungen 884.98 GB

Benötigt 12 GPUs (basierend auf Speicherkapazität)

880 GB

Alle Modellgewichte

0.04 GB

Gesprächsverlauf-Cache

4.12 GB

Expertenmodell-Optimierung

0.82 GB

Temporärer Berechnungs-Cache

Leistungsmetriken
11990 tok/s testen →
Gesamtdurchsatz
11990 Token/s
Durchsatz pro Benutzer
11990 Token/s/Benutzer
Geschätzte Latenz
13 ms
Max QPS
79.9 Anfragen/s

Geschätzt aus Speicherbandbreite und Rechenleistung über 12x NVIDIA H100 (80GB).

Schnellstart CLI-Befehl
vllm serve deepseek-ai/DeepSeek-V4-Pro --tensor-parallel-size 12 --max-model-len 8192
Flags spiegeln gewählte Präzision, Kontextlänge und Tensor-Parallelität wider.DeepSeek-V4-Pro-Spezifikationsseite öffnen →

DeepSeek Architektur & Speicherprofil

Gesamtparameter
1600B
Architektur
MoE (49B aktiv)
Entwickler / Anbieter
DeepSeek
Empfohlene Präzision
FP4+FP8

DeepSeek VRAM-Matrix nach Präzision & Kontext

Vorberechnet für 1 Nutzer (Gewichte + KV-Cache + Overhead).

Präzision8K Kontext32K Kontext128K Kontext
FP163205.0 GB3207.2 GB3210.2 GB
FP81605.0 GB1607.1 GB1609.5 GB
INT81605.0 GB1607.1 GB1609.5 GB
INT4805.0 GB807.0 GB809.2 GB

Empfohlene GPUs für DeepSeek (FP4+FP8)

Mindestanzahl an GPUs für 8K Kontext (Batch 1) & geschätzter Durchsatz.

GPU-HardwareMin. GPUsGesamt-VRAMGesch. Speed
NVIDIA RTX 4090 (24GB)37×888 GB31555 tok/s
NVIDIA RTX 5090 (32GB)28×896 GB33196 tok/s
Apple M4 Max (128GB) (128GB)7×896 GB539 tok/s
NVIDIA A100 (80GB) (80GB)12×960 GB7049 tok/s
NVIDIA H100 (80GB)12×960 GB11990 tok/s
NVIDIA H200 (141GB)7×987 GB6305 tok/s
Huawei Ascend 910B (64GB)14×896 GB5935 tok/s

FAQ zu DeepSeek

Wie viel VRAM benötigt DeepSeek?
Bei 8K Kontext und Batch 1 benötigt DeepSeek ca. 3205.0 GB in FP16, 1605.0 GB in FP8 und 805.0 GB mit INT4-Quantisierung.
Wie viele RTX 4090 oder H100 GPUs brauche ich für DeepSeek?
Im FP4+FP8-Modus benötigt DeepSeek mindestens 37x RTX 4090 (24GB) oder 12x NVIDIA H100 (80GB).
Welche Präzision empfiehlt sich produktiv für DeepSeek?
Für DeepSeek (1600B von DeepSeek) bietet FP4+FP8 den besten Kompromiss aus Qualität, Tempo und Speicherbedarf.