GPUs

Speicheranforderungen 69.23 GB

Benötigt 1 GPUs (basierend auf Speicherkapazität)

64 GB

Alle Modellgewichte

2 GB

Gesprächsverlauf-Cache

2.69 GB

Nebenläufigkeits-Verarbeitungs-Cache

0.54 GB

Temporärer Berechnungs-Cache

Leistungsmetriken
44 tok/s testen →
Gesamtdurchsatz
44 Token/s
Durchsatz pro Benutzer
44 Token/s/Benutzer
Geschätzte Latenz
3422 ms
Max QPS
0.3 Anfragen/s

Geschätzt aus Speicherbandbreite und Rechenleistung über 1x NVIDIA H100 (80GB).

Schnellstart CLI-Befehl
vllm serve Qwen/Qwen3-32B --max-model-len 8192
Flags spiegeln gewählte Präzision, Kontextlänge und Tensor-Parallelität wider.Qwen3-32B-Spezifikationsseite öffnen →

Szenario-Beispiele (GPU + Modell + Nebenläufigkeit):

Klicken Sie auf diese Beispiele, um schnell beliebte Modellbereitstellungsszenarien zu konfigurieren!

📋 Berechnungsformel FAQ

Wie wird der GPU-Durchsatz berechnet?
Wir verwenden einen dualen Beschränkungsansatz: Berechnungsgebundener Durchsatz = (GPU TFLOPS × Präzisionsmultiplikator × 1000) ÷ (2 × Aktive Parameter in Milliarden), und Speicherbandbreitengebundener Durchsatz = Speicherbandbreite (GB/s) ÷ Gesamter Speicherzugriff pro Token (GB). Der tatsächliche Durchsatz ist das Minimum dieser beiden Werte und repräsentiert den tatsächlichen Engpass.
Warum berücksichtigen wir Speicherbandbreitenbeschränkungen?
Basierend auf A100 40GB Benchmark-Daten wurden alle getesteten Modelle durch Speicherbandbreite und nicht durch Rechenleistung begrenzt. Dies validiert unseren speicherbandbreitenbasierten Berechnungsansatz, der genauer ist als reine berechnungsbasierte Schätzungen.
Wie werden MoE-Modelle anders behandelt?
Für MoE (Mixture of Experts) Modelle wie DeepSeek-R1 (671B gesamt, 37B aktiv) berücksichtigen wir nur die aktiven Parameter für Bandbreitenberechnungen. Das bedeutet, der Speicherzugriff pro Token basiert auf 37B Parametern, nicht auf den vollen 671B, was MoE-Modelle für Inferenz viel effizienter macht.
Was repräsentiert der Systemeffizienzfaktor?
Der Systemeffizienzfaktor (40% Basis) berücksichtigt reale Overheads: Framework-Overhead (Ollama, vLLM), Speicherzugriffsmuster, Batch-Verarbeitungseffizienz und Hardware-Auslastung. Dieser Faktor wurde mit tatsächlichen A100 40GB Benchmark-Daten kalibriert, mit einer beobachteten durchschnittlichen Effizienz von 37,2%.
Wie beeinflusst die L2-Cache-Trefferrate die GPU-Durchsatzberechnungen?
L2-Cache beeinflusst die Speicherbandbreitennutzung erheblich. Wenn Modellgewichte im L2 zwischengespeichert sind, können sie mit ~12TB/s statt ~3,35TB/s vom HBM zugegriffen werden. Wir verwenden ein vereinfachtes Wahrscheinlichkeitsmodell zur Berechnung der Cache-Trefferraten: Trefferrate = (N-1)/N, wobei N die Anzahl gleichzeitiger Benutzer ist. Dies spiegelt die Wahrscheinlichkeit der Gewichtszugriff-Überlappung wider: 1 Benutzer: 0% Trefferrate (keine Cache-Wiederverwendung), 2 Benutzer: 50% Trefferrate (zweiter Benutzer kann Gewichte wiederverwenden, die vom ersten Benutzer geladen wurden), 4 Benutzer: 75% Trefferrate, 10 Benutzer: 90% Trefferrate. Dieser Ansatz basiert auf der Wahrscheinlichkeitstheorie: Wenn mehrere Benutzer gleichzeitig auf das Modell zugreifen, steigt die Wahrscheinlichkeit, dass nachfolgende Benutzer auf dieselben Gewichte zugreifen, was die Cache-Effizienz verbessert.
Wie beeinflusst die Präzision die Leistung?
Niedrigere Präzisionsformate reduzieren sowohl Speicherverbrauch als auch erhöhen den Durchsatz: FP16 (2 Bytes/Parameter): Baseline-Performance, FP8 (1 Byte/Parameter): ~2x Speicherreduktion, INT4 (0,5 Bytes/Parameter): ~4x Speicherreduktion mit 20% Performance-Boost durch bessere Cache-Nutzung. Jedoch kann aggressive Quantisierung die Modellgenauigkeit beeinträchtigen und erfordert Techniken wie GPTQ oder AWQ zur Qualitätserhaltung.
Warum unterscheiden sich meine Ergebnisse von anderen Rechnern?
Unser Rechner verwendet Speicherbandbreite als primäre Beschränkung und reale Benchmark-Daten zur Kalibrierung, während viele andere nur berechnungsbasierte Schätzungen verwenden. Wir behandeln auch MoE-Modelle ordnungsgemäß und schließen realistische Systemeffizienzfaktoren ein, was zu genaueren realen Vorhersagen führt.
Was sind die budgetfreundlichen GPU-Optionen für LLM-Bereitstellung?
💰 Budgetfreundliche Optionen (Unter $10k): RTX 4090 (24GB) - Beste für 7B-13B Modelle, Single-Card-Setup; RTX 3090 (24GB) - Guter Wert für kleinere Modelle und Experimente; Mehrere RTX 4060 Ti (16GB) - Kostengünstige Lösung für verteilte Inferenz.
Was sind die Enterprise-Grade GPU-Lösungen?
🏢 Enterprise-Lösungen ($50k+): NVIDIA H100 (80GB) - Industriestandard für Produktions-LLM-Bereitstellung; NVIDIA A100 (80GB) - Bewährte Zuverlässigkeit, gut für 70B+ Modelle; AMD MI355X (288GB) - Neueste CDNA 4, höchste Speicherkapazität für massive Modelle; AMD MI350X (288GB) - CDNA 4 luftgekühlt, ausgezeichnetes Preis-Leistungs-Verhältnis; AMD MI325X (256GB) - CDNA 3 mit HBM3E, großartig für große Modellbereitstellung; AMD MI300X (192GB) - Bewährte CDNA 3, ausgezeichnet für 400B+ Modelle.
Was sind die GPU-Anforderungen für beliebte AI-Modelle?
🆕 Qwen2.5 & Qwen3: Qwen2.5-72B benötigt 2x H100 mit FP8, während Qwen3-235B-A22B (MoE) 4x H100 benötigt. DeepSeek R1: 671B Parameter erfordern ~10x H100 mit FP8 für optimale Leistung. Llama 3.1 70B: 2x A100/H100 mit FP16, oder 7x RTX 4090 für Consumer-Hardware. Llama 3.1 405B: 6x H100 mit FP8, oder 11x A100 mit FP16.
Was sind die Profi-Tipps für GPU-Optimierung?
⚡ Profi-Tipps: FP8/INT8 verwenden - Reduziere Speicherverbrauch um 50-75% mit minimaler Qualitätsverlust; MoE-Modelle berücksichtigen - Qwen3-235B-A22B bietet Flaggschiff-Leistung mit 4x H100 (vs 10x für DeepSeek-R1); Modell-Parallelismus - Teile große Modelle auf mehrere GPUs auf; Gemischte Präzision - Kombiniere FP16-Inferenz mit FP32-Gradienten für Training; Speicher-Mapping - Verwende CPU-RAM für Modellspeicherung, GPU für aktive Schichten.