LLM Tools Collection

Das vollständige LLM-Infrastruktur- & Token-Toolkit

Berechnen Sie GPU-VRAM für 53+ Open-Weight-Modelle (DeepSeek-V4.1, Kimi-K3.1, GLM-5.3, Qwen3.8, Gemma 4), vergleichen Sie 38 Cloud-API-Tarife und prüfen Sie Frontier-Pareto- & Harness-Kurven.

6 kostenlose Tools53+ Modell-VRAM-Profile22 GPU-Kompatibilitätsguides38 API-Preisstufen

Interaktive Kern-Tools

Modellspezifische VRAM- & Hardware-Guides (57 Seiten)

Vorberechnete FP16/FP8/INT4-VRAM-Matrizen und GPU-Empfehlungen je Modell.

GPU-Kompatibilitäts- & Durchsatz-Guides (22 GPUs)

Consumer-Karten, Apple Silicon Unified Memory und Rechenzentrums-Beschleuniger.

Anbieter-Tokenizer & Prompt-Rechner (11 Anbieter)

Häufig gestellte Fragen (FAQ)

Wie genau sind die VRAM- und API-Kostenschätzungen?
Unser VRAM-Modell berücksichtigt Modellgewichte, GQA/MLA-KV-Cache, Aktivierungen sowie Runtime-Overhead nach vLLM- und Ollama-Benchmarks. API-Preise spiegeln veröffentlichte Tarife inkl. Prompt Caching wider.
Ab wann lohnt sich Self-Hosting gegenüber kommerziellen APIs?
Bei konstant hohem Volumen (oft ab ca. 2.000-3.000 USD Monatsumsatz ohne extremes Prompt-Caching) schlagen gemietete H100-, L40S- oder RTX-5090-Knoten mit DeepSeek-V4.1, Qwen3.8 oder GLM-5.3 MoE häufig Frontier-APIs.
Welche Einzel-GPU bietet das beste Preis-Leistungs-Verhältnis lokal?
Unter Linux bieten RTX 5090 (32GB) und RTX 4090/3090 (24GB) top Speicherbandbreite pro Euro; für 70B-235B quantisierte Modelle punkten Apple M4 Max (128GB) und M3 Ultra (192GB).
Werden meine Texte im Token-Zähler an Server gesendet?
Nein. Die gesamte Tokenisierung läuft lokal direkt in Ihrem Browser über js-tiktoken und Transformers.js.