Fish-Audio-S2-Pro (5B) VRAM- & GPU-Rechner

Hardware-Dimensionierung für Fish-Audio-S2-Pro (5B) (4.8B von Fish Audio). 8K-Kontext-Richtwert: 5.0 GB (INT4) • 7.5 GB (FP8) • 12.6 GB (FP16).

Festes 30s-Akustikfenster / Codec-Limit
GPUs

Speicheranforderungen 7.54 GB

Benötigt 1 GPUs (basierend auf Speicherkapazität)

5.65 GB

Alle Modellgewichte

0.28 GB

Gesprächsverlauf-Cache

1.4 GB

Nebenläufigkeits-Verarbeitungs-Cache

0.21 GB

Temporärer Berechnungs-Cache

Leistungsmetriken
179 tok/s testen →
Max. Streams (GPU)
19 streams
Duplex-Architektur
Stream / Turn-Based
Geschätzte Latenz
840 ms
Max QPS
1.2 Anfragen/s

Geschätzt aus Speicherbandbreite und Rechenleistung über 1x NVIDIA RTX 4090 (24GB).

Schnellstart CLI-Befehl
python -m tools.api_server --llama-checkpoint-path checkpoints/s2-pro --compile
Flags spiegeln gewählte Präzision, Kontextlänge und Tensor-Parallelität wider.Fish-Audio-S2-Pro-Spezifikationsseite öffnen →

Fish-Audio-S2-Pro (5B) Architektur & Speicherprofil

Gesamtparameter
4.8B
Architektur
Dense Transformer
Entwickler / Anbieter
Fish Audio
Empfohlene Präzision
FP8

Fish-Audio-S2-Pro (5B) VRAM-Matrix nach Präzision & Streams

Audio-Stream-VRAM inkl. unquantisierter Codec/CFM-Submodule und Puffer.

Präzision1 Stream4 Streams16 Streams
FP1612.6 GB16.2 GB30.4 GB
FP87.5 GB10.3 GB21.1 GB
INT87.5 GB10.3 GB21.1 GB
INT45.0 GB7.3 GB16.4 GB

Empfohlene GPUs für Fish-Audio-S2-Pro (5B) (FP8)

Minimale GPU-Anzahl und maximale Echtzeit-Sprachstreams pro Node.

GPU-HardwareMin. GPUsGesamt-VRAMMax. Streams
NVIDIA RTX 4090 (24GB)1×24 GB19 streams
NVIDIA RTX 5090 (32GB)1×32 GB28 streams
Apple M4 Max (128GB) (128GB)1×128 GB134 streams
NVIDIA A100 (80GB) (80GB)1×80 GB81 streams
NVIDIA H100 (80GB)1×80 GB81 streams
NVIDIA H200 (141GB)1×141 GB148 streams
Huawei Ascend 910B (64GB)1×64 GB63 streams

FAQ zu Fish-Audio-S2-Pro (5B)

Wie viel VRAM benötigt Fish-Audio-S2-Pro (5B)?
Für 1 Audiostream benötigt Fish-Audio-S2-Pro (5B) ca. 12.6 GB in FP16, 7.5 GB in FP8 und 5.0 GB in INT4.
Wie viele RTX 4090 oder H100 GPUs brauche ich für Fish-Audio-S2-Pro (5B)?
Im FP8-Modus benötigt Fish-Audio-S2-Pro (5B) mindestens 1x RTX 4090 (24GB) oder 1x NVIDIA H100 (80GB).
Welche Präzision empfiehlt sich produktiv für Fish-Audio-S2-Pro (5B)?
Für Fish-Audio-S2-Pro (5B) (4.8B von Fish Audio) bietet FP8 den besten Kompromiss aus Qualität, Tempo und Speicherbedarf.