Калькулятор VRAM и GPU для FLUX.2-klein-9B
Подбор оборудования для FLUX.2-klein-9B (9B, Black Forest Labs). Оценка для контекста 8K: INT4 6.6 ГБ • FP8 10.4 ГБ • FP16 19.4 ГБ.
GPU
Требования к памяти 10.39 ГБ
Требуется 1 GPU (на основе емкости памяти)
9 GB
Все веса модели
0 GB
Кэш истории разговора
0.78 GB
Кэш параллельной обработки
0.61 GB
Временный кэш вычислений
Скорость ComfyUI и требования к ОЗУ
Время генерации
5.6 s/img
Мин. ОЗУ хоста
32 GB RAM
Разрешение
1 MP
Режим выгрузки
Smart Offload
Команда быстрого запуска (CLI)
python main.py --normalvram --fp8_e4m3fn-unet --fp8_e4m3fn-text-enc --preview-method auto
Параметры автоматически учитывают выбранную точность, контекст и число GPU.Страница модели FLUX.2-klein-9B →
Архитектура и профиль памяти FLUX.2-klein-9B
Всего параметров
9B
Архитектура
Dense (плотная)
Разработчик
Black Forest Labs
Рекомендуемая точность
FP8
Матрица VRAM ComfyUI для FLUX.2-klein-9B по точности и разрешению
Пик VRAM с выгрузкой в ОЗУ + VAE Tiling (рекомендуемая ОЗУ: 32 ГБ).
| Точность | 1024x1024 (1MP) | 1536x1536 (2.25MP) | 2048x2048 (4MP) | Обучение LoRA (1MP) |
|---|---|---|---|---|
| FP16 | 19.4 GB | 20.5 GB | 22.5 GB | 23.0 GB |
| FP8 | 10.4 GB | 11.5 GB | 13.5 GB | 14.0 GB |
| INT8 | 10.4 GB | 11.5 GB | 13.5 GB | 14.0 GB |
| INT4 | 6.6 GB | 7.8 GB | 9.7 GB | 10.2 GB |
Рекомендуемые GPU для FLUX.2-klein-9B (FP8)
Минимум GPU для 1024x1024 в ComfyUI и время генерации 1 изображения.
| Модель GPU | Мин. GPU | Общая VRAM | Время / кадр |
|---|---|---|---|
| NVIDIA RTX 4090 (24GB) | 1× | 24 GB | 5.6 s/img |
| NVIDIA RTX 5090 (32GB) | 1× | 32 GB | 4.1 s/img |
| Apple M4 Max (128GB) (128GB) | 1× | 128 GB | 6.8 s/img |
| NVIDIA A100 (80GB) (80GB) | 1× | 80 GB | 6 s/img |
| NVIDIA H100 (80GB) | 1× | 80 GB | 1.6 s/img |
| NVIDIA H200 (141GB) | 1× | 141 GB | 1.6 s/img |
| Huawei Ascend 910B (64GB) | 1× | 64 GB | 3.2 s/img |
Вопросы по развёртыванию FLUX.2-klein-9B
Сколько видеопамяти требуется для запуска FLUX.2-klein-9B?
Для генерации 1024x1024 в ComfyUI с выгрузкой и VAE Tiling модели FLUX.2-klein-9B нужно ~19.4 ГБ в BF16/FP16, ~10.4 ГБ в FP8 и ~6.6 ГБ в INT4/GGUF (плюс ~32 ГБ ОЗУ).
Сколько нужно видеокарт RTX 4090 или H100 для FLUX.2-klein-9B?
В точности FP8 для FLUX.2-klein-9B потребуется минимум 1x RTX 4090 (24 ГБ) или 1x NVIDIA H100 (80 ГБ).
Какую точность выбрать для FLUX.2-klein-9B в продакшене?
Для FLUX.2-klein-9B (9B, Black Forest Labs) оптимальный баланс качества, скорости и памяти обеспечивает FP8.