Калькулятор VRAM и GPU для FLUX.1-dev (12B DiT + 4.9B TE)
Подбор оборудования для FLUX.1-dev (12B DiT + 4.9B TE) (11.9B, Black Forest Labs). Оценка для контекста 8K: INT4 8.4 ГБ • FP8 13.4 ГБ • FP16 25.4 ГБ.
GPU
Требования к памяти 13.45 ГБ
Требуется 1 GPU (на основе емкости памяти)
11.9 GB
Все веса модели
0 GB
Кэш истории разговора
0.9 GB
Кэш параллельной обработки
0.65 GB
Временный кэш вычислений
Скорость ComfyUI и требования к ОЗУ
Время генерации
7.5 s/img
Мин. ОЗУ хоста
32 GB RAM
Разрешение
1 MP
Режим выгрузки
Smart Offload
Команда быстрого запуска (CLI)
python main.py --normalvram --fp8_e4m3fn-unet --fp8_e4m3fn-text-enc --preview-method auto
Параметры автоматически учитывают выбранную точность, контекст и число GPU.Страница модели FLUX.1-dev →
Архитектура и профиль памяти FLUX.1-dev (12B DiT + 4.9B TE)
Всего параметров
11.9B
Архитектура
Dense (плотная)
Разработчик
Black Forest Labs
Рекомендуемая точность
FP8
Матрица VRAM ComfyUI для FLUX.1-dev (12B DiT + 4.9B TE) по точности и разрешению
Пик VRAM с выгрузкой в ОЗУ + VAE Tiling (рекомендуемая ОЗУ: 32 ГБ).
| Точность | 1024x1024 (1MP) | 1536x1536 (2.25MP) | 2048x2048 (4MP) | Обучение LoRA (1MP) |
|---|---|---|---|---|
| FP16 | 25.4 GB | 26.7 GB | 28.9 GB | 29.1 GB |
| FP8 | 13.4 GB | 14.8 GB | 17.0 GB | 17.2 GB |
| INT8 | 13.4 GB | 14.8 GB | 17.0 GB | 17.2 GB |
| INT4 | 8.4 GB | 9.8 GB | 12.0 GB | 12.2 GB |
Рекомендуемые GPU для FLUX.1-dev (12B DiT + 4.9B TE) (FP8)
Минимум GPU для 1024x1024 в ComfyUI и время генерации 1 изображения.
| Модель GPU | Мин. GPU | Общая VRAM | Время / кадр |
|---|---|---|---|
| NVIDIA RTX 4090 (24GB) | 1× | 24 GB | 7.5 s/img |
| NVIDIA RTX 5090 (32GB) | 1× | 32 GB | 5.4 s/img |
| Apple M4 Max (128GB) (128GB) | 1× | 128 GB | 9 s/img |
| NVIDIA A100 (80GB) (80GB) | 1× | 80 GB | 7.9 s/img |
| NVIDIA H100 (80GB) | 1× | 80 GB | 2.2 s/img |
| NVIDIA H200 (141GB) | 1× | 141 GB | 2.1 s/img |
| Huawei Ascend 910B (64GB) | 1× | 64 GB | 4.2 s/img |
Вопросы по развёртыванию FLUX.1-dev (12B DiT + 4.9B TE)
Сколько видеопамяти требуется для запуска FLUX.1-dev (12B DiT + 4.9B TE)?
Для генерации 1024x1024 в ComfyUI с выгрузкой и VAE Tiling модели FLUX.1-dev (12B DiT + 4.9B TE) нужно ~25.4 ГБ в BF16/FP16, ~13.4 ГБ в FP8 и ~8.4 ГБ в INT4/GGUF (плюс ~32 ГБ ОЗУ).
Сколько нужно видеокарт RTX 4090 или H100 для FLUX.1-dev (12B DiT + 4.9B TE)?
В точности FP8 для FLUX.1-dev (12B DiT + 4.9B TE) потребуется минимум 1x RTX 4090 (24 ГБ) или 1x NVIDIA H100 (80 ГБ).
Какую точность выбрать для FLUX.1-dev (12B DiT + 4.9B TE) в продакшене?
Для FLUX.1-dev (12B DiT + 4.9B TE) (11.9B, Black Forest Labs) оптимальный баланс качества, скорости и памяти обеспечивает FP8.