FLUX.2-dev (32B DiT + 24B VLM) 显存计算与 GPU 部署指南
针对 FLUX.2-dev (32B DiT + 24B VLM)(Black Forest Labs,总参数 32B)的实时显存核算。8K 上下文参考:INT4 20.7 GB • FP8 34.1 GB • FP16 66.2 GB。
张卡
显存需求 34.15 GB
需要 2 张显卡(基于显存容量)
32 GB
所有模型权重
0 GB
对话历史缓存
1.35 GB
并发处理缓存
0.8 GB
临时计算缓存
ComfyUI 出图耗时与宿主内存建议
预估出图耗时
12 s/img
推荐系统内存
80 GB RAM
像素面积
1 MP
卸载策略
Smart Offload
一键部署命令生成
python main.py --lowvram --fp8_e4m3fn-unet --fp8_e4m3fn-text-enc --preview-method auto
命令参数已自动匹配当前所选精度、上下文长度与多卡张量并行数量。查看 FLUX.2-dev 专属显存指南 →
FLUX.2-dev (32B DiT + 24B VLM) 模型架构与显存规格
总参数量
32B
模型架构
Dense 稠密架构
发布厂商
Black Forest Labs
推荐部署精度
FP8
FLUX.2-dev (32B DiT + 24B VLM) ComfyUI 不同精度与分辨率显存矩阵
按 ComfyUI Smart Offload 卸载编码器 + VAE Tiling 预估峰值(建议系统内存:80 GB)。
| 量化精度 | 1024x1024 (1MP) | 1536x1536 (2.25MP) | 2048x2048 (4MP) | LoRA 训练 (1MP) |
|---|---|---|---|---|
| FP16 | 66.2 GB | 68.1 GB | 71.5 GB | 70.7 GB |
| FP8 | 34.1 GB | 36.1 GB | 39.5 GB | 38.7 GB |
| INT8 | 34.1 GB | 36.1 GB | 39.5 GB | 38.7 GB |
| INT4 | 20.7 GB | 22.7 GB | 26.1 GB | 25.2 GB |
FLUX.2-dev (32B DiT + 24B VLM) 推荐 GPU 硬件配置表(FP8)
基于 1024x1024 标准步数(开启 Offload 与分块解码)的显卡卡数及预估单图耗时。
| GPU 显卡型号 | 最低卡数 | 总显存池 | 预估耗时 |
|---|---|---|---|
| NVIDIA RTX 4090 (24GB) | 2× | 48 GB | 12 s/img |
| NVIDIA RTX 5090 (32GB) | 2× | 64 GB | 8.7 s/img |
| Apple M4 Max (128GB) (128GB) | 1× | 128 GB | 29.2 s/img |
| NVIDIA A100 (80GB) (80GB) | 1× | 80 GB | 25.5 s/img |
| NVIDIA H100 (80GB) | 1× | 80 GB | 7 s/img |
| NVIDIA H200 (141GB) | 1× | 141 GB | 6.9 s/img |
| Huawei Ascend 910B (64GB) | 1× | 64 GB | 13.7 s/img |
FLUX.2-dev (32B DiT + 24B VLM) 部署常见问题
运行 FLUX.2-dev (32B DiT + 24B VLM) 最低需要多大显存?
在 1024x1024 分辨率且开启 ComfyUI 智能卸载与 VAE Tiling 下,FLUX.2-dev (32B DiT + 24B VLM) 在 BF16/FP16 约需 66.2 GB、FP8 约需 34.1 GB、INT4/GGUF 约需 20.7 GB 显存(并建议配备约 80 GB 系统内存)。
用 RTX 4090 或 H100 部署 FLUX.2-dev (32B DiT + 24B VLM) 需要几张卡?
以 FP8 精度运行 FLUX.2-dev (32B DiT + 24B VLM),至少需要 2 张 RTX 4090 (24GB) 或 1 张 NVIDIA H100 (80GB)。
生产环境运行 FLUX.2-dev (32B DiT + 24B VLM) 推荐哪种量化精度?
对于 Black Forest Labs 推出的 FLUX.2-dev (32B DiT + 24B VLM)(32B),推荐优先使用 FP8,在生成质量、显存开销与吞吐效率间表现最佳。