CogView4-6B (6B DiT + 9B GLM-4) 显存计算与 GPU 部署指南

针对 CogView4-6B (6B DiT + 9B GLM-4)(Zhipu AI,总参数 6B)的实时显存核算。8K 上下文参考:INT4 5.2 GB • FP8 7.8 GB • FP16 13.8 GB。

张卡

显存需求 7.75 GB

需要 1 张显卡(基于显存容量)

6 GB

所有模型权重

0 GB

对话历史缓存

1.2 GB

并发处理缓存

0.55 GB

临时计算缓存

ComfyUI 出图耗时与宿主内存建议
预估出图耗时
11.3 s/img
推荐系统内存
32 GB RAM
像素面积
1 MP
卸载策略
Smart Offload
一键部署命令生成
python main.py --normalvram --fp8_e4m3fn-unet --fp8_e4m3fn-text-enc --preview-method auto
命令参数已自动匹配当前所选精度、上下文长度与多卡张量并行数量。查看 CogView4-6B 专属显存指南 →

CogView4-6B (6B DiT + 9B GLM-4) 模型架构与显存规格

总参数量
6B
模型架构
Dense 稠密架构
发布厂商
Zhipu AI
推荐部署精度
FP8

CogView4-6B (6B DiT + 9B GLM-4) ComfyUI 不同精度与分辨率显存矩阵

按 ComfyUI Smart Offload 卸载编码器 + VAE Tiling 预估峰值(建议系统内存:32 GB)。

量化精度1024x1024 (1MP)1536x1536 (2.25MP)2048x2048 (4MP)LoRA 训练 (1MP)
BF1613.8 GB15.5 GB18.5 GB16.6 GB
FP87.8 GB9.5 GB12.5 GB10.6 GB
INT87.8 GB9.5 GB12.5 GB10.6 GB
INT45.2 GB7.0 GB10.0 GB8.1 GB

CogView4-6B (6B DiT + 9B GLM-4) 推荐 GPU 硬件配置表(FP8)

基于 1024x1024 标准步数(开启 Offload 与分块解码)的显卡卡数及预估单图耗时。

GPU 显卡型号最低卡数总显存池预估耗时
NVIDIA RTX 4090 (24GB)1×24 GB11.3 s/img
NVIDIA RTX 5090 (32GB)1×32 GB8.2 s/img
Apple M4 Max (128GB) (128GB)1×128 GB13.7 s/img
NVIDIA A100 (80GB) (80GB)1×80 GB12 s/img
NVIDIA H100 (80GB)1×80 GB3.3 s/img
NVIDIA H200 (141GB)1×141 GB3.2 s/img
Huawei Ascend 910B (64GB)1×64 GB6.4 s/img

CogView4-6B (6B DiT + 9B GLM-4) 部署常见问题

运行 CogView4-6B (6B DiT + 9B GLM-4) 最低需要多大显存?
在 1024x1024 分辨率且开启 ComfyUI 智能卸载与 VAE Tiling 下,CogView4-6B (6B DiT + 9B GLM-4) 在 BF16/FP16 约需 13.8 GB、FP8 约需 7.8 GB、INT4/GGUF 约需 5.2 GB 显存(并建议配备约 32 GB 系统内存)。
用 RTX 4090 或 H100 部署 CogView4-6B (6B DiT + 9B GLM-4) 需要几张卡?
以 FP8 精度运行 CogView4-6B (6B DiT + 9B GLM-4),至少需要 1 张 RTX 4090 (24GB) 或 1 张 NVIDIA H100 (80GB)。
生产环境运行 CogView4-6B (6B DiT + 9B GLM-4) 推荐哪种量化精度?
对于 Zhipu AI 推出的 CogView4-6B (6B DiT + 9B GLM-4)(6B),推荐优先使用 FP8,在生成质量、显存开销与吞吐效率间表现最佳。