Калькулятор VRAM и GPU для CogView4-6B (6B DiT + 9B GLM-4)
Подбор оборудования для CogView4-6B (6B DiT + 9B GLM-4) (6B, Zhipu AI). Оценка для контекста 8K: INT4 5.2 ГБ • FP8 7.8 ГБ • FP16 13.8 ГБ.
GPU
Требования к памяти 7.75 ГБ
Требуется 1 GPU (на основе емкости памяти)
6 GB
Все веса модели
0 GB
Кэш истории разговора
1.2 GB
Кэш параллельной обработки
0.55 GB
Временный кэш вычислений
Скорость ComfyUI и требования к ОЗУ
Время генерации
11.3 s/img
Мин. ОЗУ хоста
32 GB RAM
Разрешение
1 MP
Режим выгрузки
Smart Offload
Команда быстрого запуска (CLI)
python main.py --normalvram --fp8_e4m3fn-unet --fp8_e4m3fn-text-enc --preview-method auto
Параметры автоматически учитывают выбранную точность, контекст и число GPU.Страница модели CogView4-6B →
Архитектура и профиль памяти CogView4-6B (6B DiT + 9B GLM-4)
Всего параметров
6B
Архитектура
Dense (плотная)
Разработчик
Zhipu AI
Рекомендуемая точность
FP8
Матрица VRAM ComfyUI для CogView4-6B (6B DiT + 9B GLM-4) по точности и разрешению
Пик VRAM с выгрузкой в ОЗУ + VAE Tiling (рекомендуемая ОЗУ: 32 ГБ).
| Точность | 1024x1024 (1MP) | 1536x1536 (2.25MP) | 2048x2048 (4MP) | Обучение LoRA (1MP) |
|---|---|---|---|---|
| BF16 | 13.8 GB | 15.5 GB | 18.5 GB | 16.6 GB |
| FP8 | 7.8 GB | 9.5 GB | 12.5 GB | 10.6 GB |
| INT8 | 7.8 GB | 9.5 GB | 12.5 GB | 10.6 GB |
| INT4 | 5.2 GB | 7.0 GB | 10.0 GB | 8.1 GB |
Рекомендуемые GPU для CogView4-6B (6B DiT + 9B GLM-4) (FP8)
Минимум GPU для 1024x1024 в ComfyUI и время генерации 1 изображения.
| Модель GPU | Мин. GPU | Общая VRAM | Время / кадр |
|---|---|---|---|
| NVIDIA RTX 4090 (24GB) | 1× | 24 GB | 11.3 s/img |
| NVIDIA RTX 5090 (32GB) | 1× | 32 GB | 8.2 s/img |
| Apple M4 Max (128GB) (128GB) | 1× | 128 GB | 13.7 s/img |
| NVIDIA A100 (80GB) (80GB) | 1× | 80 GB | 12 s/img |
| NVIDIA H100 (80GB) | 1× | 80 GB | 3.3 s/img |
| NVIDIA H200 (141GB) | 1× | 141 GB | 3.2 s/img |
| Huawei Ascend 910B (64GB) | 1× | 64 GB | 6.4 s/img |
Вопросы по развёртыванию CogView4-6B (6B DiT + 9B GLM-4)
Сколько видеопамяти требуется для запуска CogView4-6B (6B DiT + 9B GLM-4)?
Для генерации 1024x1024 в ComfyUI с выгрузкой и VAE Tiling модели CogView4-6B (6B DiT + 9B GLM-4) нужно ~13.8 ГБ в BF16/FP16, ~7.8 ГБ в FP8 и ~5.2 ГБ в INT4/GGUF (плюс ~32 ГБ ОЗУ).
Сколько нужно видеокарт RTX 4090 или H100 для CogView4-6B (6B DiT + 9B GLM-4)?
В точности FP8 для CogView4-6B (6B DiT + 9B GLM-4) потребуется минимум 1x RTX 4090 (24 ГБ) или 1x NVIDIA H100 (80 ГБ).
Какую точность выбрать для CogView4-6B (6B DiT + 9B GLM-4) в продакшене?
Для CogView4-6B (6B DiT + 9B GLM-4) (6B, Zhipu AI) оптимальный баланс качества, скорости и памяти обеспечивает FP8.