Поиск совместимости GPU и LLM
Выберите видеокарту, количество GPU и контекст, чтобы сразу увидеть, какие 30+ LLM поместятся в VRAM в FP16, FP8 или INT4.
Доступная VRAM
24 GB
Пропускная способность
1,008 GB/s
Поместятся FP16/FP8
22
С учётом INT4
44 / 85
DeepSeek-R1-Distill-Qwen-32B
32B • DeepSeek
FP16
68.27 GB
FP8
36 GB
INT4
19.86 GB
~46 tok/s (INT4)Открыть калькулятор
DeepSeek-R1-Distill-Qwen-14B
14B • DeepSeek
FP16
32.27 GB
FP8
18 GB
INT4
10.86 GB
~23 tok/s (FP8)Открыть калькулятор
DeepSeek-R1-Distill-Qwen-7B
7B • DeepSeek
FP16
18.27 GB
FP8
11 GB
INT4
7.36 GB
~12 tok/s (FP16)Открыть калькулятор
DeepSeek-R1-Distill-Qwen-1.5B
1.5B • DeepSeek
FP16
7.27 GB
FP8
5.5 GB
INT4
4.61 GB
~12 tok/s (FP16)Открыть калькулятор
DeepSeek-R1-Distill-Llama-8B
8B • DeepSeek
FP16
20.27 GB
FP8
12 GB
INT4
7.86 GB
~12 tok/s (FP16)Открыть калькулятор
Llama 3 8B
8B • Llama 3
FP16
17.81 GB
FP8
9.31 GB
INT4
5.06 GB
~54 tok/s (FP16)Открыть калькулятор
Llama 3.1 8B
8B • Llama 3
FP16
17.81 GB
FP8
9.31 GB
INT4
5.06 GB
~54 tok/s (FP16)Открыть калькулятор
Llama 3.2 1B
1B • Llama 3
FP16
2.55 GB
FP8
1.43 GB
INT4
0.86 GB
~428 tok/s (FP16)Открыть калькулятор
Llama 3.2 3B
3B • Llama 3
FP16
7.23 GB
FP8
3.79 GB
INT4
2.07 GB
~143 tok/s (FP16)Открыть калькулятор
Llama 3.2 11B
11B • Llama 3
FP16
24.11 GB
FP8
12.61 GB
INT4
6.86 GB
~78 tok/s (FP8)Открыть калькулятор
Qwen3.5-35B-A3BMoE 3B
35B • Qwen 3.5
FP16
70.98 GB
FP8
35.66 GB
INT4
18.01 GB
~571 tok/s (INT4)Открыть калькулятор
Qwen3.5-27B
27B • Qwen 3.5
FP16
59.22 GB
FP8
30.97 GB
INT4
16.85 GB
~63 tok/s (INT4)Открыть калькулятор
Qwen QwQ-32B
32B • Qwen QwQ
FP16
69.1 GB
FP8
36.16 GB
INT4
19.69 GB
~54 tok/s (INT4)Открыть калькулятор
Qwen2.5-Coder-32B
32B • Qwen 2
FP16
69.1 GB
FP8
36.16 GB
INT4
19.69 GB
~54 tok/s (INT4)Открыть калькулятор
Qwen3-32B
32B • Qwen 3
FP16
69.23 GB
FP8
36.23 GB
INT4
19.73 GB
~54 tok/s (INT4)Открыть калькулятор
Qwen2.5-32B
32B • Qwen 2
FP16
69.1 GB
FP8
36.16 GB
INT4
19.69 GB
~54 tok/s (INT4)Открыть калькулятор
Qwen2-32B
32B • Qwen 2
FP16
69.1 GB
FP8
36.16 GB
INT4
19.69 GB
~54 tok/s (INT4)Открыть калькулятор
Qwen3-30B-A3BMoE 3B
30B • Qwen 3
FP16
61.1 GB
FP8
30.73 GB
INT4
15.54 GB
~571 tok/s (INT4)Открыть калькулятор
Qwen2.5-14B
14B • Qwen 2
FP16
30.66 GB
FP8
16.04 GB
INT4
8.72 GB
~61 tok/s (FP8)Открыть калькулятор
Qwen3-14B
14B • Qwen 3
FP16
30.66 GB
FP8
16.04 GB
INT4
8.72 GB
~61 tok/s (FP8)Открыть калькулятор
Qwen2-14B
14B • Qwen 2
FP16
30.66 GB
FP8
16.04 GB
INT4
8.72 GB
~61 tok/s (FP8)Открыть калькулятор
Qwen3-8B
8B • Qwen 3
FP16
17.93 GB
FP8
9.37 GB
INT4
5.09 GB
~54 tok/s (FP16)Открыть калькулятор
Qwen2.5-7B
7B • Qwen 2
FP16
15.21 GB
FP8
7.96 GB
INT4
4.33 GB
~61 tok/s (FP16)Открыть калькулятор
Qwen2-7B
7B • Qwen 2
FP16
15.21 GB
FP8
7.96 GB
INT4
4.33 GB
~61 tok/s (FP16)Открыть калькулятор
Qwen2.5-3B
3B • Qwen 2
FP16
6.57 GB
FP8
3.46 GB
INT4
1.91 GB
~143 tok/s (FP16)Открыть калькулятор
Qwen2.5-1.5B
1.5B • Qwen 2
FP16
3.49 GB
FP8
1.89 GB
INT4
1.1 GB
~286 tok/s (FP16)Открыть калькулятор
Qwen2.5-0.5B
0.5B • Qwen 2
FP16
1.36 GB
FP8
0.83 GB
INT4
0.57 GB
~857 tok/s (FP16)Открыть калькулятор
Qwen3-0.6B
0.6B • Qwen 3
FP16
1.94 GB
FP8
1.12 GB
INT4
0.71 GB
~714 tok/s (FP16)Открыть калькулятор
Qwen3-1.7B
1.7B • Qwen 3
FP16
4.14 GB
FP8
2.22 GB
INT4
1.26 GB
~252 tok/s (FP16)Открыть калькулятор
Mistral-Nemo-12B
12B • Mistral
FP16
26.46 GB
FP8
13.83 GB
INT4
7.52 GB
~71 tok/s (FP8)Открыть калькулятор
Mistral-7B-v0.3
7B • Mistral
FP16
15.71 GB
FP8
8.21 GB
INT4
4.46 GB
~61 tok/s (FP16)Открыть калькулятор
Gemma-2-27B
27B • Gemma
FP16
59.6 GB
FP8
31.16 GB
INT4
16.94 GB
~63 tok/s (INT4)Открыть калькулятор
Gemma-2-9B
9B • Gemma
FP16
21.53 GB
FP8
11.22 GB
INT4
6.06 GB
~48 tok/s (FP16)Открыть калькулятор
Gemma-2-2B
2B • Gemma
FP16
5.11 GB
FP8
2.71 GB
INT4
1.5 GB
~214 tok/s (FP16)Открыть калькулятор
Phi-3.5-MoEMoE 6.6B
42B • Phi
FP16
85.67 GB
FP8
43.17 GB
INT4
21.92 GB
~260 tok/s (INT4)Открыть калькулятор
Phi-3-3.8B
3.8B • Phi
FP16
11.02 GB
FP8
5.72 GB
INT4
3.07 GB
~113 tok/s (FP16)Открыть калькулятор
CodeLlama-34B
34B • CodeLlama
FP16
72.93 GB
FP8
38.18 GB
INT4
20.8 GB
~50 tok/s (INT4)Открыть калькулятор
CodeLlama-13B
13B • CodeLlama
FP16
33.56 GB
FP8
17.44 GB
INT4
9.37 GB
~66 tok/s (FP8)Открыть калькулятор
CodeLlama-7B
7B • CodeLlama
FP16
18.71 GB
FP8
9.71 GB
INT4
5.21 GB
~61 tok/s (FP16)Открыть калькулятор
GLM-4.7-FlashMoE 3B
30B • GLM-4
FP16
66.1 GB
FP8
34.66 GB
INT4
18.94 GB
~54 tok/s (INT4)Открыть калькулятор
GPT-OSS-20BMoE 3.6B
21B • GPT-OSS
FP16
43.15 GB
FP8
21.78 GB
INT4
11.09 GB
~238 tok/s (FP8)Открыть калькулятор
Подробные руководства по всем 22 GPU
NVIDIA RTX 5090 (32GB)NVIDIA RTX 5080 (16GB)NVIDIA RTX 5070 Ti (16GB)NVIDIA RTX 4090 (24GB)NVIDIA RTX 4080 SUPER (16GB)NVIDIA RTX 4070 Ti Super (16GB)NVIDIA RTX 4060 Ti (16GB)NVIDIA RTX 3090 (24GB)AMD Radeon RX 7900 XTX (24GB)NVIDIA RTX PRO 6000 Blackwell (96GB)Apple M4 Max (128GB)Apple M4 Max (64GB)Apple M4 Pro (48GB)Apple M3 Ultra (192GB)NVIDIA B200 (192GB)NVIDIA H200 (141GB)NVIDIA H100 (80GB)NVIDIA H20 (96GB)NVIDIA A100 (80GB)NVIDIA L40S (48GB)AMD Instinct MI300X (192GB)Huawei Ascend 910B (64GB)
Частые вопросы о совместимости GPU и LLM
Какие модели помещаются на одну RTX 4090 или RTX 3090 (24 ГБ)?▾
В квантовании INT4 на контексте 8K карта 24 ГБ уверенно тянет модели 7B–14B, MoE вроде Qwen3-30B-A3B и GPT-OSS-20B, а также 32B модели с умеренным контекстом.
Почему пропускная способность памяти так же важна, как и объём VRAM?▾
Генерация текста упирается в чтение весов из памяти. Например, RTX 5090 (1792 ГБ/с) генерирует токены примерно в 1,8 раза быстрее RTX 4090 (1008 ГБ/с).
Может ли Apple Silicon заменить серверные GPU для локальной работы?▾
Для 1–2 пользователей Mac на M4 Max (128 ГБ) или M3 Ultra (192 ГБ) тихо запускает модели 70B–235B в INT4. Но для массового API ускорители H100/H200 быстрее на порядок.
Может ли большой контекст вызвать нехватку VRAM?▾
Да. Увеличение контекста с 8K до 128K резко раздувает KV-кэш — обязательно проверяйте с помощью переключателя длины контекста выше.
Другие инструменты LLM и GPU
Весь каталог ИИ-инструментов →Калькуляторы VRAM по моделям
DeepSeek-R1 (671B)DeepSeek-V3 (671B)DeepSeek-V4-Pro (1.6T)DeepSeek-V4-Flash (284B)DeepSeek-R1-Distill-Qwen-32BDeepSeek-R1-Distill-Qwen-14BDeepSeek-R1-Distill-Qwen-7BDeepSeek-R1-Distill-Llama-70BLlama 4 Maverick (400B)Llama 4 Scout (109B)Llama 3.1 405BLlama 3.1 70BLlama 3.1 8BLlama 3.2 3BQwen3.5-397B-A17BQwen3-235B-A22BQwen3-Coder-480B-A35BQwen3-32B
Совместимость видеокарт
NVIDIA RTX 5090 (32GB)NVIDIA RTX 5080 (16GB)NVIDIA RTX 5070 Ti (16GB)NVIDIA RTX 4090 (24GB)NVIDIA RTX 4080 SUPER (16GB)NVIDIA RTX 4070 Ti Super (16GB)NVIDIA RTX 4060 Ti (16GB)NVIDIA RTX 3090 (24GB)AMD Radeon RX 7900 XTX (24GB)NVIDIA RTX PRO 6000 Blackwell (96GB)Apple M4 Max (128GB)Apple M4 Max (64GB)Apple M4 Pro (48GB)Apple M3 Ultra (192GB)