Qwen3.5 35B-A3B Instruct: VRAM, кванты, скорость, для чего
Qwen3.5 35B-A3B Instruct: 35B параметров (MoE, 3B активных). Q4_K_M ≈ 21 ГБ (с контекстом), мин. VRAM 32 ГБ. Оценки myvram.ru от пропускной способности памяти и размера — не бентчмарки.
35B параметров (MoE, 3B активных на токен) · релиз 2026-03 · Qwen License. Хорошо поддерживает русский язык.
Размеры весов и VRAM
Q4_K_M
21 ГБ
Q6_K
29.1 ГБ
Q8_0
36.8 ГБ
Мин. VRAM (Q4)
32 ГБ
Для чего: агентность, кодинг, долгий контекст, быстро на потребительском железе
Оценки размера: Q4_K_M ≈ 0.60, Q6_K ≈ 0.83, Q8_0 ≈ 1.05 ГБ на млрд параметров (метод modelfit, CC BY 4.0). Источник данных: modelfit 2026 (MoE total 35B / active 3B, Q4 minRam 32). Скорость — оценка от bandwidth/размера, не бентчмарк.
Запуск (Ollama)
ollama run qwen3.5:35b-a3b-instruct Влезает ли на карты каталога (Q4_K_M)
| Карта | VRAM | Статус | ~tok/s |
|---|---|---|---|
| RTX 3060 12GB | 12 GB | CPU offload | 5 |
| RTX 4060 8GB | 8 GB | CPU offload | 4 |
| RTX 4060 Ti 16GB | 16 GB | CPU offload | 7 |
| RTX 4070 12GB | 12 GB | CPU offload | 5 |
| RTX 4070 Super 12GB | 12 GB | CPU offload | 5 |
| RTX 4080 16GB | 16 GB | CPU offload | 7 |
| RTX 4090 24GB | 24 GB | CPU offload | 11 |
| RX 7900 XT 20GB | 20 GB | CPU offload | 9 |
| RX 7900 XTX 24GB | 24 GB | CPU offload | 11 |
| Intel Arc A770 16GB | 16 GB | CPU offload | 7 |
| Apple M1 16GB (unified) | 16 GB | CPU offload | 7 |
| Apple M2 24GB (unified) | 24 GB | CPU offload | 11 |
Семейство Qwen
- Qwen3 8B · 8B
- Qwen3 14B · 14B
- Qwen3 30B · 30B
- Qwen3.5 9B Instruct · 9B