К содержимому
myvram.ru

Qwen3 30B: VRAM, кванты, скорость, для чего

Qwen3 30B: 30B параметров. Q4_K_M ≈ 18 ГБ (с контекстом), мин. VRAM 32 ГБ. Оценки myvram.ru от пропускной способности памяти и размера — не бентчмарки.

30B параметров · релиз 2025-04 · Apache-2.0. Хорошо поддерживает русский язык.

Размеры весов и VRAM

Q4_K_M

18 ГБ

Q6_K

24.9 ГБ

Q8_0

31.5 ГБ

Мин. VRAM (Q4)

32 ГБ

Для чего: качество, кодинг, долгий контекст, агентность

Оценки размера: Q4_K_M ≈ 0.60, Q6_K ≈ 0.83, Q8_0 ≈ 1.05 ГБ на млрд параметров (метод modelfit, CC BY 4.0). Источник данных: modelfit (Q4_K_M minRam 32). Скорость — оценка от bandwidth/размера, не бентчмарк.

Запуск (Ollama)

ollama run qwen3:30b
GGUF (HuggingFace) ↗ Модель (HuggingFace) ↗

Влезает ли на карты каталога (Q4_K_M)

КартаVRAMСтатус~tok/s
RTX 3060 12GB 12 GB CPU offload 1
RTX 4060 8GB 8 GB CPU offload 1
RTX 4060 Ti 16GB 16 GB CPU offload 2
RTX 4070 12GB 12 GB CPU offload 1
RTX 4070 Super 12GB 12 GB CPU offload 1
RTX 4080 16GB 16 GB CPU offload 2
RTX 4090 24GB 24 GB Влезает 28
RX 7900 XT 20GB 20 GB CPU offload 4
RX 7900 XTX 24GB 24 GB Влезает 27
Intel Arc A770 16GB 16 GB CPU offload 2
Apple M1 16GB (unified) 16 GB CPU offload 2
Apple M2 24GB (unified) 24 GB Влезает 3

Минимальная карта из каталога для Q4: RTX 4090 24GB (24 GB).

Семейство Qwen