Qwen3.8 27B: VRAM, кванты, скорость, для чего
Qwen3.8 27B — свежая dense-модель Qwen (27.8B параметров, релиз 08.2026, Apache-2.0). На Q4_K_M занимает ~16.7 ГБ (с контекстом ~19 ГБ), минимальный VRAM 24 GB; контекст 256K, из 64 слоёв 48 — linear-attention (меньше KV-кэша). RU-поддержка сильная — по методологии каталога.
27.8B параметров · релиз 2026-08 · Apache-2.0. Хорошо поддерживает русский язык.
Размеры весов и VRAM
Q4_K_M
16.7 ГБ
Q6_K
23.1 ГБ
Q8_0
29.2 ГБ
Мин. VRAM (Q4)
24 ГБ
Для чего: чат, кодинг, долгий контекст, reasoning
Чат, кодинг, длинные документы и рассуждения: «30B-класс» качества на 24 GB. Топ-18к лайков HF — одна из самых заметных моделей 2026.
Оценки размера: Q4_K_M ≈ 0.60, Q6_K ≈ 0.83, Q8_0 ≈ 1.05 ГБ на млрд параметров (метод modelfit, CC BY 4.0). Источник данных: HF config.json + API Qwen/Qwen3.8-27B (19.10.2026): total 27,781,427,952 (27.8B), ctx 256K, 64 слоя (16 full + 48 linear-attention), Apache-2.0 (tag HF API); wordstat30d 360 («qwen3.8», 17.10.2026). Скорость — оценка от bandwidth/размера, не бентчмарк.
Запуск (Ollama)
ollama run qwen3.8:27b Влезает ли на карты каталога (Q4_K_M)
| Карта | VRAM | Статус | ~tok/s |
|---|---|---|---|
| RTX 3060 12GB | 12 GB | CPU offload | 1 |
| RTX 4060 8GB | 8 GB | CPU offload | 1 |
| RTX 4060 Ti 16GB | 16 GB | CPU offload | 3 |
| RTX 4070 12GB | 12 GB | CPU offload | 1 |
| RTX 4070 Super 12GB | 12 GB | CPU offload | 1 |
| RTX 4080 16GB | 16 GB | CPU offload | 3 |
| RTX 4090 24GB | 24 GB | Влезает | 30 |
| RX 7900 XT 20GB | 20 GB | CPU offload | 4 |
| RX 7900 XTX 24GB | 24 GB | Влезает | 29 |
| Intel Arc A770 16GB | 16 GB | CPU offload | 3 |
| Apple M1 16GB (unified) | 16 GB | CPU offload | 3 |
| Apple M2 24GB (unified) | 24 GB | Влезает | 3 |
Минимальная карта из каталога для Q4: RTX 4090 24GB (24 GB).
Файлы: какой файл скачать
| Источник | Файл | Квант | Размер | Скачать |
|---|---|---|---|---|
| Ollama (registry.ollama.ai) | qwen3.8:27b | Q4_K_M | 16.81 ГБ | ollama pull qwen3.8:27b |
| GGUF (ggml-org) | ggml-org/Qwen3.8-27B-GGUF ↗
Qwen3.8-27B-Q4_K_M.gguf | Q4_K_M | 18.97 ГБ | |
| GGUF (ggml-org) | ggml-org/Qwen3.8-27B-GGUF ↗
Qwen3.8-27B-Q8_0.gguf | Q8_0 | 28.6 ГБ | |
| MLX (только Apple) | mlx-community/Qwen3.8-27B-4bit ↗ | 4bit | 16.05 ГБ · 3 части | Скачать в РФ ↗ |
mtp — головы спекулятивного декодирования (+1.68 ГБ), опциональный файл для ускорения.
Размеры — из манифестов/репо от 19.10.2026 (Ollama registry API, HF API); «Скачать в РФ» — через hf-mirror.com, доступность из РФ не проверялась (извне, 19.10.2026); оценка памяти — модель, не бенчмарк.
Сколько памяти под контекст
| Контекст | KV-кэш (fp16) | Итого (Q4_K_M 16.81 ГБ + KV + 1.5 ГБ) | 8 ГБ | 12 ГБ | 16 ГБ | 24 ГБ |
|---|---|---|---|---|---|---|
| 4K | 0.3 ГБ | 18.6 ГБ | — | — | — | ✓ |
| 8K | 0.5 ГБ | 18.8 ГБ | — | — | — | ✓ |
| 16K | 1.1 ГБ | 19.4 ГБ | — | — | — | ✓ |
| 32K | 2.1 ГБ | 20.5 ГБ | — | — | — | ✓ |
Макс. контекст: на 12 ГБ — не влезает и без контекста, на 24 ГБ — до ~50K токенов (бюджет 90% VRAM).
KV — оценка 16-бит (fp16-кэш); q8_0-KV-кэш режет колонку KV вдвое. Бюджет: dedicated GPU — 90% VRAM; unified (Mac) — 70–85%. Оценка — модель, не бенчмарк.
Где запустить: карты с 24+ GB VRAM
Модель встаёт на 24 ГБ и выше (по данным каталога). Страницы карт — с таблицами tok/s и ценами РФ:
- RTX 4090 24GB · 24 GB · от ~140 000 ₽
- RX 7900 XTX 24GB · 24 GB · от ~110 000 ₽
- Apple M2 24GB (unified) · 24 GB · от ~130 000 ₽
Подобрать модель под свою карту — T1 · Какая LLM запустится на моей карте.
Семейство Qwen
- Qwen3 8B · 8B
- Qwen3.5 35B-A3B Instruct · 35B (MoE 3B)
- Qwen3.5 9B Instruct · 9B