GLM-4.7-Flash 30B-A3B: какие файлы скачать (GGUF/Ollama/MLX) — все кванты, размеры и VRAM
Полная раскладка весовых файлов GLM-4.7-Flash 30B-A3B (30 B (MoE, active 3 B)): 4 записей — Ollama-теги, GGUF (все кванты и провайдеры, multi-part), MLX и vLLM-сборки. Размеры — точные байты из манифестов/репо от 19.10.2026, не оценка «0.6 × параметры».
MoE: память — по total 30 B (MoE, active 3 B), скорость — по active ~3 B. MoE: память — по total 30B, скорость — по active ~3B. MLA-внимание (оценка KV — см. kv_note). Публичного MLX нет (mlx-community/GLM-4.7-Flash-30B-A3B-4bit — 401 на 19.10.2026).
Ollama (registry.ollama.ai)
| Тег | Квант | Размер | Запуск |
|---|---|---|---|
glm-4.7-flash:latest · тег latest; явный тег q4_K_M существует и = те же байты (проверено манифестом) | Q4_K_M | 19.02 ГБ | ollama pull glm-4.7-flash:latest |
Размер — сумма слоёв манифеста registry.ollama.ai (19.10.2026). Реестр несёт один квант на тег (обычно Q4_K_M): прочие кванты — в GGUF-таблице ниже.
GGUF (все кванты и провайдеры)
| Квант | Файл / провайдер | Размер | Скачать |
|---|---|---|---|
| Q4_K_M | unsloth/GLM-4.7-Flash-GGUF ↗ GLM-4.7-Flash-Q4_K_M.gguf | 18.31 ГБ | |
| Q5_K_M | unsloth/GLM-4.7-Flash-GGUF ↗ GLM-4.7-Flash-Q5_K_M.gguf | 21.41 ГБ | |
| Q8_0 | unsloth/GLM-4.7-Flash-GGUF ↗ GLM-4.7-Flash-Q8_0.gguf | 31.84 ГБ |
Сколько памяти под контекст
KV-расчёт по GQA-формуле недоступен (MLA-внимание) — без KV-колонки.
MLA (Multi-head Latent Attention): kv_lora_rank=512, qk_nope=192, qk_rope=64, v_head_dim=256; 47 слоёв + MTP. KV сжата в латент (общий для всех голов) — GQA-формула (2×layers×kv_heads×head_dim) неприменима. Оценка: ≈ layers × (512+64) × 2 байта/токен (fp16). Конфиг: HF config.json (pубличные копии), 19.10.2026
Влезает на N ГБ (Q4_K_M, контекст 16K + overhead)
| Память | Бюджет (90%) | Итого @16K | Вердикт | Макс. контекст |
|---|---|---|---|---|
| 8 ГБ | 7.2 ГБ | 20.5 ГБ | не влезает → offload | не влезает даже без контекста |
| 16 ГБ | 14.4 ГБ | 20.5 ГБ | не влезает → offload | не влезает даже без контекста |
| 24 ГБ | 21.6 ГБ | 20.5 ГБ | влезает | — |
| 48 ГБ | 43.2 ГБ | 20.5 ГБ | влезает | — |
MLA: KV-кэш (латентный) в сумму не учтён — реальный запас ещё меньше. Минимально из вердиктов: 24 ГБ.
Оговорки и ссылки
- Размеры — фактические байты из Ollama-реестра / HF API от 19.10.2026 (методика — в данных files.json).
- «РФ (hf-mirror)» — зеркало hf-mirror.com (Япония): проверено из-за границы 19.10.2026, доступность из РФ не проверялась — проверьте со своего IP (гайд: скачать в России).
- Ссылки на HuggingFace/hf-mirror —
rel="nofollow"(не e-com). Оценка памяти — модель, не бенчмарк.