Xiaomi MiMo V2.6 Pro: 1.02T — не для домашнего железа, но вот что с ней делать
Xiaomi MiMo V2.6 Pro (RL) — MoE-модель 1.02T total (~28B active) (384 эксперта, 8 на токен, 70 слоёв с частично SWA-вниманием). Одна из крупнейших открытых моделей 2026 — и одновременно один из самых «недомашних» фронтиров: 768 ГБ+ памяти.
Параметры и память
| Параметр | Значение |
|---|---|
| Total параметров | 1.02 T (MoE, ~28 B active) |
| Внимание | 70 слоёв, частично sliding-window (swa_head_dim=192/128) — расчёт KV по всем слоям = верхняя граница |
| Файлы (files.json, 19.10.2026) | MXFP4 554.21 ГБ (7 частей) · Q2_K 418.77 ГБ (7 частей) · mmproj 2.84 ГБ |
| vLLM-сборка | safetensors, 566.05 ГБ (130 частей), server_only |
| Оценка Q4 | ≈ 665 ГБ (1.02T × ~0.65 ГБ/B) |
| Минимальная память | 768 ГБ+ (665 ÷ 0.9 ≈ 739 ГБ → класс 768 ГБ) |
Сколько памяти нужно под модель, которая реально влезает дома: /vram/8/, /vram/16/, /vram/24/. MiMo V2.6 Pro в эти бюджеты не влезает ни при каком кванте.
Почему не на домашнем железе
- 665 ГБ весов при Q4: домашние карты — 8–24 ГБ, топовый consumer (48–64 ГБ) на порядок меньше. Разница в ~15 раз.
- Даже 512 ГБ Mac (M3 Ultra) — не влезает: полезный бюджет unified-памяти 70–85% = ~358–432 ГБ < 665 ГБ. 1 ТБ+ — впритык (и это уже рабочая станция за полтора миллиона, не «домашняя карта»).
- Кванты только серверные: consumer-GGUF нет — в репо ggml-org только MXFP4 (554 ГБ) и Q2_K (419 ГБ) multi-part; Q4_K_M отсутствует. Семейства mimo нет в Ollama-реестре (19.10.2026).
- Q2_K — «experimental, never recommended»: 2-битный квант даёт заметную деградацию качества — берите только если цель «просто поднять», а не работать с моделью.
Файлы (размеры — от 19.10.2026, multi-part: скачайте все части)
| Файл | Квант | Размер | Скачать |
|---|---|---|---|
ggml-org/MiMo-V2.6-Pro-RL-GGUF | MXFP4 (нативный) | 554.21 ГБ · 7 частей | |
ggml-org/MiMo-V2.6-Pro-RL-GGUF | Q2_K (experimental) | 418.77 ГБ · 7 частей | |
XiaomiMiMo/MiMo-V2.6-Pro-RL | safetensors (официальные, vLLM) | 566.05 ГБ · 130 частей | только сервер (server_only) |
mmproj (визуальный проектор, +2.84 ГБ) — только если используете распознавание изображений. Все 7 частей multi-part обязательны (ссылки — на первую часть; остальные — тот же репо, -00002-of-00007 и т.д.).
Как запустить (3 варианта)
1. Сервер / vLLM (768 ГБ+ VRAM)
Официальные веса — XiaomiMiMo/MiMo-V2.6-Pro-RL ↗ (566.05 ГБ; РФ-зеркало — hf-mirror, проверено из-за границы 19.10.2026). Реалистично — vLLM на сервере/в облаке с 8×A100/H100 или аналог.
2. Облако / API (проще всего)
Модели Xiaomi MiMo доступны через облачные API Xiaomi (см. официальные страницы Xiaomi; доступность из РФ не проверялась). Для сравнения «локально vs облако» — гайд «Локальная LLM vs облачный API».
3. Consumer-модель на домашней карте
MiMo-7B-RL (7B, MIT, ~30.6k загрузок/30d) — consumer-модель того же семейства: Q4 ≈ 4.5 ГБ, влезает на 8 ГБ. Как подобрать карту и контекст — /vram/8/.
На серверных страницах myvram.ru нет партнёрских e-com-ссылок: 768 ГБ+ памяти у партнёров магазина не продаётся.
Оффер — облако/API или consumer-модель ниже. Внешние ссылки — rel="nofollow".
Оговорки и ссылки
- Размеры файлов — из files.json (HF API / Ollama registry, 19.10.2026); «Q4 ≈ 665 ГБ» — оценка (0.65 ГБ/B), не бенчмарк.
- Параметры подтверждены HF config.json (19.10.2026); доступность hf-mirror из РФ не проверялась.