DeepSeek V4 Flash: 291B — не для домашней карты, но вот как запустить
DeepSeek V4 Flash — MoE-модель 291B total (~8–9B active) (256 экспертов, 6 на токен, нативные FP4-эксперты). Одна из самых запрашиваемых новых моделей 2026 — но серверного класса: на домашнем железе не запускается. Страница — про то, сколько памяти реально нужно и что вместо неё поставить дома.
Параметры и память
| Параметр | Значение |
|---|---|
| Total параметров | 291 B (MoE, ~8–9 B active) |
| Внимание | MLA + index-attention (index_topk=512), 43 слоя — KV латентная (GQA-формула неприменима) |
| Официальная сборка (files.json, 19.10.2026) | FP4, 159.62 ГБ (46 частей), vLLM-формат |
| Оценка Q4 | ≈ 190 ГБ (291B × ~0.65 ГБ/B) |
| Минимальная память | 256 ГБ+ (190 ÷ 0.9 ≈ 211 ГБ → класс 256 ГБ) |
Сколько памяти нужно под модель, которая реально влезает дома, — по памяти: /vram/8/, /vram/16/, /vram/24/. V4-Flash в любой из этих бюджетов не влезает — это серверный класс.
Почему не на домашнем железе
- Порядок 190+ ГБ весов (Q4) против 8–24 ГБ у домашних карт и 48 ГБ у топовых consumer — разница в 10–20 раз.
- Официальных consumer-GGUF нет: DeepSeek не выпускает GGUF-кванты; в каталоге файлов — только vLLM-сборка (server_only, 19.10.2026). Семейства deepseek-v4 нет и в Ollama-реестре.
- Офлоад не спасает: CPU-офлоад на 190 ГБ весов — считанные доли токена в секунду, модель unusable.
Как запустить (3 варианта)
1. Сервер / vLLM (для тех, у кого есть железо)
Официальные веса — deepseek-ai/DeepSeek-V4-Flash ↗ (FP4, 159.62 ГБ, 46 частей; РФ-зеркало — hf-mirror, проверено из-за границы 19.10.2026). Запуск — vLLM/TensorRT-LLM на 256 ГБ+ VRAM (8×32/64 ГБ или 4×A100-80G и т.п.).
2. Облако / API (проще всего)
Подписка на API DeepSeek (api-docs.deepseek.com ↗) — модель работает на стороне провайдера, ваше железо не нужно. Цены и «локально vs облако» по расчёту — гайд «Локальная LLM vs облачный API».
3. Consumer-модель на домашней карте
DeepSeek-R1-Distill-14B (14B, Q4 ≈ 9 ГБ — влезает на 16 ГБ): карточка /models/deepseek-r1-distill-14b/. Лёгче — Nemotron 3 Nano 4B (Q4 ≈ 2.4 ГБ, встаёт на 8 ГБ).
На серверных страницах myvram.ru нет партнёрских e-com-ссылок: 256 ГБ+ VRAM у партнёров магазина не продаётся.
Оффер — облако/API или consumer-модель ниже. Внешние ссылки — rel="nofollow".
Оговорки и ссылки
- Размеры файлов — из files.json (Ollama registry / HF API, 19.10.2026); «Q4 ≈ 190 ГБ» — оценка (0.65 ГБ/B), не бенчмарк.
- Параметры подтверждены HF config.json (19.10.2026); доступность hf-mirror из РФ не проверялась.