Gemma 4 26B-A4B: VRAM, кванты, скорость, для чего
Gemma 4 26B-A4B: 26B параметров (MoE, 4B активных). Q4_K_M ≈ 15.6 ГБ (с контекстом), мин. VRAM 24 ГБ. Оценки myvram.ru от пропускной способности памяти и размера — не бентчмарки.
26B параметров (MoE, 4B активных на токен) · релиз 2026-05 · Gemma Terms of Use. Хорошо поддерживает русский язык.
Размеры весов и VRAM
Q4_K_M
15.6 ГБ
Q6_K
21.6 ГБ
Q8_0
27.3 ГБ
Мин. VRAM (Q4)
24 ГБ
Для чего: чат, кодинг, мультимодальность
Оценки размера: Q4_K_M ≈ 0.60, Q6_K ≈ 0.83, Q8_0 ≈ 1.05 ГБ на млрд параметров (метод modelfit, CC BY 4.0). Источник данных: modelfit 2026 (MoE total 26B / active 4B, Q4 minRam 24). Скорость — оценка от bandwidth/размера, не бентчмарк.
Запуск (Ollama)
ollama run gemma4:26b-a4b-it Влезает ли на карты каталога (Q4_K_M)
| Карта | VRAM | Статус | ~tok/s |
|---|---|---|---|
| RTX 3060 12GB | 12 GB | CPU offload | 9 |
| RTX 4060 8GB | 8 GB | CPU offload | 6 |
| RTX 4060 Ti 16GB | 16 GB | CPU offload | 12 |
| RTX 4070 12GB | 12 GB | CPU offload | 9 |
| RTX 4070 Super 12GB | 12 GB | CPU offload | 9 |
| RTX 4080 16GB | 16 GB | CPU offload | 12 |
| RTX 4090 24GB | 24 GB | Влезает | 76 |
| RX 7900 XT 20GB | 20 GB | CPU offload | 15 |
| RX 7900 XTX 24GB | 24 GB | Влезает | 72 |
| Intel Arc A770 16GB | 16 GB | CPU offload | 12 |
| Apple M1 16GB (unified) | 16 GB | CPU offload | 12 |
| Apple M2 24GB (unified) | 24 GB | Влезает | 8 |
Минимальная карта из каталога для Q4: RTX 4090 24GB (24 GB).
Где запустить: карты с 24+ GB VRAM
Модель встаёт на 24 ГБ и выше (по данным каталога). Страницы карт — с таблицами tok/s и ценами РФ:
- RTX 4090 24GB · 24 GB · от ~140 000 ₽
- RX 7900 XTX 24GB · 24 GB · от ~110 000 ₽
- Apple M2 24GB (unified) · 24 GB · от ~130 000 ₽
Подобрать модель под свою карту — T1 · Какая LLM запустится на моей карте.
Семейство Gemma
- Gemma 3 12B · 12B
- Gemma 4 12B · 12B