LLM на RX 7900 XTX 24GB: какие модели пойдут и с какой скоростью
RX 7900 XTX (24 ГБ, 960 ГБ/с) — почти паритет с RTX 4090 по пропускной способности памяти. 7B на Q4 — ~114 tok/s, 14B — ~57, MoE 30B-A3B — ~96 tok/s; 24B на Q4 влезает. Работает через ROCm / llama.cpp (llama.cpp, Ollama — Linux).
Характеристики
- VRAM
- 24 GB GDDR6
- Пропускная способность
- 960 GB/s
- Архитектура
- RDNA 3 (Navi 310)
- Цена РФ (окт 2026)
- ~110 000 ₽
Оценка рынка РФ окт 2026; уточнить в e-com фазе. Ориентир, уточняется в e-com фазе.
Оценки tok/s по моделям каталога (Q4_K_M)
| Модель | Q4, ГБ | Статус | ~tok/s | Запуск |
|---|---|---|---|---|
| Llama 3.1 8B Instruct | 4.8 | Влезает | 100 | ollama run llama3.1:8b |
| Qwen3 8B | 4.8 | Влезает | 100 | ollama run qwen3:8b |
| Qwen3 14B | 8.4 | Влезает | 57 | ollama run qwen3:14b |
| Qwen3 30B | 18 | Влезает | 27 | ollama run qwen3:30b |
| Qwen3.5 9B Instruct | 5.4 | Влезает | 89 | ollama run qwen3.5:9b-instruct |
| DeepSeek-R1 Distill Qwen 14B | 8.4 | Влезает | 57 | ollama run deepseek-r1-distill-qwen-14b |
| DeepSeek-R1 Distill Qwen 7B | 4.2 | Влезает | 114 | ollama run deepseek-r1-distill-qwen-7b |
| Mistral Small 3.1 24B | 14.4 | Влезает | 33 | ollama run mistral-small-3.1:24b |
| Devstral Small 2 24B | 14.4 | Влезает | 33 | ollama run devstral-small-2:24b |
| Gemma 3 12B | 7.2 | Влезает | 67 | ollama run gemma3:12b |
| Gemma 4 12B | 7.2 | Влезает | 67 | ollama run gemma4:12b-it |
| Phi-4 14B | 8.4 | Влезает | 57 | ollama run phi4:14b |
| GLM-4.7-Flash 30B-A3BMoE 3B | 18 | Влезает | 96 | ollama run glm-4.7-flash |
| MiniCPM-V 4.5 8B | 5.2 | Влезает | 92 | ollama run minicpm-v4.5:8b |
| Ministral 3 8B | 5 | Влезает | 96 | ollama run ministral-3:8b |
| Gemma 4 26B-A4BMoE 4B | 15.6 | Влезает | 72 | ollama run gemma4:26b-a4b-it |
Не влезает в VRAM → CPU offload (3): медленно
| Модель | Q4, ГБ | Статус | ~tok/s |
|---|---|---|---|
| Llama 3.3 70B Instruct | 42 | CPU offload (медленно) | 1 |
| Qwen3.5 35B-A3B Instruct | 21 | CPU offload (медленно) | 11 |
| Yi-1.5 34B Chat | 20.4 | CPU offload (медленно) | 4 |
Как считаем
Влезает ли модель: мин. VRAM (Q4) ≈ размер GGUF + 1–3 ГБ на контекст, бюджет ≈ 90% VRAM. Скорость: tok/s ≈ 960 ГБ/с ÷ размер модели × 0.5 (dense) / × 0.18 по активным (MoE). Не влезает в VRAM → CPU-offload 1–5 tok/s. Это модельные оценки, не измеренные бентчмарки (метод — модификация под РФ-контекст из modelfit.io, CC BY 4.0).
Топовая карта: где купить / взять больше VRAM
Это уже флагман каталога по VRAM. Модели от 70B (Llama 3.3 70B) и MoE Qwen3.5 35B-A3B не влезут — для них нужен 32 GB+ (рабочая станция или мульти-GPU). RX 7900 XTX 24GB и ближайший апгрейд — в магазинах РФ:
- RX 7900 XTX 24GB · 24 GB от ~110 000 ₽
Смотрите также
Модели, которые влезут на RX 7900 XTX 24GB (16)