Каталог локальных LLM

19 моделей по семействам: DeepSeek, GLM, Gemma, Llama, MiniCPM, Mistral, Phi, Qwen, Yi. У каждой — размер по квантам, мин. VRAM, для чего подходит и команда запуска. Обновляется еженедельно под новые релизы (freshness).

Llama 3.1 8B Instruct

8B · Q4 4.8 ГБ · мин. VRAM 12 ГБ · чат, перевод, суммаризация, лёгкий код

Llama 3.3 70B Instruct

70B · Q4 42 ГБ · мин. VRAM 64 ГБ · макс. качество, кодинг, исследования, агентность

Qwen3 8B

8B · Q4 4.8 ГБ · мин. VRAM 12 ГБ · чат, кодинг, реasoning, RU-задачи

Qwen3 14B

14B · Q4 8.4 ГБ · мин. VRAM 16 ГБ · чат, кодинг, качество

Qwen3 30B

30B · Q4 18 ГБ · мин. VRAM 32 ГБ · качество, кодинг, долгий контекст, агентность

Qwen3.5 9B Instruct

9B · Q4 5.4 ГБ · мин. VRAM 12 ГБ · чат, кодинг, reasoning

Qwen3.5 35B-A3B Instruct MoE 3B

35B (MoE) · Q4 21 ГБ · мин. VRAM 32 ГБ · агентность, кодинг, долгий контекст, быстро на потребительском железе

DeepSeek-R1 Distill Qwen 14B

14B · Q4 8.4 ГБ · мин. VRAM 16 ГБ · reasoning (chain-of-thought), математика, кодинг

DeepSeek-R1 Distill Qwen 7B

7B · Q4 4.2 ГБ · мин. VRAM 8 ГБ · лёгкий reasoning, математика, учеба

Mistral Small 3.1 24B

24B · Q4 14.4 ГБ · мин. VRAM 24 ГБ · чат, кодинг, мультиязычность

Devstral Small 2 24B

24B · Q4 14.4 ГБ · мин. VRAM 24 ГБ · агентный кодинг, софт-инжиниринг

Gemma 3 12B

12B · Q4 7.2 ГБ · мин. VRAM 16 ГБ · чат, мультимодальность, суммаризация

Gemma 4 12B

12B · Q4 7.2 ГБ · мин. VRAM 12 ГБ · чат, кодинг, мультимодальность

Phi-4 14B

14B · Q4 8.4 ГБ · мин. VRAM 24 ГБ · reasoning, математика, кодинг

GLM-4.7-Flash 30B-A3B MoE 3B

30B (MoE) · Q4 18 ГБ · мин. VRAM 32 ГБ · агентные задачи, кодинг, reasoning

MiniCPM-V 4.5 8B

8.7B · Q4 5.2 ГБ · мин. VRAM 12 ГБ · зрение (vision), мультимодальность

Ministral 3 8B

8.4B · Q4 5 ГБ · мин. VRAM 12 ГБ · чат, кодинг, зрение (vision)

Gemma 4 26B-A4B MoE 4B

26B (MoE) · Q4 15.6 ГБ · мин. VRAM 24 ГБ · чат, кодинг, мультимодальность

Yi-1.5 34B Chat

34B · Q4 20.4 ГБ · мин. VRAM 24 ГБ · чат, RU-задачи, перевод, долгий контекст (32K)