Видеокарты для локальных LLM
Что важно для LLM: VRAM (влезут ли модель + контекст) и пропускная способность памяти (скорость tok/s). Нажмите на карту — увидите, какие модели из каталога влезут и с какой скоростью.
RTX 3060 12GB
12 GB GDDR6 · 360 GB/s · Ampere (GA106)
от ~45 000 ₽
RTX 4060 8GB
8 GB GDDR6 · 320 GB/s · Ada Lovelace (AD107)
от ~42 000 ₽
RTX 4060 Ti 16GB
16 GB GDDR6 · 360 GB/s · Ada Lovelace (AD106)
от ~55 000 ₽
RTX 4070 12GB
12 GB GDDR6 · 504 GB/s · Ada Lovelace (AD104)
от ~64 000 ₽
RTX 4070 Super 12GB
12 GB GDDR6 · 504 GB/s · Ada Lovelace (AD104)
от ~72 000 ₽
RTX 4080 16GB
16 GB GDDR6X · 717 GB/s · Ada Lovelace (AD102)
от ~104 000 ₽
RTX 4090 24GB
24 GB GDDR6X · 1008 GB/s · Ada Lovelace (AD102)
от ~140 000 ₽
RX 7900 XT 20GB
20 GB GDDR6 · 800 GB/s · RDNA 3 (Navi 320)
от ~85 000 ₽
RX 7900 XTX 24GB
24 GB GDDR6 · 960 GB/s · RDNA 3 (Navi 310)
от ~110 000 ₽
Intel Arc A770 16GB
16 GB GDDR6 · 512 GB/s · Xe-HPG (ACM-G10)
от ~35 000 ₽
Apple M1 16GB (unified)
16 GB unified · 68 GB/s · Apple M1 (5nm)
от ~65 000 ₽
Apple M2 24GB (unified)
24 GB unified · 100 GB/s · Apple M2 (5nm)
от ~130 000 ₽