Подбор модели

Какая нейросеть подойдёт твоему компьютеру

Локальные модели ИИ занимают от 500 МБ до сотен гигабайт памяти — в зависимости от размера. Слишком тяжёлая модель для твоего железа будет зависать или не запустится вовсе. Выбери свою видеокарту из списка или подвинь ползунок — калькулятор сразу подскажет, какая модель реально потянется.

8 ГБ
Видеокарта не выбрана — считаем по оперативной памяти

Похоже, тебе подойдёт Gemma 4 E4B (~4B active (MoE))

Рекомендуем
Gemma 4 E4B
~4B active (MoE) · Q4_K_M · 4.98 ГБ
MoE-модель: активных параметров меньше, но в память грузится вся модель целиком
Если готов рискнуть
Qwen3.5 9B
9B · Q4_K_M · 5.68 ГБ

На процессоре модель работает заметно медленнее, чем на видеокарте — для коротких рутинных запросов это не критично, для долгих диалогов может раздражать.

Скачать Доку

Все модели в каталоге

Данные — реальные размеры GGUF-квантов (Q4_K_M) с HuggingFace, а не оценки на глаз.

МодельПараметрыВес файлаНужно памятиТир
Qwen3.5 0.8B0.8B0.53 ГБ2.1 ГБочень слабое железо
Llama 3.2 1B Instruct1B0.81 ГБ2.5 ГБочень слабое железо
Qwen3.5 2B2B1.28 ГБ3 ГБслабое
Llama 3.2 3B Instruct3B2.02 ГБ3.9 ГБслабое
Phi-4 mini Instruct3.8B2.49 ГБ4.5 ГБсреднее
Qwen3.5 4B4B2.74 ГБ4.8 ГБсреднее
Gemma 4 E2B~2B active (MoE)3.11 ГБ5.2 ГБсреднее
Mistral 7B Instruct v0.37B4.37 ГБ6.7 ГБсреднее
Gemma 4 E4B~4B active (MoE)4.98 ГБ7.5 ГБсреднее
Qwen3.5 9B9B5.68 ГБ8.3 ГБмощное
GigaChat3.1 10B A1.8B10B (1.8B active, MoE)6.47 ГБ9.3 ГБмощное
Gemma 4 12B12B7.12 ГБ9.9 ГБмощное
Mistral Nemo 12B Instruct12B7.48 ГБ10.5 ГБмощное
Phi-4 14B14B9.05 ГБ12.4 ГБмощное
Gemma 4 26B A4B26B (4B active, MoE)16.95 ГБ21.8 ГБтоповое

Эти модели в локальный подбор не входят

Даже младший вменяемый квант не помещается в потребительское железо — доступны через Doka Cloud.

  • DeepSeek V4 FlashМладший вменяемый квант (IQ2_XXS, уже заметная потеря качества) — 86,7 ГБ. Более лёгкие файлы в репозитории (3,8–6 ГБ) — это MTP/draft-модули, а не полная модель.
  • Llama 4 Scout 17B-16EMoE с 16 экспертами — даже младший квант (TQ1_0, экстремальная потеря качества) весит 29,3 ГБ. Название «17B» — активные параметры, реальный вес на диске в разы больше.

Частые вопросы

Насколько точен калькулятор?

Мы берём официальный объём видеопамяти по модели карты — это фиксированное число производителя, тут гадать не приходится. Точность зависит от того, насколько верно ты выбрал модель (и, если есть версии с разным VRAM — например, RTX 4060 Ti на 8 или 16 ГБ — верную из них). У каждой модели в каталоге уже заложен запас на служебные нужды ОС и контекст диалога, рекомендация не впритык.

Можно ли запускать нейросеть без видеокарты?

Да — на встроенной графике или вообще без GPU модель считается на процессоре. Это работает медленнее, но для лёгких моделей (1–4B параметров) вполне пригодно для повседневных задач. Выбери «Нет видеокарты» и укажи объём оперативной памяти ползунком.

Что такое MoE и почему активных параметров меньше, а памяти нужно как для полной модели?

MoE (mixture-of-experts) — архитектура, где на каждый токен активна только часть весов, поэтому считается быстрее. Но все веса всё равно должны целиком поместиться в память — MoE экономит скорость, а не объём ОЗУ или видеопамяти.

Почему в калькуляторе нет DeepSeek или Llama 4 Scout?

Обе модели даже в самом лёгком практически пригодном кванте весят от 30 до 90+ гигабайт — заведомо больше памяти любого потребительского компьютера. Использовать их можно через облачного провайдера в Доке, но не локально.

У меня Mac — как считать?

На Apple Silicon (M1–M4) память единая для процессора и видеочасти — отдельного лимита VRAM нет, вся оперативная память доступна модели. Выбери «Нет видеокарты» и подвинь ползунок на объём RAM своего Mac (обычно 8, 16, 24 или 32 ГБ).

Как выбрать модель в Доке — облачные и локальныеКакая видеокарта нужна для локальных нейросетей