Подбор модели

Какая нейросеть подойдёт твоему компьютеру

Локальные модели ИИ занимают от 500 МБ до сотен гигабайт памяти — в зависимости от размера. Слишком тяжёлая модель для твоего железа будет зависать или не запустится вовсе. Выбери свою видеокарту из списка или подвинь ползунок — калькулятор сразу подскажет, какая модель реально потянется.

8 ГБ
Видеокарта не выбрана — считаем по оперативной памяти

Похоже, тебе подойдёт Gemma 4 E4B (~4B active (MoE))

Рекомендуем
Gemma 4 E4B
~4B active (MoE) · Q4_K_M · 4.98 ГБ
MoE-модель: активных параметров меньше, но в память грузится вся модель целиком
Если готов рискнуть
Qwen3.5 9B
9B · Q4_K_M · 5.68 ГБ

На процессоре модель работает заметно медленнее, чем на видеокарте — для коротких рутинных запросов это не критично, для долгих диалогов может раздражать.

Скачать Доку

Все модели в каталоге

Данные — реальные размеры GGUF-квантов (Q4_K_M) с HuggingFace, а не оценки на глаз.

МодельПараметрыВес файлаНужно памятиТир
Qwen3.5 0.8B0.8B0.53 ГБ≥2.1 ГБочень слабое железо
Llama 3.2 1B Instruct1B0.81 ГБ≥2.5 ГБочень слабое железо
Qwen3.5 2B★2B1.28 ГБ≥3 ГБслабое
Llama 3.2 3B Instruct3B2.02 ГБ≥3.9 ГБслабое
Phi-4 mini Instruct3.8B2.49 ГБ≥4.5 ГБсреднее
Qwen3.5 4B★4B2.74 ГБ≥4.8 ГБсреднее
Gemma 4 E2B~2B active (MoE)3.11 ГБ≥5.2 ГБсреднее
Mistral 7B Instruct v0.37B4.37 ГБ≥6.7 ГБсреднее
Gemma 4 E4B~4B active (MoE)4.98 ГБ≥7.5 ГБсреднее
Qwen3.5 9B★9B5.68 ГБ≥8.3 ГБмощное
GigaChat3.1 10B A1.8B10B (1.8B active, MoE)6.47 ГБ≥9.3 ГБмощное
Gemma 4 12B12B7.12 ГБ≥9.9 ГБмощное
Mistral Nemo 12B Instruct12B7.48 ГБ≥10.5 ГБмощное
Phi-4 14B14B9.05 ГБ≥12.4 ГБмощное
Gemma 4 26B A4B26B (4B active, MoE)16.95 ГБ≥21.8 ГБтоповое

Эти модели в локальный подбор не входят

Даже младший вменяемый квант не помещается в потребительское железо — доступны через Doka Cloud.

  • DeepSeek V4 Flash — Младший вменяемый квант (IQ2_XXS, уже заметная потеря качества) — 86,7 ГБ. Более лёгкие файлы в репозитории (3,8–6 ГБ) — это MTP/draft-модули, а не полная модель.
  • Llama 4 Scout 17B-16E — MoE с 16 экспертами — даже младший квант (TQ1_0, экстремальная потеря качества) весит 29,3 ГБ. Название «17B» — активные параметры, реальный вес на диске в разы больше.

Частые вопросы

Насколько точен калькулятор?

Мы берём официальный объём видеопамяти по модели карты — это фиксированное число производителя, тут гадать не приходится. Точность зависит от того, насколько верно ты выбрал модель (и, если есть версии с разным VRAM — например, RTX 4060 Ti на 8 или 16 ГБ — верную из них). У каждой модели в каталоге уже заложен запас на служебные нужды ОС и контекст диалога, рекомендация не впритык.

Можно ли запускать нейросеть без видеокарты?

Да — на встроенной графике или вообще без GPU модель считается на процессоре. Это работает медленнее, но для лёгких моделей (1–4B параметров) вполне пригодно для повседневных задач. Выбери «Нет видеокарты» и укажи объём оперативной памяти ползунком.

Что такое MoE и почему активных параметров меньше, а памяти нужно как для полной модели?

MoE (mixture-of-experts) — архитектура, где на каждый токен активна только часть весов, поэтому считается быстрее. Но все веса всё равно должны целиком поместиться в память — MoE экономит скорость, а не объём ОЗУ или видеопамяти.

Почему в калькуляторе нет DeepSeek или Llama 4 Scout?

Обе модели даже в самом лёгком практически пригодном кванте весят от 30 до 90+ гигабайт — заведомо больше памяти любого потребительского компьютера. Использовать их можно через облачного провайдера в Доке, но не локально.

У меня Mac — как считать?

На Apple Silicon (M1–M4) память единая для процессора и видеочасти — отдельного лимита VRAM нет, вся оперативная память доступна модели. Выбери «Нет видеокарты» и подвинь ползунок на объём RAM своего Mac (обычно 8, 16, 24 или 32 ГБ).

Как выбрать модель в Доке — облачные и локальные →Какая видеокарта нужна для локальных нейросетей →Скачать ГигаЧат на компьютер →