DeepSeek или Qwen для локального запуска: что выбрать

Вопрос «DeepSeek или Qwen?» слишком широкий, пока рядом нет размеров моделей и твоего железа. Компактная Qwen на ноутбуке, серверная DeepSeek V4 и дистиллированная DeepSeek на 8 миллиардов параметров — три совершенно разных опыта. Сравнивать нужно то, что реально помещается в память одного компьютера.

Короткий вывод

Для домашнего локального запуска чаще удобнее Qwen: в семействе много размеров, проще подобрать вариант под 8, 16 или 32 ГБ памяти. DeepSeek стоит выбирать, когда нужна конкретная дистиллированная модель или есть серверное железо под большие веса.

Если речь именно про DeepSeek V4 против Qwen 3.6, преимущество Qwen для обычного ПК ещё заметнее. Даже DeepSeek V4 Flash относится к очень крупным моделям, тогда как у Qwen 3.6 есть версии на 27B и 35B-A3B. Они тоже требуют памяти, но хотя бы находятся в диапазоне мощной рабочей станции после квантования.

Почему название семейства ничего не говорит о требованиях

Размер файла зависит от числа параметров и квантования. Грубое правило для GGUF Q4: на каждый миллиард параметров нужно около 0,5–0,7 ГБ памяти плюс запас на контекст и служебные данные. Поэтому модель 7–8B обычно помещается в 8 ГБ RAM, 14B спокойнее чувствует себя при 16 ГБ, а 30B-класс просит около 24–32 ГБ и выше.

Это оценка, а не гарантия скорости. Видеопамять ускоряет генерацию, оперативная память позволяет модели хотя бы запуститься, а длинный контекст увеличивает расход.

DeepSeek: сильные модели, но внимательно к названию

Флагманские DeepSeek V4 Pro и Flash опубликованы открыто, однако для домашнего компьютера они слишком велики. В каталогах встречаются маленькие модели с DeepSeek в названии — обычно это дистилляции на архитектуре Qwen или Llama. Они передают часть подходов большой модели, но не равны облачной V4 по качеству.

Такой вариант имеет смысл для рассуждений, математики и задач, где ты уже проверил конкретную сборку. Смотри не на слово DeepSeek, а на полный идентификатор модели, размер и лицензию.

Qwen: проще подобрать под компьютер

У Qwen широкая линейка открытых моделей, включая компактные версии и отдельные варианты для кода. Для локального агента это практично: можно начать с небольшой модели, проверить вызов инструментов, а затем подняться на размер выше.

Qwen 3.6 на 27B — уже не модель для слабого ноутбука. Если у тебя 8–16 ГБ памяти, разумнее смотреть на меньшие Qwen предыдущего актуального поколения, а не пытаться любой ценой запустить номер поновее.

Как сравнить на своём железе

Возьми две модели близкого размера и одинакового уровня квантования. Затем прогони набор собственных задач: короткий ответ, длинный документ, код, вызов инструмента. Запиши скорость первого ответа, токены в секунду, пиковое потребление памяти и число ошибок. Чужой бенчмарк не покажет, как модель работает именно с твоими файлами.

В Доке можно загрузить свой .gguf или подключить Ollama и переключаться между моделями без смены рабочего процесса. Отдельная инструкция есть для DeepSeek локально и Qwen Coder.

Что выбрать

Для первого локального запуска и ограниченной памяти — Qwen подходящего размера. Для экспериментов с рассуждениями — компактная дистилляция DeepSeek, но сравнивай её с Qwen того же класса. Флагманскую DeepSeek V4 оставь API или серверу с несколькими ускорителями: наличие открытых весов ещё не делает модель домашней.