GigaChat локально на компьютере — без облака, аккаунта и интернета
Как запустить GigaChat от Сбера прямо на своём компьютере — без облачного API, регистрации и передачи данных наружу. Разбираем локальные модели GigaChat в десктоп-агенте Дока.
Обычно GigaChat — это облако Сбера: запрос уходит на их серверы, нужен аккаунт и доступ к API. Но у GigaChat есть открытые версии, которые можно запустить прямо на своём компьютере — без интернета, без регистрации и без того, чтобы твои данные куда-то уезжали. Дальше — как это сделать.
Зачем GigaChat локально
Причина одна и весомая — приватность. Когда модель работает на твоей машине:
- Ни один документ, вопрос или кусок кода не покидает компьютер.
- Не нужен аккаунт, токен и подключение к сети — работает даже офлайн.
- Нет лимитов и оплаты по количеству запросов.
Для чувствительных данных — договоров, внутренних таблиц, персональной информации — это принципиально другая история, чем чат в облаке.
Что нужно от железа
Локальная модель живёт в оперативной памяти, поэтому главное требование — RAM. В Доке доступен каталог моделей GigaChat трёх размеров:
| Модель | Размер | Нужно RAM |
|---|---|---|
| GigaChat3 10B (лёгкий) | ~4.7 ГБ | 8 ГБ |
| GigaChat3.1 10B | ~6.5 ГБ | 16 ГБ |
| GigaChat 20B v1.5 | ~12.5 ГБ | 32 ГБ |
Чем больше памяти — тем крупнее модель и тем она умнее. Перед скачиванием Дока сама проверит, хватает ли RAM, и не даст поставить модель, которая не влезет.
Не уверен, потянет ли твой ноутбук? Начни с лёгкой 10B — ей достаточно 8 ГБ памяти. Переключиться на модель побольше можно в любой момент, без переустановки.
Как запустить — по шагам
- Скачай Доку и установи как обычное приложение (Windows или Mac).
- Открой экран «Модели» → вкладку «Локальные» → «Каталог».
- Выбери подходящую версию GigaChat и нажми скачать — файл загрузится один раз и запомнится между запусками.
- Активируй модель. Всё — она работает у тебя на машине, без облака.
Переключение между моделями происходит на лету, без перезапуска приложения.
А если у тебя уже есть свой .gguf-файл любой другой модели — его тоже можно
загрузить через диалог выбора файла.
А если хочется помощнее
Локальная модель отлично закрывает приватные и рутинные задачи. Но иногда нужна максимальная мощность облачной модели на разовую тяжёлую задачу. Дока не привязана к одному варианту: рядом с локальными моделями можно подключить облачные по API-ключу и переключаться между ними под задачу.
Правило простое: чувствительное — на локальной модели, тяжёлое разовое — на облачной. Выбор всегда за тобой.
В сухом остатке
GigaChat локально — тот же привычный ассистент, только работает он на твоём компьютере, а не в облаке Сбера. Аккаунт не нужен, интернет тоже. Ставишь Доку, выбираешь модель из каталога — и всё. Понадобится больше мощности на разовую задачу — рядом всегда можно подключить облачную модель.