Jan AI: локальная замена ChatGPT и её потолок

Jan часто советуют тем, кто хочет «ChatGPT, но у себя». Формулировка точная: приложение ставится как обычная программа, скачивает модель с Hugging Face и открывает знакомое окно чата. Никакого терминала, никакого Docker.

Стоит понимать, что вместе с интерфейсом ChatGPT наследуется и его формат работы. А формат здесь ограничивает сильнее, чем размер модели.

Что это такое

Jan — приложение с открытым кодом под лицензией Apache 2.0, для Windows, macOS и Linux. Разработчики называют его offline-first: модель качается один раз и дальше работает без интернета.

Что внутри:

• загрузка и запуск моделей с Hugging Face — Llama, Gemma, Qwen и другие;
• подключение облачных провайдеров, если локальной модели не хватает: OpenAI, Anthropic, Mistral, Groq;
• собственные ассистенты с заданными инструкциями под конкретные задачи;
• локальный OpenAI-совместимый сервер на localhost:1337;
• поддержка MCP для агентских сценариев.

Формулировка про приватность у них честная и стоит того, чтобы её процитировать: всё работает локально, когда ты этого хочешь. Не «всегда локально», а «когда захочешь» — потому что рядом лежит кнопка подключения облака.

Кому подойдёт

Если задача звучит как «хочу спрашивать модель, не отправляя вопросы в чужое облако», Jan закрывает её почти без настройки. Ставится за пять минут, модель выбирается из каталога внутри приложения, дальше просто чат.

Сервер на localhost:1337 — вторая сильная сторона. Любая программа, умеющая работать с OpenAI API, подключается к Jan сменой одного адреса. Это делает его удобной подложкой для своих скриптов, примерно как Ollama или LM Studio.

Где начинается потолок

Jan — приложение для разговора. Ты пишешь вопрос, читаешь ответ, копируешь нужное к себе. И это работает ровно до тех пор, пока результат помещается в сообщение.

Дальше начинаются задачи, где ответа мало. Разобрать папку с сорока договорами и свести их в таблицу. Пройти по проекту, найти падающий тест и починить. Каждый понедельник собирать сводку из свежих выгрузок. Здесь нужно, чтобы кто-то открывал файлы, запускал команды, проверял результат и возвращался к плану, если шаг не удался.

MCP частично закрывает разрыв: инструменты у модели появляются. Но между «модель может вызвать инструмент» и «программа доводит задачу до конца» лежит вся агентская механика — план, проверка, повтор при ошибке. В чате её нет по устройству.

Jan или Дока

Разница не в качестве и не в наборе галочек, а в том, кто выполняет работу.

В Jan работу выполняешь ты, а модель консультирует. Спросил, как переписать функцию, получил текст, вставил в редактор сам. Спросил, что не так с договором, получил описание, правишь руками.

Дока выполняет работу сама. Это десктопный агент: он читает и меняет файлы там, где они лежат, работает в терминале, подключает MCP-серверы как часть процесса и умеет расписания. Локальная модель тоже скачивается внутри приложения, так что в этой части путь такой же короткий.

Сравнение по-честному выглядит так. Если тебе нужен приватный собеседник — Jan хороший выбор, он бесплатный и открытый, и ставить что-то другое незачем. Если ты ловишь себя на том, что переносишь ответы из чата в файлы руками по нескольку раз в день, ты платишь за формат чата своим временем. Дока убирает именно этот перенос.

Что попробовать для проверки

Возьми свою реальную задачу, а не тестовый вопрос. Что-то вроде «переименуй файлы в этой папке по дате из содержимого» или «найди во всех отчётах строки с превышением лимита».

В чате такая задача превращается в диалог из десяти сообщений и ручную работу после. У агента она либо выполняется, либо честно падает с понятной ошибкой. Разницу видно сразу, и она больше, чем разница между моделями.