Разбор десктопной версии AnythingLLM: рабочие пространства и RAG, агентские навыки и MCP, чего в Desktop нет по сравнению с серверной версией и от чего на самом деле зависит приватность.

AnythingLLM — одно из немногих локальных ИИ-приложений, которое ставится как обычная программа и сразу умеет отвечать по твоим документам. Разработчики описывают десктопную версию как однопользовательское приложение для Mac, Windows и Linux с локальными моделями, RAG и агентами «с нулевой настройкой».

Формулировка про нулевую настройку почти честная. Потолок у формата тоже есть, и он не там, где его обычно ищут.

Как это устроено

Центральное понятие в AnythingLLM — рабочее пространство. Ты создаёшь пространство, кидаешь туда документы, и приложение разбивает их на фрагменты, считает эмбеддинги и складывает в векторную базу. Дальше твой вопрос ищется по этой базе, найденные куски подставляются модели в контекст, и она отвечает со ссылкой на источник.

Это классический RAG, и он же — главная причина ставить AnythingLLM. Как схема работает изнутри, разбираем в статье про локальный RAG.

Модель приложение не навязывает: подключается любой провайдер, локальный или облачный. Эмбеддер и векторная база встроены, так что для старта ничего доустанавливать не нужно.

Что есть в десктопной версии

Набор заявленного шире, чем ожидаешь от однопользовательского приложения. Документы остаются на устройстве, подключается любая векторная база и любая LLM, эмбеддер идёт встроенный. Сверху — агентские навыки: поиск по базе знаний, работа с веб-страницами, построение графиков, запросы к SQL, сохранение файлов. Есть расшифровка речи через Whisper, сторонние коннекторы данных и API для своих интеграций.

MCP тоже поддерживается. Конфигурация лежит в файле anythingllm_mcp_servers.json в папке plugins внутри хранилища приложения и создаётся автоматически при первом обращении. Внутри есть панель управления серверами: запустить, остановить, перезапустить, посмотреть журнал ошибок. Что такое MCP и зачем он нужен — в отдельном разборе.

Чего в Desktop нет

Разработчики прямо перечисляют, что доступно только в серверной версии:

несколько пользователей;
управление пользователями и правами доступа к пространствам;
защита паролем;
встраиваемые виджеты чата на сайт.

Логика понятна: Desktop сознательно сделан однопользовательским. Для личной работы это не ограничение, а упрощение. Но если ты рассчитывал поставить приложение на рабочую машину и дать доступ коллегам, десктопная версия не подойдёт — нужен серверный вариант в Docker, а это уже другая история с администрированием.

Про приватность: от чего она на самом деле зависит

Формулировка «полная приватность» в описании относится к архитектуре: документы и векторная база лежат на твоей машине. Это правда.

Но приватность связки определяется не только этим. AnythingLLM позволяет подключить любую модель — и если ты выберешь облачного провайдера, содержимое документов уйдёт вместе с запросом. Тот же принцип действует для агентских навыков: разбор сайта и поиск по вебу обращаются наружу по определению, а сторонние коннекторы ходят в те сервисы, к которым их подключили.

◆

Локальным приложение делает не название, а сумма выборов: локальная модель, локальный эмбеддер и отключённые навыки, которые ходят в сеть. Проверять стоит всю цепочку, а не галочку «работает локально».

Это не претензия к AnythingLLM — так устроен любой инструмент такого класса, включая LM Studio и десктопных агентов. Просто стоит понимать, за что именно ты платишь спокойствием.

Где проходит граница формата

AnythingLLM отвечает на вопрос «что написано в моих документах». Отвечает хорошо: цитаты, источники, несколько пространств под разные проекты, приличная скорость на локальной модели.

Дальше начинается другой класс задач, и здесь центр тяжести приложения работает против тебя. Всё в AnythingLLM крутится вокруг базы знаний: чтобы агент что-то знал, это надо сначала загрузить в пространство и проиндексировать. Задачи вида «пройди по папке проекта, найди устаревшие файлы и перепиши их», «запусти тесты и почини то, что упало», «каждый понедельник собирай сводку из выгрузок» лежат вне этой модели. Они про машину, а не про базу знаний.

Дока начинается ровно там, где RAG заканчивается. Это не чат поверх индекса, а агент, который работает с файловой системой и терминалом напрямую: читает и меняет файлы, выполняет команды, ведёт задачу через несколько шагов и умеет работать по расписанию. Документы при этом никуда предварительно загружать не нужно — агент открывает их там, где они лежат.

Что выбрать

Если задача звучит как «у меня двести PDF, хочу спрашивать по ним» — AnythingLLM Desktop хороший выбор, и ставится он за десять минут.

Если задача звучит как «хочу поручить работу, а не задать вопрос» — RAG-приложение придётся обвешивать скриптами, и проще взять инструмент, который изначально устроен как исполнитель. Дока работает с документами и таблицами тоже, но не требует загонять их в индекс, чтобы начать. Скачать можно бесплатно и сравнить на своей же папке с файлами — это честнее любого сравнения по списку функций.

AnythingLLM Desktop: что умеет и где заканчивается чат по документам