LM Studio не видит видеокарту: runtime, GPU Offload и драйвер

В LM Studio видеокарту использует не само приложение, а runtime — движок, на котором запускается модель. Для GGUF-моделей это сборка llama.cpp, и сборок несколько: под CUDA, Vulkan, ROCm, CPU, на Mac — Metal и MLX. Если выбран CPU-движок или ползунок выгрузки на видеокарту стоит на нуле, модель будет считаться на процессоре. И неважно, какая у тебя видеокарта.

Ниже порядок проверки: от самой частой причины к редким.

1. Видит ли LM Studio карту вообще

Открой настройки (значок шестерёнки) → раздел Hardware. Там список найденных устройств и объём их памяти.

• Карта есть в списке — значит, дело в выборе движка или в настройках загрузки, пункты 2–3.
• Карты нет или показана только встроенная графика — драйвер или выбор GPU на ноутбуке, пункты 4–5.

2. Выбран не тот runtime

Раздел Runtime в тех же настройках. Для GGUF там выбирается движок:

Видеокарта	Какой движок выбрать
NVIDIA	CUDA llama.cpp (если их два, бери более новую CUDA при свежем драйвере)
AMD Radeon	Vulkan llama.cpp, на поддерживаемых картах — ROCm llama.cpp
Intel Arc и встроенная графика	Vulkan llama.cpp
Mac на Apple Silicon	Metal llama.cpp или MLX для MLX-моделей

Если нужного движка нет в списке, его можно скачать прямо на этой вкладке. Частая история после обновления: LM Studio подтянула новую версию движка, а выбранной осталась CPU-сборка.

3. GPU Offload стоит на нуле

Даже с CUDA-движком модель может целиком грузиться в оперативную память. При загрузке модели открой параметры (шестерёнка рядом с выбором модели) и найди GPU Offload. Это число слоёв, которые уходят на видеокарту.

• 0 — всё на процессоре.
• Максимум — модель целиком в VRAM, самый быстрый вариант.
• Где-то посередине — часть слоёв на GPU, часть на CPU. Работает, но медленнее.

Если ползунок неактивен (серый), почти всегда не установлен или не выбран GPU-движок из пункта 2. Если на максимуме модель не загружается, она не влезает в видеопамять: возьми квантизацию легче или уменьши контекст. Про это — в статье LM Studio не загружает модель.

4. Ноутбук выбрал встроенную графику

На ноутбуках с Intel или AMD плюс NVIDIA Windows сама решает, какой GPU отдать программе. Задай это явно: «Параметры → Система → Дисплей → Графика», добавь LM Studio и выбери «Высокая производительность». На NVIDIA то же можно сделать в «Панели управления NVIDIA» → «Управление параметрами 3D» → «Программные настройки». После этого полностью закрой LM Studio, включая значок в трее, и запусти снова.

5. Драйвер

CUDA Toolkit для LM Studio не нужен, но нужен свежий драйвер видеокарты: новые CUDA-движки требуют новых драйверов. Проверить версию на NVIDIA:

nvidia-smi

В правом верхнем углу будет Driver Version и максимальная поддерживаемая CUDA Version. Если драйвер старый, обнови его с сайта NVIDIA или AMD, а не через «Диспетчер устройств»: тот часто ставит урезанную версию без вычислительных библиотек.

AMD: отдельный случай

ROCm на Windows поддерживает ограниченный список карт, в основном Radeon RX 7000-й серии. Остальные Radeon работают через Vulkan, и это нормальный рабочий вариант, а не «запасной». Если на Vulkan модель выдаёт мусор или повторяющиеся символы, а на CPU отвечает нормально, дело в версии движка. Попробуй другую версию Vulkan llama.cpp во вкладке Runtime. Такие регрессии в баг-трекере LM Studio встречаются.

Как убедиться, что заработало

Загрузи модель и задай вопрос. Внизу ответа LM Studio показывает скорость в токенах в секунду. На видеокарте модель 7–8B в Q4 обычно выдаёт десятки токенов в секунду, на процессоре — единицы. Дополнительно можно открыть nvidia-smi -l 1 или «Диспетчер задач → Производительность → GPU» и посмотреть, растёт ли загрузка и занята ли видеопамять.

Если надоело подбирать движки

LM Studio даёт полный контроль, но платить за него приходится ручной настройкой. В Доке движок и модель подбираются под твою видеокарту при установке, и локальная модель сразу работает как агент: читает файлы, запускает команды, ищет в папке. Если LM Studio уже настроена, к ней можно подключиться из Доки по API. Разница между LM Studio и Ollama разобрана в отдельном сравнении, а прикинуть, какая модель влезет в твою карту, можно в калькуляторе.