Полное руководство по Ollama: запуск локальных LLM одной командой [2026]

Ollama — это бесплатный инструмент с открытым исходным кодом для запуска открытых LLM (больших языковых моделей) на собственном компьютере. Он работает в Windows, macOS и Linux, а одна строка ollama run имя-модели проводит вас от загрузки модели до диалога с ней. Пока Ollama запущена, на localhost:11434 работает API-сервер, так что к ней могут обращаться ваши приложения и инструменты вроде Claude Code. Помимо моделей, работающих на вашем компьютере, теми же командами теперь запускаются и облачные модели, имя которых заканчивается на :cloud.

Это руководство посвящено работе с самой Ollama и сверено с исходным текстом официального репозитория на GitHub (включая исходный код), официальной документации и страницы с ценами (по состоянию на 12 ноября 2026 года). О локальных LLM в целом читайте в статье как начать работу с локальной LLM, о выборе модели — в нашем сравнении лучших локальных LLM, о расчёте нужного объёма VRAM — в статье о требованиях к железу, а о подключении модели к редактору — в статье про Ollama + Cline.

1. Что такое Ollama? Два способа запуска: локально и в облаке

Ollama — это бесплатный инструмент с открытым исходным кодом, который позволяет легко запускать открытые модели (Gemma, Qwen, gpt-oss и другие) на собственном ПК. Всю рутину — загрузку моделей, работу с форматами квантования, настройку использования GPU — он берёт на себя в фоне, а вам остаётся лишь «назвать модель и запустить её». Инференс построен на llama.cpp, а на компьютерах Mac с Apple Silicon у части моделей есть ещё и версии, работающие на Apple MLX.

Запустить модель можно двумя способами, и от выбора полностью зависят нужный компьютер и расходы.

Похожий инструмент — LM Studio. Если грубо: Ollama — вокруг команд и API, для разработчиков, автоматизации и подключения агентов; LM Studio — вокруг графического интерфейса, для тех, кто хочет пройти путь от поиска модели до диалога в одном окне. Оба бесплатны. Сами различия между локальным и облачным вариантами (стоимость, производительность, приватность) разобраны в нашем сравнении локальных и облачных LLM.

2. Как установить Ollama (Windows / macOS / Linux / Docker)

На официальной странице загрузки и в README на GitHub для каждой ОС есть два пути: однострочная команда для терминала или ручной установщик. Результат одинаковый.

Windows

Если не хотите пользоваться командами, скачайте OllamaSetup.exe со страницы загрузки и запустите. Согласно официальной странице для Windows, по умолчанию программа ставится в папку пользователя, а модели могут занять ещё от десятков до сотен гигабайт. Если на диске C: мало места, папку установки можно сменить через OllamaSetup.exe /DIR="d:\some\location", а место хранения моделей — через переменную окружения OLLAMA_MODELS (раздел 9). После установки Ollama работает в фоне, и команда ollama доступна как в cmd, так и в PowerShell.

macOS

Для ручной установки откройте Ollama.dmg и перетащите приложение в папку «Программы». При первом запуске, если команды ollama нет в PATH, приложение попросит разрешения создать ссылку в /usr/local/bin (официальная страница для macOS).

Linux

Ручная установка без скрипта и дополнительный пакет для GPU AMD описаны на официальной странице для Linux. В Linux нет приложения, как в Windows и macOS: Ollama используется через команды и API.

Docker

Официальный образ ollama/ollama лежит на Docker Hub. Минимальный запуск только на CPU выглядит так. Для GPU NVIDIA установите NVIDIA Container Toolkit и добавьте --gpus=all, для GPU AMD используйте образ ollama/ollama:rocm (официальная страница Docker). Docker Desktop на macOS не умеет работать с GPU (официальный FAQ), поэтому на Mac быстрее установить приложение напрямую.

docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama
docker exec -it ollama ollama run gemma4:e2b

3. Будет ли быстро на вашей видеокарте? (поддерживаемые GPU коротко)

Если Ollama не может использовать вашу видеокарту, она переключается на CPU: ошибки вы не увидите, но всё станет в разы медленнее. Перед установкой проверьте, есть ли ваш GPU на официальной странице Hardware support. Главное — в таблице.

Чтобы узнать, попала ли модель на GPU на самом деле, выполните ollama ps, пока она загружена. Если в столбце PROCESSOR указано 100% GPU, модель целиком на видеокарте; разбивка вроде 48%/52% CPU/GPU означает, что она не поместилась в VRAM (официальный FAQ). Что уменьшать при такой разбивке, показано в таблице раздела 9. Оценки VRAM для разных GPU — в нашей статье о требованиях к железу.

4. Список команд Ollama

В таблице собраны команды из официального справочника по CLI и те, что определены в исходном коде (cmd/cmd.go). В повседневной работе вам понадобятся в основном первые шесть.

У ollama run есть полезные параметры. С --verbose после каждого ответа выводятся затраченное время и число токенов в секунду (eval rate), так что скорость при смене модели или тега можно сравнивать в цифрах. --think=false отключает вывод рассуждений у моделей, которые их показывают, --format json заставляет отвечать в JSON, а --keepalive 30m меняет время, в течение которого модель остаётся в памяти. Моделям, понимающим изображения, достаточно указать путь к файлу прямо в запросе, например ollama run gemma4 "Что на этой картинке? ./photo.png".

Во время диалога (после приглашения >>>) доступны специальные команды, начинающиеся с /. /bye завершает диалог, /? выводит их список, /clear очищает контекст беседы, а /set parameter num_ctx 8192 сразу меняет длину контекста. Чтобы ввести несколько строк за раз, заключите их в """.

5. Как скачивать модели и читать теги

Модель указывается как имя + тег. Если тег опустить, используется latest, но на какой размер указывает latest, у каждой модели по-своему. Если ставить не глядя, может скачаться версия куда больше ожидаемой. На примере официального списка тегов gemma4 таблица показывает, как их читать (по состоянию на 12 ноября 2026 года).

Размеры указаны диапазоном, потому что в одном теге лежит несколько форматов и выбирается тот, что подходит вашему компьютеру. У latest модели gemma4 нижняя граница 6,6 ГБ совпадает с e4b-it-q4_K_M, а верхняя 9,5 ГБ — с e4b-mlx. Если сомневаетесь, берите тег без суффикса (например, gemma4:e4b) — Ollama сама выберет подходящий формат. Сами форматы квантования (как читать Q4_K_M в GGUF и т. п.) разобраны в нашей статье о форматах квантования.

Значения VRAM ориентировочные: размер модели плюс запас на беседу (контекст). Официальное краткое руководство тоже рекомендует для gemma4:e2b (около 7,2 ГБ в формате, который ставится по умолчанию) «8 ГБ VRAM (на Mac — общей памяти)». После установки ollama show gemma4 покажет число параметров, квантование и длину контекста.

6. Работа через интерфейс (приложение Ollama, Open WebUI и другие)

Если терминал — не ваше, начните с собственного приложения Ollama. В версиях для Windows и macOS есть окно, где можно выбрать модель и общаться с ней (официальный пост в блоге «Ollama's new app»). В Linux приложения нет, поэтому используйте один из интерфейсов ниже.

7. Облачные модели и цены

Если ваша видеокарта не тянет крупную модель, можно тем же способом пользоваться облачными моделями, которые работают на серверах Ollama. Войдите в ollama.com командой ollama signin и укажите имя с :cloud, например ollama run gemma4:cloud. Скачивать ничего не нужно (официальная страница Cloud). Тарифы такие (страница с ценами, на 12 ноября 2026 года).

Использование считается по цене каждой модели за миллион токенов. Облачная версия gemma4, например, стоит $0,14 за ввод и $0,40 за вывод. При 1 миллионе токенов на вводе и 200 тысячах на выводе выходит 0,14 + 0,40 × 0,2 = около $0,22. В таком соотношении $60 тарифа Pro хватает примерно на 270 подобных прогонов в месяц (60 ÷ 0,22). Неиспользованный остаток на следующий месяц не переносится. Модели на вашем компьютере на любом тарифе работают без ограничений и бесплатно.

8. Работа с API (совместимость с OpenAI и Anthropic)

Главная сила Ollama — локальный API. По умолчанию сервер слушает 127.0.0.1:11434; отправляйте туда запросы, и ваши приложения, скрипты и инструменты смогут пользоваться локальной LLM. Есть три формата запросов.

/api/chat (передача истории диалога)

curl http://localhost:11434/api/chat -d '{
  "model": "gemma4",
  "messages": [{
    "role": "user",
    "content": "Why is the sky blue?"
  }],
  "stream": false
}'

Ответ находится в message.content. Если убрать "stream": false, ответ будет приходить по частям в виде строк JSON (потоковая передача включена по умолчанию). Для одиночного ответа можно также отправить "prompt" на /api/generate. Пример выше написан для оболочек macOS и Linux; PowerShell в Windows обрабатывает кавычки иначе, поэтому используйте эту форму с официальной страницы для Windows (изменено только имя модели).

(Invoke-WebRequest -method POST -Body '{"model":"gemma4", "prompt":"Why is the sky blue?", "stream": false}' -uri http://localhost:11434/api/generate ).Content | ConvertFrom-json

Совместимый с OpenAI (/v1)

В официальной библиотеке OpenAI достаточно направить base_url на Ollama. Согласно официальной документации, на локальном сервере API-ключ «обязателен, но игнорируется», так что подойдёт любая строка.

from openai import OpenAI

client = OpenAI(
    base_url='http://localhost:11434/v1/',
    api_key='ollama',  # required but ignored
)

chat_completion = client.chat.completions.create(
    messages=[{'role': 'user', 'content': 'Say this is a test'}],
    model='gemma4',
)
print(chat_completion.choices[0].message.content)

Совместимый с Anthropic (подключение Claude Code)

На официальной странице о совместимости с Anthropic для инструментов, рассчитанных на API Anthropic, предлагается задать две переменные окружения. Даже не задавая их вручную, можно запустить Claude Code уже подключённым через ollama launch claude.

export ANTHROPIC_AUTH_TOKEN=ollama  # required but ignored
export ANTHROPIC_BASE_URL=http://localhost:11434

Оба слоя совместимости поддерживают лишь часть исходных API. Например, формат Responses не хранит состояние, поэтому историю диалога приходится отправлять каждый раз. Если вы используете локальную модель с агентом для программирования, ключевой становится длина контекста из следующего раздела.

9. Настройка (Modelfile, переменные окружения, настройка памяти)

Modelfile: собственная модель

Modelfile — это файл настроек, очень похожий на Dockerfile. Берёте базовую модель (FROM, обязательно), добавляете параметры (PARAMETER) и системный промпт (SYSTEM) — и получаете «свою модель», которая всегда ведёт себя одинаково. Минимальный пример:

FROM gemma4
PARAMETER temperature 0.7
PARAMETER num_ctx 16384
SYSTEM """Ты лаконичный ассистент. Начинай с главного и отвечай по-русски."""

Сохраните это в файл с именем Modelfile и выполните в той же папке следующее. Если указать num_ctx в Modelfile, длина контекста увеличится только для этой модели, без изменения значения по умолчанию для всего сервера.

ollama create my-assistant -f Modelfile
ollama run my-assistant

ollama show --modelfile gemma4 показывает Modelfile существующей модели. Скопировать его и переделать — самый быстрый путь.

Основные переменные окружения

Поведение сервера настраивается переменными окружения. Полный список выводит ollama serve --help. Ниже самые ходовые, со значениями по умолчанию из исходного кода (envconfig/config.go) и официального FAQ.

Способ задания зависит от ОС (официальный FAQ). В Windows закройте Ollama через панель задач, добавьте пользовательскую переменную в настройках переменных окружения и снова запустите Ollama из меню «Пуск». В macOS задайте её, например, так: launchctl setenv OLLAMA_HOST "0.0.0.0:11434" — и перезапустите приложение. В Linux (при запуске через systemd) порядок такой:

systemctl edit ollama.service
# в разделе [Service] по строке на переменную
# Environment="OLLAMA_HOST=0.0.0.0:11434"
systemctl daemon-reload
systemctl restart ollama

Настройка при нехватке памяти или длинном контексте

При VRAM меньше 24 ГиБ длина контекста по умолчанию — всего 4k (около 4000 токенов). Официальная страница Context length рекомендует для веб-поиска, агентов и инструментов программирования не меньше 64 000 токенов. Если контекста не хватает, модель молча забывает начало, поэтому в таблице собраны настройки под каждую задачу — чтобы можно было идти от симптома.

После изменений проверьте через ollama ps, что в столбце CONTEXT нужная длина, а PROCESSOR по-прежнему показывает 100% GPU. Как длина контекста переводится в память, рассчитано в нашей статье о требованиях к железу, а симптомы агента, которому не хватает контекста, описаны в статье про Ollama + Cline.

10. Решение проблем

Частые затруднения и решения из официального FAQ и страницы Troubleshooting.

Итоги

Ollama запускает открытые модели на вашем компьютере или в облаке одними и теми же действиями. Четыре вывода:

• Проверьте GPU до установки: NVIDIA нужна Compute Capability 5.0 и выше, AMD — список ROCm v7 или Vulkan, Mac — чип Apple M-серии. После запуска убедитесь, что ollama ps показывает 100% GPU.
• Читайте тег, прежде чем выбирать: содержимое latest зависит от модели. Смотрите на число размера (e2b, 12b, 31b), а если сомневаетесь — берите тег без суффикса.
• Задавайте длину контекста сами: при VRAM меньше 24 ГиБ по умолчанию стоит 4k. Агентам рекомендуется не меньше 64k; память можно отыграть квантованием K/V-кеша.
• Подключайте инструменты через API и launch: API, совместимые с OpenAI и Anthropic, и ollama launch позволяют работать из своих приложений и Claude Code. Тяжёлые модели — через :cloud.

Начните с того, что откройте приложение или введите ollama run gemma4:e2b. Лучше всего учиться, держа его запущенным и разбираясь по ходу в отличиях от облака и выборе модели. Если хотите пойти дальше и подключить модель к редактору, чтобы она писала код, настройка Cline и Continue описана в статье программирование с локальной LLM.

FAQ