Что это
Ollama — инструмент с открытым исходным кодом для запуска больших языковых моделей на своём компьютере: macOS, Windows, Linux, есть Docker-образ. Модель скачивается и запускается одной командой в терминале, доступен REST API, а также библиотеки для Python и JavaScript для встраивания в собственные скрипты и приложения. Поддерживается большой список открытых моделей (Llama, Qwen, DeepSeek, Gemma, Mistral и другие) и более сотни сторонних интеграций: чат-интерфейсы (Open WebUI, LibreChat), редакторы кода и расширения (Continue, Cline), фреймворки для агентов и RAG (LangChain, crewAI).
Для участника клуба это способ поднять LLM без подписок и без утечки данных за пределы своего компьютера или сервера: удобно для тестирования промптов, локальных агентов в связке с n8n через HTTP-запросы к локальному API, обработки чувствительных документов, а также как дешёвая база для вайб-кодинга и экспериментов с разными открытыми моделями без затрат на облачные API. Отдельно есть облачная надстройка Ollama Cloud для доступа к более крупным моделям на стороннем железе, если ресурсов своего компьютера не хватает.
Возможности
- Установка и запуск модели одной командой в терминале (ollama run имя_модели)
- Работает офлайн, данные и промпты не покидают локальную машину
- REST API на локальном хосте для интеграции с любыми языками и no-code инструментами вроде n8n
- Официальные библиотеки для Python и JavaScript
- Поддержка десятков открытых моделей: Llama, Qwen, DeepSeek, Gemma, Mistral и другие
- Кроссплатформенность: macOS, Windows, Linux, Docker-образ для серверного развёртывания
- Более 100 сторонних интеграций: Open WebUI, LibreChat, Continue, LangChain, crewAI и другие
- Опциональное облачное расширение Ollama Cloud для запуска более тяжёлых моделей на чужом железе
Цена: Сама программа Ollama и локальный запуск моделей бесплатны и с открытым кодом. Отдельно есть облачные тарифы Ollama Cloud поверх бесплатного уровня: платные планы Pro и Max с расширенными лимитами на количество одновременных облачных моделей и объём использования, точные цены менялись, поэтому конкретные суммы не приводятся
Разбираем в материалах Академии
