Основная категория

Толкование снов за 1 минуту

Опиши сон — бот подскажет значение символов и возможные смыслы.

Перейти в Telegram-бот
2026-07-29 12:55:25

Как установить Ollama на Windows, macOS и Linux

Содержание

Ollama — это программа для запуска языковых моделей непосредственно на компьютере. С её помощью можно установить локальную нейросеть, общаться с ней через терминал, подключать модели к приложениям и использовать API для создания собственных ИИ-сервисов.

Главное преимущество Ollama заключается в простоте установки. Пользователю не нужно вручную настраивать Python, библиотеки машинного обучения и окружение для каждой модели. Достаточно установить программу, выбрать подходящую нейросеть и выполнить команду запуска.

В этом руководстве разберём, как установить Ollama на Windows, macOS и Linux, скачать первую модель, проверить работу программы и устранить распространённые ошибки.

Что такое Ollama

Ollama — это инструмент для загрузки и локального запуска больших языковых моделей. Он предоставляет командный интерфейс и локальный API, через который к нейросети могут обращаться другие программы.

С помощью Ollama можно:

  • запускать языковые модели на своём компьютере;
  • работать с нейросетями без постоянного использования облачного API;
  • создавать локальных чат-ботов;
  • подключать модели к сайтам и приложениям;
  • использовать нейросеть в Python-проектах;
  • создавать ИИ-агентов;
  • работать с текстами и программным кодом;
  • генерировать эмбеддинги для RAG-систем;
  • подключать графические интерфейсы для локального ИИ.

После установки Ollama запускает локальный сервер, который по умолчанию доступен по адресу:

http://localhost:11434

Что потребуется для установки Ollama

Что потребуется для установки Ollama

Перед установкой необходимо убедиться, что компьютер соответствует минимальным требованиям.

Поддерживаемые операционные системы

  • Windows 10 или более новая версия;
  • macOS 14 Sonoma или более новая версия;
  • современные 64-битные дистрибутивы Linux.

Оперативная память

Требования к оперативной памяти зависят не столько от самой Ollama, сколько от выбранной модели.

Объём оперативной памяти Какие модели можно запускать
8 ГБ Небольшие модели размером 1–3 млрд параметров
16 ГБ Большинство моделей размером 7–8 млрд параметров
32 ГБ Более крупные модели и увеличенный контекст
64 ГБ и больше Крупные модели, сложные задачи и параллельный запуск

На компьютере с небольшим объёмом памяти лучше начинать с компактной модели. Попытка запустить слишком большую нейросеть может привести к зависанию системы или ошибке нехватки памяти.

Свободное место на диске

Сама программа занимает относительно немного места, однако модели могут весить несколько гигабайт. Крупные модели занимают десятки и даже сотни гигабайт.

Рекомендуется заранее освободить не менее 10–20 ГБ, если планируется установить одну или несколько небольших моделей.

Нужна ли видеокарта

Ollama может работать без отдельной видеокарты, используя центральный процессор и оперативную память. Однако генерация ответов в таком случае обычно происходит медленнее.

Поддерживаемая видеокарта позволяет ускорить работу нейросети. Скорость зависит от модели графического процессора, объёма видеопамяти, операционной системы и размера выбранной языковой модели.

Как установить Ollama на Windows

Как установить Ollama на Windows

Самый простой способ установки Ollama на Windows — использовать официальный установочный файл.

Установка через OllamaSetup.exe

  1. Откройте официальный сайт Ollama.
  2. Перейдите в раздел загрузки для Windows.
  3. Скачайте файл OllamaSetup.exe.
  4. Запустите установщик.
  5. Дождитесь завершения установки.
  6. Откройте PowerShell или командную строку.

Стандартный установщик устанавливает Ollama в учётную запись текущего пользователя и обычно не требует прав администратора.

Установка Ollama через PowerShell

Ollama также можно установить одной командой. Откройте PowerShell и выполните:

irm https://ollama.com/install.ps1 | iex

После завершения установки закройте PowerShell и откройте его заново.

Как проверить установку на Windows

Введите команду:

ollama --version

Если установка выполнена правильно, система покажет установленную версию программы.

Также можно выполнить:

ollama

В актуальных версиях программа может открыть интерактивное меню, через которое можно запускать модели и доступные интеграции.

Как установить Ollama на macOS

Как установить Ollama на macOS

Рекомендуемый способ установки на macOS — использование официального DMG-файла.

Установка через DMG

  1. Откройте страницу загрузки Ollama для macOS.
  2. Скачайте файл ollama.dmg.
  3. Откройте загруженный образ.
  4. Перетащите приложение Ollama в папку Applications.
  5. Запустите Ollama из папки приложений.
  6. Разрешите создание команды Ollama в системном пути, если программа запросит разрешение.

После первого запуска приложение проверит, доступна ли команда ollama в терминале. Если команда отсутствует, Ollama может предложить создать ссылку в каталоге /usr/local/bin.

Проверка установки на macOS

Откройте Terminal и выполните:

ollama --version

Если терминал показывает номер версии, установка завершена успешно.

Как установить Ollama на Linux

Как установить Ollama на Linux

На Linux Ollama удобно устанавливается с помощью официального скрипта.

Откройте терминал и выполните:

curl -fsSL https://ollama.com/install.sh | sh

Скрипт определит архитектуру системы, загрузит необходимые файлы и установит Ollama.

Как проверить установку на Linux

Выполните:

ollama --version

Затем проверьте состояние службы:

systemctl status ollama

Если служба остановлена, её можно запустить командой:

sudo systemctl start ollama

Чтобы Ollama автоматически запускалась вместе с системой, выполните:

sudo systemctl enable ollama

Запуск Ollama вручную

Если программа не была запущена как системная служба, локальный сервер можно запустить вручную:

ollama serve

Терминал с запущенным сервером следует оставить открытым. Для выполнения других команд потребуется открыть новое окно терминала.

Как скачать первую модель

Как скачать первую модель

После установки Ollama необходимо загрузить языковую модель. Она содержит данные и параметры, благодаря которым нейросеть генерирует ответы.

Модель можно скачать отдельно командой:

ollama pull gemma3

После завершения загрузки запустите её:

ollama run gemma3

Команда ollama run при необходимости сама начинает загрузку модели, поэтому отдельное выполнение ollama pull не всегда обязательно.

После запуска появится строка ввода. Можно написать, например:

Объясни простыми словами, что такое искусственный интеллект.

Для выхода из диалога можно использовать команду:

/bye

Либо нажать сочетание клавиш Ctrl + D.

Какую модель выбрать для Ollama

При выборе модели необходимо учитывать объём оперативной и видеопамяти. Чем крупнее модель, тем больше ресурсов ей потребуется.

Для первого запуска лучше выбрать компактную модель. Она быстрее загружается и может работать даже на относительно слабом компьютере.

При выборе обращайте внимание на:

  • количество параметров;
  • размер файла;
  • поддерживаемые языки;
  • назначение модели;
  • требования к памяти;
  • доступную длину контекста;
  • поддержку изображений и инструментов.

Для обычного общения подойдут универсальные языковые модели. Для программирования лучше выбирать модели, обученные работе с кодом. Для RAG-систем дополнительно понадобятся модели эмбеддингов.

Основные команды Ollama

Просмотр установленных моделей

ollama ls

Команда показывает модели, которые уже загружены на компьютер.

Загрузка модели

ollama pull gemma3

Запуск модели

ollama run gemma3

Просмотр запущенных моделей

ollama ps

Остановка модели

ollama stop gemma3

Удаление модели

ollama rm gemma3

Запуск локального сервера

ollama serve

Просмотр версии

ollama --version

Как проверить API Ollama

После запуска Ollama локальный API обычно доступен на порту 11434.

Проверить версию сервера можно командой:

curl http://localhost:11434/api/version

Для просмотра списка загруженных моделей используется запрос:

curl http://localhost:11434/api/tags

Пример обращения к модели через API:

curl http://localhost:11434/api/generate -d '{ "model": "gemma3", "prompt": "Напиши короткое описание локальной нейросети", "stream": false }'

На Windows аналогичный запрос можно выполнить через PowerShell или использовать программу для работы с API.

При локальном обращении к адресу localhost:11434 отдельный API-ключ обычно не требуется.

Как подключить Ollama к Python

Как подключить Ollama к Python

Ollama можно использовать как сервер для собственного Python-приложения.

Пример запроса с помощью библиотеки requests:

import requests url = "http://localhost:11434/api/generate" data = { "model": "gemma3", "prompt": "Составь план статьи про искусственный интеллект", "stream": False } response = requests.post(url, json=data, timeout=120) response.raise_for_status() result = response.json() print(result["response"])

Перед запуском кода необходимо:

  1. установить Ollama;
  2. запустить локальный сервер;
  3. скачать указанную модель;
  4. установить библиотеку requests.

Установка библиотеки:

pip install requests

Куда Ollama сохраняет модели

Загруженные модели хранятся локально на компьютере. Конкретный путь зависит от операционной системы и способа запуска программы.

Поскольку модели могут занимать много места, пользователю рекомендуется периодически проверять список установленных файлов:

ollama ls

Ненужную модель можно удалить:

ollama rm название-модели

Не следует удалять файлы модели вручную, пока Ollama запущена. Безопаснее использовать встроенную команду удаления.

Как обновить Ollama

Обновление на Windows и macOS

Версии Ollama для Windows и macOS могут автоматически загружать обновления. Для применения обновления программа может предложить перезапуск.

Также можно вручную скачать новую версию с официального сайта и установить её поверх существующей.

Обновление на Linux

Для обновления Ollama на Linux повторно выполните официальный установочный скрипт:

curl -fsSL https://ollama.com/install.sh | sh

После обновления можно проверить версию:

ollama --version

Почему команда ollama не найдена

Ошибка может выглядеть следующим образом:

ollama: command not found

В Windows может появиться сообщение:

'ollama' is not recognized as an internal or external command

Возможные решения:

  • закрыть и заново открыть терминал;
  • перезагрузить компьютер;
  • убедиться, что установка завершилась без ошибки;
  • проверить добавление программы в переменную PATH;
  • переустановить Ollama;
  • запустить приложение Ollama вручную.

На macOS также следует проверить, была ли создана ссылка на команду в каталоге /usr/local/bin.

Почему Ollama не подключается к localhost:11434

Ошибка подключения обычно означает, что локальный сервер не запущен.

Попробуйте выполнить:

ollama serve

На Linux проверьте службу:

systemctl status ollama

При необходимости перезапустите её:

sudo systemctl restart ollama

Также необходимо убедиться, что порт 11434 не занят другой программой и не блокируется настройками системы.

Почему модель работает медленно

Низкая скорость генерации может быть связана со следующими причинами:

  • модель слишком большая для компьютера;
  • недостаточно оперативной памяти;
  • модель полностью работает на процессоре;
  • не хватает видеопамяти;
  • используется слишком большой контекст;
  • одновременно запущено много программ;
  • компьютер перегревается и снижает частоту процессора.

Для ускорения работы можно выбрать более компактную модель, закрыть ненужные приложения или использовать модель с более сильным сжатием.

Ошибка нехватки памяти

Если Ollama не может загрузить модель, причиной часто становится недостаток оперативной или видеопамяти.

В таком случае рекомендуется:

  • закрыть другие программы;
  • перезагрузить компьютер;
  • остановить ранее запущенную модель;
  • выбрать модель с меньшим числом параметров;
  • использовать более компактную квантованную версию;
  • уменьшить длину контекста.

Проверить активные модели можно командой:

ollama ps

Остановить ненужную модель:

ollama stop название-модели

Как посмотреть логи Ollama

На Linux журналы службы можно посмотреть командой:

journalctl -e -u ollama

Для просмотра журнала в реальном времени можно использовать:

journalctl -u ollama -f

Если сервер запущен вручную командой ollama serve, сообщения и ошибки отображаются непосредственно в терминале.

Можно ли установить Ollama без видеокарты

Да, Ollama можно установить и использовать на компьютере без отдельной видеокарты. В этом случае вычисления выполняются преимущественно центральным процессором.

Для комфортной работы следует выбирать небольшие модели. Крупная нейросеть на процессоре может отвечать очень медленно и использовать значительную часть оперативной памяти.

Можно ли пользоваться Ollama без интернета

После установки программы и загрузки модели основные локальные функции можно использовать без постоянного подключения к интернету.

Интернет потребуется для:

  • скачивания Ollama;
  • загрузки новых моделей;
  • получения обновлений;
  • работы с облачными моделями;
  • использования внешнего поиска и онлайн-инструментов.

Важно учитывать, что сама локальная модель не получает актуальные сведения из интернета, если пользователь отдельно не подключил поиск или другой внешний источник данных.

Безопасно ли использовать Ollama

Локальный запуск позволяет обрабатывать запросы непосредственно на компьютере. Однако безопасность зависит не только от Ollama, но и от настроек всей системы.

Не рекомендуется без необходимости открывать порт 11434 для общего доступа из интернета. Если API должен использоваться по сети, следует настроить авторизацию, межсетевой экран, защищённое соединение и ограничение доступных адресов.

Перед использованием локальной модели с конфиденциальной информацией необходимо также проверить:

  • лицензию выбранной модели;
  • настройки подключённых приложений;
  • наличие внешних интеграций;
  • место хранения журналов;
  • права доступа к файлам;
  • сетевые настройки сервера.

Что делать после установки Ollama

Что делать после установки Ollama

После успешного запуска можно перейти к более сложным сценариям:

  • установить графический интерфейс для общения с моделью;
  • подключить Ollama к Python;
  • создать Telegram-бота;
  • разработать локального ИИ-агента;
  • подключить модель к редактору кода;
  • создать RAG-систему для работы с документами;
  • использовать API на собственном сайте;
  • создать персонализированную модель через Modelfile.

Заключение

Установить Ollama можно на Windows, macOS и Linux. На Windows проще всего использовать файл OllamaSetup.exe или команду PowerShell, на macOS — официальный DMG-файл, а на Linux — установочный скрипт.

После установки достаточно выполнить команду ollama run с названием модели. Ollama автоматически загрузит необходимые файлы и откроет интерактивный диалог с нейросетью.

Для первого знакомства лучше выбирать небольшую модель, которая соответствует возможностям компьютера. После проверки работы можно подключить локальный API, графический интерфейс, инструменты программирования и собственные ИИ-приложения.

Часто задаваемые вопросы

Ollama работает бесплатно?

Программу можно установить локально, однако условия использования конкретной модели определяются её лицензией. Также отдельные облачные функции и внешние сервисы могут иметь собственные тарифы.

Нужно ли устанавливать Python для Ollama?

Нет, для стандартной установки и запуска моделей Python не требуется. Он понадобится только в том случае, если пользователь планирует разрабатывать собственные программы и интеграции.

Как проверить, установлена ли Ollama?

Откройте терминал и выполните команду ollama --version. Если программа установлена, появится номер версии.

Как запустить модель после установки?

Используйте команду ollama run и название модели, например ollama run gemma3.

Где найти список установленных моделей?

Введите команду ollama ls.

Как удалить ненужную модель?

Выполните команду ollama rm и укажите название модели.

Можно ли установить Ollama на слабый компьютер?

Да, но необходимо выбирать компактные модели. Скорость работы будет зависеть от процессора, объёма оперативной памяти и наличия поддерживаемой видеокарты.

Почему после установки модель не запускается?

Наиболее распространённые причины — незапущенный сервер, недостаток памяти, незавершённая загрузка модели, отсутствие свободного места или блокировка локального порта.

Про бизнес изнутри

Мысли, кейсы и выводы из реальной практики.

Без мотивационного шума и красивых сказок.

Подписаться на канал