Установка Ollama в Windows: первый запуск модели

Подготовка

Посмотрите сборку Windows командой winver. Запишите точное название GPU и версию драйвера. Сначала оцените память модели: размер скачиваемого файла не включает кеш и все рабочие расходы.

Для этого упражнения достаточно короткого английского запроса: русский язык не входит в восемь официально заявленных языков Llama 3.2. Модель выбрана для проверки запуска, а не как рекомендация лучшего русскоязычного помощника. На странице тега указаны 1,24 млрд параметров, Q8_0, идентификатор baf6a787fdff и размер около 1,3 GB; тег может обновиться. Ознакомьтесь с лицензией модели перед своим применением.

Установка и первый запрос

1. Откройте официальный сайт Ollama через ссылку в документации Windows и скачайте установщик для Windows.
2. Запустите установщик, дождитесь завершения, убедитесь, что приложение появилось в меню «Пуск» и запущено.
3. Откройте новое окно PowerShell. Сохраните версию и проверьте доступность команды:

Get-Command ollama
ollama --version

4. Загрузите выбранный тег и откройте диалог:

ollama pull llama3.2:1b
ollama run llama3.2:1b

В приглашении диалога задайте контекст явно и отправьте короткий запрос:

/set parameter num_ctx 4096
Reply with the word hello.

Для следующей проверки откройте второе окно PowerShell, оставив диалог запущенным. Так контекст примера фиксирован и не зависит от меняющихся значений по умолчанию.

Ожидается завершение загрузки, затем текстовый ответ. Формулировка ответа не гарантирована: это генеративная модель. Ошибка соединения относится к серверу, ошибка скачивания — к доступу к реестру, а ошибка выделения памяти — к загрузке/выполнению; не объединяйте их в одну проблему GPU.

Проверка устройства после ответа

Сразу после запроса, пока модель загружена, выполните:

ollama ps
ollama ls

Пустой ps после выгрузки не означает, что видеокарта не поддерживается. Повторите запрос и проверку сразу. При неожиданном CPU используйте пошаговую диагностику.

Освобождение памяти и удаление модели

Следующие команды относятся только к выбранному тестовому тегу:

ollama stop llama3.2:1b
ollama rm llama3.2:1b
ollama ls

Сначала модель выгружается из памяти, затем удаляется её локальная запись. Повторный запуск после удаления потребует загрузки. Для другого тега подставляйте точное имя из списка; не удаляйте вручную всю папку моделей.

Если первый запуск не получился

ollama не найдена — проверьте новый терминал и установку. Сервер недоступен — запустите приложение из «Пуска» и посмотрите %LOCALAPPDATA%\Ollama\server.log. Не запускайте несколько серверов на одном порту. При нехватке места проверьте каталог моделей и свободный диск; настройку OLLAMA_MODELS меняют для приложения с последующим перезапуском.

Первый успешный ответ завершает проверку установки, но не проверку автономности, качества или скорости. Для следующего опыта используйте маршрут локального запуска и сохраняйте модель, контекст и устройство вместе с результатом.