Как подключить ollama?

open webui поставь через докер, будет прям как чатгпт только локально

1. Открой PowerShell.
2. Набери ollama pull llama3 и жди, пока приедет пара гигабайт.
3. Потом ollama run llama3.
4. Пиши прямо в консоль, это и есть чат.

Ненавидишь консоль, ставь Chatbox или Open WebUI, указываешь адрес localhost:11434 и получаешь нормальное окно с историей. Сама Ollama окна не имеет и иметь не собирается, она движок, а не приложение.

Ollama по своей природе не программа с окном, а локальный сервер, поэтому иконка в трее и надпись про running означают, что всё уже работает правильно. Дальше нужен либо терминал с командой ollama run и названием модели, либо внешний интерфейс, который подключается к адресу localhost на порту 11434. Из оболочек обычно берут Open WebUI, Chatbox или расширение для браузера, модель при этом остаётся на вашем компьютере.