Что установлено на вашем сервере Ollama?
- Ollama 0.40, которая скачивает и запускает модели
- Open WebUI 0.12 для чата в браузере и истории разговоров
- Модель gemma3:1b, скачанная при установке и проверенная настоящим запросом
- Настройки памяти: одна модель и один запрос за раз, после последнего запроса модель остаётся в памяти 30 минут
- Готовая учётная запись администратора, регистрация закрыта
- HTTPS через Caddy на адресе sslip.io, построенном по вашему IP
- Брандмауэр с открытыми портами 22, 80 и 443; порт Ollama 11434 снаружи закрыт
Какой размер нужен для Ollama?
Ollama загружает модель в память, поэтому размер её файла — нижняя граница для RAM, и сверху нужен запас. Ориентир такой: для моделей на 1–3 миллиарда параметров начните с 4 ГБ, для 7–8 миллиардов — с 8 ГБ, для 12–14 миллиардов — с 16 ГБ. Это не официальные цифры. Продумайте и место на диске: в библиотеке Ollama gemma3:1b занимает 806 МБ, gemma3:4b — 3,4 ГБ, gemma3:12b — 8,2 ГБ. Когда перейдёте на более крупную модель, увеличьте RAM на вкладке «Размер» в панели. Сервер один раз перезапустится, а данные и IP-адрес останутся прежними.
| Применение | Размер | Цена | Выбрать |
|---|---|---|---|
| Стартовый | 4 GB RAM · 2 vCore · 60 GB NVMe | $6.89/мес. | |
| Средний | 8 GB RAM · 4 vCore · 120 GB NVMe | $13.62/мес. | |
| Мощный | 16 GB RAM · 8 vCore · 200 GB NVMe | $25.15/мес. |
Кому подходит?
- Тем, кто хочет, чтобы переписка оставалась на собственном сервере
- Короткие сводки, классификация и черновики писем силами модели, которую вы контролируете
- Разработчикам, которые пробуют открытые модели или встраивают их в небольшие автоматизации
- Личный помощник для вас и, возможно, нескольких других людей
Что будет после заказа?
- Задайте размер и оплатите заказ.
- Сервер запускается, затем устанавливаются Ollama и Open WebUI. Скачивается и модель, поэтому это занимает чуть больше времени.
- Откройте сервер в разделе «Мои серверы» в панели. На вкладке «Обзор» дождитесь, пока в строке «Приложение» появится сообщение о готовности, и нажмите «Открыть приложение».
- Войдите с данными из строк «Email» и «Пароль». Экрана первоначальной настройки нет, а в чате уже выбрана модель gemma3:1b.
- Для более крупной модели сначала увеличьте RAM, затем введите название модели в списке выбора модели и скачайте её.
С каждым сервером
- Ежедневные бэкапы входят в цену
- Безлимитный трафик
- Полный root-доступ
- Позже можно увеличить или уменьшить RAM и CPU, а диск увеличить
- Расположение: Istanbul · IST-1.
Полезно знать
- Графической карты на сервере нет. Первый запрос загружает модель с диска, длинные запросы задерживают первый ответ, ответы могут идти медленнее, чем вы читаете, а несколько одновременных пользователей делят скорость между собой.
- Это не подходит для живых сервисов со многими пользователями, ответов в реальном времени, тяжёлой генерации кода и больших моделей. Модель на 32 миллиарда параметров на процессоре работает очень медленно.
- Небольшие модели обычно пишут по-турецки хуже, чем по-английски, поэтому перед решением проверьте их на своих текстах.
- У каждой модели своя лицензия, а gemma3 распространяется по условиям Gemma Terms of Use. Перед коммерческим использованием прочитайте лицензию на странице модели.
- Без корпоративной лицензии условия Open WebUI не позволяют убирать её название и логотип, если число пользователей в развёртывании превысило 50 за 30 дней.
- Обновление Ollama, Open WebUI и моделей остаётся на вас. Адрес в строке «Email» служит только логином, письма на него не приходят.
Ollama: вопросы и ответы
Сколько RAM нужно Ollama?
Размер файла модели — это минимум, а память под разговор и операционную систему добавляется сверху. Ориентир такой: для 1–3 миллиардов параметров начните с 4 ГБ, для 7–8 миллиардов — с 8 ГБ, для 12–14 миллиардов — с 16 ГБ. Когда модель загрузится, выполните free -h, чтобы увидеть, сколько она занимает на самом деле.
Работает ли Ollama без GPU?
Да. Без GPU Ollama загружает модель в оперативную память системы и запускает её на процессоре, а ollama ps показывает 100% CPU. Графических карт на серверах Seturack нет. Небольшие модели годятся для коротких задач, а большие работают, но очень медленно.
С какой модели начать на VPS с Ollama?
Попробуйте интерфейс на установленной gemma3:1b, затем перейдите на модель с 3 миллиардами параметров и проверьте её на своих задачах. Если ответы вас не устраивают, возьмите модель побольше и командой free -h проверьте, хватает ли RAM. В библиотеке Ollama размер файла каждой модели указан до загрузки.
Как скачать новую модель в Ollama?
Введите название модели в списке выбора модели на экране чата, и Open WebUI предложит её скачать. Также можно подключиться по SSH и выполнить в /opt/seturack/ollama команду docker compose exec ollama ollama pull model-name. Сначала проверьте свободное место на диске.
Может ли моё приложение подключаться к API Ollama?
Да, но порт 11434 по умолчанию закрыт для интернета, потому что у API Ollama из коробки нет аутентификации. С доступом root вы можете открыть порт на локальном адресе в файле compose и подключаться через SSH-туннель либо запустить приложение на том же сервере.
Уходят ли мои чаты с ИИ за пределы сервера?
Модель работает на вашем сервере, поэтому ваши чаты и модели остаются на нём. В документации Ollama сказано, что при локальном запуске она не видит ваши запросы и данные. В этой установке подключение Open WebUI к размещённым у провайдеров сервисам и отправка данных об использовании выключены.