O que vem instalado no seu servidor Ollama?
- Ollama 0.40, que baixa e executa os modelos
- Open WebUI 0.12 para conversar pelo navegador e guardar o histórico de conversas
- O modelo gemma3:1b, baixado durante a instalação e testado com um prompt real
- Configurações de memória: um modelo e uma requisição por vez, mantido na memória por 30 minutos após a última requisição
- Uma conta de administrador pronta para usar, com o cadastro fechado
- HTTPS pelo Caddy em um endereço sslip.io baseado no seu IP
- Firewall com as portas 22, 80 e 443 abertas; a porta 11434 do Ollama fica fechada para fora
Qual tamanho você precisa para Ollama?
O Ollama carrega o modelo na memória, então o tamanho do arquivo dele é o piso da sua RAM, mais uma folga. Como regra prática, comece com 4 GB para modelos de 1 a 3 bilhões de parâmetros, 8 GB para 7 a 8 bilhões e 16 GB para 12 a 14 bilhões. Esses valores não são oficiais. Planeje também o espaço em disco: na biblioteca do Ollama, o gemma3:1b tem 806 MB, o gemma3:4b tem 3,4 GB e o gemma3:12b tem 8,2 GB. Ao passar para um modelo maior, aumente a RAM na aba Tamanho do painel. O servidor reinicia uma vez, e seus dados e seu IP continuam os mesmos.
| Uso | Tamanho | Preço | Escolher |
|---|---|---|---|
| Inicial | 4 GB RAM · 2 vCore · 60 GB NVMe | $6.89/mês | |
| Médio | 8 GB RAM · 4 vCore · 120 GB NVMe | $13.62/mês | |
| Potente | 16 GB RAM · 8 vCore · 200 GB NVMe | $25.15/mês |
Para quem é?
- Quem quer que suas conversas fiquem no próprio servidor
- Resumos curtos, classificação e rascunhos de e-mail feitos por um modelo que você controla
- Desenvolvedores que testam modelos abertos ou os integram a pequenas automações
- Um assistente pessoal para você e talvez mais algumas pessoas
O que acontece depois do pedido?
- Defina o tamanho e conclua o pagamento.
- Seu servidor inicia e depois o Ollama e o Open WebUI são instalados. Um modelo também é baixado, então isso demora um pouco mais.
- Abra seu servidor em Meus servidores no painel. Na aba Visão geral, espere até a linha App dizer que está pronto e clique em Abrir app.
- Faça login com os dados das linhas E-mail e Senha. Não há tela de configuração inicial, e o gemma3:1b já vem selecionado no chat.
- Para um modelo maior, aumente primeiro a RAM, depois digite o nome do modelo no seletor de modelos e baixe-o.
Em todo servidor
- Backup diário incluído no preço
- Tráfego ilimitado
- Acesso root completo
- Aumente ou reduza RAM e CPU depois, e aumente o disco
- Localização: Istanbul · IST-1.
Bom saber
- O servidor não tem placa de vídeo. A primeira requisição carrega o modelo do disco, prompts longos atrasam a primeira resposta, as respostas podem chegar mais devagar do que você lê, e vários usuários ao mesmo tempo dividem a velocidade.
- Não é adequado para serviços ao vivo com vários usuários, respostas em tempo real, geração pesada de código nem modelos grandes. Um modelo de 32 bilhões de parâmetros é muito lento em uma CPU.
- Modelos pequenos costumam escrever turco pior do que inglês, então teste com os seus próprios textos antes de decidir.
- Cada modelo tem a própria licença, e o gemma3 vem sob os Gemma Terms of Use. Leia a licença na página do modelo antes de usá-lo comercialmente.
- Sem uma licença enterprise, os termos do Open WebUI não permitem remover o nome e o logotipo dele quando uma implantação passa de 50 usuários em 30 dias.
- Atualizar o Ollama, o Open WebUI e os seus modelos é com você. O endereço da linha E-mail serve só como login e não recebe mensagens.
Perguntas e respostas sobre Ollama
De quanta RAM o Ollama precisa?
O tamanho do arquivo de um modelo é o mínimo, e a memória da conversa e o sistema operacional vêm por cima. Como regra prática, comece com 4 GB para 1 a 3 bilhões de parâmetros, 8 GB para 7 a 8 bilhões e 16 GB para 12 a 14 bilhões. Execute free -h depois que o modelo carregar para ver o que ele realmente usa.
O Ollama funciona sem GPU?
Sim. Sem GPU, o Ollama carrega o modelo na memória do sistema e o executa na CPU, e o ollama ps mostra 100% CPU. Os servidores da Seturack não têm placa de vídeo. Modelos pequenos são utilizáveis em tarefas curtas, enquanto os grandes rodam, mas continuam muito lentos.
Com qual modelo devo começar em um VPS com Ollama?
Experimente a interface com o gemma3:1b instalado, depois passe para um modelo de 3 bilhões de parâmetros e teste-o no seu próprio trabalho. Se as respostas ficarem aquém, suba um tamanho e confirme com free -h que a RAM basta. A biblioteca do Ollama lista o tamanho do arquivo de cada modelo antes de você baixá-lo.
Como baixo um novo modelo no Ollama?
Digite o nome do modelo no seletor de modelos da tela de chat e o Open WebUI oferece o download. Você também pode se conectar por SSH e executar docker compose exec ollama ollama pull nome-do-modelo em /opt/seturack/ollama. Confira antes o espaço livre em disco.
Meu app pode se conectar à API do Ollama?
Sim, embora a porta 11434 esteja fechada para a internet por padrão, porque a API do Ollama não tem autenticação de fábrica. Com o acesso root, você pode publicar a porta no endereço local no arquivo compose e se conectar por um túnel SSH, ou rodar seu app no mesmo servidor.
Minhas conversas de IA saem do servidor?
O modelo roda no seu servidor, então suas conversas e seus modelos ficam lá. A documentação do Ollama diz que ele não vê seus prompts nem seus dados quando você roda localmente. Nesta instalação, a conexão do Open WebUI com provedores hospedados e o relatório de uso dele estão desativados.