Cosa c'è installato sul tuo server Ollama?
- Ollama 0.40, che scarica ed esegue i modelli
- Open WebUI 0.12 per la chat nel browser e la cronologia delle conversazioni
- Il modello gemma3:1b, scaricato durante l'installazione e provato con un prompt reale
- Impostazioni della memoria: un modello e una richiesta alla volta, tenuto in memoria per 30 minuti dopo l'ultima richiesta
- Un account admin pronto all'uso, con la registrazione chiusa
- HTTPS tramite Caddy su un indirizzo sslip.io basato sul tuo IP
- Firewall con aperte le porte 22, 80 e 443; la porta 11434 di Ollama resta chiusa verso l'esterno
Che dimensione ti serve per Ollama?
Ollama carica il modello in memoria, quindi la dimensione del suo file è il minimo per la tua RAM, più un margine. Come regola pratica, parti da 4 GB per modelli da 1 a 3 miliardi di parametri, 8 GB per 7-8 miliardi e 16 GB per 12-14 miliardi. Non sono valori ufficiali. Pianifica anche lo spazio su disco: nella libreria di Ollama gemma3:1b pesa 806 MB, gemma3:4b 3,4 GB e gemma3:12b 8,2 GB. Quando passi a un modello più grande, aumenta la RAM nella scheda Dimensione del pannello. Il server si riavvia una volta e i tuoi dati e il tuo IP restano gli stessi.
| Uso | Dimensione | Prezzo | Scegli |
|---|---|---|---|
| Base | 4 GB RAM · 2 vCore · 60 GB NVMe | $6.89/mese | |
| Media | 8 GB RAM · 4 vCore · 120 GB NVMe | $13.62/mese | |
| Potente | 16 GB RAM · 8 vCore · 200 GB NVMe | $25.15/mese |
Per chi è?
- Chi vuole che le proprie chat restino sul proprio server
- Riassunti brevi, classificazione e bozze di email gestiti da un modello che controlli tu
- Sviluppatori che provano modelli aperti o li integrano in piccole automazioni
- Un assistente personale per te e magari per qualche altra persona
Cosa succede dopo l'ordine?
- Imposta la dimensione e completa il pagamento.
- Il server si avvia, poi si installano Ollama e Open WebUI. Viene scaricato anche un modello, quindi ci vuole un po' più di tempo.
- Apri il server da I miei server nel pannello. Nella scheda Panoramica aspetta che la riga App dica che è pronto, poi clicca Apri app.
- Accedi con i dati delle righe Email e Password. Non c'è nessuna schermata di configurazione iniziale e gemma3:1b è già selezionato nella chat.
- Per un modello più grande, aumenta prima la RAM, poi scrivi il nome del modello nel selettore dei modelli e scaricalo.
Con ogni server
- Backup giornalieri inclusi nel prezzo
- Traffico illimitato
- Accesso root completo
- Aumenta o riduci RAM e CPU in seguito, e ingrandisci il disco
- Sede: Istanbul · IST-1.
Da sapere
- Il server non ha scheda grafica. La prima richiesta carica il modello dal disco, i prompt lunghi ritardano la prima risposta, le risposte possono arrivare più lente di quanto leggi e più utenti insieme si dividono la velocità.
- Non è adatto a servizi dal vivo con molti utenti, a risposte in tempo reale, alla generazione intensiva di codice o a modelli grandi. Un modello da 32 miliardi di parametri è molto lento su una CPU.
- I modelli piccoli tendono a scrivere il turco peggio dell'inglese, quindi prova con i tuoi testi prima di decidere.
- Ogni modello ha una propria licenza, e gemma3 è distribuito con i Gemma Terms of Use. Leggi la licenza nella pagina del modello prima dell'uso commerciale.
- Senza una licenza enterprise, i termini di Open WebUI non permettono di rimuovere il suo nome e il suo logo quando un'installazione supera i 50 utenti in 30 giorni.
- Aggiornare Ollama, Open WebUI e i tuoi modelli spetta a te. L'indirizzo nella riga Email serve solo per accedere e non riceve posta.
Domande e risposte su Ollama
Di quanta RAM ha bisogno Ollama?
La dimensione del file di un modello è il minimo, e la memoria della conversazione e il sistema operativo si aggiungono. Come regola pratica, parti da 4 GB per 1-3 miliardi di parametri, 8 GB per 7-8 miliardi e 16 GB per 12-14 miliardi. Esegui free -h dopo aver caricato il modello per vedere quanto usa davvero.
Ollama funziona senza GPU?
Sì. Senza GPU, Ollama carica il modello nella memoria di sistema e lo esegue sulla CPU, e ollama ps mostra 100% CPU. I server Seturack non hanno scheda grafica. I modelli piccoli sono utilizzabili per compiti brevi, mentre quelli grandi girano ma restano molto lenti.
Con quale modello conviene iniziare su un VPS Ollama?
Prova l'interfaccia con il gemma3:1b già installato, poi passa a un modello da 3 miliardi di parametri e provalo sul tuo lavoro. Se le risposte non bastano, sali di una taglia e controlla con free -h che la RAM sia sufficiente. La libreria di Ollama indica la dimensione del file di ogni modello prima del download.
Come scarico un nuovo modello in Ollama?
Scrivi il nome del modello nel selettore dei modelli della schermata di chat e Open WebUI ti propone di scaricarlo. Puoi anche connetterti via SSH ed eseguire docker compose exec ollama ollama pull model-name in /opt/seturack/ollama. Controlla prima lo spazio libero su disco.
La mia app può connettersi all'API di Ollama?
Sì, anche se la porta 11434 è chiusa verso internet per impostazione predefinita, perché l'API di Ollama non ha autenticazione di serie. Con l'accesso root puoi pubblicare la porta sull'indirizzo locale nel file compose e connetterti tramite un tunnel SSH, oppure eseguire la tua app sullo stesso server.
Le mie chat con l'IA escono dal server?
Il modello gira sul tuo server, quindi le tue chat e i tuoi modelli restano lì. La documentazione di Ollama dice che non vede i tuoi prompt né i tuoi dati quando lo esegui in locale. In questa installazione la connessione di Open WebUI ai provider ospitati e l'invio dei dati di utilizzo sono entrambi disattivati.