Qu'y a-t-il d'installé sur votre serveur Ollama ?
- Ollama 0.40, qui télécharge et exécute les modèles
- Open WebUI 0.12 pour le chat dans le navigateur et l'historique des conversations
- Le modèle gemma3:1b, téléchargé pendant l'installation et testé avec une vraie requête
- Réglages mémoire : un seul modèle et une seule requête à la fois, conservés en mémoire pendant 30 minutes après la dernière requête
- Un compte administrateur prêt à l'emploi, avec l'inscription fermée
- HTTPS via Caddy sur une adresse sslip.io basée sur votre IP
- Pare-feu avec les ports 22, 80 et 443 ouverts ; le port 11434 d'Ollama reste fermé vers l'extérieur
Quelle taille faut-il pour Ollama ?
Ollama charge le modèle en mémoire : la taille de son fichier est donc le plancher de votre RAM, plus de la marge. En règle générale, commencez avec 4 Go pour des modèles de 1 à 3 milliards de paramètres, 8 Go pour 7 à 8 milliards et 16 Go pour 12 à 14 milliards. Ce ne sont pas des chiffres officiels. Prévoyez aussi l'espace disque : dans la bibliothèque d'Ollama, gemma3:1b pèse 806 Mo, gemma3:4b 3,4 Go et gemma3:12b 8,2 Go. Quand vous passez à un modèle plus gros, augmentez la RAM dans l'onglet Taille de votre panneau. Le serveur redémarre une fois, et vos données ainsi que votre IP restent les mêmes.
| Usage | Taille | Prix | Choisir |
|---|---|---|---|
| Démarrage | 4 GB RAM · 2 vCore · 60 GB NVMe | $6.89/mois | |
| Moyen | 8 GB RAM · 4 vCore · 120 GB NVMe | $13.62/mois | |
| Puissant | 16 GB RAM · 8 vCore · 200 GB NVMe | $25.15/mois |
Pour qui ?
- Personnes qui veulent que leurs conversations restent sur leur propre serveur
- Résumés courts, classification et brouillons d'e-mails confiés à un modèle que vous contrôlez
- Développeurs qui essaient des modèles ouverts ou les branchent à de petites automatisations
- Un assistant personnel pour vous et peut-être quelques autres personnes
Que se passe-t-il après votre commande ?
- Réglez la taille et terminez votre paiement.
- Votre serveur démarre, puis Ollama et Open WebUI s'installent. Un modèle est aussi téléchargé, ce qui demande un peu plus de temps.
- Ouvrez votre serveur depuis Mes serveurs dans le panneau. Dans l'onglet Vue d'ensemble, attendez que la ligne Application indique qu'il est prêt, puis cliquez sur Ouvrir l'application.
- Connectez-vous avec les informations des lignes E-mail et Mot de passe. Il n'y a pas d'écran de configuration, et gemma3:1b est déjà sélectionné dans le chat.
- Pour un modèle plus gros, augmentez d'abord la RAM, puis saisissez le nom du modèle dans le sélecteur de modèle et téléchargez-le.
Avec chaque serveur
- Sauvegardes quotidiennes incluses dans le prix
- Trafic illimité
- Accès root complet
- Augmentez ou réduisez la RAM et le CPU plus tard, et agrandissez le disque
- Emplacement : Istanbul · IST-1.
Bon à savoir
- Le serveur n'a pas de carte graphique. La première requête charge le modèle depuis le disque, les longues requêtes retardent la première réponse, les réponses peuvent arriver plus lentement que vous ne lisez, et plusieurs utilisateurs à la fois se partagent la vitesse.
- Ce n'est pas adapté aux services multi-utilisateurs en direct, aux réponses en temps réel, à la génération de code intensive ni aux gros modèles. Un modèle de 32 milliards de paramètres est très lent sur un CPU.
- Les petits modèles écrivent souvent moins bien le turc que l'anglais : testez donc avec vos propres textes avant de vous décider.
- Chaque modèle a sa propre licence, et gemma3 relève des Gemma Terms of Use. Lisez la licence sur la page du modèle avant un usage commercial.
- Sans licence entreprise, les conditions d'Open WebUI ne vous permettent pas de retirer son nom et son logo dès qu'un déploiement dépasse 50 utilisateurs en 30 jours.
- Mettre à jour Ollama, Open WebUI et vos modèles est votre affaire. L'adresse de la ligne E-mail ne sert que d'identifiant et ne reçoit pas de courrier.
Questions et réponses sur Ollama
De combien de RAM Ollama a-t-il besoin ?
La taille du fichier d'un modèle est le minimum, auquel s'ajoutent la mémoire de conversation et le système d'exploitation. En règle générale, commencez avec 4 Go pour 1 à 3 milliards de paramètres, 8 Go pour 7 à 8 milliards et 16 Go pour 12 à 14 milliards. Lancez free -h une fois le modèle chargé pour voir ce qu'il utilise réellement.
Ollama fonctionne-t-il sans GPU ?
Oui. Sans GPU, Ollama charge le modèle dans la mémoire système et l'exécute sur le CPU, et ollama ps affiche 100% CPU. Les serveurs Seturack n'ont pas de carte graphique. Les petits modèles sont utilisables pour des tâches courtes, tandis que les gros fonctionnent mais restent très lents.
Par quel modèle commencer sur un VPS Ollama ?
Essayez l'interface avec le gemma3:1b installé, puis passez à un modèle de 3 milliards de paramètres et testez-le sur votre propre travail. Si les réponses sont insuffisantes, montez d'une taille et vérifiez avec free -h que la RAM suffit. La bibliothèque d'Ollama indique la taille du fichier de chaque modèle avant le téléchargement.
Comment télécharger un nouveau modèle dans Ollama ?
Saisissez le nom du modèle dans le sélecteur de modèle de l'écran de chat et Open WebUI propose de le télécharger. Vous pouvez aussi vous connecter en SSH et lancer docker compose exec ollama ollama pull model-name dans /opt/seturack/ollama. Vérifiez d'abord votre espace disque libre.
Mon application peut-elle se connecter à l'API d'Ollama ?
Oui, mais le port 11434 est fermé sur Internet par défaut, car l'API d'Ollama n'a pas d'authentification d'origine. Avec l'accès root, vous pouvez publier le port sur l'adresse locale dans le fichier compose et vous connecter par un tunnel SSH, ou faire tourner votre application sur le même serveur.
Mes conversations avec l'IA quittent-elles le serveur ?
Le modèle tourne sur votre serveur : vos conversations et vos modèles y restent. La documentation d'Ollama indique qu'il ne voit ni vos requêtes ni vos données quand vous l'exécutez en local. Dans cette installation, la connexion d'Open WebUI à des fournisseurs hébergés et son envoi de statistiques d'usage sont tous deux désactivés.