Qu'y a-t-il d'installé sur votre serveur AnythingLLM ?
- AnythingLLM 1.19 avec espaces de travail, discussion avec les documents, agents IA et une API pour développeurs
- LanceDB, la base de données vectorielle intégrée
- L'embedder par défaut, qui s'exécute sur le processeur et transforme les documents en vecteurs
- Une connexion par mot de passe unique : l'interface ne s'ouvre jamais sans lui
- Rapport d'utilisation désactivé
- HTTPS via Caddy sur une adresse sslip.io basée sur votre IP
- Un pare-feu où seuls les ports 22, 80 et 443 sont ouverts
Quelle taille faut-il pour AnythingLLM ?
Le minimum officiel est de 2 Go de RAM, un processeur à 2 cœurs avec AVX2 et 5 Go de disque, ce qui suffit pour stocker quelques documents et discuter. Le modèle s'exécute ailleurs : le vrai travail sur votre serveur est donc le traitement des documents. À titre indicatif, pensez à 4 Go si vous téléversez beaucoup de documents et à 8 Go pour un usage intensif en équipe. Vos documents et vos vecteurs déterminent la taille du disque. Sans carte graphique, les gros documents mettent plus de temps à être traités par le processeur, et la documentation officielle suggère dans ce cas un fournisseur d'embedding externe.
| Usage | Taille | Prix | Choisir |
|---|---|---|---|
| Démarrage | 2 GB RAM · 2 vCore · 40 GB NVMe | $4.51/mois | |
| Moyen | 4 GB RAM · 2 vCore · 60 GB NVMe | $6.89/mois | |
| Puissant | 8 GB RAM · 4 vCore · 120 GB NVMe | $13.62/mois |
Pour qui ?
- Les équipes qui veulent chercher dans des documents d'entreprise, des contrats ou des manuels en posant des questions
- Les sites qui ont besoin d'une zone de discussion répondant à partir de leurs propres documents
- Les équipes qui veulent un modèle différent pour chaque espace de travail
- Les petites organisations qui ont besoin d'un accès par rôle pour leur personnel
Que se passe-t-il après votre commande ?
- Réglez la taille et terminez votre paiement.
- Votre serveur démarre et AnythingLLM s'installe tout seul.
- Ouvrez votre serveur depuis Mes serveurs dans le panneau. Dans l'onglet Vue d'ensemble, attendez que la ligne Application indique qu'il est prêt, puis cliquez sur Ouvrir l'application.
- Collez la valeur de la ligne Mot de passe dans l'écran de connexion. Il n'y a pas de nom d'utilisateur, seulement un mot de passe.
- Choisissez un fournisseur de modèle de langage : saisissez votre propre clé API, ou connectez-vous à un modèle qui tourne sur un autre serveur.
- Créez un espace de travail, glissez-y vos documents et commencez à poser des questions.
Avec chaque serveur
- Sauvegardes quotidiennes incluses dans le prix
- Trafic illimité
- Accès root complet
- Augmentez ou réduisez la RAM et le CPU plus tard, et agrandissez le disque
- Emplacement : Istanbul · IST-1.
Bon à savoir
- Les frais d'utilisation de votre fournisseur de modèle ne sont pas inclus dans le prix. Vous gérez la clé API et la facture directement avec le fournisseur.
- Si vous choisissez un fournisseur hébergé, vos questions et les passages de documents concernés lui sont transmis. Pour garder ces données chez vous, connectez un modèle que vous faites tourner vous-même.
- En mode mono-utilisateur, toute personne qui a le mot de passe peut lire toutes les discussions et modifier tous les réglages. Le passage en mode multi-utilisateur est irréversible.
- Si vous changez de fournisseur d'embedding après avoir traité des documents, vous devrez les supprimer et les traiter de nouveau. Choisissez-le avec soin dès le départ.
- Pour effacer complètement un document, supprimez-le depuis My Documents. Le retirer d'un espace de travail laisse en place le fichier analysé et le cache.
- Maintenir AnythingLLM à jour est votre tâche. Le panneau continue d'afficher le mot de passe d'installation : conservez vous-même tout nouveau mot de passe.
Questions et réponses sur AnythingLLM
De combien de RAM AnythingLLM a-t-il besoin ?
Le minimum officiel est de 2 Go de RAM, un processeur à 2 cœurs avec AVX2 et 5 Go de disque. À titre indicatif, prenez 4 Go si vous traitez beaucoup de documents et 8 Go pour un usage en équipe. Si cela ne suffit pas, vous agrandissez depuis votre panneau et gardez les mêmes données et la même adresse IP.
AnythingLLM fonctionne-t-il sans GPU ?
Oui. Dans cette installation, aucun modèle ne tourne sur le serveur, puisque la discussion se fait chez le fournisseur que vous connectez. Le travail d'IA qui reste sur le serveur est l'embedder par défaut, que la documentation officielle décrit comme fonctionnant uniquement sur le processeur. Sur de gros documents, cette étape peut prendre un moment.
Quels modèles puis-je utiliser avec AnythingLLM ?
Vous connectez le fournisseur d'IA que vous utilisez avec votre propre clé API, ou vous le dirigez vers un modèle ouvert qui tourne sur un autre serveur. Vous pouvez aussi définir un modèle différent pour chaque espace de travail.
Mes documents quittent-ils le serveur AnythingLLM ?
Les documents, les vecteurs et l'historique de discussion restent sur votre serveur. Quand vous posez une question, la question et les passages de documents correspondants sont envoyés au fournisseur de modèle que vous avez choisi. Si vous connectez un modèle que vous faites tourner vous-même, ces données restent aussi sur vos propres machines.
Puis-je ajouter d'autres utilisateurs à AnythingLLM ?
Oui. Activez le mode multi-utilisateur dans les paramètres, créez le compte administrateur, puis ajoutez des personnes avec le rôle Admin, Manager ou Default. Une fois le changement fait, vous ne pouvez plus revenir au mot de passe unique : décidez donc dès le départ.
Puis-je connecter AnythingLLM à une base de données vectorielle séparée comme Qdrant ?
Oui. LanceDB, par défaut, tourne à l'intérieur du serveur, et les paramètres permettent de passer à une autre base de données vectorielle comme Qdrant. Les vecteurs existants ne sont pas transférés : d'après la documentation officielle, il faut supprimer chaque document et le réencoder.