Τι είναι εγκατεστημένο στον server AnythingLLM;
- AnythingLLM 1.19 με workspaces, συνομιλία με έγγραφα, πράκτορες AI και API για προγραμματιστές
- LanceDB, η ενσωματωμένη βάση διανυσμάτων
- Ο προεπιλεγμένος embedder, που τρέχει στη CPU και μετατρέπει τα έγγραφα σε διανύσματα
- Σύνδεση με έναν μόνο κωδικό, ώστε η διεπαφή να μην ανοίγει ποτέ χωρίς κωδικό
- Η αναφορά χρήσης είναι απενεργοποιημένη
- HTTPS μέσω Caddy σε διεύθυνση sslip.io με βάση την IP σας
- Firewall με ανοιχτές μόνο τις θύρες 22, 80 και 443
Τι μέγεθος χρειάζεστε για το AnythingLLM;
Το επίσημο ελάχιστο είναι 2 GB RAM, CPU 2 πυρήνων με AVX2 και 5 GB δίσκου, που αρκούν για την αποθήκευση κάποιων εγγράφων και συνομιλιών. Το μοντέλο τρέχει αλλού, οπότε η πραγματική δουλειά στον server σας είναι η επεξεργασία των εγγράφων. Ως γενικός κανόνας, σκεφτείτε 4 GB αν θα ανεβάσετε πολλά έγγραφα και 8 GB για βαριά χρήση από ομάδα. Τα έγγραφα και τα διανύσματά σας καθορίζουν το μέγεθος του δίσκου. Χωρίς κάρτα γραφικών, τα μεγάλα έγγραφα παίρνουν περισσότερο χρόνο για επεξεργασία στη CPU και η επίσημη τεκμηρίωση προτείνει σε αυτή την περίπτωση εξωτερικό πάροχο embedding.
| Χρήση | Μέγεθος | Τιμή | Επιλογή |
|---|---|---|---|
| Εισαγωγικό | 2 GB RAM · 2 vCore · 40 GB NVMe | $4.51/μήνα | |
| Μεσαίο | 4 GB RAM · 2 vCore · 60 GB NVMe | $6.89/μήνα | |
| Ισχυρό | 8 GB RAM · 4 vCore · 120 GB NVMe | $13.62/μήνα |
Για ποιον είναι;
- Ομάδες που θέλουν να αναζητούν σε έγγραφα της εταιρείας, συμβόλαια ή εγχειρίδια κάνοντας ερωτήσεις
- Ιστότοποι που χρειάζονται ένα πλαίσιο συνομιλίας που απαντά από τα δικά τους έγγραφα
- Ομάδες που θέλουν διαφορετικό μοντέλο για κάθε workspace
- Μικροί οργανισμοί που χρειάζονται πρόσβαση βάσει ρόλων για το προσωπικό
Τι γίνεται μετά την παραγγελία;
- Ορίστε το μέγεθος και ολοκληρώστε την πληρωμή.
- Ο server σας ξεκινά και το AnythingLLM εγκαθίσταται μόνο του.
- Ανοίξτε τον server σας από το Οι servers μου στο πάνελ. Στην καρτέλα Επισκόπηση περιμένετε μέχρι η γραμμή Εφαρμογή να δείξει ότι είναι έτοιμο και μετά πατήστε Άνοιγμα εφαρμογής.
- Επικολλήστε την τιμή από τη γραμμή Κωδικός στην οθόνη σύνδεσης. Δεν υπάρχει όνομα χρήστη, μόνο ένας κωδικός.
- Επιλέξτε πάροχο γλωσσικού μοντέλου: εισαγάγετε το δικό σας κλειδί API ή συνδεθείτε σε ένα μοντέλο που τρέχει σε άλλον server.
- Δημιουργήστε ένα workspace, σύρετε μέσα τα έγγραφά σας και ξεκινήστε να ρωτάτε.
Με κάθε server
- Ημερήσιο αντίγραφο ασφαλείας στην τιμή
- Απεριόριστη κίνηση
- Πλήρης πρόσβαση root
- Αναβαθμίστε ή μειώστε RAM και CPU αργότερα και μεγαλώστε τον δίσκο
- Τοποθεσία: Istanbul · IST-1.
Καλό είναι να ξέρετε
- Οι χρεώσεις χρήσης του παρόχου μοντέλου σας δεν περιλαμβάνονται στην τιμή. Το κλειδί API και τον λογαριασμό τα διαχειρίζεστε απευθείας με τον πάροχο.
- Αν επιλέξετε πάροχο που φιλοξενείται εξωτερικά, οι ερωτήσεις σας και τα σχετικά αποσπάσματα εγγράφων πηγαίνουν σε αυτόν. Για να κρατήσετε αυτά τα δεδομένα κοντά σας, συνδέστε ένα μοντέλο που τρέχετε οι ίδιοι.
- Σε λειτουργία ενός χρήστη, όποιος έχει τον κωδικό μπορεί να διαβάσει κάθε συνομιλία και να αλλάξει κάθε ρύθμιση. Η μετάβαση σε λειτουργία πολλών χρηστών δεν αναιρείται.
- Αν αλλάξετε τον πάροχο embedding αφού έχετε επεξεργαστεί έγγραφα, θα πρέπει να τα διαγράψετε και να τα επεξεργαστείτε ξανά. Επιλέξτε τον με προσοχή στην αρχή.
- Για να σβήσετε ένα έγγραφο εντελώς, διαγράψτε το από το My Documents. Η αφαίρεσή του από ένα workspace αφήνει στη θέση τους το αναλυμένο αρχείο και την cache.
- Η ενημέρωση του AnythingLLM είναι δική σας δουλειά. Το πάνελ εξακολουθεί να δείχνει τον κωδικό της εγκατάστασης, οπότε αποθηκεύστε μόνοι σας όποιον νέο ορίσετε.
Ερωτήσεις και απαντήσεις για το AnythingLLM
Πόση RAM χρειάζεται το AnythingLLM;
Το επίσημο ελάχιστο είναι 2 GB RAM, CPU 2 πυρήνων με AVX2 και 5 GB δίσκου. Ως γενικός κανόνας, πάρτε 4 GB αν θα επεξεργαστείτε πολλά έγγραφα και 8 GB για χρήση από ομάδα. Αν δεν αρκεί, αναβαθμίζετε από το πάνελ σας και κρατάτε τα ίδια δεδομένα και την ίδια διεύθυνση IP.
Λειτουργεί το AnythingLLM χωρίς GPU;
Ναι. Σε αυτή την εγκατάσταση κανένα μοντέλο δεν τρέχει στον server, αφού η συνομιλία γίνεται στον πάροχο που συνδέετε. Η δουλειά AI που μένει στον server είναι ο προεπιλεγμένος embedder, που η επίσημη τεκμηρίωση περιγράφει ως μόνο για CPU. Στα μεγάλα έγγραφα αυτό το βήμα μπορεί να πάρει λίγη ώρα.
Ποια μοντέλα μπορώ να χρησιμοποιήσω με το AnythingLLM;
Συνδέετε τον πάροχο AI που χρησιμοποιείτε με το δικό σας κλειδί API ή δείχνετε σε ένα ανοιχτό μοντέλο που τρέχει σε άλλον server. Μπορείτε επίσης να ορίσετε διαφορετικό μοντέλο για κάθε workspace.
Φεύγουν τα έγγραφά μου από τον server του AnythingLLM;
Τα έγγραφα, τα διανύσματα και το ιστορικό συνομιλιών μένουν στον server σας. Όταν ρωτάτε κάτι, η ερώτηση και τα αντίστοιχα αποσπάσματα εγγράφων πηγαίνουν στον πάροχο μοντέλου που επιλέξατε. Αν συνδέσετε ένα μοντέλο που τρέχετε οι ίδιοι, και αυτά τα δεδομένα μένουν στα δικά σας μηχανήματα.
Μπορώ να προσθέσω περισσότερους χρήστες στο AnythingLLM;
Ναι. Ενεργοποιήστε τη λειτουργία πολλών χρηστών στις ρυθμίσεις, δημιουργήστε τον λογαριασμό διαχειριστή και μετά προσθέστε άτομα με ρόλο Admin, Manager ή Default. Μόλις κάνετε την αλλαγή, δεν μπορείτε να γυρίσετε στον ενιαίο κωδικό, γι' αυτό αποφασίστε από την αρχή.
Μπορώ να συνδέσω το AnythingLLM με ξεχωριστή βάση διανυσμάτων όπως το Qdrant;
Ναι. Η προεπιλεγμένη LanceDB τρέχει μέσα στον server και οι ρυθμίσεις σάς επιτρέπουν να αλλάξετε σε άλλη βάση διανυσμάτων, όπως το Qdrant. Τα υπάρχοντα διανύσματα δεν μετακινούνται: η επίσημη τεκμηρίωση λέει ότι πρέπει να διαγράψετε και να ξαναδημιουργήσετε το embedding κάθε εγγράφου.