Wat is er geïnstalleerd op je AnythingLLM-server?
- AnythingLLM 1.19 met workspaces, documentchat, AI-agents en een developer-API
- LanceDB, de ingebouwde vectordatabase
- De standaard embedder, die op de CPU draait en documenten omzet in vectoren
- Een login met één wachtwoord, zodat de interface nooit zonder wachtwoord opengaat
- Gebruiksrapportage uitgezet
- HTTPS via Caddy op een sslip.io-adres op basis van je IP
- Firewall waarin alleen poort 22, 80 en 443 open staan
Welke grootte heb je nodig voor AnythingLLM?
Het officiële minimum is 2 GB RAM, een CPU met 2 cores en AVX2 en 5 GB schijf, genoeg om wat documenten op te slaan en te chatten. Het model draait elders, dus het echte werk op je server is het verwerken van documenten. Als vuistregel: denk aan 4 GB als je veel documenten uploadt en 8 GB voor zwaar teamgebruik. Je documenten en vectoren bepalen de schijfgrootte. Zonder videokaart duurt het op de CPU langer om grote documenten te verwerken, en de officiële documentatie raadt in dat geval een externe embedding-provider aan.
| Gebruik | Grootte | Prijs | Kiezen |
|---|---|---|---|
| Starter | 2 GB RAM · 2 vCore · 40 GB NVMe | $4.51/mnd | |
| Gemiddeld | 4 GB RAM · 2 vCore · 60 GB NVMe | $6.89/mnd | |
| Krachtig | 8 GB RAM · 4 vCore · 120 GB NVMe | $13.62/mnd |
Voor wie is het?
- Teams die bedrijfsdocumenten, contracten of handleidingen willen doorzoeken door vragen te stellen
- Websites die een chatvenster nodig hebben dat uit hun eigen documenten antwoordt
- Teams die per workspace een ander model willen
- Kleine organisaties die rolgebaseerde toegang voor medewerkers nodig hebben
Wat gebeurt er na je bestelling?
- Stel de grootte in en rond je betaling af.
- Je server start op en AnythingLLM installeert zichzelf.
- Open je server via Mijn servers in het paneel. Wacht op het tabblad Overzicht tot de rij App zegt dat het klaar is en klik dan op App openen.
- Plak de waarde uit de rij Wachtwoord in het inlogscherm. Er is geen gebruikersnaam, alleen één wachtwoord.
- Kies een provider voor taalmodellen: vul je eigen API-sleutel in, of verbind met een model dat op een andere server draait.
- Maak een workspace aan, sleep je documenten erin en begin met vragen stellen.
Bij elke server
- Dagelijkse back-up inbegrepen in de prijs
- Onbeperkt verkeer
- Volledige rootrechten
- Schaal RAM en CPU later op of af, en laat de schijf groeien
- Locatie: Istanbul · IST-1.
Goed om te weten
- De gebruikskosten van je modelprovider zitten niet in de prijs. De API-sleutel en de rekening beheer je rechtstreeks bij de provider.
- Kies je een gehoste provider, dan gaan je vragen en de relevante documentpassages daarheen. Wil je die gegevens bij je houden, verbind dan een model dat je zelf draait.
- In de modus voor één gebruiker kan iedereen met het wachtwoord elke chat lezen en elke instelling wijzigen. Overstappen naar de modus voor meerdere gebruikers kan niet ongedaan worden gemaakt.
- Wijzig je de embedding-provider nadat je documenten hebt verwerkt, dan moet je ze verwijderen en opnieuw verwerken. Kies hem dus bewust aan het begin.
- Om een document helemaal te wissen, verwijder je het uit My Documents. Het uit een workspace halen laat het verwerkte bestand en de cache staan.
- AnythingLLM up-to-date houden is jouw taak. Het paneel blijft het installatiewachtwoord tonen, dus bewaar een nieuw wachtwoord zelf.
Vragen en antwoorden over AnythingLLM
Hoeveel RAM heeft AnythingLLM nodig?
Het officiële minimum is 2 GB RAM, een CPU met 2 cores en AVX2 en 5 GB schijf. Als vuistregel: kies 4 GB als je veel documenten verwerkt en 8 GB voor teamgebruik. Is dat te weinig, dan schaal je op vanuit je paneel en houd je dezelfde gegevens en hetzelfde IP-adres.
Werkt AnythingLLM zonder GPU?
Ja. In deze installatie draait er geen model op de server, omdat de chat plaatsvindt bij de provider die je koppelt. Het AI-werk dat op de server overblijft is de standaard embedder, die volgens de officiële documentatie alleen de CPU gebruikt. Bij grote documenten kan die stap even duren.
Welke modellen kan ik met AnythingLLM gebruiken?
Je koppelt de AI-provider die je gebruikt met je eigen API-sleutel, of verwijst naar een open model dat op een andere server draait. Je kunt ook per workspace een ander model instellen.
Verlaten mijn documenten de AnythingLLM-server?
Documenten, vectoren en chatgeschiedenis blijven op je server. Als je iets vraagt, gaan de vraag en de bijbehorende documentpassages naar de modelprovider die je hebt gekozen. Verbind je een model dat je zelf draait, dan blijven die gegevens ook op je eigen machines.
Kan ik meer gebruikers aan AnythingLLM toevoegen?
Ja. Zet de modus voor meerdere gebruikers aan in de instellingen, maak het beheerdersaccount aan en voeg daarna mensen toe met de rol Admin, Manager of Default. Na de overstap kun je niet terug naar het ene wachtwoord, dus beslis dit vooraf.
Kan ik AnythingLLM verbinden met een aparte vectordatabase zoals Qdrant?
Ja. De standaard LanceDB draait binnen de server, en in de instellingen kun je overstappen op een andere vectordatabase zoals Qdrant. Bestaande vectoren gaan niet mee: volgens de officiële documentatie moet je elk document verwijderen en opnieuw embedden.