O que vem instalado no seu servidor AnythingLLM?
- AnythingLLM 1.19 com workspaces, chat com documentos, agentes de IA e uma API para desenvolvedores
- LanceDB, o banco de dados vetorial integrado
- O embedder padrão, que roda na CPU e transforma documentos em vetores
- Um login com senha única, para que a interface nunca abra sem senha
- Relatório de uso desativado
- HTTPS pelo Caddy em um endereço sslip.io baseado no seu IP
- Firewall com apenas as portas 22, 80 e 443 abertas
Qual tamanho você precisa para AnythingLLM?
O mínimo oficial é 2 GB de RAM, uma CPU de 2 núcleos com AVX2 e 5 GB de disco, o que basta para guardar alguns documentos e conversar. O modelo roda em outro lugar, então o trabalho real no seu servidor é processar documentos. Como regra prática, considere 4 GB se for enviar muitos documentos e 8 GB para uso intenso em equipe. Seus documentos e vetores definem o tamanho do disco. Sem placa de vídeo, documentos grandes demoram mais para ser processados na CPU, e a documentação oficial sugere um provedor de embedding externo nesse caso.
| Uso | Tamanho | Preço | Escolher |
|---|---|---|---|
| Inicial | 2 GB RAM · 2 vCore · 40 GB NVMe | $4.51/mês | |
| Médio | 4 GB RAM · 2 vCore · 60 GB NVMe | $6.89/mês | |
| Potente | 8 GB RAM · 4 vCore · 120 GB NVMe | $13.62/mês |
Para quem é?
- Equipes que querem pesquisar documentos, contratos ou manuais da empresa fazendo perguntas
- Sites que precisam de uma caixa de chat que responda a partir dos próprios documentos
- Equipes que querem um modelo diferente para cada workspace
- Pequenas organizações que precisam de acesso por função para a equipe
O que acontece depois do pedido?
- Defina o tamanho e conclua o pagamento.
- Seu servidor inicia e o AnythingLLM se instala sozinho.
- Abra seu servidor em Meus servidores no painel. Na aba Visão geral, espere até a linha App dizer que está pronto e clique em Abrir app.
- Cole o valor da linha Senha na tela de login. Não há usuário, apenas uma senha.
- Escolha um provedor de modelo de linguagem: digite sua própria chave de API ou conecte-se a um modelo rodando em outro servidor.
- Crie um workspace, arraste seus documentos para ele e comece a perguntar.
Em todo servidor
- Backup diário incluído no preço
- Tráfego ilimitado
- Acesso root completo
- Aumente ou reduza RAM e CPU depois, e aumente o disco
- Localização: Istanbul · IST-1.
Bom saber
- As cobranças de uso do seu provedor de modelo não estão incluídas no preço. Você cuida da chave de API e da fatura diretamente com o provedor.
- Se você escolher um provedor hospedado, suas perguntas e os trechos relevantes dos documentos vão para ele. Para manter esses dados com você, conecte um modelo que você mesmo rode.
- No modo de usuário único, qualquer pessoa com a senha pode ler todas as conversas e alterar todas as configurações. A mudança para o modo multiusuário não pode ser desfeita.
- Se você trocar o provedor de embedding depois de processar documentos, terá de excluí-los e processá-los de novo. Escolha com cuidado no início.
- Para apagar um documento por completo, exclua-o em My Documents. Removê-lo de um workspace deixa o arquivo processado e o cache no lugar.
- Manter o AnythingLLM atualizado é tarefa sua. O painel continua mostrando a senha da instalação, então guarde você mesmo qualquer senha nova.
Perguntas e respostas sobre AnythingLLM
De quanta RAM o AnythingLLM precisa?
O mínimo oficial é 2 GB de RAM, uma CPU de 2 núcleos com AVX2 e 5 GB de disco. Como regra prática, escolha 4 GB se for processar muitos documentos e 8 GB para uso em equipe. Se não for suficiente, você aumenta pelo painel e mantém os mesmos dados e o mesmo endereço IP.
O AnythingLLM funciona sem GPU?
Sim. Nesta instalação nenhum modelo roda no servidor, já que o chat acontece no provedor que você conecta. O trabalho de IA que sobra no servidor é o embedder padrão, que a documentação oficial descreve como somente CPU. Em documentos grandes, essa etapa pode demorar um pouco.
Quais modelos posso usar com o AnythingLLM?
Você conecta o provedor de IA que usa com sua própria chave de API ou aponta para um modelo aberto rodando em outro servidor. Também pode definir um modelo diferente para cada workspace.
Meus documentos saem do servidor do AnythingLLM?
Documentos, vetores e o histórico de conversas ficam no seu servidor. Quando você pergunta algo, a pergunta e os trechos correspondentes dos documentos vão para o provedor de modelo que você escolheu. Se você conectar um modelo que roda por conta própria, esses dados também ficam nas suas máquinas.
Posso adicionar mais usuários ao AnythingLLM?
Sim. Ative o modo multiusuário nas configurações, crie a conta de administrador e depois adicione pessoas com a função Admin, Manager ou Default. Depois de fazer a mudança, não dá para voltar à senha única, então decida antes.
Posso conectar o AnythingLLM a um banco de dados vetorial separado, como o Qdrant?
Sim. O LanceDB padrão roda dentro do servidor, e as configurações permitem trocar por outro banco de dados vetorial, como o Qdrant. Os vetores existentes não são migrados: a documentação oficial diz que é preciso excluir e gerar de novo o embedding de cada documento.