Що встановлено на вашому сервері Qdrant?
- Qdrant 1.20 із REST API та дашбордом у браузері за адресою /dashboard
- Ключ API, тож кожен запит без нього відхиляється
- HTTPS через Caddy на порту 443, на адресі sslip.io, створеній з вашого IP
- Постійний том Docker, щоб колекції переживали перезапуски
- Телеметрію вимкнено
- Брандмауер, у якому відкриті лише порти 22, 80 і 443; порти 6333 і 6334 (gRPC) закриті ззовні
Який розмір потрібен для Qdrant?
Посібник Qdrant із місткості дає розрахунок: сирий розмір векторів — це кількість векторів x розмірність x 4 байти, далі додайте індекс і 20 відсотків запасу. У його прикладі мільйон векторів розмірності 768 у двох копіях потребує близько 7,3 ГБ RAM і 10,8 ГБ диска, тож для однієї копії вдвічі менше. Якщо векторів менше, починайте з 1 або 2 ГБ. Близько мільйона — розгляньте 4 ГБ і більше. Квантизація зменшує потрібну RAM. Відеокарти немає: пошук та індексація йдуть на CPU, що найпомітніше під час завантаження даних.
| Використання | Розмір | Ціна | Обрати |
|---|---|---|---|
| Стартовий | 1 GB RAM · 1 vCore · 25 GB NVMe | $2.58/міс. | |
| Середній | 2 GB RAM · 1 vCore · 40 GB NVMe | $4.01/міс. | |
| Потужний | 4 GB RAM · 2 vCore · 60 GB NVMe | $6.89/міс. |
Кому підійде?
- Розробники RAG-застосунків чи пошуку по документах
- Продуктові команди, що працюють над рекомендаціями чи пошуком схожого
- Ті, хто хоче тримати векторні дані на власному сервері
- Застосунки, що вже запускають модель ембедингів як окрему службу
Що буде після замовлення?
- Задайте розмір і завершіть оплату.
- Ваш сервер запускається, і Qdrant встановлюється сам. У наших тестах на реальних серверах це зайняло близько 3 хвилин.
- Відкрийте свій сервер у розділі «Мої сервери» в панелі. На вкладці «Огляд» видно «Адреса сайту», «Адреса адмінки» та «Ключ адміністратора».
- Відкрийте «Адреса адмінки» й вставте ключ у поле API key. Створіть першу колекцію з дашборда або через API.
- У своєму застосунку використовуйте «Адреса сайту» з портом 443 і надсилайте ключ у заголовку api-key.
З кожним сервером
- Щоденне резервне копіювання входить у ціну
- Необмежений трафік
- Повний доступ root
- Пізніше можна збільшувати чи зменшувати RAM і CPU, а також збільшувати диск
- Розташування: Istanbul · IST-1.
Корисно знати
- Qdrant не створює вектори. Модель ембедингів запускає ваш застосунок або провайдер, а Qdrant зберігає й шукає те, що отримує.
- Порт gRPC 6334 закритий ззовні. Перемкніть клієнтів gRPC на REST або скористайтеся root-доступом, щоб самим відкрити порт і налаштувати брандмауер.
- Ключ у вашій панелі має повний доступ. Не вставляйте його в код для браузера й використовуйте лише в серверній частині застосунку.
- Це встановлення — один вузол без реплікації. Для високої доступності в продакшені документація Qdrant радить щонайменше три вузли.
- Оновлення — ваша відповідальність. Перед переходом на нову версію зробіть знімок і прочитайте примітки до випуску.
Qdrant: запитання й відповіді
Скільки RAM потрібно Qdrant?
Це залежить від кількості векторів і їхньої розмірності. За прикладом самого Qdrant, мільйон векторів розмірності 768 в одній копії потребує близько 3,7 ГБ RAM і 5,4 ГБ диска. Якщо векторів менше, можна почати з 1 або 2 ГБ, а квантизація зменшує потрібну RAM.
Як підключити застосунок до сервера Qdrant?
Використайте значення з рядка «Адреса сайту» у своїй панелі з портом 443 і надсилайте «Ключ адміністратора» в заголовку api-key. Деякі клієнтські бібліотеки за замовчуванням пробують порт 6333. У цьому встановленні він закритий ззовні, тож вкажіть порт явно.
Чи потрібен Qdrant графічний процесор?
Ні. Qdrant шукає й індексує на CPU, а підтримка GPU необов’язкова. На серверах Seturack відеокарти немає. Поки ви завантажуєте велику колекцію, індексація якийсь час тримає CPU зайнятим, і пошук у цей час може відчуватися повільнішим.
Як відкрити дашборд Qdrant?
Відкрийте посилання в рядку «Адреса адмінки» у своїй панелі й вставте значення «Ключ адміністратора» в поле API key. Звідти видно ваші колекції та можна запускати тестові запити. Рядки «Ім'я користувача» й «Пароль» на тій самій сторінці призначені для SSH.
Скільки векторів умістить сервер Qdrant?
Фіксованого числа немає. На відповідь впливають розмірність, тип даних, payload і квантизація. Беріть за основу кількість векторів x розмірність x 4 байти, далі додайте індекс і 20 відсотків запасу. Якщо цього замало, збільшуйте RAM і диск у своїй панелі.
Як зробити резервну копію даних Qdrant?
Резервна копія вашого сервера створюється щоночі, зберігаються останні 7 днів, і це входить у ціну. Щоб скопіювати окрему колекцію, скористайтеся snapshot API Qdrant, а отриманий файл перенесіть куди завгодно.