Что установлено на вашем сервере Qdrant?
- Qdrant 1.20 с REST API и браузерной панелью по адресу /dashboard
- Ключ API: любой запрос без него отклоняется
- HTTPS через Caddy на порту 443, на адресе sslip.io, построенном по вашему IP
- Постоянный том Docker, поэтому коллекции переживают перезапуски
- Телеметрия отключена
- Брандмауэр, в котором открыты только порты 22, 80 и 443; порты 6333 и 6334 (gRPC) снаружи закрыты
Какой размер нужен для Qdrant?
В руководстве Qdrant по ёмкости приведён расчёт: исходный размер векторов — это число векторов x размерность x 4 байта, затем добавьте индекс и 20 процентов запаса. По их примеру, миллион векторов размерностью 768 с двумя копиями требует около 7,3 ГБ оперативной памяти и 10,8 ГБ диска, то есть для одной копии — вдвое меньше. Если векторов меньше, начните с 1 или 2 ГБ. Около миллиона стоит рассмотреть 4 ГБ и больше. Квантизация уменьшает нужный объём оперативной памяти. Видеокарты нет: поиск и индексация работают на CPU, и это важнее всего во время загрузки данных.
| Применение | Размер | Цена | Выбрать |
|---|---|---|---|
| Стартовый | 1 GB RAM · 1 vCore · 25 GB NVMe | $2.58/мес. | |
| Средний | 2 GB RAM · 1 vCore · 40 GB NVMe | $4.01/мес. | |
| Мощный | 4 GB RAM · 2 vCore · 60 GB NVMe | $6.89/мес. |
Кому подходит?
- Разработчики RAG-приложений и поиска по документам
- Продуктовые команды, которые делают рекомендации или поиск по сходству
- Те, кто хочет хранить векторные данные на собственном сервере
- Приложения, в которых модель эмбеддингов уже работает как отдельный сервис
Что будет после заказа?
- Задайте размер и оплатите заказ.
- Сервер запускается, и Qdrant устанавливается сам. В наших проверках на настоящих серверах это заняло около 3 минут.
- В панели откройте свой сервер в разделе «Мои серверы». На вкладке «Обзор» указаны «Адрес сайта», «Адрес админ-панели» и «Ключ администратора».
- Откройте «Адрес админ-панели» и вставьте ключ в поле API key. Создайте первую коллекцию в панели управления или через API.
- В своём приложении используйте «Адрес сайта» с портом 443 и передавайте ключ в заголовке api-key.
С каждым сервером
- Ежедневные бэкапы входят в цену
- Безлимитный трафик
- Полный root-доступ
- Позже можно увеличить или уменьшить RAM и CPU, а диск увеличить
- Расположение: Istanbul · IST-1.
Полезно знать
- Qdrant не создаёт векторы. Модель эмбеддингов запускает ваше приложение или провайдер, а Qdrant хранит полученное и ищет по нему.
- Порт gRPC 6334 снаружи закрыт. Переведите клиенты gRPC на REST или откройте порт и настройте брандмауэр сами, воспользовавшись root-доступом.
- Ключ в вашей панели даёт полный доступ. Не держите его в коде браузера и используйте только в серверной части приложения.
- Эта установка — один узел без репликации. Для высокой доступности в рабочей среде документация Qdrant рекомендует не менее трёх узлов.
- Обновлять Qdrant нужно вам самим. Перед обновлением сделайте снимок и прочитайте примечания к выпуску.
Qdrant: вопросы и ответы
Сколько оперативной памяти нужно Qdrant?
Это зависит от числа векторов и их размерности. По примеру самого Qdrant, миллиону векторов размерностью 768 с одной копией нужно около 3,7 ГБ оперативной памяти и 5,4 ГБ диска. Если векторов меньше, можно начать с 1 или 2 ГБ, а квантизация уменьшает нужный объём оперативной памяти.
Как подключить приложение к серверу Qdrant?
Используйте значение из строки «Адрес сайта» в панели с портом 443 и передавайте «Ключ администратора» в заголовке api-key. Некоторые клиентские библиотеки по умолчанию пробуют порт 6333. В этой установке он снаружи закрыт, поэтому укажите порт явно.
Нужен ли Qdrant GPU?
Нет. Qdrant ищет и индексирует на CPU, а поддержка GPU необязательна. Видеокарт на серверах Seturack нет. Пока вы загружаете большую коллекцию, индексация некоторое время занимает CPU, и поиск в эти минуты может это почувствовать.
Как открыть панель управления Qdrant?
Откройте ссылку в строке «Адрес админ-панели» в своей панели и вставьте значение «Ключ администратора» в поле API key. Там можно посмотреть коллекции и выполнить пробные запросы. Строки «Имя пользователя» и «Пароль» на той же странице относятся к SSH.
Сколько векторов поместится на сервере Qdrant?
Фиксированного числа нет. На ответ влияют размерность, тип данных, полезная нагрузка и квантизация. Начните с расчёта: число векторов x размерность x 4 байта, затем добавьте индекс и 20 процентов запаса. Если этого мало, увеличьте оперативную память и диск в панели.
Как сделать бэкап данных Qdrant?
Бэкап вашего сервера создаётся каждую ночь, хранятся последние 7 дней, и это входит в цену. Чтобы получить копию одной коллекции, используйте API снимков Qdrant, а полученный файл перенесите куда угодно.