Дмитрий Белогорцев
Инженер команды mClouds
Публикации автора
Как запустить локальную LLM с RAG системой на своем сервере
В этой статье мы пошагово разберём, как развернуть локальную RAG-систему на своем GPU-сервере, для примера будем использовать наши облачные GPU-серверы с NVIDIA L4 24GB. Для запуска моделей локально, будем использовать vLLM, для работы с базой знаний и запросами — Open WebUI. Заодно проведем тестирование и сравнение на базе LLM моделей Qwen3.5-9B и Gemma 4 E4B […]
Как установить и настроить собственное облачное хранилище на базе Nextcloud
Nextcloud — программное обеспечение с открытым исходным кодом для создания собственного частного облачного хранилища и совместной работы с файлами. В отличие от публичных сервисов (Google Drive, Яндекс.Диск, Dropbox), Nextcloud разворачивается на вашей собственной инфраструктуре, что даёт полный контроль над данными. Ключевые преимущества Nextcloud для бизнеса: Доступ к данным с любых устройств. Вы можете работать с […]