Зарегистрироваться 8 (800) 350-01-20

Как подобрать облачный GPU-сервер для BIM и CAD

Александр
Автор:  Александр Опубликовано:  28 ноября, 2024
Как правильно оценить объем VRAM для запуска LLM Как правильно оценить объем VRAM для запуска LLM

Что именно определяет расход видеопамяти и почему подобрать GPU только по объему памяти для работы с LLM не всегда сработает. Разберем влияние длины контекста, KV-кэш, количество одновременно обрабатываемых запросов, batch size и другие параметры.

09 сентября, 2026
Как запустить локальную LLM с RAG системой на своем сервере Как запустить локальную LLM с RAG системой на своем сервере

Пошагово разбираем, как развернуть локальную RAG-систему на своем GPU-сервере, для примера будем использовать наши облачные GPU-серверы с NVIDIA L4 24GB. Для запуска моделей локально, будем использовать vLLM, для работы с базой знаний и запросами — Open WebUI.

27 августа, 2026
Июльский дайджест обновлений - добавили больше GPU и обновили 152-ФЗ Июльский дайджест обновлений - добавили больше GPU и обновили 152-ФЗ

Вот что у нас нового в июле: добавили еще больше видеокарт в облаке -  NVIDIA L40S и A16, завершили аттестацию всей платформы по 152-ФЗ, попали на карту ИТ-лидеров CNewsMarket и, конечно, продолжили публиковать статьи на Хабре и в нашем блоге. Заходите, чтобы узнать о процессорах EPYC Venice Zen6 и других новинках рынка. 

04 августа, 2026
Продолжая использовать сайт, вы соглашаетесь с использованием файлов cookie, а также подтверждаете, что ознакомлены и принимаете условия Политики конфиденциальности.
Принимаю