Облачный GPU-сервер: для чего нужен и как выбрать

Облачные серверы с GPU эффективно и быстро обрабатывают огромные объемы данных. Изначально видеокарты создавались для решения задач по 3D-моделированию и графике. Однако сейчас их всё чаще выбирают для ускорения высокопроизводительных вычислений, чтобы быстрее выполнять транскодинг видео, тяжелый рендеринг, обучение и инференс искусственного интеллекта — и всё это с использованием удаленных рабочих мест. 

В этой статье расскажем, что такое облачный сервер с GPU, как подобрать конфигурацию под ваши задачи и сколько это стоит.

Что такое облачный сервер с GPU и где применяется

Облачный сервер с GPU — это удаленный компьютер, который, в отличие от обычных серверов, предоставляющих доступ только к процессору, оперативной памяти и месту на накопителе, дает использовать ресурсы видеокарт. Подобные серверы подходят для проектов, в которых нужна высокая производительность системы для ускорения задач, например:

• Машинное обучение и искусственный интеллект. GPU эффективнее обрабатывает большие объемы информации, что значительно ускоряет обучение моделей по сравнению с CPU. Особенно это заметно при работе с моделями обработки и анализа естественного языка.
• 3D-моделирование и рендеринг. Крупные проекты требуют большой вычислительной мощности, из-за чего приходится закупать дорогостоящее оборудование. С облачным GPU можно легко и недорого масштабировать мощности под каждый проект.
• Обработка видео. Облачные GPU не просто ускоряют работу с обработкой видео, но и позволяют делать это удаленно с компактного легкого устройства, например ультрабука. Это актуально как для блогеров-путешественников, так и для крупных компаний с большими проектами, требующими максимально быстрой обработки.
• Облачный гейминг. При наличии высокоскоростного интернета можно запросто превратить сервер с GPU в систему для облачного гейминга. При этом не нужно покупать дорогой компьютер. Подойдет даже смартфон с подключенным геймпадом.
• Проектирование (CAD-системы). Облачные графические процессоры полезны для моделирования и работы с моделями BIM в таких программах, как Autodesk Revit и AutoCAD. Видеокарта ускоряет обработку сложных 3D-форм и рендеринга, что актуально для архитектурных бюро, строительных компаний и команд в сфере промышленного дизайна.
• Виртуальные рабочие места (VDI). Дают возможность сэкономить на инфраструктуре и быстро развернуть удаленные рабочие станции с высокой производительностью и качеством графики. Рациональное решение для инженеров, конструкторов, дизайнеров и ML-разработчиков.

Преимущества облачных серверов с GPU

Облачные GPU-серверы превосходят традиционные CPU-серверы по производительности в ряде задач. У самых современных процессоров количество ядер не превышает двух сотен, хоть они и более мощные: 126 — у Intel Xeon 6900P, 192 — у AMD Zen 5. Зато ядра CPU лучше справляются с последовательными операциями. Видеокарты же включают тысячи небольших ядер, способных обрабатывать задачи параллельно. Благодаря такой архитектуре GPU подходит для работы с параллельными и вычислительно-интенсивными задачами, такими как обработка графики или обучение нейронных сетей. 

У облачных серверов с GPU есть и другие плюсы:

• Стоимость. Никаких крупных затрат на старте проекта. Стартап или крупная компания — с облачным GPU вы платите только за фактически используемую мощность. Поэтому не нужно покупать дорогостоящие и дефицитные видеокарты, а также серверы и ПК для работы с графикой и нейросетями.
• Простота использования. Запустить свой проект в облаке можно сразу после заключения договора. Не нужно ждать поставки и настройки оборудования. Управление системой происходит через интуитивно понятный интерфейс, что упрощает работу для пользователей без глубоких технических знаний.
• Масштабируемость. Если проект требует больше ресурсов, их можно легко и быстро добавить. И отключить, когда необходимость в них пропадет. Арендовать видеокарты можно с гибким объемом видеопамяти, например с 2, 8 или 24 ГБ. Выгоднее выбрать столько ресурсов, сколько нужно для рабочих задач, и не платить за лишнее. 
• Доступ к новым технологиям. Провайдеры регулярно обновляют оборудование, а пользователь получает доступ к самым свежим видеокартам. Например, в облачных серверах mClouds стоят видеокарты NVIDIA L40S последнего поколения.
• Поддержка и надежность. Провайдер берет на себя ответственность за поддержку и мониторинг инфраструктуры, обеспечивая бесперебойную работу системы.

Какие видеокарты используются в облачных серверах с GPU

Чаще всего встречаются видеокарты NVIDIA — на них обучаются почти все ИИ-модели. Подробно преимущества этих карт мы рассматривали в статье о GPU для нейросетей. А сейчас давайте посмотрим, какие графические процессоры подходят для решения в облаке различных задач.

Видеокарты для рендеринга, CAD-систем, мультимедиа и виртуальных рабочих мест

К этому типу относятся видеокарты NVIDIA A16 и M10. Они эффективно распределяют мощности, обеспечивая высокую плотность пользователей, и прекрасно справляются с ресурсоемкими программами типа CAD-систем, 3D-редакторов и приложений от Adobe. Также эти решения подойдут для организации облачного гейминга.

• NVIDIA M10 с 32 ГБ GDDR5. Карта использует виртуализации NVIDIA GRID и способна обеспечить комфортную работу для 16 виртуальных рабочих мест, подключенных одновременно.
• NVIDIA A16 с 64 ГБ GDDR6. Карта состоит из четырех отдельных GPU по 16 ГБ памяти в каждом и поддерживает до 64 одновременных VDI-пользователей с профилями по 1 ГБ или до 32 пользователей с профилями по 2 ГБ. Ее можно задействовать для инференса ИИ-моделей и работы с графическими и инженерными программами: 3Ds MAX, AutoCAD, Revit. Поддержка NVIDIA Virtual PC и RTX Virtual Workstation обеспечивает высокую отзывчивость ресурсоемких приложений.

Видеокарты для работы с ИИ

Эти видеокарты подходят для машинного обучения и искусственного интеллекта. В облаке mClouds мы предлагаем две модели с тензорными ядрами четвертого поколения: NVIDIA L4 и L40S. Их конек — обработка больших объемов данных и выполнение сложных вычислений. Архитектура и драйверы этих GPU оптимизированы для задач ускоренного глубокого обучения и инференса.

• NVIDIA L4 с 24 ГБ GDDR6 поколения Ada Lovelace. Она одинаково хорошо справляется с задачами мультимедиа, графики и инференса искусственного интеллекта. Архитектура, оптимизированная для смешанных вычислений (FP32/FP16/INT8), позволяет карте обрабатывать задачи, связанные с ИИ, в 120 раз быстрее мощного серверного CPU. 
• NVIDIA L40S с 48 ГБ GDDR6 поколения Ada Lovelace. Она мощнее L4 на 45% и по производительности превышает популярные карты А100 и V100, которые относятся к предыдущему поколению Ampere. Помимо инференса нейросетей NVIDIA L40S способна выполнять задачи по обучению, включая ускорение мультимодальных (использующих несколько разных типов данных и методов обработки) задач генеративного ИИ. Также она прекрасно подходит для графически насыщенных приложений с тяжелой 3D-графикой, аналитических приложений в науке и промышленности.

Видеокарты для высокопроизводительного ИИ

Эти GPU предназначены для высокопроизводительных вычислений. Самый яркий представитель этого класса — видеокарта NVIDIA H100. В ней 80 ГБ памяти с высокой пропускной способностью (до 3 Тб/с) стандарта HBM3e. 

Основное предназначение карты — выполнение самых требовательных задач искусственного интеллекта. Для вычислений она может использовать как стандарты FP32 и FP16, так и высокоточный FP64. Это делает ее отличным инструментом для обучения ИИ-моделей, расчета аэродинамики в автомобилестроении, разработки медицинских диагностических систем и суперкомпьютинга. Для сравнения: H100 обучает модели ИИ в девять раз быстрее, чем предыдущее поколение — A100, на котором обучался ChatGPT 4.

На что обратить внимание при выборе облачного сервера с GPU

При выборе любого облачного сервера нужно учитывать его конфигурацию: количество виртуальных процессоров, объем оперативной памяти и место на накопителе. А для GPU-серверов дополнительными важными параметрами будут объем видеопамяти и мощность графического процессора. Убедитесь, что провайдер сможет обеспечить вас необходимыми ресурсами.

Вот несколько примеров конфигурации серверов, которые можно арендовать в mClouds.

Сервер для работы с продуктами Adobe или CAD-системами:

• Видеокарта: Tesla M10 или A16. 
• Процессор: современные Xeon Gold или EPYC от 12 ядер на одного пользователя.
• Оперативная память: от 8 ГБ на одного пользователя.
• Тип накопителя: NVMe SSD или SAS SSD, объем требуемой памяти зависит от типа задач. 

Сервер для инференса и обучения ИИ:

• Видеокарта: Tesla L4 (для инференса и обучения небольших моделей) или L40S (для любых задач).
• Процессор: современные Xeon Gold или EPYC от 8 ядер с частотой от 3 ГГц.
• Оперативная память: в зависимости от размера и сложности модели. Рекомендуемый минимум — 16 ГБ, оптимальный объем — 32 ГБ.
• Тип накопителя: NVMe SSD или SAS SSD объемом выше размера предполагаемых ИИ-моделей.

Сервер для высокопроизводительных нейросетей:

• Видеокарта: H100.
• Процессор: современные Xeon Gold или EPYC от 32 ядер.
• Оперативная память: в зависимости от размера и сложности модели. Минимум 128 ГБ.
• Тип накопителя: NVMe SSD объемом выше размера предполагаемых ИИ-моделей.

Мы рекомендуем обратить внимание на качество услуг облачного провайдера. 

1. Адаптивность. В mClouds вы легко адаптируете услуги для меняющихся потребностей проекта прямо из своего личного кабинета. Можно подключить несколько видеокарт, масштабировать память до 1 ТБ и vCPU выше 32 ядер на один сервер. Также можно заказать необходимый объем SSD и NVMe. Если количества ресурсов, которые доступны в калькуляторе услуг, вам недостаточно, обращайтесь в поддержку mClouds — предоставим индивидуальную конфигурацию.
2. Прозрачность SLA — соглашения между поставщиком услуг и клиентом. В mClouds уровень доступности облачного сервера составляет 99,95% в месяц, а техподдержка реагирует на запрос в течение 10–15 минут.
3. Уровень безопасности. Выбирая провайдера, уточните, нужно ли платить за дополнительные опции. В mClouds в тариф уже входит защита от DDoS-атак и резервное копирование данных минимум раз в неделю.
4. Фреймворки и программное обеспечение. Мы помогаем подобрать рабочие инструменты под разные типы задач по обучению нейросетей, 3D-моделированию и т. д.

Сколько стоит арендовать облачный GPU-сервер

Стоимость использования облачных серверов с GPU варьируется в зависимости от выбранного провайдера, конфигурации оборудования и модели оплаты. Например, в mClouds сервер с видеокартой L4 стоит от 5790 рублей в месяц. Более подробно о наших тарифах на облачные серверы с GPU можно узнать здесь.

Для примера мы попробовали собрать сервер со схожими характеристиками, и вот что получилось (цены актуальны на ноябрь 2024 года):

• Два процессора Intel Xeon Gold 6334 — от 330 000 руб.
• Серверная оперативная память с коррекцией ошибок 64 ГБ — от 40 000 руб.
• Видеокарта NVIDIA L4 24 ГБ — от 300 000 руб.
• Материнская плата и корпус Supermicro — от 200 000 руб.
• Два серверных SSD Samsung 1920 ГБ — от 80 000 руб.
• Серверные дублированные блоки питания от 1000 ватт — от 60 000 руб.

Итого, по самым скромным оценкам, получаем более 1 000 000 рублей.

Вот такая сумма единоразового платежа вышла за собственный сервер, который предназначен только для инференса ИИ, о серьезном машинном обучении здесь не может быть и речи. Кроме того, работоспособность оборудования, безопасность и сохранность данных также будут зависеть от вас.

Стоимость мощного сервера с GPU доходит до нескольких миллионов, соответственно, арендная плата тоже будет выше. В mClouds аренда сервера с самой популярной видеокартой для старта работы с нейросетями, их обучением и инференсом, а также для организации удаленных рабочих столов VDI и проектирования в облаке обойдется от 24 000 рублей в месяц за 24 ГБ памяти для работы с AI/ML и от 3000 рублей в месяц за 2 ГБ памяти, что достаточно для работы с VDI.

Вы можете сами убедиться в производительности и эффективности облачных GPU mClouds — протестируйте сервер с любой картой бесплатно.