Александр
Редактор блога и новостей, технический писатель с более чем 10-летним опытом в области облачных технологий и серверных ИТ-инфраструктур.
Публикации автора
Сентябрь в mClouds: работаем с ИИ на практике
Привет! Первый месяц осени мы посвятили ИИ: расширили выбор GPU-конфигураций для аренды, обновили сервис резервного копирования и подготовили материалы для работы с ИИ — от выбора видеопамяти до запуска помощника по документам компании. Запустили новый тариф: две NVIDIA L4 в одной машине Если одной L4 уже мало, а NVIDIA L40S — это «слишком сложно и дорого», у нас появилось то, что нужно. Конфигурация с двумя NVIDIA […]
Как сократить расходы на ИИ: выбираем GPU для Qwen и других LLM
Для собственного чат-бота компании, поиска по документам или транскрибации голоса, не всегда нужен сервер с самой дорогой видеокартой. Иногда задачу можно закрыть недорогими GPU, например NVIDIA L4 с 24 ГБ памяти. Если LLM модель крупнее или нужна бОльшая скорость, то стоит посмотреть на L40S с 48 ГБ или RTX PRO 6000 Blackwell Server Edition с […]
Как правильно оценить объем VRAM для запуска LLM
При выборе GPU для запуска LLM многие ориентируются только на размер LLM модели: если веса помещаются в память видеокарты, значит всё должно работать. На практике этого недостаточно. Во время инференса VRAM расходуется не только на хранение весов. На итоговое потребление влияют длина контекста, KV-кэш, количество одновременно обрабатываемых запросов, batch size и другие параметры. Разберемся, что […]
Июльский дайджест обновлений — добавили больше GPU и обновили 152-ФЗ
Жаркий летний дайджест Привет! За окном лето и мы к вам с горячими новостями. Вот что у нас нового: сделали еще доступнее видеокарты NVIDIA L40S и A16, завершили аттестацию платформы по 152-ФЗ, попали на карту ИТ-лидеров CNewsMarket и, конечно, продолжили публиковать статьи на Хабре и в нашем блоге. Заходите, чтобы узнать о процессорах EPYC Venice […]
Тест Гилёва, Fragster и HammerDB: как комплексно оценить производительность 1С
Когда пользователи жалуются, что «1С тормозит», первым делом обычно запускают тест Гилёва. Он действительно стал отраслевым стандартом для оценки производительности 1С, а также для планирования сервера для 1С, однако показывает лишь часть картины. Даже высокий результат не гарантирует, что система будет быстро работать под реальной нагрузкой. Чтобы объективно оценить производительность платформы 1С, нужно смотреть сразу […]