Top.Mail.Ru

Кому подходит

Подходит как командам со стабильной LLM-нагрузкой, так
и ИТ-командам, которые только строят свои ИИ-сервисы. В первую
очередь — крупным компаниям, государственным организациям,
финансовому сектору и объектам КИИ, работающим
с чувствительными данными.
Закрытый и защищенный контур 
Ресурсы для запуска GLM и других LLM
Контроль над системным стеком
Основа для RAG, корпоративного и кодового ассистентов, агентных сценариев

Аренда GPU-платформ на NVIDIA HGX B300

Решение подходит для масштабных ИИ-проектов, включая анализ больших данных. Платформа целиком выделяется одному арендатору

Конфигурация сервера

Процессоры

2 × Intel Xeon 6740P – суммарно 96 ядер (2,1 ГГц)

Память

3 ТБ DDR5 ECC RDIMM (32 × 96 ГБ)

GPU

NVIDIA HGX B300, 8 GPU по 288 ГБ HBM3e; пропускная способность NVLink – 1,8 ТБ/с на GPU

Сеть GPU

8 портов NVIDIA ConnectX-8, до 800 Гбит/с

Диски

2 × NVMe по 1,92 ТБ, 2,5

Дополнительная сеть

2 двухпортовых адаптера 25GbE SFP28

Сеть хоста и управление

2 × 10 Гбит/с RJ45 и 2 порта RJ45 для управления.

Нужен более
легкий старт? 

Виртуальные машины с GPU позволяют арендовать только
нужную долю мощности, не переплачивая за простаивающее
железо. Простая гибкая настройка и быстрое развертывание —
оптимальный вариант для тестирования и ранних стадий
разработки с возможностью масштабироваться по мере
необходимости.

Реальная польза там, где бизнес
упирается в ограничения

Пиковая или нестабильная
LLM-нагрузка

Держать под нее выделенные
GPU-мощности в штате невыгодно

Чувствительные
данные для ИИ

Модели работают с данными, которые
нельзя выносить в публичное облако

Сертификация для
тендера

Нужна конфигурация на реестровом
оборудовании для участия в закупках

Свой GPU-парк
не окупается

Один-два действующих проекта
не оправдывают капитальные затраты
на оборудование

Защита ваших проектов
на первом месте

Физическая изоляция ресурсов и сертифицированное ПО.
Сервер работает только на вашу задачу, без общих ресурсов
с другими клиентами. Соответствие 152-ФЗ и требованиям КИИ

Узнать больше

Сервисы «Астра ИИ» по подписке

Для тех, кому нужна готовая
ИИ-функциональность без своей
инфраструктуры и ML-команды