NVIDIA HGX

GPU-серверы на платформе NVIDIA HGX

Start Server поставляет GPU-серверы на базе NVIDIA HGX для обучения и инференса LLM, fine-tuning, генеративного AI, анализа данных и HPC. HGX объединяет несколько SXM GPU, NVLink и NVSwitch в единую платформу. На её основе OEM-производители создают законченные системы с различными CPU, RAM, NVMe, сетевыми интерфейсами и типом охлаждения.

Серверы NVIDIA HGX H100 и H200: HGX H100 — восемь H100 SXM, суммарно 640 ГБ GPU-памяти. HGX H200 — 1128 ГБ HBM3e на восьми GPU с высокоскоростной NVLink/NVSwitch. Подходят для обучения LLM, fine-tuning, production-инференса, HPC и других multi-GPU нагрузок.

Серверы NVIDIA HGX B200 и B300: HGX B200 — восемь GPU Blackwell, 1,44 ТБ HBM3e. HGX B300 — восемь Blackwell Ultra по 288 ГБ, суммарно до 2304 ГБ. Обе платформы — NVLink пятого поколения и NVSwitch fabric.

NVIDIA HGX или DGX: HGX — платформа для серверов разных производителей. DGX — готовая система NVIDIA с фиксированной конфигурацией. HGX позволяет выбирать OEM, CPU, RAM, storage, сеть, охлаждение — более гибкий вариант при проектировании AI-инфраструктуры.

От одного HGX-сервера до GPU-кластера: для крупных нагрузок несколько HGX-серверов объединяются сетью. Инфраструктура включает HGX compute nodes, InfiniBand или Spectrum-X Ethernet, СХД, NVMe, BlueField/SuperNIC, коммутаторы, management, питание и охлаждение. NVIDIA описывает HGX reference architecture как масштабируемую AI Factory для multi-node training и инференса.

Как выбрать сервер NVIDIA HGX: для подбора определите модель GPU, требуемый VRAM, training или inference, производителя сервера, CPU, RAM, локальный storage, сетевую архитектуру, форм-фактор, энергопотребление, тип охлаждения и необходимость масштабирования. Start Server помогает подобрать OEM-систему на базе HGX, организует поставку, интеграцию и пусконаладку.