NVIDIA H800

NVIDIA H800 PCIe 80GB — серверный ускоритель на архитектуре Hopper, созданный для обучения и инференса больших языковых моделей, генеративного AI и задач HPC. Карта оснащена 80 ГБ памяти HBM2e с 5120-битной шиной и пропускной способностью 2 ТБ/с, что позволяет размещать модели уровня deepseek-r1:70B и Mistral-Large-Instruct без шардирования. 14592 CUDA-ядер и 456 тензорных ядер четвёртого поколения с поддержкой Transformer Engine обеспечивают ускорение обучения LLM до 9 раз и инференса до 30 раз по сравнению с предыдущим поколением.

Пиковая производительность достигает 3026 TFLOPS в FP8, 1513 TFLOPS в BF16/FP16 и 756 TFLOPS в TF32 . Поддержка Multi-Instance GPU (до 7 изолированных инстансов) и vGPU в сочетании с NVIDIA AI Enterprise делает H800 удобным для многопользовательских сред и виртуализации. NVLink четвёртого поколения с пропускной способностью 400 ГБ/с позволяет масштабировать кластеры до сотен GPU.

Пассивное охлаждение, двухслотовый форм-фактор FHFL, интерфейс PCIe Gen5 x16 и питание через 1x 16-pin при TDP 350 Вт обеспечивают интеграцию в плотные серверные конфигурации. Ускоритель совместим с платформами NVIDIA HGX и подходит для дата-центров, ориентированных на крупномасштабные AI-нагрузки.