GPU и ускорители

Обзоры и сравнения современных GPU и вычислительных ускорителей для серверов и AI-инфраструктуры. Разбираем производительность, объём видеопамяти, форм-факторы, энергопотребление и особенности NVIDIA, AMD и других платформ для задач машинного обучения, инференса и высокопроизводительных вычислений.

GPU и ускорители
Как проверить влияние NUMA на подачу данных к GPU
Как проверить влияние NUMA на подачу данных к GPU
GPU и ускорители
Проверка переноса ML-нагрузки с CUDA на ROCm до закупки сервера
Проверка переноса ML-нагрузки с CUDA на ROCm до закупки сервера
GPU и ускорители
Как читать бенчмарки GPU для LLM и сравнивать одинаковые условия
Как читать бенчмарки GPU для LLM и сравнивать одинаковые условия
GPU и ускорители
GPU-сервер для научных расчётов: Как проверить совместимость приложения
GPU-сервер для научных расчётов: Как проверить совместимость приложения
GPU и ускорители
CPU или GPU для embeddings и reranker в корпоративном RAG
CPU или GPU для embeddings и reranker в корпоративном RAG
GPU и ускорители
Как рассчитать VRAM для LLM: веса, KV-cache, контекст и параллельные запросы
Как рассчитать VRAM для LLM: веса, KV-cache, контекст и параллельные запросы
GPU и ускорители
PCIe или SXM в GPU-сервере: Cовместимость, обслуживание и модернизация
PCIe или SXM в GPU-сервере: Cовместимость, обслуживание и модернизация
GPU и ускорители
AMD MI300X или NVIDIA H200 для LLM: как проверить выбор на своём стеке
AMD MI300X или NVIDIA H200 для LLM: как проверить выбор на своём стеке
GPU и ускорители
Можно ли заменить A100 на H100 в существующем сервере: Что проверить перед модернизацией
Можно ли заменить A100 на H100 в существующем сервере: Что проверить перед модернизацией
GPU и ускорители
H100 или H200 для LLM: когда 80 GB не хватает для длинного контекста
H100 или H200 для LLM: когда 80 GB не хватает для длинного контекста
GPU и ускорители
L40S или RTX PRO 6000 для LLM: Когда 48 GB достаточно, а когда нужны 96 GB
L40S или RTX PRO 6000 для LLM: Когда 48 GB достаточно, а когда нужны 96 GB