В эксплуатации

Высокопроизводительный AI-кластер для корпоративной аналитической платформы

Поставка, монтаж и ввод в эксплуатацию высокопроизводительного AI-кластера для корпоративной аналитической платформы. Инфраструктура обеспечивает локальную обработку корпоративных данных, работу AI-агента, анализ коммуникаций, формирование отчётов и прогнозирование бизнес-показателей без использования внешних облачных сервисов.Мощность6.5 кВт
Высокопроизводительный AI-кластер для корпоративной аналитической платформы

О проекте

Компания Start Server реализовала проект по созданию высокопроизводительной AI-инфраструктуры для крупной коммерческой организации. Основной задачей стало развертывание локального вычислительного контура для корпоративного AI-агента, способного анализировать звонки, электронную почту, рабочие сообщения и данные CRM, формируя аналитические отчёты и прогнозы.

Проект был выполнен под ключ: от проектирования архитектуры до поставки оборудования, монтажа, настройки и ввода инфраструктуры в промышленную эксплуатацию.


Паспорт проекта

  • Стоимость проекта — 48,6 млн ₽

  • Срок реализации — 67 календарных дней

  • Заказчик — крупная коммерческая компания

  • Регион — Москва

  • Отрасль — корпоративные услуги

  • Формат реализации — поставка, монтаж и пусконаладочные работы


Задача заказчика

Перед компанией стояла задача объединить разрозненные корпоративные данные в единую AI-инфраструктуру без передачи информации во внешние облачные сервисы.

Ключевые требования:

  • локальная обработка данных;

  • поддержка анализа текста, аудио и CRM;

  • работа с LLM и прогнозными моделями;

  • возможность дальнейшего масштабирования инфраструктуры.


Выполненные работы

В рамках проекта специалисты Start Server:

  • провели обследование инфраструктуры заказчика;

  • рассчитали требования к GPU, CPU, памяти, сети и СХД;

  • разработали архитектуру AI-кластера;

  • подобрали серверное оборудование;

  • организовали поставку и входной контроль;

  • выполнили монтаж оборудования;

  • настроили сеть 100 GbE, систему хранения и программную платформу;

  • провели пусконаладочные работы и нагрузочное тестирование.


Состав поставки

В состав решения вошли:

  • 4 GPU-сервера;

  • 16 ускорителей NVIDIA L40S 48 GB;

  • 768 ГБ совокупной GPU-памяти;

  • 8 процессоров AMD EPYC;

  • 4 ТБ оперативной памяти;

  • NVMe СХД объёмом 120 ТБ;

  • 2 коммутатора 100 GbE;

  • 2 сервера управления.

Программный стек построен на Linux, CUDA, Docker, Kubernetes, PyTorch, TensorRT и системе мониторинга.


Результат проекта

В результате заказчик получил полностью готовую AI-инфраструктуру для промышленной эксплуатации корпоративного AI-агента.

Возможности платформы:

  • обработка до 18 000 часов аудио в месяц;

  • анализ до 1,5 млн текстовых сообщений ежемесячно;

  • масштабирование инфраструктуры до 32 GPU;

  • полностью локальный защищённый контур обработки данных.

Новая инфраструктура позволила автоматизировать анализ корпоративных коммуникаций, ускорить подготовку управленческой отчётности, реализовать прогнозирование ключевых бизнес-показателей и обеспечить хранение всех данных внутри корпоративной сети.


Итог

Проект продемонстрировал возможность построения современной корпоративной AI-инфраструктуры с высокой производительностью, масштабируемостью и полной автономностью обработки данных. Благодаря комплексному подходу Start Server заказчик получил готовую платформу для дальнейшего развития AI-сервисов и внедрения новых сценариев использования искусственного интеллекта.