Поставка GPU-серверов для государственного чат-бота

Паспорт проекта

Государственная AI-инфраструктура без зависимости от публичного облака. Вычислительная платформа для развертывания собственного корпоративного чат-бота и RAG-поиска по внутренней базе знаний.

Ключевые параметры:

• 31,8 млн ₽ — стоимость проекта

• 58 дней — срок реализации

• Госзаказчик — федеральное учреждение

• ПФО — регион

• Госсектор — цифровизация и сервисы

• Под ключ — поставка + монтаж + ПНР

Формат закупки

Конкурентная процедура с техническим обоснованием конфигурации, поставкой, входным контролем, монтажом, настройкой и приемочными испытаниями.

Задача заказчика

Создать собственного чат-бота для работы с внутренними знаниями. Решение должно отвечать сотрудникам на вопросы, находить подтверждающие фрагменты документов и работать полностью внутри защищённого контура.

Ключевые требования

• Поддержка внутренней нормативной базы, регламентов, инструкций и методических материалов

• RAG-поиск с обязательной ссылкой на источник ответа

• Разграничение доступа по ролям и подразделениям

• Отсутствие передачи служебных данных во внешние AI-сервисы

• Возможность масштабирования по мере роста базы знаний и числа пользователей

Контур решения

Документы и регламенты → Векторная база знаний → LLM + RAG на GPU → Чат-бот

Пользователь получает ответ и ссылку на внутренний документ, а все запросы и действия фиксируются в журнале аудита (защищённый контур, role-based access, audit log).

Реализация — от технического задания до приемочных испытаний

Start Server отвечал за инфраструктурную часть проекта и координацию всех этапов поставки и запуска.

Этапы работ

1. Предпроектное обследование — проверка требований к модели, RAG-контуру, нагрузке, информационной безопасности и условиям площадки

2. Проектирование архитектуры — расчёт GPU, CPU, RAM, NVMe, сети, резервирования и возможности расширения

3. Поставка оборудования — закупка, логистика, входной контроль и проверка комплектации

4. Монтаж и интеграция — установка серверов в стойку, коммутация и настройка сети

5. Программное окружение — развёртывание Linux, драйверов, CUDA, контейнерной платформы и мониторинга

6. ПНР и документация — нагрузочные тесты, протоколы, комплект эксплуатационных документов

Состав поставки — сбалансированная платформа для корпоративного чат-бота

Два независимых GPU-узла обеспечивают отказоустойчивость, разделение нагрузки и дальнейшее масштабирование.

Технические характеристики

• 2 GPU-сервера 4U

• 8 × NVIDIA L40S, 48 ГБ

• 384 ГБ совокупной GPU-памяти

• 4 × AMD EPYC, 48 ядер

• 2 ТБ DDR5 ECC RAM

• 61,44 ТБ NVMe-хранилище

• 100 GbE высокоскоростная сеть

• 3 года гарантия и сервис

Программное окружение: Linux • NVIDIA CUDA • Docker/Kubernetes • мониторинг • журналирование • резервное копирование

Результат — готовая платформа для безопасного запуска собственного чат-бота

Оборудование принято заказчиком после комплексных испытаний и передано в промышленную эксплуатацию.

Итоги проекта

• 58 календарных дней — от утверждения спецификации до завершения ПНР

• 2 узла — независимые GPU-серверы с распределением нагрузки

• 384 ГБ — совокупная видеопамять для инференса и RAG

• 100 GbE — сеть между вычислительными узлами

• Закрытый контур — данные не передаются в публичные AI-сервисы

• До 16 GPU — заложена возможность расширения платформы

• Полный комплект — протоколы ПНР, схемы, инструкции и паспорта

Почему Start Server

Один подрядчик. Одна зона ответственности.

Мы отвечаем не только за поставку оборудования, но и за то, чтобы вся вычислительная платформа была собрана, настроена, протестирована и готова к развертыванию AI-сервиса.

• Проектирование под конкретную модель и нагрузку

• Проверенная совместимость серверов, GPU, сети и ПО

• Поставка, монтаж, ПНР и документация по одному договору

• Гарантийное сопровождение и расширение инфраструктуры