ПАК Скала^р для обучения и инференса больших моделей использует Deckhouse Kubernetes Platform как основу оркестрации инфраструктуры.
Программно-аппаратный комплекс Скала^р разработан для обучения и инференса больших языковых и генеративных моделей. В нём применяется российская платформа управления контейнерами Deckhouse Kubernetes Platform от компании «Флант». Она работает как основа для оркестрации всей инфраструктуры — от хранилищ данных до графических ускорителей.
Deckhouse Kubernetes Platform управляет модульной архитектурой комплекса. Все компоненты — процессоры, сети, GPU, системы хранения — работают как единый вычислительный кластер. Это позволяет эффективно запускать ресурсоёмкие задачи ИИ, не разбивая нагрузку на изолированные части. Для масштабирования выбран 400G Ethernet. Он обеспечивает минимальные задержки, близкие к уровням InfiniBand, что критично для производительности при обучении и инференсе.
Антон Юдин, начальник отдела разработки аппаратного обеспечения Скала^r, рассказал, что интеграция требовала ручной адаптации: «Пришлось “учить” компоненты правильно взаимодействовать друг с другом. Без этого система не работала стабильно». В частности, понадобилось настраивать взаимодействие между RedOS и Deckhouse Kubernetes Platform, чтобы MLOps-платформа запускалась без сбоев.
Мы делаем Kubernetes предсказуемым — без лишних настроек, просто и надёжно. Deckhouse Kubernetes Platform уже включает всё, что нужно для запуска сложных нагрузок: безопасность, обновления, масштабирование, в том числе для задач с использованием GPU. То, что её выбрали для ИИ-системы уровня Скала^р, — подтверждает: платформа справляется там, где важны и производительность, и стабильность.
Александр Подмосковный, менеджер продукта по направлению ML/AI компании «Флант»
Все программные компоненты комплекса — включая Deckhouse Kubernetes Platform, операционную систему RedOS и собственные решения для мониторинга — сертифицированы и включены в реестры Минцифры и Минпромторга. Это позволяет использовать Скала^р в государственных и корпоративных системах, где требуется соответствие нормативным требованиям.
Источник : Коммерсантъ