Deckhouse Platform
Единое управление любыми нагрузками поверх любой инфраструктуры
Stronghold
Безопасное управление жизненным циклом секретов
Observability
Единая наблюдаемость инфраструктуры и приложений
Deckhouse Code
Управление разработкой и жизненным циклом ПО
Deckhouse Development Portal
Управление процессами всех команд разработки в одном окне
Deckhouse Platform
Единое управление любыми нагрузками поверх любой инфраструктуры
Stronghold
Безопасное управление жизненным циклом секретов
Observability
Единая наблюдаемость инфраструктуры и приложений
Deckhouse Code
Управление разработкой и жизненным циклом ПО
Deckhouse Development Portal
Управление процессами всех команд разработки в одном окне
Запускайте и сопровождайте ИИ-приложения на своих серверах.
под управлением Deckhouse
в высоконагруженных ИТ-системах
Deckhouse предоставляет общую инфраструктуру для корпоративных ассистентов, систем поиска по документам и других ИИ-приложений. Платформа управляет запуском инференса, доступом приложений к моделям и распределением ресурсов GPU. Команда Deckhouse отвечает за совместимость и поддержку компонентов решения.
Deckhouse берёт на себя интеграцию компонентов, проверку совместимости версий и техническую поддержку. Это снижает трудозатраты вашей команды на сборку и сопровождение платформы.
Новые приложения могут использовать работающие сервисы, а отдельные установки — сохранённые конфигурации. Инженеры тратят меньше времени на подготовку инфраструктуры следующего проекта.
Совместимые нагрузки могут делить ускоритель или использовать общий инференс. Это позволяет задействовать свободные мощности для новых задач, если имеющееся оборудование обеспечивает нужную производительность и изоляцию.
Укажите модель и приоритет: время ответа, пропускная способность или их баланс. Платформа подберёт конфигурацию из доступных профилей с учётом ресурсов и политик, выделит GPU, доставит файлы модели и запустит сервис.
У каждого приложения — свой ключ доступа, список разрешённых моделей и лимиты. Шлюз направляет OpenAI-совместимые запросы к локальному инференсу или внешним провайдерам. Несколько приложений могут использовать один сервис, если подходят его настройки и производительность.
Контейнерам можно выделить долю GPU, целый ускоритель или сразу несколько, а ВМ — целую видеокарту напрямую. Режим зависит от доступной памяти и изоляции. Число реплик сервиса инференса меняется автоматически в заданных границах.
Версию модели и параметры запуска можно сохранить для повторного развёртывания сервиса. Для проверки запуска и диагностики сбоев доступны статус сервиса, ошибки, число реплик и показатели GPU.
Deckhouse Platform Core обеспечивает работу кластера. Расширение «Управление GPU» подключает ускорители к нагрузкам, а «Сервисы ИИ-инференса» предоставляет каталог моделей, управляет запуском инференса и шлюзом доступа. Через него приложения обращаются к локальному инференсу или разрешённым внешним провайдерам.
Обосновать закупки и спланировать бюджет на платформу, оборудование и сопровождение по мере роста числа ИИ-проектов.
Запускать новые ИИ-проекты и распространять успешные приложения на подразделения, учитывая стоимость и сроки внедрения.
Контролировать себестоимость внедрения, обновления и сопровождения ИИ-продукта у заказчиков.
Решение состоит из базового продукта и всех нужных расширений для запуска и сопровождения ИИ-приложений на своих серверах. Вы можете получить новые возможности для решения своих задач, используя дополнительные расширения.
Базовая редакция Deckhouse Platform для запуска и эксплуатации контейнеров и виртуальных машин.
Повышайте полезную загрузку GPU-парка за счёт автоматического подбора конфигураций — от доли карты до нескольких GPU для одной задачи
Запускайте ИИ‑модели как готовые сервисы: Deckhouse автоматически подбирает конфигурацию, масштабируется под нагрузку и контролирует работу каждого из них
Наши эксперты обладают широким опытом построения инфраструктуры под самые разные задачи для компаний любого масштаба.
Порекомендуем партнёров, которые обладают необходимой экспертизой, подтверждённой сертификатом Deckhouse.
Команда инженеров всегда готова прийти на помощь — устранить аварию или проконсультировать в нужный момент.
Решение сокращает время запуска ИИ-проектов до трех минут и вдвое снижает потребность в GPU
Рассказываем, что нового появилось в Deckhouse Kubernetes Platform: от прозрачного управления расходами и контроля целостности до разделения прав доступа в интерфейсе и отказоустойчивой наблюдаемости.
Интеграция решений формирует чёткое распределение задач в ИТ-ландшафте: Deckhouse Platform забирает на себя выделение вычислительных мощностей, оркестрацию и отказоустойчивость серверов, а системы ICL Services обеспечивают прикладное администрирование операционных систем и конечных точек, развёрнутых внутри платформы
Цена зависит от состава решения, объёма приобретаемых прав и условий поддержки. При расчёте учитываем уже приобретённые права и согласованный объём работ по внедрению и сопровождению.
Необязательно, рекомендуемый состав зависит от того, чего не хватает в инфраструктуре. Например, если в вашей ИТ-системе уже настроен инференс, «Управления GPU» может быть достаточно.
Перед заменой действующей ИИ-платформы сравним ограничения и затраты на сопровождение. Если вы уже используете Deckhouse Platform, проверим совместимость расширений и учтём приобретённые права.
Решение поддерживает ускорители NVIDIA и MetaX C500/C550. Для MetaX нужны выделенные узлы с программным обеспечением производителя. Совместимость модели, движка инференса и ускорителя необходимо проверять отдельно для каждой конфигурации. Например, способы разделения зависят от GPU, драйвера и версии поставки: MIG и MPS требуют совместимой конфигурации, а TimeSlicing не изолирует память.
Да. Для работы внутри закрытой сети потребуется заранее подготовить образы, файлы моделей и зависимости. Локальный инференс не требует внешнего API. Если подключён внешний провайдер, интернет потребуется: запросы к нему выходят за пределы закрытой сети.
Приложение разрабатывает ваша команда или поставляет партнёр; они же отвечают за подключение данных и качество ответов. На платформе можно размещать инструменты обучения и экспериментов, но полный MLOps-цикл в состав решения не входит.
