Классы GPU

GPUClass — это заданный администратором пул GPU. В нём описывается, какие карты входят в пул и какие варианты партиционирования и разделения разрешены. Модуль превращает это в набор объектов DeviceClass, каждый из которых получает имя extended-ресурса, доступное пользователям напрямую.

Это рекомендуемый способ предоставления GPU пользователям. Без GPUClass каждому пользователю приходится самостоятельно описывать DeviceClass с CEL-селектором — этот путь описан в разделе «Использование».

GPUClass — кластерный ресурс. Короткое имя: gpucls.

Использование ресурсов GPUClass

Принципы работы с GPUClass следующие:

1. Администратор кластера создаёт GPUClass с селектором по объектам PhysicalGPU.
2. gpu-controller находит подходящие карты и читает их возможности — какие MIG-профили они поддерживают и какие стратегии разделения доступны.
3. Для каждой разрешённой комбинации он создаёт DeviceClass, принадлежащий этому GPUClass. Каждый такой объект получает extendedResourceName.
4. Пользователи запрашивают GPU по имени этого extended-ресурса. Мутирующий вебхук модуля создаёт ResourceClaim за них.

Удаление GPUClass удаляет все сгенерированные им объекты DeviceClass (они связаны с GPUClass через owner references).

Пример минимального GPUClass

Все GPU в кластере, только целые карты:

apiVersion: gpu.deckhouse.io/v1alpha1
kind: GPUClass
metadata:
  name: gpu-any
spec: {}

Пустой spec означает «все объекты PhysicalGPU, все поддерживаемые профили партиций, все поддерживаемые стратегии разделения». На смешанном кластере это создаст очень много объектов DeviceClass, поэтому на практике селектор нужен.

Выбор карт

spec.selector — обычный label selector по объектам PhysicalGPU. Пустой селектор соответствует всем картам.

Доступные лейблы PhysicalGPU:

Для просмотра всех физических GPU в кластере и их лейблов используйте команду:

d8 k get physicalgpus --show-labels

Пример класса GPU, ограниченного одной моделью:

apiVersion: gpu.deckhouse.io/v1alpha1
kind: GPUClass
metadata:
  name: a100
spec:
  selector:
    matchLabels:
      gpu.deckhouse.io/device: a100-sxm4-40gb

Ограничение профилей партиций

spec.partitionFilter ограничивает набор MIG-профилей, которые публикует класс. Используйте allow как белый список или deny как чёрный.

Чтобы посмотреть, какие профили поддерживает карта, используйте команду:

d8 k get physicalgpu <имя> -o jsonpath='{.status.capabilities.partitionSupport.profiles[*].name}'

Эта команда выводит аппаратные имена (1g.5gb, 2g.10gb, …). При записи в фильтр точки нужно убрать.

Пример GPUClass с публикацией только небольших партиций A100:

apiVersion: gpu.deckhouse.io/v1alpha1
kind: GPUClass
metadata:
  name: a100-small
spec:
  selector:
    matchLabels:
      gpu.deckhouse.io/device: a100-sxm4-40gb
  partitionFilter:
    allow:
      - 1g5gb
      - 2g10gb

Всё, кроме партиции на всю карту:

spec:
  partitionFilter:
    deny:
      - 7g40gb

Ограничение разделения

spec.sharingFilter ограничивает набор стратегий разделения, которые публикует класс. Допустимые имена — mps и ts; используются только те стратегии, которые действительно поддерживает оборудование.

Пример описания пула только для эксклюзивного использования — совместный доступ к этим картам запрещён полностью:

apiVersion: gpu.deckhouse.io/v1alpha1
kind: GPUClass
metadata:
  name: a100-exclusive
spec:
  selector:
    matchLabels:
      gpu.deckhouse.io/device: a100-sxm4-40gb
  sharingFilter:
    deny:
      - mps
      - ts

Пример описания пула, в котором разрешён только MPS:

spec:
  sharingFilter:
    allow:
      - mps

Имена сгенерированных DeviceClass

Имена строятся из имени класса плюс сегменты партиции и разделения:

Например, класс ml-ai-h100, разрешающий профиль 1g12gb и MPS, создаёт ml-ai-h100, ml-ai-h100-1g12gb, ml-ai-h100-mps-percent и ml-ai-h100-1g12gb-mps-percent.

Сгенерированные объекты получают лейблы, по которым их удобно искать и проверять:

d8 k get deviceclasses -l gpu.deckhouse.io/gpuclass=ml-ai-h100

Просмотр доступных объектов GPUClass

Для просмотра доступных в кластере объектов GPUClass используйте команду:

d8 k get gpuclasses

Пример вывода:

NAME         DEVICES   DEVICECLASSES                                    READY
ml-ai-h100   2         ["ml-ai-h100","ml-ai-h100-1g12gb", ...]          True

Значения полей в выводе команды:

Чтобы получить полный список имён классов устройств (DeviceClass), которые были созданы на основе конкретного класса GPU, используйте команду:

d8 k get gpuclass ml-ai-h100 -o jsonpath='{.status.deviceClassNames}' | jq

Какую информацию передавать пользователям, запрашивающим GPU

Каждый сгенерированный DeviceClass публикует extended-ресурс с именем gpu.deckhouse.io/<имя-device-class>.

Для получения имени этого extended-ресурса используйте команду (ml-ai-h100-1g12gb замените на свое значение):

d8 k get deviceclass ml-ai-h100-1g12gb -o jsonpath='{.spec.extendedResourceName}'

Пример вывода:

gpu.deckhouse.io/ml-ai-h100-1g12gb

Эту строку пользователи должны указывать в спецификации пода для запроса GPU. Подробнее — в разделе «Использование».

Особенности и ограничения классов GPU

Классы GPU имеют следующие особенности и ограничения:

• Валидация строгая и «падает закрыто». У вебхука GPUClass установлено failurePolicy: Fail, поэтому пока gpu-controller недоступен, создание и изменение GPUClass отклоняются. На чтение и использование уже сгенерированных DeviceClass это не влияет.
• Классы могут пересекаться. Ничто не запрещает двум объектам GPUClass выбирать одни и те же карты; они просто дадут два набора имён для одного оборудования. Конфликты выделения разрешает планировщик, а не определение класса.
• Фильтры не создают возможности. Если разрешить MIG-профиль или стратегию разделения, которой карта не поддерживает, DeviceClass для такой комбинации не появится — она пропускается, при этом сообщение об ошибке не формируется. Если ожидаемое имя отсутствует в .status.deviceClassNames, сначала проверьте .status.capabilities карты.
• Не редактируйте сгенерированные объекты. gpu-controller их реконсилирует, поэтому ручные изменения будут отменены.