跳到主要内容
AI Platform

HAMi 平台版在线部署手册

本文档面向 SRE / 平台工程师,介绍如何在 Kubernetes 集群上部署 HAMi AI Platform ,并完成与 HAMi、Prometheus、NVIDIA GPU Operator、Gateway 等基础组件的对接和功能验证。

⚠️ 安装 ≠ 激活

完成 Helm Chart 安装后,平台服务可以启动;HAMi 的 GPU 虚拟化和调度功能需完成许可证激活后才能使用。

安装过程本身不依赖证书,您可以先完成部署,再通过后续步骤申请并导入证书。

简而言之:先装软件,后拿证书;不激活则 vGPU 切分与调度功能不可用,验证也会失败。

前置条件清单​

类型要求验证命令
Kubernetes按所选 Chart 的 Kubernetes 支持范围配置集群:HAMi ≥ 1.18,Ascend / PPU ≥ 1.20;启用 RPM 时要求 Kubernetes ≥ 1.30。kubectl version
容器运行时containerd、CRI-O 等 Kubernetes CRI 运行时;GPU 节点已配置 NVIDIA Container Toolkitkubectl get nodes -o wide
GPU 驱动NVIDIA driver ≥ 470(推荐 ≥ 550)nvidia-smi
Prometheus CRD启用 Prometheus 或 VictoriaMetrics 监控对接时,需要 monitoring.coreos.com CRD。kubectl api-resources --api-group=monitoring.coreos.com
GPU Operator如已安装 GPU Operator,请确认 NVIDIA device-plugin 的管理方式,避免与 HAMi 重复提供设备。helm list -A
存储空间建议大于 30 GBdf -h

HAMi 自带的 NVIDIA device-plugin 与 GPU Operator 内置 device-plugin 不应同时启用。请在 GPU Operator 的 Helm values 中设置 devicePlugin.enabled=false。集群还需有可用的默认 StorageClass。

HAMi AI Platform 使用 Kubernetes Gateway API 和 Envoy Gateway 暴露服务。部署前检查目标集群是否已有相应的 Gateway API CRD 和控制器;尚未安装时,按下文安装 Envoy Gateway。Gateway API 的概念与安装方式参见 官方文档。

安装​

本节使用在线 Helm Charts 安装。安装完成后,还需要申请证书并激活。

在线 Helm Charts 安装​

先部署 HAMi 核心,再按实际设备安装 NVIDIA、Ascend 或 PPU 组件;需要资源池管理时安装 RPM 的 CRD 与 manager Charts。监控按需接入现有系统,或安装后文的 Prometheus。

推荐使用版本追踪系统维护集群中所有 Helm Chart releases 的 values 文件。 通过使用 -f example-values.yaml 覆盖 Charts 中默认 values 中与之相对应的 key。

选择好 kubeconfig context 后,开始操作:

先将以下基础配置保存为 hami-enterprise-values.yaml,再按下表及实际设备类型合并配置。fullnameOverride: hami 确保后续 Ascend 和 RPM 步骤复用的设备配置名称为 hami-scheduler-device。以下命令使用已发布的 GHCR Chart 2.10.0-r4,执行终端须能访问 GHCR,集群节点须能拉取所需镜像。安装和后续升级均使用并保留这份完整 values 文件。

fullnameOverride: hami
helm install hami \
oci://ghcr.io/dynamia-ai/charts/hami-enterprise \
--version 2.10.0-r4 \
--namespace hami-system \
--create-namespace \
-f hami-enterprise-values.yaml

hami-enterprise 常见 Chart 自定义选项如下表,完整 values 配置请见:HAMi Helm Chart Values Reference。

参数说明默认值
dra.enabled是否部署启用 DRAfalse
scheduler.leaderElect是否启用hami-scheduler的多节点选举true
scheduler.replicas调整 hami-scheduler的实例数量1
scheduler.kubeScheduler.image.registryhami-scheduler所使用的kube-scheduler镜像仓库。"registry.cn-hangzhou.aliyuncs.com"
scheduler.kubeScheduler.image.repositoryhami-scheduler所使用的kube-scheduler镜像名称。"google_containers/kube-scheduler"
scheduler.kubeScheduler.image.taghami-scheduler所使用的kube-scheduler镜像版本。如果不填,chart 会推算一个合适的版本。""

使用非 NVIDIA 设备时,必须在 HAMi values 的 devices 下启用对应厂商。昇腾节点至少配置:

devices:
ascend:
enabled: true
hamiVnpuCore: true

可选:NVIDIA GPU Operator​

NVIDIA GPU Operator 是可选组件。节点已具备兼容的驱动、NVIDIA Container Toolkit 和运行时配置时,可以跳过。节点准备及 GPU Operator values 取舍请参阅 HAMi NVIDIA GPU 节点准备文档。如安装或复用 GPU Operator,关闭其内置 device-plugin(devicePlugin.enabled=false)和 CDI(cdi.enabled=false)。当前 HAMi Enterprise 使用 scheduler.useDownward,与 CDI 不兼容。调整已有集群的 CDI 配置前,请先评估运行中的 GPU 工作负载。

helm repo add nvidia https://helm.ngc.nvidia.com/nvidia && helm repo update

helm install --wait --generate-name \
-n gpu-operator --create-namespace \
nvidia/gpu-operator \
--set devicePlugin.enabled=false \
--set dcgmExporter.serviceMonitor.enabled=true \
--set cdi.enabled=false \
--version=v25.10.1

启用 GPU 节点​

HAMi 的 NVIDIA device-plugin 仅在带 gpu=on 标签的节点上启动。以下标签用于需要由 HAMi 管理的 NVIDIA 节点;Ascend 组件通过各自的 nodeSelector 选择节点:

kubectl label nodes <node-name> gpu=on

验证:kubectl -n hami-system get pods 应能看到 hami-device-plugin-*、hami-scheduler-* 处于 Running 状态。

可选:昇腾设备插件​

在 HAMi 核心安装完成且 devices.ascend.enabled 与 devices.ascend.hamiVnpuCore 已启用后,按需安装昇腾设备插件。已有同类设备插件时避免重复安装。插件复用 HAMi 创建的 hami-scheduler-device ConfigMap。将以下配置保存为 ascend-device-plugin.yaml。

nameOverride: "ascend-device-plugin"
fullnameOverride: "ascend-device-plugin"
image:
repository: ghcr.io/dynamia-ai/ascend-device-plugin
tag: "v1.4.2"
config:
create: false
existingDeviceConfigMapName: hami-scheduler-device
helm install ascend-device-plugin \
oci://ghcr.io/dynamia-ai/charts/ascend-device-plugin \
--version 0.2.2 \
--namespace hami-system \
-f ascend-device-plugin.yaml

安装 PPU 设备插件与监控(仅 amd64 PPU 节点)​

本节使用 PPU Device Plugin Chart 0.0.5 和插件 v1.0.6,仅支持 amd64。先安装适配节点的 PPU 驱动和运行时,确认节点可访问 PPU 设备。已有同类设备插件时避免重复安装。

准备节点和 HAMi 配置​

kubectl label nodes <PPU_NODE> alibabappu=on --overwrite

将以下配置合并到 hami-enterprise-values.yaml,保留文件中的其他配置。首次安装时使用前文 HAMi 安装命令;已有 HAMi 时,使用完整 values 执行下方升级命令。

devices:
alibaba:
enabled: true
helm upgrade hami \
oci://ghcr.io/dynamia-ai/charts/hami-enterprise \
--version 2.10.0-r4 \
--namespace hami-system \
-f hami-enterprise-values.yaml \
--wait

配置并安装 PPU Chart​

将以下内容保存为 ppu-device-plugin.yaml。PPU Chart 同时部署设备插件和 monitor;示例将监控 Service 设置为 ClusterIP,供集群内的监控系统采集。

nameOverride: "ppu-device-plugin"
fullnameOverride: "ppu-device-plugin"

image:
repository: ghcr.io/dynamia-ai/ppu-device-plugin
tag: "v1.0.6"
pullPolicy: IfNotPresent

nodeSelector:
alibabappu: "on"

plugin:
enabled: true

monitor:
enabled: true
service:
enabled: true
type: ClusterIP

PPU Chart 默认创建独立 ConfigMap。部署前核对原生 values config.data.alibaba 中的资源名称和切分配置与 HAMi scheduler 配置一致;不要直接复制 Ascend 的 ConfigMap 配置。默认资源名包含 alibaba.com/ppu、alibaba.com/ppu-memory 和 alibaba.com/gpu-core。

helm install ppu-device-plugin \
oci://ghcr.io/dynamia-ai/charts/ppu-vgpu-device-plugin \
--version 0.0.5 \
--namespace hami-system \
-f ppu-device-plugin.yaml \
--wait

接入 PPU 监控​

PPU monitor 提供 hami-system/ppu-device-plugin-monitor Service,标签为 app=ppu-vgpu-monitor 和 component=vgpu-monitor,metrics Service 端口为 31992,对应容器端口 9394。PPU Chart 不提供 ServiceMonitor 开关。需要接入 Prometheus 时,先确认 ServiceMonitor CRD 已存在,再创建以下对象。

apiVersion: monitoring.coreos.com/v1
kind: ServiceMonitor
metadata:
name: ppu-vgpu-monitor
namespace: hami-system
labels:
release: prometheus
spec:
jobLabel: app
namespaceSelector:
matchNames:
- hami-system
selector:
matchLabels:
app: ppu-vgpu-monitor
component: vgpu-monitor
endpoints:
- port: metrics
path: /metrics
interval: 15s

企业版接入现有 Prometheus 时创建本节 ServiceMonitor。平台版使用下文 Kantaloupe Chart 的 PPU 监控开关,同时启用平台所需的 recording rules,不再创建本节 ServiceMonitor,避免重复采集。将 release: prometheus 调整为实际 Prometheus 的 serviceMonitorSelector 所需标签,并确认其能发现 hami-system 中的 ServiceMonitor。保存为 ppu-servicemonitor.yaml 后执行 kubectl apply -f ppu-servicemonitor.yaml。VictoriaMetrics 用户配置对应 VMServiceScrape,或确认 Operator 已转换 ServiceMonitor,避免重复采集同一 Service。

验证 PPU 组件​

kubectl get nodes -l alibabappu=on
kubectl -n hami-system get daemonsets ppu-device-plugin ppu-device-plugin-monitor
kubectl -n hami-system rollout status daemonset/ppu-device-plugin --timeout=180s
kubectl -n hami-system rollout status daemonset/ppu-device-plugin-monitor --timeout=180s
kubectl -n hami-system get endpointslice -l kubernetes.io/service-name=ppu-device-plugin-monitor
kubectl describe node <PPU_NODE>

两个 DaemonSet 的 DESIRED 和 READY 应等于预期 PPU 节点数,且大于零。确认节点已注册 PPU 资源,再运行申请 PPU 资源的工作负载,验证分配和设备访问。

在 Prometheus 中查询 up{job="ppu-vgpu-monitor",namespace="hami-system"},确认采集目标为 1;查询 hami_host_gpu_utilization_ratio{job="ppu-vgpu-monitor"} 和 hami_host_gpu_memory_used_bytes{job="ppu-vgpu-monitor"},确认真实设备指标存在。设备空闲时利用率可以为零。

安装资源池管理(RPM,按需)​

RPM 要求 Kubernetes ≥ 1.30,且 HAMi 使用 extender 调度模式。先完成 HAMi 安装,确认 hami-system/hami-scheduler-device ConfigMap 已存在。RPM 至少需要启用一类设备;可配置的设备开关包括 NVIDIA、Ascend 和 Hygon,实际设备支持以所用 manager 镜像版本为准。本版本不支持 PPU 资源池管理。

kubectl -n hami-system get configmap hami-scheduler-device

安装资源池 CRD​

helm install hami-enterprise-crds \
oci://ghcr.io/dynamia-ai/charts/hami-enterprise-crds \
--version 0.4.2 \
--namespace hami-system \
--wait

kubectl wait --for=condition=Established --timeout=60s \
crd/gpudevices.resource.hami.io \
crd/resourcepools.resource.hami.io \
crd/resourcepoolbindings.resource.hami.io

配置并安装 Resource Pool Manager​

将以下配置保存为 rpm-values.yaml。示例仅启用 NVIDIA;其他设备需先确认所用 manager 版本的支持范围,再修改 devices 开关,并确保 HAMi 的设备配置包含对应资源。

image:
repository: ghcr.io/dynamia-ai/resource-pool-manager
tag: "v0.0.2"

hami:
schedulerName: hami-scheduler
existingConfigMap: hami-scheduler-device

devices:
nvidia:
enabled: true
ascend:
enabled: false
hygon:
enabled: false

webhook:
tls:
certgen:
image:
repository: registry.k8s.io/ingress-nginx/kube-webhook-certgen
tag: v1.6.9

Manager Chart 安装时通过 Helm lookup 读取目标集群中的 scheduler 设备配置。执行命令的终端必须能访问目标集群;本地 helm template 无法代替这一步。

helm install hami-resource-pool-manager \
oci://ghcr.io/dynamia-ai/charts/hami-resource-pool-manager \
--version 0.0.6 \
--namespace hami-system \
-f rpm-values.yaml \
--wait

后续修改 scheduler 设备配置后,需要使用完整的 manager values 升级 Resource Pool Manager,使准入规则与设备配置保持一致。CRD Chart 默认保留 CRD 及其自定义资源;卸载 RPM 不会删除这些数据。

验证 RPM​

helm list -n hami-system
kubectl -n hami-system rollout status deployment/hami-resource-pool-manager --timeout=180s
kubectl get crd gpudevices.resource.hami.io resourcepools.resource.hami.io resourcepoolbindings.resource.hami.io
kubectl get gpudevices,resourcepools
kubectl get resourcepoolbindings -A

确认两个 Helm release 安装成功、manager Deployment 就绪,并检查设备清单。资源池和授权规则配置完成后,还需验证 ResourcePool、ResourcePoolBinding 和工作负载准入行为;Pod 就绪本身不能证明资源池授权已经生效。

安装 Envoy Gateway​

如果集群中没有 Gateway API 实现,安装 envoyproxy/envoy-gateway 用于暴露服务:

helm install eg \
oci://docker.io/envoyproxy/gateway-helm \
--version v1.6.2 \
--namespace envoy-gateway-system \
--create-namespace \
--set global.images.envoyGateway.image=docker.io/envoyproxy/gateway:v1.6.2 \
--set global.image.ratelimit.image=docker.io/envoyproxy/ratelimit:99d85510 \
--set config.envoyGateway.gateway.controllerName=gateway.envoyproxy.io/gatewayclass-controller \
--set config.envoyGateway.provider.type=Kubernetes

安装 HAMi AI Platform​

安装 dynamia-ai/kantaloupe(AI Platform 平台服务,下称 kantaloupe )前,先按下文示例合并并保存 kantaloupe-values.yaml,替换认证和域名占位符,再执行以下命令:

helm install kantaloupe \
oci://dynamia-ai-registry.cn-hangzhou.cr.aliyuncs.com/public/charts/kantaloupe-chart \
--version 0.21.3 \
--namespace kantaloupe-system \
--create-namespace \
--set fullnameOverride=kantaloupe \
-f kantaloupe-values.yaml

kantaloupe 由于需要配置功能特性、服务暴露、监控指标采集等功能,配置项较多,请按需配置,完整 values 配置请见 kantaloupe Helm Chart Value Reference。

以下示例使用 Kantaloupe Chart 原生 values 结构。安装前,按场景选择配置并合并到 kantaloupe-values.yaml,替换认证和域名占位符,再通过安装命令中的 -f kantaloupe-values.yaml 传入。服务暴露方式选择一种即可。

  • 配置默认平台管理员信息
auth:
jwtSecret: "<JWT_SIGNING_SECRET>"
bootstrapAdminUsername: "bootstrap-platform-admin"
bootstrapAdminPassword: "<ADMIN_PASSWORD>"
bootstrapAdminFullName: "Platform Administrator"
bootstrapAdminEmail: "[email protected]"
  • 使用 envoy-gateway NodePort 暴露服务,在集群外部使用LoadBalancer(云厂商负载均衡、自建负载均衡等)转发四层流量 。
gateway:
enabled: true
hostnames:
- your-domain.example.com
apiserverCors:
enabled: true
allowCredentials: true
allowOrigins:
- https://your-domain.example.com
envoy:
service:
ports:
http:
nodePort: 30080
https:
nodePort: 30443
type: NodePort
listeners:
- name: http
port: 80
protocol: HTTP
- name: https
port: 443
protocol: HTTPS
tls:
certificateRef:
name: your-domain-tls-secret
redirectFromHttp: true
  • 使用 envoy-gateway NodePort 暴露服务,简单 PoC
gateway:
enabled: true
listeners:
- name: http
port: 80
protocol: HTTP
envoy:
service:
type: NodePort
ports:
http:
nodePort: 30080
  • 使用云厂商或裸金属服务提供的负载均衡 controller 接手的 LoadBalancer service
gateway:
enabled: true
hostnames:
- your.domain
listeners:
- name: http
port: 80
protocol: HTTP
- name: https
port: 443
protocol: HTTPS
tls:
certificateRef:
name: your-tls-secret
redirectFromHttp: true
envoy:
service:
type: LoadBalancer
ports:
http: {}
https: {}
  • 替换 prometheus Query API addr(默认为 http://prometheus-kube-prometheus-prometheus.monitoring.svc.cluster.local:9090)
apiserver:
prometheusAddr: http://your-prometheus-query-api.com:9090

controllerManager:
prometheusAddr: http://your-prometheus-query-api.com:9090

可选:启用 PPU 监控​

使用 PPU 设备时,先按前文安装 PPU 设备插件及 monitor,再将以下原生 values 合并到 kantaloupe-values.yaml:

monitoring:
enabled: true
vendorServiceMonitor:
enabled: true
enableAlibabaPPUServicemonitor: true

平台默认发现 hami-system 中标签为 app=ppu-vgpu-monitor、component=vgpu-monitor 的 Service,并通过 metrics 端口抓取。默认 Service 为 ppu-device-plugin-monitor,端口为 31992,对应容器端口 9394。确认 Prometheus 的 ServiceMonitor 选择器能够选中平台创建的 alibaba-ppu-monitor。

在 Prometheus 中查询以下指标,确认目标抓取成功且存在原始利用率、显存数据:

up{job="ppu-vgpu-monitor",namespace="hami-system"}
hami_host_gpu_utilization_ratio{zone="vGPU"}
hami_host_gpu_memory_used_bytes{zone="vGPU"}

up 应为 1;利用率为零可以表示设备空闲。控制面还需核对目标集群的原始指标,以及对应的 kantaloupe_gpu_core_used{vendor="alibaba-ppu"} 和 kantaloupe_gpu_mem_used{vendor="alibaba-ppu"}。成员集群场景使用 cluster="<成员集群名称>" 过滤指标。仅有 Pod Ready 或平台指标非空不能证明真实采集已完成。

平台当前的 PPU 温度和功耗规则使用占位值,不代表真实温度、功耗。没有原始指标时,检查节点驱动、插件和 monitor 日志;抓取失败时,检查 Service 标签、端口、EndpointSlice、ServiceMonitor 选择器、重复抓取及网络策略。

可选:安装 Prometheus​

监控为可选项。仅在需要采集指标且集群尚无兼容监控系统时,按下例安装 kube-prometheus-stack;已有 Prometheus 或 VictoriaMetrics 时,请在后面的“监控对接”章节接入现有系统。

helm install prometheus \
oci://ghcr.io/prometheus-community/charts/kube-prometheus-stack \
--version 72.3.0 \
--namespace monitoring \
--create-namespace \
--set alertmanager.enabled=false \
--set grafana.enabled=false

监控对接​

按需将 HAMi、DCGM Exporter、NPU Exporter 或 PPU monitor 指标接入现有监控系统。需要安装 Prometheus 时,可选用前述 kube-prometheus-stack 命令。查询指标前,先检查相应采集目标 up=1;PPU 另按其组件章节检查原始利用率和显存指标。

如果使用 Prometheus, ServiceMonitor 资源的 metadata.labels 必须与 Prometheus 资源的 spec.serviceMonitorSelector 字段匹配,否则 Prometheus不会采集这些指标。

使用 VictoriaMetrics Operator 时,VMAgent.spec.serviceScrapeSelector 匹配 VMServiceScrape.metadata.labels,同时检查 serviceScrapeNamespaceSelector。从 ServiceMonitor 转换时,应确认已生成对应的 VMServiceScrape。

验证指标采集​

Exporter查询指标预期
dcgm-exporterDCGM_FI_DEV_GPU_UTIL返回非空值
hami-exporterhami_host_gpu_utilization_ratio返回非空值
hami-device-plugin-exporterhami_gpu_core_allocated_ratio返回非空值

除 Exporter 原始指标外,还需查询 kantaloupe_gpu_temp,验证 NVIDIA 等设备的 Kantaloupe 服务指标是否被正确采集。PPU 场景改为核对原始利用率、显存指标及对应的 kantaloupe_gpu_core_used 和 kantaloupe_gpu_mem_used:平台当前的 PPU 温度和功耗规则使用占位值,不能用 kantaloupe_gpu_temp 或 kantaloupe_gpu_power 判断真实温度、功耗或监控接入是否成功。

证书获取​

HAMi 核心与平台服务就绪后即可获取授权申请信息;按需安装的 GPU Operator、昇腾及监控组件不构成前置条件。

  1. 使用平台管理员账号登录 HAMi AI Platform。

  2. 进入「运营」→「授权管理」页面,找到目标集群。

  3. 在目标集群卡片中点击「申请授权」,选择授权范围,使用「下载 .json」或「复制 JSON」获取授权申请材料。

  4. 将授权申请信息发送给密瓜智能销售或交付人员。

  5. 根据指引完成激活。

激活后验证​

kubectl -n hami-system get pods
kubectl describe node <gpu-node>
kubectl get events --field-selector involvedObject.name=hami-license -n hami-system
kubectl get nodes -o custom-columns='NODE:.metadata.name,LICENSE:.metadata.annotations.hami\.io/nvidia-license'

事件中出现 LicenseValid 表示许可证校验通过。确认已选择组件的 Pod 处于 Running 或 Completed 状态,并确认受管节点已注册加速卡资源。

在线示例工作负载验证​

运行以下示例前,确认目标集群能够拉取测试镜像 nvidia/cuda:12.4.0-base-ubuntu22.04。如果集群使用私有镜像仓库,请先将该镜像同步到私有仓库,并修改示例中的镜像地址。

kubectl delete pod hami-smoke --ignore-not-found

kubectl apply -f - <<'EOF'
apiVersion: v1
kind: Pod
metadata:
name: hami-smoke
spec:
restartPolicy: Never
containers:
- name: cuda
image: nvidia/cuda:12.4.0-base-ubuntu22.04
command: ["sh", "-c", "nvidia-smi && sleep 30"]
resources:
limits:
nvidia.com/gpu: 1
nvidia.com/gpumem: 2000
EOF

kubectl wait --for=condition=Ready pod/hami-smoke --timeout=180s
kubectl logs hami-smoke

Pod 进入 Ready 状态且日志正常输出 GPU 信息,表示 HAMi 已完成 GPU 调度,容器内的 NVIDIA 运行时可以正常访问 GPU。验证完成后删除测试 Pod。

kubectl delete pod hami-smoke

HAMi AI Platform验证​

# 1. Pod 状态
kubectl -n kantaloupe-system get pods

# 2. 服务可达
kubectl -n kantaloupe-system get svc

HAMi AI Platform 服务暴露后,打开站点,确认前后端正常工作。

创建工作负载​

在控制台工作负载页面创建应用(如 gpu-burn)。确保业务镜像位于集群可访问的镜像仓库,并验证工作负载正常运行。

image

创建完成后,确认以下验证项均通过:

  1. 创建成功 ,控制台无报错

  2. 负载列表 :应用状态、检索、列表指标与监控面板(GPU SM / GPU MEM / CPU / Memory)正常,时间切换与图表符合预期

image

  1. 应用详情 :基础信息、资源总览、与监控数据正常;从详情页跳转 GPU / 节点页面,资源总览与监控数据正常

image

image

常见问题​

现象可能原因处理
镜像拉不下来
目标节点无法访问镜像仓库、镜像仓库认证信息缺失或无效,或者镜像地址错误检查 Pod 事件和实际镜像地址,确认节点能够解析并访问镜像仓库,并配置所需的 imagePullSecrets。
hami-device-plugin Pod Pending 或者不存在节点未打 gpu=on 标签kubectl label nodes <node> gpu=on
hami-device-plugin Pod CrashLoopBackOff与 NVIDIA 默认 device-plugin 冲突禁用 GPU Operator 的 devicePlugin(--set devicePlugin.enabled=false)。
查不到 HAMi 指标
Prometheus 资源的serviceMonitorSelector 与 ServiceMonitor 资源中的 label 不匹配对齐 prometheus/prometheus-kube-prometheus-prometheus 的 spec.serviceMonitorSelector 和 hami-enterprise 的 serviceMonitor labels。
nvidia-smi 报错
GPU 驱动未就绪检查 gpu-operator namespace 下 driver Pod 状态。
示例 workload Pending证书未激活、GPU 不足或节点标签缺失检查证书、GPU 节点标签和 kubectl describe pod 事件
Gateway 没有入口地址Gateway API 或 Envoy Gateway CRD 未就绪、Envoy Gateway release 异常,或 Envoy Service 类型不适配集群检查 20 个相关 CRD 的 Established 状态,运行 helm status eg -n envoy-gateway-system,并检查 Gateway 条件和 Envoy Service。不要通过卸载 CRD release 或删除 CRD 重试。

获取支持​

  • 邮箱:[email protected]

  • 售前 / 技术支持:400-026-7800

  • 已签订商业合同的客户请通过专属支持渠道提交 Issue