场景概览 - 异构卡纳管:资源计量与监控
本场景介绍如何为租户分配 NPU 配额,并从设备、节点和作业维度检查资源使用。对于 4 张 NPU 卡,本场景负责回答“谁能用几张卡、当前哪张卡被谁占用、是否存在异常”。
适用角色
- 运营管理员
- 模型提供方和最终用户(查看自身用量)
场景目标
- 租户具备符合业务需要的 NPU 配额。
- 4 张 NPU 卡都能在设备监控中识别。
- 能将异常卡、节点和作业关联起来排查。
场景流程
主线: 配置租户配额 → 运行工作负载 → 关联设备节点与作业 → 核对计量并调整
| 阶段 | 核心结果 |
|---|---|
| 1. 配置配额 | 租户获得符合规划的 NPU 使用上限 |
| 2. 运行负载 | 1/2/4 卡任务按规格申请并占用资源 |
| 3. 关联监控 | 设备、节点和作业在同一时间范围内可对应 |
| 4. 核对调整 | 配额、实际占用、利用率和计量明细一致并可优化 |
开始前准备
- NPU 已完成纳管,监控采集组件正常上报。
- 已明确租户可用卡数和资源隔离策略。
- 已有至少一个测试作业用于验证计量与监控。
推荐阅读顺序
文档索引
| 文档 | 说明 |
|---|---|
| 配置租户 NPU 配额 | 为目标租户分配可使用的 NPU 数量 |
| 监控设备、节点与作业 | 从卡、节点、作业三个维度核对状态和占用 |
| 核对月度计量与明细 | 将租户额度、月度用量和计量明细对应到实际作业 |
完成检查
用途: 以下检查是本场景的退出条件,用于判断是否已经取得可观察、可复核的结果,以及是否可以进入下一场景。它不是操作步骤的重复;任一项不满足时,请返回对应功能文档的“常见失败分支”排查。
| 检查项 | 通过标准 |
|---|---|
| 1 | 租户可用配额满足测试或生产要求。 |
| 2 | 设备监控可见全部 4 张 NPU 卡。 |
| 3 | 作业占用、节点水位和设备利用率能够相互对应。 |
| 4 | 租户额度、月度用量和计量明细在同一账期可复核。 |