模型实例
功能概述
| 项目 | 内容 |
|---|---|
| 适用角色 | 模型提供方 |
| 导航路径 | AI基础设施 > On-Prem > 模型部署 > 模型实例 |
| 页面路由 | /powerone/quickstart/model-service |
| 管理对象 | 通过部署模板创建的模型服务实例 |
新手理解
模型实例像已经点单并启动的模型服务。部署模板负责创建,模型实例页面负责查看它有没有创建成功、是否还在运行、是否需要进一步排查。
术语表
| 术语 | 说明 |
|---|---|
| 实例 | 由平台创建并调度到集群运行的对象,例如模型服务、在线 IDE 或运行实例。 |
| 规格 | 作业可申请的资源套餐,例如 CPU、内存、GPU 型号和卡数。 |
| 单实例 | 独立运行的一个模型服务实例,适用于测试或低流量场景。 |
推荐操作顺序
- 先在
模型部署 > 模板创建模型实例。 - 进入
AI Infra > On-Prem > 模型部署 > 模型实例。 - 按实例类型或状态筛选列表。
- 使用搜索条件定位目标实例。
- 查看实例状态,必要时进入详情或日志页面。
小白先看
先确认当前任务是否涉及通过部署模板创建的模型服务实例,再按照推荐顺序操作。页面字段或状态与预期不符时,先回到前置对象页核对依赖,不要跳过结果校验直接进入下游流程。
前提条件
- 已至少创建过一个模型实例,或准备查看当前空列表状态。
- 当前账号具备查看模型实例的权限。
- 如需排障,需能进入实例详情、日志或监控页面。
页面说明
页面用于查看和处理通过部署模板创建的模型服务实例。

页面提供实例类型、状态、搜索和重置入口。当前环境截图中列表为空,表示该租户在当前条件下暂无模型服务实例。
页面区域
| 字段/区域 | 说明 |
|---|---|
| 实例类型筛选 | 按全部(All)、单实例(Single Instance)、多实例(Multi-instance)、集群(Cluster)等类型缩小范围。 |
| 状态筛选 | 按全部状态或具体运行状态查看实例。 |
| 搜索区 | 输入条件后点击 "搜索(Search)" 定位目标实例。 |
| 列表区 | 展示模型实例及其状态;无数据时显示 No model services。 |
| 分页区 | 实例较多时按页查看。 |
主要操作
筛选与查看模型实例
- 进入
AI基础设施 > On-Prem > 模型部署 > 模型实例。 - 按页面提供的
实例类型、状态或关键字搜索目标实例,点击 "搜索"。 - 在列表中查看实例名称、类型、运行状态、模型、规格、地域和创建时间。
- 点击目标实例的 "详情",核对模型版本、资源规格、实例状态、Endpoint 和关联事件。
排查与处理异常状态
- 在实例详情中查看资源利用率、调用状态、事件和最近错误日志。
- 保持相同时间范围,对照集群、节点和设备监控定位异常层级(如资源不足或显存溢出)。
- 如需启动、停止、重启、扩缩容或删除实例,先确认对线上业务的影响并获得授权后再执行。
参数速查表
| 字段名称 | 说明 |
|---|---|
| 实例名称 | 模型服务实例名称。 |
| 实例类型 | 实例形态,例如单实例、多实例或集群实例。 |
| 状态 | 实例当前运行或生命周期状态。 |
| 模型 | 实例关联的模型。 |
| 规格 | 实例使用的资源规格。 |
| 地域 | 实例所在地域或资源池。 |
| 创建时间 | 实例创建时间。 |
| 搜索条件 | 用于缩小实例列表范围的筛选条件或关键字。 |
| 操作 | 行内可用操作,例如查看详情或实例生命周期操作。 |
踩坑提示
实例列表可能存在刷新延迟,刚创建的实例不会立即出现。
空列表不一定代表没有实例,先检查筛选条件、租户、地域和权限。
停止、重启、删除属于高风险动作。不写真实实例 ID、实例名称、租户信息、地域、节点、Endpoint、日志、错误详情或测试参数。
结果校验
| 检查项 | 成功表现 | 异常时处理 |
|---|---|---|
| 页面入口 | 可进入模型实例并看到目标操作入口 | 检查运营管理员权限和对应菜单是否已开放 |
| 对象记录 | 通过部署模板创建的模型服务实例在列表或详情中可见 | 重置筛选并核对名称、所属范围和创建结果 |
| 状态结果 | 新增或变更后的状态符合页面提示 | 查看操作提示、依赖对象状态和最近更新时间 |
| 下游使用 | 后续页面能够选择或关联目标对象 | 回到前置配置核对启用状态、归属关系和可见范围 |
常见问题
模型实例中找不到目标对象
问题现象:
页面可进入,但没有看到预期的通过部署模板创建的模型服务实例。
可能原因:
- 筛选条件仍生效。
- 对象属于其他范围。
- 前置配置未完成。
处理方式:
- 重置筛选
- 核对所属地域或租户
- 返回前置页面确认对象状态。
模型实例的操作入口不可用
问题现象:
新增、注册或维护入口不可见或不可点击。
可能原因:
- 当前角色权限不足。
- 页面处于只读状态。
- 依赖对象不满足条件。
处理方式:
- 检查运营管理员权限
- 核对页面提示
- 先完成依赖对象配置。
模型实例的必填项没有可选值
问题现象:
表单能打开,但下拉框为空。
可能原因:
- 候选对象未启用。
- 所属范围不一致。
- 当前账号不可见。
处理方式:
- 到候选对象页面核对状态
- 确认归属关系
- 检查可见范围后刷新表单。
模型实例操作后状态异常
问题现象:
提交后记录存在,但状态不是预期值。
可能原因:
- 连通性或校验失败。
- 关联对象异常。
- 后台处理尚未完成。
处理方式:
- 查看页面提示和更新时间
- 检查关联对象
- 按状态阶段排查处理任务。
下游页面无法使用模型实例
问题现象:
当前页状态正常,但下游页面无法选择或关联通过部署模板创建的模型服务实例。
可能原因:
- 可见范围不匹配。
- 对象未启用。
- 下游缓存未刷新。
处理方式:
- 核对启用状态和归属
- 检查角色可见范围
- 刷新下游页面并重新选择。
注意事项
- 排障时不要在截图中暴露内部访问凭据或接口密钥。
- 对外提供服务前,确认访问控制、实例规格和运行周期。
停止、重启、删除可能中断服务、释放资源或移除实例记录,执行前必须确认业务影响。- 实例状态以列表页和详情页为准,概览页只提供入口和汇总。
后续操作
- 查看实例详情和日志。
- 确认服务访问地址和调用方式。
- 在
资源用量中跟踪运行成本。