场景概览 - 多平台调度:模型资产上架
指导运营管理员在完成云资源接入后,准备运行时资产(推理镜像、推理框架)并组装为可部署的模型资产,为后续的部署与调用提供业务侧资产。
适用角色
- 运营管理员
场景目标
- 推理镜像能够在目标云环境中拉取。
- 推理框架包含正确的端口和启动命令。
- 模型资产能够被普通用户用于快速部署。
场景流程
主线: 登记推理镜像 → 组合推理框架 → 建立模型资产 → 验证用户可部署
| 阶段 | 核心结果 |
|---|---|
| 1. 登记镜像 | 目标云环境能够拉取受控版本的运行镜像 |
| 2. 组合框架 | 镜像、启动命令、端口和框架类型相互兼容 |
| 3. 建立模型资产 | 元模型、部署点、云上模型、算力方案和输出协议完整关联 |
| 4. 验证可部署 | 平台用户能在快速部署中看到模型和可用方案 |
开始前准备
- 已完成云资源接入和授权。
- 已准备镜像地址、框架类型、模型信息和输出 API 规则。
推荐阅读顺序
- 维护推理镜像
- 维护推理框架
- 在模型库组装可部署模型资产
文档索引
| 文档 | 说明 |
|---|---|
| 推理镜像 | 录入仓库地址、Tag、框架类型和内置状态 |
| 推理框架 | 绑定镜像、端口和启动命令 |
| 模型库 | 组合元模型、部署点、算力方案和输出配置 |
相关场景
- 多云资源接入(上游):本场景依赖其云平台 / 云账号 / 资源池 / 授权配置;元模型来自 发布模型(预设置)
- 多平台调度:模型部署与调用(下游):在本场景的模型库基础上创建部署实例并对外提供调用
- 我的部署与监控(操作手册)(下游):对已部署的模型查看状态、事件和监控
- 平台治理与访问控制(横向):在租户维度的访问控制,约束模型资产的可见与可调用范围
完成检查
用途: 以下检查是本场景的退出条件,用于判断是否已经取得可观察、可复核的结果,以及是否可以进入下一场景。它不是操作步骤的重复;任一项不满足时,请返回对应功能文档的“常见失败分支”排查。
| 检查项 | 通过标准 |
|---|---|
| 1 | 运行镜像可从目标云环境拉取,框架类型和版本正确。 |
| 2 | 推理框架的启动命令、端口和输出协议与模型匹配。 |
| 3 | 模型库条目已关联元模型、云侧部署点、算力方案和输出配置。 |
| 4 | 普通用户在快速部署中能看到该模型及可用方案。 |
常见失败分支
| 现象 | 优先检查 |
|---|---|
| 模型库无法选择镜像或框架 | 资产状态、框架类型、地域和关联关系 |
| 用户部署页看不到模型 | 模型发布状态、部署范围、授权和租户可见性 |
| 部署后接口不可用 | 启动命令、端口、输出配置和健康状态 |