Skip to content

场景概览 - 发布聚合模型 ​

本场景介绍如何把多个已发布模型组合成统一调用入口,并配置路由策略、计费方式和发布范围。

适用角色 ​

  • 模型提供方

场景目标 ​

  • 选择可参与聚合的基础模型。
  • 配置成功率、成本、均衡、随机或轮询等路由策略。
  • 提交聚合模型并进入审核或发布流程。

场景流程 ​

主线: 选择成员模型 → 配置路由策略 → 配置计费并发布 → 验证路由与故障切换

阶段核心结果
1. 选择成员至少两个协议和模态兼容的模型参与聚合
2. 配置路由成本、成功率、均衡、随机或轮询策略符合目标
3. 发布聚合计费和发布范围完整,模型进入审核或模型列表
4. 验证运行正常调用成功,单个成员不可用时其余成员可承接流量

开始前准备 ​

  • 至少两个状态可用、协议兼容的已发布模型。
  • 已明确路由策略、计费方式和发布范围。

推荐阅读顺序 ​

  1. 确认基础模型和协议
  2. 配置聚合策略
  3. 配置计费并提交

文档索引 ​

文档说明
添加聚合模型完整配置步骤、参数说明和功能截图

完成检查 ​

用途: 以下检查是本场景的退出条件,用于判断是否已经取得可观察、可复核的结果,以及是否可以进入下一场景。它不是操作步骤的重复;任一项不满足时,请返回对应功能文档的“常见失败分支”排查。

检查项通过标准
1聚合模型包含至少两个已启用且协议、模态兼容的成员模型。
2路由策略、成员阈值、计费和发布范围配置完整,状态可在审核或模型列表定位。
3受控调用成功;停用一个成员后,其余成员仍能按策略承接请求。