Skip to content

添加聚合模型 ​

适用角色 ​

  • 模型提供方

开始前准备 ​

  • 至少有两个状态正常、协议和模态兼容的已发布成员模型。
  • 已明确聚合目标是成本、成功率、负载均衡还是高可用。
  • 已确认成员模型的计费、上下文、并发和地域差异。

操作步骤 ​

  1. 进入平台首页,点击左侧导航栏的 "我的模型" 菜单,进入模型管理页面。
  2. 切换至 "我的聚合" Tab,可通过页面顶部 "公共模型 / 私有模型" 切换查看不同区域的聚合模型。
  3. 点击页面右上角的 "创建聚合模型" 按钮,弹出"选择发布区域"对话框。
  4. 选择发布区域:
    • "发布到私有区":仅本团队或租户内可见可调用,加入私有库,不进入公开目录;
    • "发布到公有区":上架公有目录,对所有租户的 EU 开放调用,可独立设置定价与限流。
  5. 点击 "发布到公有区" 进入发布配置流程(Step 1:基本信息)。

选择发布区域

Step 1:基本信息 ​

  • 选择 "模型类型"(多模态 / 对话模型 / 图片模型 / 语音模型 / 视频模型 / 嵌入模型 / 重排模型);
  • 选择 "模型子类型"(如 LLM)。

模型类型

  • 模型选择:在"模型选择"列表中点击 "添加模型" 按钮,弹出"选择模型"对话框:
    • 左侧为 模型名称/模型标识 列表,可输入关键字快速过滤;
    • 右侧展示该模型下的多个供应方实例(含 发布日期、上下文、输入/输出 Credit/1M Tokens、吞吐量、成功率、周调用量、周 Token 量、最大输出、地区、能力标签等指标);
    • 勾选目标供应方实例(可多选,列表头有 "全选"),点击 "确定" 完成添加。

模型类选择

  • 配置成员模型参数:为每个添加的成员模型配置:
    • 是否启用:开关控制;
    • 最低成功率:百分比(如 80%);
    • 最高并发率:数值(如 1500);
    • 上下文最大长度:数值(如 128K);
    • 成本:分别设置 输入 Token 成本、输出 Token 成本;
    • 点击 "删除" 移除该成员模型。

模型类选择

  • 基本信息:
    • 填写 "个性化标识"(如 Qwen3-235b-a22b-instruct-2507);
    • 选择 "匹配策略":"成本优先" / "成功率优先" / "成本&体验均衡" / "随机" / "轮询";
    • 选择 "标签"(如 文本生成);
    • 填写 "描述"。

基本信息

  • 发布方式:选择 "立即发布" 或 "定时发布"。

基本信息

  • 点击 "下一步" 进入 Step 2:计费配置。

Step 2:计费配置 ​

  • 选择 "计费方式":"免费" 或 "收费";
  • 选择 "计费模式":"统一计费" / "输入/输出计费" / "阶梯计费";
  • 设置价格(Credits/1M tokens):
  • "输入原价":模型输入价格的参考原价,用于展示价格对比;
  • "输入售价":模型输入售价,该价格将作为用户实际使用时的结算价格;
  • "输出原价":模型输出价格的参考原价,用于展示价格对比;
  • "输出价格":模型输出售价,该价格将作为用户实际使用时的结算价格。

基本信息

  • 点击 "仅保存" 或 "提交审核" 完成发布。

参数说明 - 聚合模型配置项 ​

字段名称字段类型示例说明
模型类型单选对话模型 / 图片模型必填,聚合模型的功能类型
模型子类型下拉选择LLM必填,聚合模型的具体子类型
成员模型列表选择百度智能云 / 阿里巴巴-中国 等多个供应方实例必填,选择 2 个及以上已发布的模型(多选)
是否启用开关启用 / 关闭必填,控制该成员模型是否参与路由
最低成功率百分比80%必填,低于该成功率的成员模型将被剔除
最高并发率数值1500必填,成员模型的最大并发数限制
上下文最大长度数值128K必填,成员模型支持的上下文上限
输入 Token 成本数值2000必填,每百万输入 Token 的成本参考
输出 Token 成本数值8000必填,每百万输出 Token 的成本参考
个性化标识文本Qwen3-235b-a22b-instruct-2507必填,聚合模型对外展示的自定义标识
匹配策略单选成本优先 / 成功率优先 / 成本&体验均衡 / 随机 / 轮询必填,模型调用时的路由策略
标签下拉选择文本生成选填,聚合模型所属标签
描述文本聚合模型...选填,聚合模型的说明描述
发布方式单选立即发布 / 定时发布必填,聚合模型的上线时机
计费方式单选免费 / 收费必填,聚合模型的收费方式
计费模式单选统一计费 / 输入/输出计费 / 阶梯计费必填,收费时的计价方式
输入原价数值40.00 Credits/1M Tokens选填,模型输入价格的参考原价,用于展示价格对比
输入售价数值20.00 Credits/1M Tokens必填,模型输入售价,作为用户实际使用时的结算价格
输出原价数值160.00 Credits/1M Tokens选填,模型输出价格的参考原价,用于展示价格对比
输出价格数值80.00 Credits/1M Tokens必填,模型输出售价,作为用户实际使用时的结算价格

完成检查 ​

用途: 以下检查是当前功能任务的退出条件,用于判断操作结果是否可观察、可复核,以及是否可以继续当前场景的下一步。它不是操作步骤的重复;任一项不满足时,请按下方“常见失败分支”继续排查。

检查项通过标准
1聚合模型至少包含两个已启用成员模型。
2匹配策略与业务目标一致,成员阈值和成本配置完整。
3发布或提交审核后状态符合预期。
4使用受控请求验证聚合入口能返回结果。
5禁用一个成员后,其余成员仍能按策略承接请求。

常见失败分支 ​

现象优先检查
无可选成员模型成员发布状态、模态、协议和可见范围
聚合模型无法提交成员数量、必填参数、计费和发布区域
请求总是落到同一成员匹配策略、成员启用状态、成功率和成本阈值
聚合调用失败成员模型健康、协议兼容、限流和超时

操作手册 ​