外观
案例 7:上线一个 AI 渠道
约 1219 字大约 4 分钟
本案例用于管理员接入一个视频模型渠道。流程遵循 提供商 → 模型 → 渠道 → 分组 → 价格 → 用户侧测试,每一步都保留已知可用状态,避免一次发布影响现网生成。
成功标准
- 用户侧可看到并成功调用指定模型。
- 后台能查到对应任务、渠道与成本记录。
- 模型参数、积分规则和实际渠道能力保持一致。
- 新渠道故障时可单独停用或降低权重,不影响已验证渠道。
第一步:准备接入信息
在进入后台前,向上游确认以下信息:
| 信息 | 示例说明 |
|---|---|
| 提供商名称和代码 | 用于后台标识,不使用含密钥的名称。 |
| Base URL | 上游 API 根地址,确认是否 OpenAI 兼容。 |
| 凭证 | API Key、签名密钥或服务账号,仅录入服务端受控字段。 |
| 模型代码 | 上游实际接受的模型名称。 |
| 能力矩阵 | 图片/视频、时长、比例、分辨率、参考图/视频数量。 |
| 并发与限流 | 单账号并发、QPS、超时建议。 |
| 计费单位 | 每秒、每张、分辨率倍率或其他成本口径。 |
第二步:创建提供商和模型
- 在 AI Gateway → AI 提供商 新增提供商,填写名称、代码并保持启用。
- 进入 AI 模型,新增模型并选择刚创建的提供商。
- 正确设置模型类型为
video或image;模型代码必须与上游实际名称一致。 - 保存后重新加载模型列表,确认状态为启用。
验收点
- 提供商代码、模型代码不会把 API Key 写入名称或描述。
- 模型类型正确,否则用户侧参数和计费规则会被归到错误分类。
- 此时模型只是可被配置,尚未有实际调用渠道。
第三步:创建渠道
在 AI 渠道 新增渠道,配置:
- 渠道名称:例如
ProviderA 视频主通道。 - 平台标识与 Base URL。
- 凭证:录入时遮蔽显示,编辑已有渠道时留空通常代表保持原密钥。
- 模型绑定:选择第二步创建的模型。
- 权重与并发:新渠道初始使用低权重、保守并发。
- 健康检查与启用状态。
保存后先通过渠道健康检查,而不是立即让所有用户流量进入新渠道。
第四步:建立分组和价格规则
- 在 AI 分组 创建或选择对应能力分组,例如
video-standard。 - 将新渠道加入分组;若已有生产渠道,初期设置较低权重。
- 在 价格规则 中填写成本与用户积分消耗关系。
- 若项目使用 AI 计费规则页,还要确认基础积分、最低/最高扣费、模型/渠道倍率、关联图片和参考视频倍率。
价格规则发布前至少用一个已知参数组合手算一次,保证不会出现 0 积分、负数、超出上限或与页面展示不同的结果。
第五步:使用测试账号做最小调用
测试请求应尽可能小:一段简短提示词、模型支持的最短时长、单个 16:9 输出、不带可选参考素材。测试后确认:
- 用户端能选择或路由到新模型。
- 任务中心出现一个任务,并能看到创建、处理中、完成/失败状态。
- 成本日志能关联模型、渠道、上游成本与用户扣费。
- 成功结果能保存到媒体/资产链路。
- 失败时错误信息不会暴露渠道密钥。
第六步:灰度与回滚
- 先将新渠道权重设低,仅承接少量测试/灰度请求。
- 观察失败率、延迟、成本和上游限流一段时间。
- 出现认证、模型、限流或成本异常时,先停用新渠道或将权重降为 0;不要删除历史任务和模型记录。
- 确认稳定后再提升权重,并保留旧渠道作为回退路径。
故障速查
| 现象 | 最可能的层级 | 检查项 |
|---|---|---|
| 用户端没有模型 | 模型/分组/生成策略 | 模型和渠道是否启用,分组是否接入用户侧。 |
| 任务立即失败 | 渠道/模型 | Base URL、凭证、模型代码、参数支持范围。 |
| 一直排队 | 并发/工作进程 | 渠道并发、任务 Worker 并发、上游限流。 |
| 成本不对 | 价格规则 | 基础积分、倍率、时长/数量与参考素材加成。 |