外观
AI 渠道与模型
约 592 字大约 2 分钟
AI Gateway 的配置链路为:提供商 → 模型 → 渠道 → 分组 → 用户侧策略/价格。每层职责不同,按顺序配置可避免“模型存在但不能调用”或“能调用但无法计费”的问题。
配置对象
| 对象 | 作用 | 关键字段示例 |
|---|---|---|
| 提供商 | 标记上游平台或协议来源 | 名称、代码、状态。 |
| 模型 | 定义可调用的模型能力 | 模型代码、类型、提供商、状态。 |
| 渠道 | 保存实际调用配置 | 凭证、平台标识、模型绑定、权重、并发、健康检查。 |
| 分组 | 将一个或多个渠道编排成稳定路由池 | 分组名称、路由策略、关联渠道。 |
| 价格规则 | 记录实际成本与用户侧扣费规则 | 模型/渠道、成本、扣费单位、状态。 |
新增渠道的标准流程
- 新建或确认上游提供商。
- 新建对应模型,明确图片、视频、文本等模型类型。
- 新建渠道并填入服务端托管的凭证、Base URL、模型绑定、并发与权重。
- 配置或关联一个分组,确保用户请求有可用路由池。
- 配置价格规则与用户侧生成策略。
- 使用非生产账号提交最小请求,观察任务状态、上游响应、成本日志与积分变更。
- 通过验证后再向用户开放;异常时先禁用新渠道,不要修改历史任务。
健康与故障处置
- 认证失败:检查渠道密钥、签名要求、Base URL 和上游账户状态。
- 模型不存在:核对渠道绑定的模型代码与上游实际可用名称。
- 参数不支持:检查时长、比例、参考图/视频数量及文件格式。
- 排队堆积:检查渠道并发、任务工作进程并发、上游限流和超时配置。
- 成本异常:查看成本日志和任务参数,必要时立即停用有问题的价格规则或渠道。
渠道凭证不应写入前端、项目文档或数据库导出文件。生产凭证通过部署环境变量或受控配置管理。