客户端配置多厂商模型

通过一个 API Key 和 CC Switch,在客户端中同时使用多个模型厂商,并为相同模型设置故障降级顺序。

概览

通过一个 API 密钥配置多个分组,实现一个客户端接入多重厂商模型,具体接口能力可查看 接口选择与兼容性。

设置步骤

  1. 1
    创建 API Key 时选择多个分组,并按需要调整顺序。相同模型会按照分组顺序从上到下优先使用;不同模型不互相排斥,可以同时使用。查看截图示例
    创建 API Key 时选择多个模型分组
    创建密钥时可以选择多个分组,并通过拖动调整分组优先级。
  2. 2
    下载并打开 CC Switch,将包含多个模型分组的 API Key 导入 CC Switch。然后进入高级选项,设置模型映射和第三方模型:先获取模型列表,再添加需要在客户端中显示和使用的模型,并填写对应的实际请求模型。查看截图示例
    CC Switch 高级选项中的模型映射和第三方模型配置
    在高级选项中获取模型列表、添加模型,并设置显示名称与实际请求模型。
  3. 3
    保存设置,然后重启客户端使配置生效。

如果修改了模型映射、第三方模型或分组顺序,请再次保存并重启对应客户端;仅刷新页面通常不会让已启动的客户端重新读取配置。