先看结论
最短路径是把现有 OpenAI 兼容客户端的 baseURL 和 api key 指向 SecureKeyHub。
你需要准备
- 一个可用的应用
- 一个 SecureKeyHub API key
- 你要使用的模型名
工作流
- 创建 key
- 选默认模型
- 配路由和预算
- 指向网关发请求
为什么这样接
- 不用改客户端协议
- 可以先做成本控制,再做路由优化
- 出问题时也能直接回退到上游模型
最短路径是把现有 OpenAI 兼容客户端的 baseURL 和 api key 指向 SecureKeyHub。