SecureKeyHub 发布说明
SecureKeyHub 处在你的应用和模型提供商之间,用来让流量可计量。 目标很简单:让请求成本可见,在路由前应用策略,并防止账单失控。
如果定价只存在于应用代码里,每次供应商调整都意味着一次部署。
SecureKeyHub 把这部分逻辑放进网关,让定价变化不需要重新构建客户端。
SecureKeyHub 处在你的应用和模型提供商之间,用来让流量可计量。 目标很简单:让请求成本可见,在路由前应用策略,并防止账单失控。
没有按密钥设置限额。 没有按请求级别记账。 没有为高价模型制定路由策略。