SecureKeyHub 发布说明
SecureKeyHub 处在你的应用和模型提供商之间,用来让流量可计量。 目标很简单:让请求成本可见,在路由前应用策略,并防止账单失控。
关键指标是请求量、失败率、上游延迟,以及每条路由的成本。
只要这四项始终可见,网关就能发挥作用。
SecureKeyHub 处在你的应用和模型提供商之间,用来让流量可计量。 目标很简单:让请求成本可见,在路由前应用策略,并防止账单失控。
没有按密钥设置限额。 没有按请求级别记账。 没有为高价模型制定路由策略。