SecureKeyHub 发布说明
SecureKeyHub 处在你的应用和模型提供商之间,用来让流量可计量。 目标很简单:让请求成本可见,在路由前应用策略,并防止账单失控。
路由应该由请求类别、模型成本和运维优先级来决定。
应用负责表达意图,网关负责决定提供商。
SecureKeyHub 处在你的应用和模型提供商之间,用来让流量可计量。 目标很简单:让请求成本可见,在路由前应用策略,并防止账单失控。
没有按密钥设置限额。 没有按请求级别记账。 没有为高价模型制定路由策略。