SecureKeyHub 发布说明
SecureKeyHub 处在你的应用和模型提供商之间,用来让流量可计量。 目标很简单:让请求成本可见,在路由前应用策略,并防止账单失控。
成本控制只有在边界设置正确时才有效。
按用户、按密钥、按模型设置的限额解决的是不同问题,不应混为一谈。
SecureKeyHub 处在你的应用和模型提供商之间,用来让流量可计量。 目标很简单:让请求成本可见,在路由前应用策略,并防止账单失控。
没有按密钥设置限额。 没有按请求级别记账。 没有为高价模型制定路由策略。