生产级应用,不该有单点风险
模型服务的波动,不该传导成业务的停摆。从可用性、模型选择到持续变动的价格,生产应用需要随时有备选路径,而不是始终依赖一家。
一处异常,影响整个业务
再成熟的服务商也会出现故障、限流或性能下降。缺少备用路径时,上游波动就可能变成用户无法使用的产品功能。
换一个模型,就得重新接入
每家服务商的接口形态、密钥、账户和计费口径都不同。想换模型或换服务商,往往要重做一遍接入与对账。
固定接入,难以持续省钱
同一模型在不同服务商的价格并不相同,也会随时间调整。固定调用一家,容易错过更合适的价格。