单价在降,这是趋势
过去一段时间,模型 API 的单位 token 价格整体处在下行通道:更高效的架构、更激烈的竞争,加上蒸馏出的小模型承接大量简单任务,把「跑一次调用」的成本一路压低。对开发者,这是好消息——很多过去因为太贵而不划算的场景,正在变得可行。
但账单未必跟着降
一个反复出现的现实是:单价降了,总账单却未必降,因为用量在涨、上下文在变长、Agent 类应用一个任务要来回好多轮。真正把成本管住的,往往不是等厂商降价,而是工程手段——把稳定的长前缀交给 Prompt Caching 复用、按任务难度做模型分层路由、把简单活交给便宜模型、再用统一入口把用量归因到具体应用和团队。
会用比便宜更重要
结论朴素:降价降低了下限,但省不省得到,取决于会不会用。先把用量看清楚(谁在花、花在哪个模型、值不值),再上缓存、路由、分层这些手段,通常比单纯盯着价目表更能把账单压下来。模型越便宜,浪费也越容易被忽视——精细化的成本治理,反而更该往前排。
via: 综合各厂商定价与公开成本实践