这笔账怎么算的
作者的账是这样：前沿模型的 API 价格虽然在降，但用量涨得更快，代理化的工作流动辄烧掉海量 token，账单水涨船高。另一边，开源模型的能力在快速逼近，跑在自购或租用的硬件上边际成本极低，再配上人力成本较低地区的工程师做监督和兜底，综合单价可能反超。结论是：「订阅前沿实验室」未必是企业的长期默认选项。
反对的人打哪两个点
反驳主要冲着两处。一是隐性成本：自托管的运维、开源模型能力差距造成的返工，这些很难进测算表；二是质量天花板，最难的任务仍只有头部模型做得动，省下的钱可能在关键时刻赔回去。不过即便如此，帖子代表的趋势是真的——推理的成本结构在松动，前沿实验室的定价权不是铁打的，企业也开始认真做替代方案的功课了。
via: Hacker News