成本怎么涨上去的
单价明明在降,总成本为什么在涨?文章拆出了机制:代理化的工作流是 token 吞金兽,一个任务里模型要反复读上下文、调工具、自我修正,消耗是单次问答的几十上百倍;任务越复杂,迭代轮次越多,失败重试也全是钱。乘起来,一个认真干活的代理,每小时的账单已经能和某些地区的人类时薪掰手腕——而且它还会犯需要人来收拾的错。
等式两边都在动
这篇的价值在于把「自动化必然省钱」从信仰拉回到算术。当然,等式两边都在变:推理成本的工程优化一直在做,硬件迭代也在压价;但另一边,厂商的定价要回收天文数字的训练投入,涨价压力同样真实。务实的做法是上代理项目前先算单位经济账——哪些任务的「AI 时薪」真的低于人类,哪些只是看着酷,账算清楚再上,别一股脑代理化到最后省下的还不够付账单。
via: Hacker News