成本结构的变化
大家习惯把 AI 芯片之争理解成逻辑芯片之争，但成本表讲了另一个故事：高带宽内存（HBM）在加速器物料成本里的份额逐代走高，部分产品上已经和计算芯片本身平起平坐。原因在于模型越来越大、推理越来越吃带宽，而 HBM 的堆叠工艺难度高、良率爬坡慢、能扩产的厂商全球只有三家。算力的瓶颈正在从「造不出芯片」转向「喂不饱芯片」。
顺着供应链往下想
这个变化的受益者名单很短：SK 海力士、三星、美光，外加做先进封装的台积电。内存厂商史上第一次站到了产业链的权力位上，议价能力和资本开支都在重估。对下游的影响则是涨价压力多了一个来源，就算 GPU 供应缓解，内存吃紧也能把整机价格顶住。看 AI 硬件成本走势的人，从今年起得把内存价格和 GPU 价格放在一起盯了。
via: Hacker News