OpenAI 的第一颗自研芯片交卷：Jalapeño 用 700 瓦对标英伟达 1400 瓦，跑分好看但限制条件更值得读

8 月 25 日 Hot Chips 上，OpenAI 和博通公布了联合开发的推理专用 ASIC「Jalapeño」，并首次放出跑分。规格上是 700W TDP、HBM4、15.4TB/s 带宽，台积电 N3P 计算裸片配 N3E I/O 芯粒、CoWoS 封装。在 SemiAnalysis 的开源基准 InferenceX 上，官方数据是每千瓦吞吐比英伟达 GB200/GB300 机架高 1.5 到 1.9 倍、端到端延迟低 1.7 到 3.6 倍，而对手的功耗是 1200 到 1400 瓦。但 SemiAnalysis 自己把限制写得很清楚：数字由 OpenAI 提供、只跑了 8k 输入 1k 输出这一档、对手用多 token 预测而 Jalapeño 用单 token 预测、没跑更贴近生产的 AgentX，而且目前是工程样片，2027 年才逐步放量。

它不是「为 OpenAI 模型定制」的那种芯片

OpenAI 的说法是，Jalapeño 是纯粹的推理 ASIC——不是把训练卡改一改，也不是通用 AI 处理器，设计目标直指推理规模化时的三个瓶颈：数据搬运的代价、算力与内存的配比、以及网络效率。硬件负责人 Richard Ho 的表述是每瓦能服务更多 AI 工作、同时更快返回响应。 有意思的是，跑了这套基准的 SemiAnalysis 反而不同意「为自家模型特化」这种描述，认为它就是一颗通用推理芯片，什么模型都能跑——测试用的 GPT-OSS 120B、DeepSeek R1、Kimi K2.5 也都不是 OpenAI 自己的模型。

跑分要连着限制条件一起读

公开的对比是：700 瓦的 Jalapeño 对 1200 瓦与 1400 瓦的英伟达机架，每千瓦吞吐高 1.5–1.9 倍，端到端延迟低 1.7–3.6 倍。数字确实漂亮，但 SemiAnalysis 把话说得很直：所有数字由 OpenAI 提供，他们受邀去 OpenAI 的实验室看过芯片是真的，测试只覆盖 8k 输入、1k 输出这一种形态；关键的一点是对手配置用的是多 token 预测，Jalapeño 这边是单 token 预测、没开投机解码，两边并不完全可比。他们更看重的 AgentX——会压到路由、前缀缓存这些真实生产路径的那套——这次没有跑。 他们还提了一个更公平的参照系：Jalapeño 该比的是同样上 HBM4 的 Vera Rubin，而不是上一代 Blackwell。以及一个反直觉的解释——领先未必来自硬件更强，更可能是软件栈起得快。

时间线两个口径，落地要等 2027

OpenAI 和博通对外称从设计到流片只用了九个月，是高性能芯片里最快的开发周期之一，并说 OpenAI 自家模型参与加速了部分设计与优化。SemiAnalysis 给的是另一套：设计工作 2024 年年中就开始，从组队到流片约 16 个月，CoWoS 流片在 2025 年 11 月。两个说法差在起点怎么算，但对读者的含义一致——这不是一夜之间的产物。 落地节奏更需要注意：年底只会在自家数据中心小批量部署，2027 年才逐步爬坡，现在手上的还是工程样片，B0 步进在制、据称能效再提约 25%。也就是说，这颗芯片今年不会改变任何人的推理账单。它真正的意义在别处：大模型厂自己下场做推理硅片这条路，第一次拿出了可被第三方基准检验的数字，而不只是发布会上的柱状图。

via: SemiAnalysis《OpenAI Jalapeño: Better Than Nvidia Blackwell》、OpenAI 官方公告、TechCrunch 报道