OpenAI自研Jalapeño推理芯片能效超英伟达GB系列1.5至1.9倍

事件核心

美国时间2026年8月25日，OpenAI正式公布首款自研AI推理芯片Jalapeño的首批实测性能结果。这款芯片定位为大语言模型推理专用ASIC，不对外销售，仅服务于OpenAI内部算力需求，旨在降低长期推理运营成本并提升用户体验[S1][S10]。

官方测试显示，Jalapeño在峰值吞吐量下每瓦可完成的AI工作量达到英伟达GB200/GB300系统的1.5至1.9倍，端到端延迟仅为对比系统的28%至59%。测试覆盖GPT-OSS 120B、DeepSeek R1 670B和Kimi K2.5 1T三款公开大模型，涵盖从中型参数到万亿参数MoE架构的不同规模场景[S1][S4]。

OpenAI强调，Jalapeño通过单一架构同时实现了更高吞吐量和更低延迟，而现有硬件系统通常需要在二者之间权衡。对于用户而言，这意味着更快的响应速度、更流畅的智能体交互，以及在需求增长时更稳定的服务可用性[S10]。

性能实测数据

本次测试基于SemiAnalysis的InferenceX基准测试套件，对比对象为英伟达GB200、GB300机柜系统，核心对比指标为单位功耗下的推理吞吐量、端到端延迟以及高交互场景下的性能表现[S2][S5]。

在能效比方面，不同模型上的表现略有差异。运行GPT-OSS 120B时，Jalapeño每千瓦峰值吞吐量达到85448 mixed tokens/s，英伟达GB200为44960，前者高出约1.9倍；在DeepSeek R1 670B上，Jalapeño峰值每千瓦吞吐量为19641 mixed tokens/s，GB300为11781，前者约为后者的1.7倍；在Kimi K2.5 1T上，Jalapeño峰值每千瓦吞吐量为18195 mixed tokens/s，GB300为11862，前者约高出1.5倍[S4][S6]。

延迟方面的提升同样显著。GPT-OSS 120B测试中端到端延迟降低约1.7倍；DeepSeek R1 670B测试中，Jalapeño端到端延迟为1.65秒，GB300为5.99秒，降低约3.6倍；Kimi K2.5 1T测试中，延迟从GB300的5.56秒进一步降低，降幅约3.4倍。对于高度交互式工作负载，Jalapeño性能较对比系统提高了2.1至4.1倍[S3][S7]。

功耗控制上，Jalapeño额定功率为700瓦，但在测试工作负载期间持续功耗保持在550瓦或以下。作为对比，GB300系统额定功耗达1400瓦，这意味着同等算力下电力成本可显著降低[S2][S12]。

值得注意的是，本次测试主要比较推理吞吐量、功耗效率和延迟，并未覆盖前沿模型训练、通用GPU计算能力及软件生态等维度；测试未将英伟达Vera Rubin作为参照对象，基准以单Token预测为主[S4][S8]。

技术特点与研发路径

Jalapeño由OpenAI与博通（Broadcom）合作开发，台积电采用3nm制程代工制造，从架构设计到流片仅耗时9个月，远短于高性能ASIC通常数年的行业周期。该项目由前Google Cloud TPU核心工程师、OpenAI硬件负责人Richard Ho挂帅[S2][S7]。

架构上，Jalapeño采用systolic array脉动阵列架构，配备HBM高带宽内存，专为大语言模型推理场景设计，不用于模型训练。与英伟达GPU需要兼顾多种任务的通用设计不同，Jalapeño裁掉了可编程逻辑、部分缓存层级等通用开销，把硅片面积更多留给推理所需的计算单元，并围绕内核、内存搬运、网络与服务模式做整体软硬协同优化，显著减少数据搬运损耗，使硬件利用率更贴近理论峰值[S2][S7]。

更具标志性的是，OpenAI借助自家模型GPT-Astra与Codex加速了电路设计与验证过程，形成“AI设计芯片-芯片运行AI”的自我迭代闭环。AI辅助设计让SIMD单元面积减少8%、矩阵引擎面积减少10%，部分AI生成的内核比人类专家实现快1.5至1.8倍，这也是其能在9个月内完成流片的重要原因之一[S7][S12]。

部署规划与定位

Jalapeño及配套服务器系统均不对外销售，仅供OpenAI内部使用，核心目标是降低自身GPU采购和算力运营成本。OpenAI明确回应，自研芯片并非要取代英伟达，英伟达仍是重要合作伙伴，未来将持续采用多供应商策略[S2][S11]。

部署节奏上，OpenAI计划2026年年底前小规模部署Jalapeño，2027年逐步扩大部署规模。由于该芯片仅面向推理场景，未来仍需搭配英伟达训练集群共同使用，形成“训练+推理”的混合算力架构[S2][S11]。

成本方面，公开信息显示Jalapeño每芯片每小时总拥有成本约1.56美元，与H100基本持平，远低于Vera Rubin的3.61美元。不过目前公开数据缺乏完整TCO核算依据和详细对比细节，实际成本优势仍需大规模部署后验证[S7][S12]。

行业影响与争议

Jalapeño的发布被视为AI模型厂商向硬件上游延伸的重要标志。作为全球最大的AI算力采购方之一，OpenAI自研推理芯片若大规模部署，将直接改变其与英伟达的供需关系，并可能带动更多头部模型厂商跟进定制化硬件路线[S3][S11]。

不过，行业对其影响的判断仍存在边界。首先，该芯片目前仅完成基准测试，距离大规模商业化落地仍有较长周期，2026年底仅为小范围试验部署，具备规模的实际部署预计要到2027年；其次，基准测试表现不等于真实业务负载表现，实际生产环境中的模型适配、软件栈成熟度、运维复杂度等因素都会影响最终收益[S11][S12]。

从竞争格局看，仅凭现阶段基准测试优势，Jalapeño短期内难以颠覆英伟达在AI芯片领域的主导地位。英伟达不仅拥有完整的训练+推理产品线，还拥有CUDA软件生态和庞大的开发者社区，而Jalapeño作为专用推理ASIC，仅覆盖AI算力链条中的一部分。但这款芯片的突破凸显了推理赛道的战略价值，随着AI推理算力支出占比超过训练，推理芯片有望成为未来全球AI芯片竞争的关键赛道[S11][S12]。

此外，OpenAI“AI设计芯片”的路径也引发广泛关注。如果大模型能够持续加速芯片设计流程，将进一步缩短硬件迭代周期，推动AI算力与模型能力形成双向加速的正循环。后续值得关注的是Jalapeño Gen 2、Gen 3的研发进度，以及其在OpenAI内部前沿大模型上的实际表现[S7][S12]。