OpenAI自研推理芯片Jalapeño首批实测优于现有商用硬件
OpenAI公布自研推理芯片Jalapeño首批实测结果,其在速度、吞吐量、能效上均优于现有商用AI硬件,将直接提升ChatGPT等产品响应速度并降低推理成本。
事件核心
2026年8月25日,OpenAI正式公布其首款自研推理芯片Jalapeño的首批实测结果。这款芯片是OpenAI与博通合作开发的定制化硬件,定位为专门服务于大模型推理工作负载,不涉及模型训练场景。官方明确表示,该芯片将直接服务于ChatGPT、Codex等产品的响应速度提升,并在需求持续增长的情况下保障服务的稳定可用[S1][S4]。
OpenAI硬件负责人Richard Ho在公开采访中确认,Jalapeño在公开基准测试系统中的单位功耗AI工作量与响应速度两项核心指标上,均领先于该系统中排名最高的英伟达GB300产品。这一结果标志着OpenAI在自研AI基础设施方向上取得了实质性进展,也使其正式加入了全球自研AI芯片的头部企业行列[S5][S6]。
性能表现
官方公布的测试结果显示,Jalapeño采用单一架构设计,打破了传统AI硬件在高吞吐量与低延迟之间必须二选一的行业惯例,在不牺牲能效的前提下同时实现了两项指标的提升。测试覆盖了从高吞吐量批量处理到超低延迟高交互的多种典型推理场景,并以每单位功耗所能完成的AI有效工作量作为核心对比标准[S2][S4]。
为验证芯片的通用适配能力,OpenAI选取了三款不同规模的公开大模型进行测试,分别是GPT-OSS 120B、DeepSeek R1 670B以及Kimi K2.5 1T。测试结果显示,Jalapeño在这三款模型上均处于帕累托前沿位置,即在所有测试的工作点上,其能效与延迟组合均优于对比系统[S4][S11]。
第三方报道数据,尚未经官方完整披露或独立验证:在峰值吞吐量场景下,Jalapeño每瓦处理的AI任务量达到英伟达GB200/GB300系统的1.5至1.9倍;端到端延迟方面,Jalapeño将延迟降低了1.7至3.6倍;在对实时性要求极高的高交互工作负载中,性能提升幅度达到2.1至4.1倍。在测试的最大公开模型Kimi K2.5 1T上,Jalapeño的领先优势依然显著,峰值每瓦性能提升约1.5倍,端到端延迟降低3.4倍[S3][S11]。
功耗方面,Jalapeño的额定功耗约为700瓦[S8][S9]。第三方报道数据,尚未经官方完整披露或独立验证:Jalapeño在实际高负载测试中持续功耗维持在550瓦或更低水平;OpenAI在内部前沿模型上的测试还显示,随着模型规模变大、任务难度提升,这颗芯片的领先优势会进一步扩大[S3][S9]。
待验证问题
尽管首批实测结果亮眼,但目前仍有多个关键问题有待后续验证。首先,官方公布的测试结果均来自OpenAI内部测试,测试基准与模型选择也由OpenAI自行确定,尚未经过第三方独立复现与验证,性能数据的客观性与可复现性仍需时间检验[S7]。
其次,此次测试的对比对象是英伟达上一代旗舰GB300,并未纳入英伟达刚刚开始出货的最新一代Vera Rubin芯片。Jalapeño与英伟达下一代产品的真实性能对比,要等双方产品都进入大规模商用阶段后才能得出结论[S7][S9]。
第三,当前披露的信息中缺少芯片的关键硬件参数,包括具体工艺制程、芯片面积、晶体管数量、显存容量与带宽等,这些参数直接影响对芯片技术水平与量产成本的评估。同时,量产良率、部署规模、单位成本等商业化关键数据也尚未公开[S8][S9]。
第四,Jalapeño目前明确仅用于推理场景,不涉及模型训练,因此不会改变训练市场的现有格局。其价值主要体现在推理成本优化与服务体验提升上,对AI行业的影响将主要集中在应用层与推理基础设施层面[S8][S12]。
技术路径
Jalapeño的性能优势来源于OpenAI从立项之初就确立的软硬件全栈协同设计思路。不同于通用GPU需要兼顾训练、推理等多种工作负载,Jalapeño从架构层面就围绕现代大语言模型的推理特征进行深度定制,重点优化了推理流程中的预填充阶段和通信延迟问题[S11]。
研发团队通过本地化存储KV缓存等关键模型状态,显著减少了数据搬运次数;系统可根据不同推理阶段动态调配计算、内存和网络资源。第三方报道数据,尚未经官方完整披露或独立验证:这种架构设计使数据传输路径缩短了40%以上[S11]。这种针对推理场景的垂直优化,正是Jalapeño能够在能效和延迟上同时超越通用GPU的核心原因。
值得关注的是,OpenAI自身的大模型也在芯片研发过程中发挥了重要作用。早期版本的AI模型帮助设计团队完成了芯片的设计与bring-up工作,而最新一代模型则加速了后续的优化与验证流程,形成了AI模型与芯片设计相互促进的正向循环[S4]。
落地规划
按照OpenAI公布的计划,Jalapeño将于2026年晚些时候开始部署,首批将用于支撑ChatGPT等自有产品的推理服务[S5][S8]。博通首席执行官Hock Tan单方面披露的早期预期显示,Jalapeño在典型AI工作负载下的运行成本较常见AI GPU可能降低约50%,该数据尚未经官方完整验证,若兑现将直接转化为OpenAI推理成本的下降和服务能力的提升[S5][S8]。
部署节奏方面,OpenAI计划先进行小规模部署,2027年再逐步扩大规模。博通单方面披露的早期预期为2027年将部署约1.3吉瓦规模的相关芯片,Tan同时表示,随着需求持续增长,实际规模可能高于这一目标。最终版本的Jalapeño将部署到微软及其他合作伙伴的数据中心中[S8][S9]。
更值得关注的是OpenAI的多代芯片路线图。官方确认,第二代Jalapeño已进入较成熟的开发阶段,预计未来数月完成流片,第三代芯片也已启动概念设计。这表明OpenAI将自研芯片作为长期战略投入,而非短期试验项目[S9][S12]。
需要明确的是,OpenAI并未将Jalapeño定位为英伟达芯片的全面替代品。Richard Ho多次强调,英伟达是非常好的合作伙伴,OpenAI持续需要大量英伟达产品。由于AI算力需求极为庞大,多供应商策略将持续很长时间。就在Jalapeño公布前一周,OpenAI刚确认现有及规划中的英伟达算力承诺已达约12GW、可扩展至16GW[S7][S9]。
行业影响
Jalapeño的公布对AI算力行业格局具有多重标志性意义。首先,它标志着全球最大的AI应用厂商正式进入自研芯片赛道,且首代产品即在核心指标上超越了当前商用旗舰推理硬件,验证了垂直整合模式在推理场景下的技术可行性[S5][S9]。
其次,这一进展将推动AI算力成本曲线进一步下行。推理成本是当前制约大模型规模化商用的核心瓶颈之一,Jalapeño所展示的能效提升幅度,若能在大规模部署中兑现,将显著降低单位AI服务的电力与硬件成本,进而加速AI应用在更多行业的渗透[S8][S11]。
第三,对英伟达而言,虽然短期内在训练市场的主导地位不会动摇,且OpenAI明确表示仍将大量采购英伟达产品,但推理市场的竞争格局正在发生变化。随着越来越多的头部AI厂商推出自研推理芯片,通用GPU在推理市场的份额可能面临长期分流压力[S7][S9]。
对整个半导体产业链而言,Jalapeño的成功也验证了博通等传统芯片厂商与AI应用公司联合定制模式的可行性。这种模式下,应用厂商提供工作负载定义与软件栈优化能力,芯片厂商提供硬件设计与制造供应链能力,双方优势互补,可能成为未来AI芯片的重要研发范式[S5][S8]。
后续可重点关注三个方向的进展:一是第三方独立评测机构对Jalapeño的实测验证结果;二是今年晚些时候的实际部署规模与用户端可感知的体验提升;三是第二代、第三代芯片的研发进度与性能规划,这将决定OpenAI自研芯片战略的长期竞争力。
制作记录
公开编辑轨迹,不含隐藏推理。
正在整理制作记录…
Reader Signal
这篇文章对你有帮助吗?
只收集预设选项,不开放评论,不公开展示个人反馈。
选择一个判断,也可以附加一个预设标签。
发布于 2026-08-26 07:02:56。本文由明确标注的 Aione AI 编辑 Agent 参与制作,未经授权不得转载,不构成投资建议。