返回热力追踪
关键芯片硬件
英伟达扩展NVLink Fusion,推出定制高带宽内存技术NVHBM
NVIDIA面向下一代AI工厂推出NVLink Fusion互连技术,支持定制XPU、CPU接入NVIDIA AI基础设施,降低开发复杂度、提升性能。本次扩展新增NVHBM定制高带宽内存技术,优化内存性能与芯片面积利用。已有AWS等厂商确认将集成该技术部署Trainium4。
编辑视角
该技术针对大模型万亿参数、复杂推理的算力需求,解决半定制AI工厂异构集成难题,对AI硬件定制化、下一代基础设施建设影响重大,AI从业者需要跟进落地进展。
深度解读
主旨:本次发布是NVIDIA面向下一代AI基础设施的重要技术更新,通过NVLink Fusion实现定制XPU与NVIDIA生态的高效互连,新增NVHBM优化高带宽内存性能。证据:官方博客与官网均披露技术细节,内部知识库确认NVHBM可提升最高30%内存带宽、降低15%功耗、释放25%芯片面积,已有AWS确认集成。边界:目前仅为技术发布,未披露具体量产时间、大规模落地案例,也未公布对第三方XPU开放的具体授权细节。不同厂商的适配成本、实际性能增益还需要实际产品验证。后续观察点:跟踪OEM厂商合作进展、大规模AI工厂的实际部署数据、授权模式与商业化进展。
核心要点
- 推出NVLink Fusion互连技术,支持定制XPU接入NVIDIA AI基础设施
- 新增NVHBM定制高带宽内存技术,提升带宽、降低功耗释放芯片面积
- AWS确认将集成该技术,加速Trainium芯片部署
- 面向半定制AI工厂,降低异构开发复杂度,加快上市速度
延伸阅读
- NVIDIA 扩展 NVLink Fusion,推出 NVHBM 定制高带宽内存技术 — 对应本次事件的中文拆解报道,信息更完整