返回热力追踪
关注芯片硬件

爱芯元智发布AX8860边端AI芯片:256 TOPS、6nm、原生FP4

爱芯元智在上海工博会发布AX8860大算力边端AI芯片系列,面向智能制造、仓储物流及机器人场景,支持大模型边缘/端侧部署。同步发布元曦模组A256S,并展示推理卡与推理服务器。芯片采用6nm工艺,256 TOPS混合精度算力,原生支持FP4,内存带宽273 GB/s,配128GB LPDDR5X。

编辑视角

边端大模型部署是当前算力下沉的关键方向,AX8860给出明确算力、内存与互联规格,并适配vLLM、SGLang、PyTorch及OpenAI API接口,对关注端侧推理硬件选型的从业者有直接参考价值。

深度解读

主旨:爱芯元智借上海工博会发布AX8860系列边端AI芯片,定位大模型在边缘与端侧部署,配套元曦模组A256S、推理卡与推理服务器,形成芯片到系统的产品组合。证据:报道给出可核验规格——6nm工艺、256 TOPS混合精度、原生FP4、273 GB/s内存带宽、128GB LPDDR5X、AXLink级联与PCIe 5.0、64路解码/16路编码;软件侧支持vLLM、SGLang、PyTorch,提供兼容OpenAI API的服务接口及量化、转换、编译、性能分析与调试工具。合作伙伴原力灵机展示DM0.5通用具身大脑在质检、工业插入、柔性切削三类任务中依托该平台推理。边界与反证:所有规格与适配信息均来自公司介绍及中证网转述,未见第三方实测、量产时间表、定价或客户订单;股吧转载页本身不构成一手发布,且未提供原始发布会材料或产品白皮书。若后续无独立评测或实际出货证据,该发布仅停留在纸面规格层面。后续观察点:AX8860量产与出货节奏、vLLM/SGLang适配的实际性能数据、A256S模组定价与生态伙伴落地案例。

核心要点
  • AX8860采用6nm工艺,256 TOPS混合精度算力,原生支持FP4
  • 内存带宽273 GB/s,配128GB LPDDR5X,支持AXLink级联与PCIe 5.0
  • 支持vLLM、SGLang、PyTorch,提供兼容OpenAI API的服务接口
  • 同步发布元曦模组A256S,并展示推理卡与推理服务器
  • 规格均来自公司介绍,尚无第三方实测或量产出货证据
延伸阅读
  • 阶跃STEPX Neo智能体手机首发上手:AI能自主执行命令 3999元 — 同为端侧大模型落地案例,可对照端侧AI产品化路径