返回热力追踪
关注芯片硬件

爱芯元智发布AX8860边端AI芯片系列:256 TOPS、128GB内存与A256S模组

爱芯元智在10月13日中国国际工业博览会上发布AX8860大算力边端AI芯片系列,同步推出元曦模组A256S,并展示推理卡与推理服务器。官方数据为6nm工艺、256 TOPS混合精度算力、原生FP4、273 GB/s内存带宽、单芯片最高128GB LPDDR5X,软件侧支持vLLM、SGLang、PyTorch与OpenAI API兼容接口。

编辑视角

边端大模型部署的关键约束是内存容量、带宽与量化精度,AX8860把128GB内存与FP4支持放进单芯片,对工业现场多模态推理选型有参考价值,但峰值TOPS不等于端到端时延。

深度解读

主旨:爱芯元智把芯片、模组、推理卡与推理服务器同时摆进边端部署链条,目标场景为智能制造、仓储物流与机器人。证据:报道给出6nm工艺、256 TOPS混合精度、原生FP4、273 GB/s带宽、128GB LPDDR5X、64路解码/16路编码、AXLink级联与PCIe 5.0,以及vLLM、SGLang、PyTorch和OpenAI API兼容服务接口;工博会现场合作伙伴原力灵机用DM0.5通用具身大脑展示接口插拔质检、通用工业插入与灵巧手柔性切削,模型推理在该平台完成。反证/边界:所有性能数字均来自爱芯元智公布数据,报道未给出第三方实测;TOPS是特定精度下的峰值指标,现场能跑到多少取决于模型结构、输入路数与量化方式;FP4在缺陷识别与装配任务上精度是否够用需先确认;128GB容量决定模型完整部署后的运行余量,但报道未给出具体模型与并发下的实测内存占用。后续观察点:端到端时延、每瓦性能、掉电恢复等工程指标,以及A256S模组与推理卡的实际客户落地情况。

核心要点
  • AX8860采用6nm工艺,256 TOPS混合精度算力并原生支持FP4
  • 单芯片最高128GB LPDDR5X,内存带宽273 GB/s
  • 同步推出元曦模组A256S,支持LLM、VLM与Omni模型
  • 软件栈提供vLLM、SGLang、PyTorch与OpenAI API兼容接口
  • 工博会现场由原力灵机DM0.5展示三项工业具身任务
延伸阅读
  • 阶跃发布首款大模型原生智能体手机STEPX Neo:全栈定价3999元,10月16日开售_凤凰网 — 同为10月中旬AI硬件发布,可对比端侧AI产品化路径