DeepSeek推出内核补齐与通信重构优化方案，PCIe显卡推理吞吐翻近7倍

当前AI大模型推理领域面临高端GPU采购成本高、供给约束大的问题，而大量存量PCIe显卡因为开源框架适配不足，存在性能鸿沟，实际算力无法充分发挥。DeepSeek针对这一痛点，通过内核补齐解决算子低效问题，通过通信重构优化集合通信，结合DeepEP对MoE模型all-to-all通信的优化，实现了节点内和跨节点的通信效率提升，实测显示推理吞吐提升近7倍，甚至1.5台6000D的性能就可以超过1台B300。不过该优化效果是基于DeepSeek自身框架和特定测试场景得出，目前尚未看到第三方大规模验证结果，对于非DeepSeek框架部署的模型，该优化方案不一定能直接复用，且对于已经使用高端互联GPU的场景，提升幅度可能有限。后续需要观察社区对该优化方案的适配情况，以及更多第三方测试结果。