国产大模型竞争正从模型层向算力层延伸,算子效率成为决定芯片执行速度与Token成本的关键因素。近期,DeepSeek全面开源推理框架DeepInfer,标志着其开放模型运行链路。与此同时,由AI自主编写的算子ForgeKernel在多项权威评测中表现优异,其性能超越了人类工程师手工调优的版本,引发行业对AI辅助底层优化能力的关注。
DeepSeek 开源 DeepInfer 完善技术栈
DeepSeek 此次开源的 DeepInfer 推理框架,是其继模型权重和 FlashMLA、DeepGEMM 等算子库后,进一步开放模型运行链路的举措。算子作为模型在芯片上执行的基础单元,其效率直接决定了同样的显卡能跑多快,也影响了每个 Token 的价格。
在 DeepSeek 开源的算子中,FlashMLA 包含由工程师在芯片上逐行手调的版本。据相关技术评估,该版本算子性能达到了硬件极限的 90% 以上。这一成绩被视作目前人类手艺在部分芯片上所能达到的极限水平,体现了底层软件优化的高门槛与高价值。
AI 编写算子刷新性能纪录
就在 DeepSeek 开源相关技术的同一周,由 AI 编写的算子 ForgeKernel 刷新了性能极限。截至 10 月 22 日,ForgeKernel 在两个主要算子评测榜上同时登顶。它获得了英伟达主场的 SOL-ExecBench FlashInfer-Bench 合集第一,以及昇腾 CANN 官方仓库维护的 CANNBench A3 硬件榜第一。

- 在 CANNBench A3 硬件榜中,ForgeKernel 的基准加速比达到 1.835×,领先第二名 25%。
- 在 DeepSeek v4.1 Flash 的算子上,相比 DeepSeek 开源的英伟达版本,ForgeKernel 通过从 0 用 AI 迭代的方式实现了性能超越。
值得注意的是,ForgeKernel 是完全由 AI 编写算子、无人工逐行调优的成果。这一结果表明,AI 在自主优化算子方面已展现出显著能力,甚至在特定场景下超越了资深工程师的手工优化成果。
算力优化进入智能化新阶段
算子优化的竞争已从单纯的人力密集型转向智能化辅助。DeepSeek 的开源精神与算子优化榜单的激烈竞争,共同指向让国产智能在每一块芯片上跑得更快这一目标。AI 介入底层算子优化,可能降低高性能算子开发的门槛,提升迭代速度。
对于云计算与 IDC 服务商而言,算子效率的提升意味着在同等硬件资源下可承载更多并发请求,从而降低单位推理成本。随着 AI 自主优化能力的增强,未来算力基础设施的性能优化将更多依赖算法与数据的驱动,而非单纯依赖人工经验,这将重塑算力基础设施的技术演进路径。

