文 / 梁添

来源 / 节点AI

算子工程师是AI时代的热门岗位，是AI工程里典型的脏活。

在国产芯片替代的浪潮下，他的日常大概是这样的：同一个算子，在英伟达上跑通了，换到华为昇腾要重写一遍，再换到寒武纪又是一遍。很简单，芯片不同，优化策略不同。

过去，英伟达一家独大，大家训练阶段都集中在这里，一套CUDA打天下。

但AI行业正在经历一次重心转移，训练出更大的模型不再是唯一锚点，而是能把模型部署到更多真实场景里，让智能体等应用落地。

智源研究院副院长兼总工程师林咏华现场发布众智FlagOS 2.0

这给了能承担推理任务的国产芯片一个机会，但别高兴太早，这导致算子工程师工作量暴增。

想要提高应用铺开的效率，有一个大前提，那就是有人把模型到芯片适配的那层脏活解决掉。

北京智源研究院（以下简称智源）试图做的就是这件事。

3月27日，2026年中关村论坛年会上，智源研究院副院长兼总工程师林咏华现场发布众智FlagOS 2.0。《节点AI》特意采访了林咏华，来试图通俗易懂的帮助大家了解智源发布这层技术栈的本意。

众智FlagOS 2.0解决了什么问题？

FlagOS 2.0的核心逻辑不复杂：在大模型和AI芯片之间建一个统一的中间层，让模型不必为每款AI芯片单独适配。

说起来简单，做起来难。

不同芯片的计算架构差异巨大，而AI推理对效率又敏感，这是一个经典的工程难题。

FlagOS 2.0在几个关键环节给出了自己的解法。

在编译器层面，智源提出了一种叫TLE的开发语言，试图让同一套算法描述在不同芯片架构上都能生成高效代码，无需重头写一遍。

值得关注的是，智源还推出算子自动生成平台Cog。

前面说的脏活，Cog的解决方案是用AI代替人来干。覆盖从代码生成、精度验证到性能测试的完整流程。

智源向《节点AI》透露了一个真实数据：同一个算子，Cog的生成速度是Claude Code的两倍，token消耗减少一半，生成代码的执行效率更高。

如果这个数据可靠，它意味着算子适配从手搓变成了自动化流水线，对整个国产芯片生态的推广效率是很大提升。

在覆盖范围上，FlagOS 2.00通过FlagScale插件体系，向上对接主流AI框架，向下连接芯片厂商的原生能力，把推理、训练、强化学习全流程拉通。目前已经支持18家芯片厂商、32款AI芯片。

我们了解到，FlagOS 2.0不是智源一家能做出来的。据介绍，项目背后有20家芯片厂商、76家企业的共同参与，所有协作都在开源平台上进行。

开源的现实账怎么算？

开源带来协作规模，但也绕不开一个现实的问题，谁来持续投入？

北京智源人工智能研究院副院长兼总工程师林咏华对这个问题的回应比较坦率。她告诉《节点AI》，智源做FlagOS 2.0的初衷是技术探索本身，目前还没有急着把核心技术直接商业化。

"这件事技术难度非常高，也非常深，需要聚合各方力量共同突破。核心技术团队以及合作伙伴，现在更关注的仍然是技术探索本身。"

但这并不意味着商业化被搁置。

林咏华透露，已经有不少操作系统厂商和系统集成商在与智源接触，希望基于FlagOS打造商业发行版。未来大致会形成两条路径并行的格局：智源继续推进统一技术栈的深度，芯片架构还在不断演进，存算一体、近存计算、3D堆叠等新方向都会带来新的适配挑战；商业化发行则交给更靠近市场的合作伙伴。

这种分工在开源世界并不陌生，开源操作系统Linux和Red Hat的关系就是一个参照。但能不能真正跑通，取决于FlagOS的技术底座是否足够扎实，以及围绕它的生态能否持续长出商业价值。

为了降低参与门槛，林咏华表示，我们和北大计算机系老师一起，在 48 小时内打造了一套全新的 AI 系统课程。课程的全部材料也都会开源到 Git 平台上，任何老师都可以下载、加工、改造成自己的课程，再教授给学生，不会收取任何版权费用。

推理时代的真正考验是什么？

推理时代对基础设施的要求，和训练时代有本质不同。

训练是可以砸钱买英伟达显卡实现放大，而推理是相对分散的。这意味着多芯片适配是推理规模化的刚需。

FlagOS 2.0的价值，在于它指向了一个正确的问题：如果AI推理要真正铺开，底层必须有一个足够通用的软件层来实现硬件的分散化。

目前来看，芯片架构还在快速分化，整个生态内玩家对于统一技术栈的投入还要持续。

智源现在做的事，相当于一个开始，

林咏华告诉《节点AI》，"我们更希望吸引到的，是那些能够提出颠覆式创新想法的人。这样的想法未必今天已成共识，但正因如此，它才可能帮助我们去探索那些仍属于无人区的方向。"

追求确定性在快速变化的时代，无异于自废武功，对一个做基础设施的技术团队来说，最难的，与最让人兴奋的就是为明天行业发展做投入，且惠及生态内合作伙伴，这是开源精神的体现。智源研究院的做法是集思广益，不断招揽人才，与生态伙伴，在AI时代不断探索向前。

*题图由AI生成