# AI进入生产阶段之后， 智能、算力、芯片 会走向哪里？

屠龙之术 · 2026-09-22 · 41 min · https://www.xiaoyuzhoufm.com/episode/6ab2b85df04646b3a955a1de?utm_source=rss

## 逐字稿

庄明浩

本期是一期我个人带 PPT 的 Solo 播客，主题是“AI 进入生产阶段之后，智能算力芯片会走向哪里？”，副标题是“AICC 2026 人工智能计算大会侧记”。

本周一，我去北京参加了一场 AICC 2026 人工智能计算大会。这是这次大会的第 7 届，也就是说，在过去 7 年的时间里，关于人工智能计算，尤其是关于算力芯片的探讨，已经持续了非常长的时间。进入 2026 年之后，随着这一轮 AI 模型能力的提升，关于算力芯片以及下一阶段智能的发展方向，相关讨论尤其多。

如果大家有印象的话，我在今年 6 月份发过一期播客，是我跟高飞老师的对谈。当时的大会叫 AIEC，即人工智能生态大会，会议内容更多集中在我们平时聊得比较多的应用、软件和 Agent 等方向上。但这次 AICC 大会，弥补了我此前对行业了解不多的部分，涉及很多偏 Infra 和硬件层面的讨论。

我在大会上听了完整的一天，包括上午主会场所有嘉宾的 Keynote，下午也串着听了几个分论坛，挑了一些自己感兴趣的内容。基于这次大会的内容，我整理了今天这期节目。

就像标题里提到的，今天要讨论的是：智能算力和芯片到底会走向哪里？今天的内容大概分成 3 个章节。

第一部分是“从 Chat 到 Agent：需求侧的结构性跃迁”。这部分内容主要来自大会当天上午 IDC 副总裁周总的一场很长的报告分享。

第二部分是“智能本身的重新定义：从概率拟合到可信生产”。它主要来自两位嘉宾的分享，一位是同济大学的党委书记，另一位是来自工信部的一位研究员。

第三部分来自 3 位嘉宾，他们分别从系统、元器件以及整个生态的层面，探讨算力与芯片的发展。我们先进入第一章，从 Chat 到 Agent，需求侧的结构性跃迁。

### Agent重写需求结构

首先，在 IDC 的这次分享当中，我觉得它用了一个在今天这个时间点已经成为业界共识的概念，也就是：Agent 等于 Model 加 Harness。

Model 决定了 Agent 的智能上限。今天 Agent 里面的模型，可能会涉及推理长度、上下文长度、是否支持多模态、工具调用，以及成本上的差异。同时，因为不同模型擅长的任务不同，模型路由层也变得越来越重要。大家开始讨论，模型路由层要根据不同的任务类型、用户意图和负载，进行动态匹配，给予最优选择。

对于模型的评价，我们开始考虑准确率、推理能力、延迟，以及调用成本。也就是说，模型这一层决定了整个 Agent 智能的上限。

进入今年之后，大家讨论得比较多的 Harness，负责的是把模型输出转化为可执行的流程。从模型真正嵌入 Agent，到最终产出结果，中间所用到的功能模块，可能包括上下文管理、模型路由、工具连接、状态与记忆、执行控制、安全，以及可观测性和评测。就像我上一期播客讲的，Benchmark 变得特别重要。

所以，Agent 等于 Model 加 Harness。模型提供智能能力，Harness 则把能力组织成一个可运行、可治理、可恢复的 Agent 执行系统。在当下这个时间点，这个公式本身似乎已经成为绝对的业界共识。

### 算力缺口持续扩大

IDC 在会上发布了一份报告，是与浪潮信息联合发布的，叫《2026 年中国人工智能计算力发展评估报告》。这份报告里有非常多的信息点，我抽取了几个自己比较关注的内容。

在过去一两年的时间里，我无数次提到，人工智能的发展已经走到了人类极限。我们开始使用万亿美元，也就是 Trillion 这样的数据标记，用衡量 GDP 的标尺去衡量整个 AI 领域，包括开源模型的投入、AI 的产值等等。

IDC 的报告给出了一个数字：截至 2031 年，也就是未来 5 年左右的时间，人工智能行业累计创造的全球经济价值将达到 22.5T，也就是 22.5 万亿美元。它给出了未来 5 年，在一个宽定义之下的产值预期。这个数字可能已经基本相当于中国或者美国 2026 年的 GDP 了。

如果我没记错的话，2026 年全球生产总值预计应该是 126T。22.5T 大概相当于全世界 GDP 的 1/6 左右。因为我们已经走到了 Agent 的时代，IDC 预计，截至 2030 年，全球活跃 Agent 的数量可以达到 22.16 亿。

更重要的是，Agent，或者说 AI 的能力，正在从此前的验证阶段走向价值兑现。最直接的体现就是所谓的经济价值。无数人都提到，这一轮 AI 是所谓的技术革命、第四次工业革命。既然被冠上这样的名词，当然要去衡量它能够提升多少 GDP，能够创造多少经济价值。

IDC 给出了这样的预期，但同时，这份报告也用了很大篇幅去描述算力层面供需的剪刀差正在持续扩大。根据 IDC 的预计，2030 年全球 AI 算力的供需缺口将达到 3,809 亿美元，而且从趋势上来看，这个缺口还在持续扩大。

很多人预期，到了 2028 年左右，随着这一轮基础建设投入的增加，这个缺口可能会有所缓解。但 IDC 的统计和预期似乎预示着，缺口还会持续放大。为什么？因为从 2026 年到 2030 年，全球 Token 消耗量的复合增长率，IDC 的统计是 4,822.6%。

我再说一遍，2026 年到 2030 年，全球 Token 消耗量的复合增长率是 4,822.6%。在这样一个巨大的涨幅面前，物理世界的很多限制似乎都很难追得上。

IDC 对 Agent 的发展定义了 5 个阶段，有点类似此前 L1 到 L5 的划分，但更加集中在 Agent 这个板块。

第 1 个阶段是功能型 AI，主要做生成、识别和预测，包括代码生成、视觉质检和智能回答。

第 2 个阶段是个人 Agent 的工具调用和任务执行，主要处理邮件、日程和文档。

在阶段 2 到阶段 3，它认为是单流程 Agent，也就是完成一个业务流程，比如 Coding Agent 完成工单全链路的端到端交付。我们似乎正在从阶段 2 走向阶段 3。

第 4 个阶段是多 Agent 协同，包括跨角色和跨系统的营销、销售、交付协同，以及供应链协同。当然，在今天这个时间点，如果大家熟悉 Agent 的发展，就会知道，一些前沿的 Agent 研究和任务协同已经在尝试这类事情。

第 5 个阶段叫监督下的闭环，也就是持续运行，由人工负责工程实施和审批权的变更。听到这个概念，你会发现，目前最激进的模型厂商和其他厂商似乎也在尝试类似的事情。

在当下这个时间点，Echo，我前一期播客所讲的也是 H O Z 给出的结论：Work 场景加 Coding 场景，是这个时间点的共识。

从成熟度的角度判断，专业服务领域的 Work Agent，比如法律咨询、会计等专业工作，以及软件与 IT 行业的 Coding Agent，包括代码开发、测试与工程交付，相对会比较成熟。其他领域，比如教育、科研、医疗、金融、能源、制造和零售，目前的成熟度还没有 Work Agent 加 Coding Agent 这么高。

我觉得在 2026 年，Work Agent 加 Coding Agent 似乎是阶段性共识。当然，最近一段时间也出现了所谓个人 Agent 的一波浪潮，这个我在之前的播客里也提到过。

回到刚才说的 4,822.6% 的 Token 增长，为什么会以这样的量级增长？IDC 给出了一个公式。大家看得见的是 Agent 的应用，但看不见的是底层算力基础设施需求的巨大膨胀。

Token 的消耗来自 3 个乘数相乘。首先是任务执行次数，也就是我们有多少任务。IDC 统计，任务执行次数会从 2026 年的 2,800 亿次，增长到 2030 年的 415 万亿次，具体翻了多少番，大家可以自己算一下。这是第 1 个乘数：任务执行次数。

第 2 个乘数是单任务的 Token 消耗。过去我们完成的更多是偏简单的任务，但今天大家越来越多地去完成所谓的复杂任务，所以单任务的 Token 消耗可能从几十个 Token 增长到几十万个 Token，增长了很多倍。这是第 2 个乘数：单任务的 Token 消耗。

第 3 个乘数是多智能体的协同放大系数。一个用户任务会变成多个智能体的子任务，推高任务执行次数，尤其是并行任务的次数。智能体之间的上下文传递与结果汇总，会延长任务链路，也就是大家所谓的长程任务，进一步推高单任务的 Token 消耗。

所以，任务执行次数、单任务 Token 消耗、多智能体协同放大系数，这 3 个系数相乘之后，Token 的消耗会膨胀到什么程度，可想而知。

从算力需求的角度来讲，需求已经从此前的单次调用，推向了持续协同。这可能也跟我上一期播客里讲到的 RSI 有一定关联。

但面对如此爆炸式增长的海量算力需求，就像我此前讲过无数次的一样，我们触碰到了人类太多的物理极限。物理世界的限制会成为常态，而不是很多人预期的 2028 年就能得到缓和。

根据 IDC 的统计，有两个数字，一个是算力供给，一个是算力需求。这两个数字相除之后，有一个叫算力满足度的指标。两条曲线之间的缺口其实在持续扩大。刚才我们说过，到 2030 年，缺口会达到 3,800 多亿美元。

从满足度来看，2026 年大概是 74%，2027 年会更加紧缺，降到 71%；2028 年有所缓解，达到 75%；2029 年和 2030 年仍然会有所缓解，可以达到 76% 甚至 77% 的满足度。

但是，由于 Token 爆炸式增长，以及算力投入规模进一步扩大，缺口的绝对值仍然在持续放大。也就是说，缺口的绝对值会从 2024 年的 389 亿美元，增长到 2036 年的 3,809 亿美元，接近 10 倍。

企业投入的意愿方面，97.3% 的企业会扩大投入，37.7% 的企业会增加推理。价格信号则是调价周期加快到半年以内。

更极端一点来看，当前这个时间点最紧缺的存储芯片，调价周期已经从季度缩短到了月度。全年涨幅可能达到 30% 到 50%。我觉得这只是平均值，其他几个核心板块的涨幅远远不止于此。

这个瓶颈除了产能约束之外，还有能源约束，也就是电力约束。所以，物理世界的限制会成为常态。

IDC 的核心观点，我总结一下。

首先，Agent 正在重写一切。当 AI 从内容生成走向任务执行，从单轮问答走向长链路协作，它不再只是人类手中的工具，而开始成为能够独立承担生产任务的运行单元。我们在 2026 年似乎已经看到了很多类似场景的出现。

第一，交付形态发生变化，从内容生产走向任务执行，从单轮回答走向长链路的并行协作。

第二，竞争焦点发生变化，从是否部署 AI，尤其是在企业层面是否部署 AI，转向是否具备规模化、安全化、可治理的 Agent 运行能力。安全这个话题，在过去一两个月被提到了非常高的高度。我觉得这某种程度上也呼应了上一期《Own Your Intelligence》所讲的内容。

第三，中国的态势与瓶颈。中国展现出独特的领先优势，AI 真正实现规模化运行之后，会将算力推向国家关键基础设施的战略高度。

这场由 AI 驱动的变革，正沿着 5 个趋势加速展开：第 1，AI 价值兑现提速；第 2，中国智能体部署渗透率领先全球；第 3，算力需求结构性跃升；第 4，算力成为国家战略基础设施，我觉得这也是共识；第 5，供需缺口长期存在。

这是 IDC 的总结。第一章讲完了，从 Chat 到 Agent，需求侧发生了结构性跃迁。

我们再看第二章：智能本身的重新定义，从概率拟合到可信生产。

### 机器记忆重定义智能

先看同济大学党委书记郑庆华院士的演讲。他说，基于智能的下一步突破，不能只依赖数据和算力规模的扩展。

大家总说 AI 的三驾马车：数据、算力和算法。在算法没有太多变化的前提下，今天大家似乎都在追求数据和算力。但郑院士认为，我们不能只依赖数据与算力规模的扩展，还要具备在知识和资源有限、环境持续变化的情况下进行学习和推理的能力。

为此，需要将数据驱动与知识引导相结合，借鉴人脑的记忆与联想机制，探索面向小样本、强推理的机器记忆智能。他的演讲主题类似“从大模型到机器记忆智能”。

郑院士回顾了过去 70 年人工智能的发展，从最早的计算智能、感知智能，再到认知智能、类人的自主智能，以及未来大家期待中的通用人工智能。人工智能已经从工具式能力走向理解、协同与自主，也就是我此前播客里提到的 RSI。

为什么还需要继续向前探索？郑院士提到，当前这一代大模型的结构存在一些局限。

第一，算力和数据需求极度夸张，算力消耗高，数据依赖强。

第二，缺乏人类的抽象能力。

第三，黑箱不可解释，可解释性也是很多人正在探索的方向。

第四，灾难性遗忘。学习新任务时，旧知识会被覆盖，而且任务上下文记忆窗口的长度，已经很长时间没有突破。

第五，缺少小样本复杂推理，难以在少样本的情况下实现泛化。

这些议题可能都是当前大模型的局限，也限制了大模型在真实、关键、多变场景中的可靠落地。

如何解决这些问题？说得玄学一点，造物主，或者上帝，给了我们一个示范，也就是人脑。

人脑大约有 860 亿个神经元，但功耗只有 20 到 23 瓦。平均只需要 4% 左右的神经元同步激活，就可以解决很多问题。它可以自动纠偏，在受到噪声干扰的情况下仍然恢复正确记忆；它可以进行内容联想，快速关联回忆，完成任务，实现类脑检索；它还可以进行各种状态切换。

创造性思维的关键来源，也来自人脑。这是造物主在创造人类时，给人脑提供的一种解决方案。

我们似乎可以借鉴人脑的解决方案，进一步推演智能的演进。推演到哪里？又回到刚才那个标题，郑院士认为，我们要从大模型走向所谓的机器记忆智能。

低技能的模型核心可以完成协同，可以在资源最小化、机制稀疏的情况下实现强推理；它能够对知识表征进行结构化组织与压缩，能够理解、联想、关联和激活内容。

它实现了某种程度上的“不可能三角”。这个不可能三角包括：第一，有限性，也就是有限的算力、存储、数据和时间；第二，时效性，必须在限定时间内输出可行方案；第三，开放性与泛化性，能够动态适配新场景、新知识，随时吸收新的知识。

如果沿着机器记忆智能这条路继续向前，我们似乎可以在某种程度上实现这个不可能三角。这是郑院士的主张。

### 可靠评测覆盖全链路

另外一位嘉宾，是工信部电子第五研究所软件与系统研究院高级副院长蒋佩航。蒋院长演讲的议题是“可靠的评测体系如何护航 AI 产业落地”。

他说，AI 的规模化落地，正在推动测评体系从模型能力评价走向全链路可靠性评价。可靠 AI 测评体系应该从应用场景出发，覆盖芯片、整机、框架、模型、数据和应用的全链路，为产业选择、行业治理和技术演进提供统一、可验证的评估标准。

听到这里，如果熟悉我的播客，应该会想到我在上期播客里提到的一个观点：当前这个时间点，Benchmark 本身就是有问题的。

蒋院长把这个问题提到了更高的高度，也就是可靠性评测体系。比如，我们要探讨当前 AI 系统的协同效应。单点指标亮眼，可能不足以对整个系统的适配和协调产生足够影响。

业务可靠性也很重要。AI 落到政务、工业、民生等不同领域，对延迟、能耗、稳定性和安全性的要求都不一样。

还有复杂任务的稳定性。今天 AI 执行的是多步骤、高并发的任务，能够尝试或者做试点，并不代表进入真正的生产环境之后就一定能够处理好。

此外，Benchmark 本身的数据有效性也面临巨大挑战。现有评测在场景、数据集和方法上的贴合度不足，这些都是当前可靠性评判面临的问题。

那么，如何解决这些问题？蒋院长的逻辑是，我们需要建立一套可靠的 AI 评测体系。

什么是可靠评测体系？它有 5 个维度：测评对象、测评方式、测评边界、评估力度和评价标尺，都需要从传统方式走向新的方式。

在测评对象上，传统方式更多针对单一模型进行测评，而当前需要的是系统级智能体测评。

在测评方式上，过去采用的是静态测试，有一张表单或者一套打分体系；未来则需要动态、持续、及时的测试。

在测评边界上，过去更多是在测模型，而今天似乎需要对整个技术栈进行评测。

在评测力度上，过去只看得分，更多时候只看结果；现在则需要对全流程轨迹做完整判断。

在评价标尺上，过去根据分数高低评判能力，但今天越来越多人开始讨论 ROI 和成本。也就是说，价值与成本的综合考量变得越来越重要。

总结一下，可靠评测需要覆盖全流程轨迹、工具调用、权限使用、任务迭代等要素。评价体系还要包含推理成本和 TCO，也就是总拥有成本。

换句话说，在整个 AI 执行的全链路中，系统需要在特定场景和运行条件下，持续、稳定地实现预期功能，并具备安全可靠、行为可预测、异常可处置和可恢复的能力。

从芯片层面的算力、带宽、能效和稳定度，到整机互联；从算力集群的通信故障恢复，到框架系统的算子兼容与调度；从模型本身的准确率、幻觉和鲁棒性，到数据层面的数据质量、归属和溯源；再到应用层面的闭环、成效和安全退出，整个链路都需要做到可证明、可控制、可承受、可复现。

听起来非常难以实现，但这需要产业链上的所有参与者付出非常多的努力。

综合来看，AI 这一轮的探讨，从基础硬件层的芯片、互联、框架与系统软件，到模型层、数据层和应用层，整个 4 层架构都需要贯穿可靠性，才能形成一个可靠的 AI 系统。

它需要做到安全可控、行为可预测、稳定实现功能，并且在出现异常时能够被察觉。这才代表可靠。

在当天的会上，工信部电子第五研究所联合北京智源研究院、浪潮信息、摩尔线程、木犀股份、北京开源芯片研究院、百度智能云、阿里云等 20 多家产业链单位，正式发布了面向 Agent 时代的可靠 AI 评测体系。

针对传统 AI 评测更多聚焦单一模型、芯片或局部性能等问题，这套体系聚焦智能体应用带来的新能力、新场景和新要求，覆盖芯片、整机、互联、框架、系统、模型、数据和应用等诸多环节，从可靠性、安全性、稳定性等维度开展全链路评测，涵盖场景构建、风险评估和能力优化，为产业选型、技术演进和行业应用提供可验证的评价参考。

我觉得，这套可靠 AI 评测体系对于当前 AI 的落地尤为重要。

第二章讨论的是智能进化与可信评估，这其实是一体两面：智能是否进化，能否在有限资源下工作，能否在限定时间内给出答案，能否吸收全新的知识并实现泛化；系统是否真的可靠，能否持续、稳定地实现功能，能否检测和处置异常，以及每一个 Token 是否对得起它的成本。

让智能真正可信，是下一步的共同命题。

我们进入第三章：算力芯片、系统、器件与生态的突围。

这一章有 3 位嘉宾，分别对应系统、器件和生态。系统层面是智算双轨；器件层面来自清华大学的嘉宾，讨论存算一体芯片如何打破当前的瓶颈；最后一位嘉宾来自智源研究院，讨论生态协同，也就是开源生态如何让芯片真正可用。

从算力系统到器件突破，再到生态协同，构成了当前完整的产业链路。

### 智算系统走向双轨

首先是浪潮信息首席 AI 战略官刘军刘总的发言。他说：“Agent 让智能第一次可以像计算和电力一样被规模化生产。”

这就要求 AI 计算既要支撑前沿智能突破人类的能力边界，也要推动智能充分供给；既要通过贯穿式系统创新提升计算效率，也要通过开放创新构建健康、可持续的产业生态。

总结一下刘总的演讲，他认为智算系统需要双维进化：向上突破，向广普惠，也就是双轨制。

向上的一轨叫能力型算力，做的是突破认知边界，支撑前沿模型研发。它面向的可能是即将进入 10 万亿参数规模的前沿模型，极度追求连续、稳定运行和低延迟。

另外一轨叫容量型算力，面向商业推理和普惠共享，要解决海量、高并发的终端需求，极度追求资源的动态调度，避免资源闲置。

我们先看能力型智算的极端需求。当前这个时间点的开源模型，比如大家所熟知的 Kimi K3，已经达到 2.8T；传闻中的 Cloud，应该已经是 10T 的模型了。到 2026 年结束之后，最头部的厂商应该都会奔着 10 万亿参数模型去。

今天的云栖大会上，千问应该也做了类似表态。上下文窗口达到 1M，应该已经是常态。然后，Agent 的运行时长也已经从几个小时，开始尝试延长到几天。

所以，在漫长的推理与规划周期中，任何一次计算、通信或者软件故障，都可能导致长周期任务中断。系统不能把单节点视为一个不可分割的整体。

这种超级高端的能力要真正落地，智算系统需要具备 3 个前提：第一，紧跟最前沿模型的发展速度；第二，极低的延迟；第三，支持长周期稳定运行。这就是能力型智算的极端要求。

换句话说，我们需要解决的是：智能究竟可以跑到多强。就像当前最头部的模型正在做的事情，它们是在突破智能的上限，让 AI 帮助人类探索尚未知道的东西。

对计算系统的要求，就变成了装得下、跑得快、跑得稳。关键概念变成了有效计算域，也就是说，一个智能实例能够高效使用的计算域要足够大。

它的技术路径就是超节点，从更多服务器变成一台更大的计算机。我觉得，当前这个时间点，NVIDIA 的黄仁勋就在践行这样的事情。

但在另外一面，也就是普惠推理层面，核心议题变成了我们究竟能够拥有多少智能。它的目标是实现智能的充分供给，让每个人身边都有大量的智能。

它的挑战是单个资源的智能产出上限。核心理念变成了由负载定义算力：推理不是一种计算，而是让每种芯片都做自己最擅长的事情。

它的关键概念是多元算力协同和高密度负载结构。技术路径则是多元算力协同的推理机组，从一台计算机走向一座智能生产工厂，也就是大家所谓的 Token 工厂。

在这次大会上，刘总发布了浪潮信息的两款新产品，分别针对刚才提到的两个场景，一款是能力型，一款是容量型。

能力型产品是元脑 SD200 Ultra 超节点 AI 服务器，用来解决能力型，也就是前沿模型研发的问题。他举的例子是，在当时 Kimi K3 的联合发布过程中，这款服务器可以将 Token 生成时延降低到 5.85 毫秒，并支持 10 万亿参数规模的超节点 AI 服务器。

容量型产品是元脑 HC2000 多元算力机组。在同等投资的情况下，Token 产能可以提升 10 倍。这是针对双轨制智算体系，浪潮信息给出的答案。

### 存算一体突破搬运瓶颈

我们再看第 2 位嘉宾，也就是器件层面的嘉宾，来自清华大学的吴华强教授。他做的是存算一体芯片。

他说，面对大模型算力需求的快速增长，以及传统芯片在面积、带宽等方面的约束，AI 芯片需要从新器件、新架构和新计算范式中寻找突破。忆阻器可以在纳米尺度实现计算与存储融合，减少数据搬移，是发展算力芯片的一条新路径。

它的核心逻辑是，今天数据中心的 AI 算力，在数据处理器与存储器之间来回搬运数据，也就是数据传输问题，已经成为性能和能效的主要瓶颈。

为了解决这件事，吴教授团队做的是存算一体芯片，也就是让计算走进存储阵列，让计算与存储融为一体，在单个单元内同时完成存储和计算。实现的效果就是，数据在哪里，计算就在哪里，不需要来回搬运，从而解决这个瓶颈。

为什么选择存算一体？拿传统 GPU 和 CPU 架构做对比，传统架构的核心计算模式是纯数字逻辑，数据需要高频搬运，所以功耗非常高。

反过来讲，为什么大家对高速内存的要求这么高，也是这个原因。同样，因为高速内存和不断的数据传输，对功耗提出了更高要求，功耗也出现了瓶颈。传统架构还极度依赖先进制程，尤其是 7 纳米以下的先进制程。

但存算一体的方式是基于物理模拟的，几乎不需要搬运数据，可以逼近硅基物理能效的极限。成熟制程，也就是 28 纳米，就可以实现性能跃迁。所以，存算一体在某种程度上实现了对传统架构的降维打击。

在吴教授团队过去这些年的尝试中，他们最开始从 130 纳米做到 28 纳米、22 纳米，现在正在往 7 纳米方向发展。

在同制程的传统架构上，他们的算力可以提升大约 4 倍。当时采用的是 28 纳米工艺，算力可以从 150 TOPS 提升到 600 TOPS。这是他们已经在做的尝试，并且已经在很多场景中实施。

存算一体芯片除了算力之外，也可以拓展到更多场景。比如，在智能终端设备上实现极低功耗的常态唤醒和永久在线感知，打破移动设备电池续航的痛点。

在智能汽车上，可以实现本地毫秒级实时数据处理，彻底告别云端传输延迟，全面保障智能驾驶的安全。

在 IoT，也就是物联网节点上，可以突破极端环境下的电池极限，实现超长待机与高精度的本地边缘智能推断。

再往更高层级推演，你会发现，吴教授在讲的过程中不断提到，今天我们可以通过存算一体这种方式，实现中国芯的换道超车。

第一，可以摆脱对制程的依赖。在受限的成熟物理节点上，我们就可以利用底层架构创新，实现跨代际的指数级性能提升。

第二，可以打破物理极限，直接挑战硅基半导体的能效极限。

第三，可以赋能全栈场景，从 4% 权重的边缘微调，到千维百亿级的云端向量检索，完成从端到云的商业生态闭环。

也就是说，存算一体这种芯片结构，不仅能够解决我们当前遇到的一些现实算力问题，也可以在某种程度上实现中国芯的换道超车。

### 开源生态让芯片可用

第三位嘉宾是北京智源人工智能研究院副院长兼总工程师林勇华女士。她所讲的是：AI 负载不会收敛，计算架构也不会只剩一种。要让多元算力从“能接入”走向“真正可用”，需要构建更加开放、共享的软件生态，降低不同芯片的重复适配成本，让硬件创新更快转化为产业能力。

所以，她的演讲讲的是软硬协同的 AI 生态构建。他们所在机构做了 FlagOS 这样一个开源生态，让芯片共享一套软件生态。

前面很多嘉宾讲的都是算力本身的瓶颈。那算力之外还有什么瓶颈？从他们的角度来说，软件生态也依然会成为所谓的壁垒。

当前这个时间点，尤其是以英伟达 CUDA 为代表的软件生态，依赖协议、编译器和开发者习惯。这是一种多年积累的习惯，很难撼动。

她认为，算力买到相对容易，但生态渗透很难。这是国产 AI 芯片面临的核心问题，也是很多人会提到的：CUDA 是英伟达的核心护城河之一。

她举了一个例子，当前国产芯片非常像一座座孤岛。这些孤岛虽然进行了非常激进的底层创新，但面对的是封闭软件生态的战役。数百种新型 AI 芯片结构，有 90% 被困在软件生态的高墙之外。

我们只能无奈妥协。为了兼容既有生态，创新架构被迫向旧标准妥协。

所以，他们做了一个开源生态，叫 FlagOS。它包括 3 层协同：框架与插件层兼容主流模型框架，提供面向开发者的接口；算子层拥有开源算子库，包含 8,800 多个算子；底层编译层则支持多种 AI 芯片架构。

通过全栈开源共享，让不同芯片复用同一套软件能力。它有一个比喻，叫“万能插座”。

当天林院长演讲时，我拍了一张她演讲的 PPT。那张 PPT 是一条时间轴，展示了过去几个月国产大模型的频繁发布。

林院长说，通过 FlagOS，可以让一个模型在一天内适配并运行多达 12 款不同的 AI 芯片，使更多开发者能够在更广泛的硬件环境中体验和使用这些模型。

其中包括平头哥、英伟达、昆仑芯、海光、木犀、摩尔线程、天数智芯、燧原、希望、清微智能、苹果 M3、苹果 M5，以及此芯科技等芯片。

适配后的多芯片模型版本，会同步发布到 Hugging Face、Modelar 社区、腾讯云、昇思社区、国家超算互联网等重要平台，赋能更广泛的产业大模型应用。

听过刚才这个模型适配过程，以及这些芯片的覆盖范围之后，你会发现，大部分都是国产芯片。架构层创新不断涌现，新芯片、新架构层出不穷。

FlagOS 通过开源生态共享软件栈，打破适配瓶颈，把国产芯片与国产模型的适配做到了低成本，也就是当天可以实现，让规模化算力真正变得可用。

当前这个时间点，FlagOS 已经从论文走到了可用。没有生态支撑的算力，只是闲置资源。生态是芯片真正发挥价值的最后一公里。

当前 FlagOS 生态正在壮大。对芯片制造商而言，可以专注于芯片微架构创新和算力堆叠，不需要再耗费数年的时间重复打造底层软件。

对开发者而言，尤其是模型开发者，模型架构只需要编写一次，72 小时之内就可以触达全球数十种最优算力。

这是在打造属于 AI 时代的共享土壤。FlagOS 不是在制造另一堵封闭的墙，而是在铺设一片生机勃勃的共享土壤。

当前这个时间点，FlagOS 已经有 100 多家生态伙伴、800 多款开源算子，覆盖主流算子，支持 12 款芯片适配单模型，并覆盖 50 多个国家的培训。一个壮大的 FlagOS 生态正在演进中。

回顾一下这 3 章、3 个层面：AI 进入生产阶段，比的是谁能让每一个任务跑完。

首先，需求侧，从 Chat 到 Agent 的量级跃迁，是这一轮变化的起点。

第二，智能侧，进入生产之后，必须重新定义可靠性，从概率拟合走向可信运行。

第三，供给侧，系统级、器件级和生态级同时推进，才能真正接住这轮需求。

写在最后，可以用一个金字塔来做比喻。性能层面要实现的是可信运行；效率层面要建立软件生态与评测标准；稳定性要落实在算力、系统和数据中心层面；安全则要落实在底层、芯片和硬件层面。

这几层一起构成了完整的 AI 生态金字塔。