[BidClub_]
高能量 · · 64 min

Vol.154 产业观察26|“DeepSeek开了第一枪,更值得期待的是AI普惠”:与季宇聊AI产业新机遇

李罡李翔季宇

Podcast
TL;DR
  • DeepSeek 的降本核心是 MoE 架构+为 MoE 定制的 infra:671B"满血"模型每生成一个 token 实际只激活 37B 参数,读取的参数量"甚至可能不如一个七十B的模型",叠加 DeepSeek 在推理框架上针对 expert 维度的联合优化,R1 的 API 调用成本约为 GPT o3 mini 的近十分之一。季宇的判断:降本空间还没挖完,针对 MoE 的深度优化"本身又可以进一步的去降本"。
  • 为什么是中国公司做出来:芯片禁令制造的"选择压力"。硅谷可以无限量买 H100、并预期拿到 GB200,沿 Scaling Law 惯性狂奔"没有选择压力";国内不一定能拿到 H100,拿到的一般是阉割版,被迫在"小 dense 或超大 MoE"之间二选一,DeepSeek 针对极致 MoE 的重新设计反而形成巨大竞争优势——"是被这个禁令产生的环境的变化倒逼出来的"。
  • 算力资源护城河可能"不堪一击":季宇认为云厂商围绕 OpenAI 算法+NV GPU、以万卡集群为门槛"人为创造技术门槛"的路线已被 DeepSeek 打破,"资源的护城河是容易被技术打破的",在 AI 大规模经济化之前构筑门槛"本质上都是对这个行业的拔苗助长"——真护城河往往建在商业模式、生态与组织文化上。
  • 投资主线是"AI 普惠"对"大型机化"的博弈:NV+Scaling Law 体系在重演上世纪大型机——几百万上千万的机器才能跑最好的模型;季宇押注 x86 式颠覆重演,"IBM 这样的蓝色巨人,就是被看起来很弱的、很低端的 x86 芯片给颠覆掉了"。若几千到几万元芯片能跑满血 DeepSeek,集群总服务能力反超昂贵大机,DeepSeek 只是"开的第一枪"。
  • 国产芯片的真机会不是"兼容 DeepSeek":人人宣布"国产芯片能跑 DeepSeek"只是追随逻辑,"很难真正意义上冲击";破局要塑造比 NV 体系"更有吸引力、更有竞争力的体系"。具体空白:端侧(8B 模型 200 token/s)和万卡训练两头都有人做,laptop、迷你主机、home lab 的中间档"还没有满足需求"——但切入卡点在生态(必须跑 Windows/macOS),不在技术。
  • Scaling Law 预训练路线确实遇阻,下一范式在推理时探索:季宇认为 GPT-3/4 的跃升"不能指望这条路径持续帮你不断获得提升",O1/R1 依赖数学和 coding 这类可快速验证 reward 的场景,泛化到无 reward 的开放领域"可能未来也会慢慢撞到新的墙";更大的探索空间在语言本身的自我思考能力,而非"不断找更多 reward"。
  • 组织与文化是重要护城河:季宇高度认同梁文锋"技术优势是短暂的"——DeepSeek 的成功是 infra、算法、模型的联合创新,梁文锋对 CUDA 算子"每一个线程到底在干什么事情都了如指掌",用的多是国内在校研究生而非大厂标签人才;中国过去四十年靠经验主义高效成事,但创新需要反经验主义之后"build up 一个新的组织方式"。
Digest · the substance, structured for research

1. 行云把自己变成客户:私有化部署 DeepSeek 做 AI 编程,"从不屑到惊喜"

  • 季宇团队从去年八九月 AI 编程火起来后开始私有化部署——云端方案有高额订阅费和信息安全问题。内部把千问、DeepSeek 等模型全部试了一遍,"私有化部署之后跑的效率非常高,比云端的 API 还要高得多",最终选定 DeepSeek 2.5,因为效果确实最好。
  • 关键发现:小模型做代码补全 OK,但一上到 Continue、Cline 这类 Agent 流工具,"只有这种特别大规模的模型能够比较稳定的工作",小模型会"指令跟随丢失,导致插件开始崩溃"。芯片公司写 Verilog 语料稀少,研发同事起初"想尽一切办法去考验它",但"每个人都经历过从完全不屑到使用了之后感觉还不错,甚至有点惊喜,再到高强度使用"。
  • 李翔的消费者侧补充:在线模型除 OpenAI 外"都非常的吝啬",号称长上下文实际用搜索方式读,几万字全文翻译做不出来;自己用 3090 本地跑 32B 量化模型,"虽然会越跑越慢,但它能把你的任务给完整执行下来"。

2. 出圈的配方:开源免费 + R1 不需要你会 prompt + 春节

  • 季宇不意外 DeepSeek 会火——工程能力和基座能力一直很强,加上开源免费;但"火成这个程度确实是比较超预期的",被捧到"国运层面"、"中国特色的 AI 平权"。他点出一个被低估的因素:春节回家手把手教爸妈用,是大规模出圈的重要推手。
  • 技术上的易用性跃迁:以前的模型"你能很好的 prompt 你的模型,你才能够去使用它",父母问个简单问题模型答得一塌糊涂;R1 自己会思考,DeepSeek 的 tech report 甚至建议不要过度 prompt——"让模型自己去理解你",于是大众"用千奇百怪的方式去问它"也能得到好答案。
  • 横向对比的细节观察:同期推出的 Kimi K1.5 语言"非常方言化,有非常多北方的口语化用词",DeepSeek 则"更板正"、更书面化。真正有深度推理能力的开源模型稀少,因为"深度推理的能力很依赖模型本身的质量要足够高"——把市面上的各种模型筛了一遍后,大模型+reasoning 目前可能只有 DeepSeek 达标,Llama 最大版本相比 70B"可能没有特别大的提升"。

3. 成本十分之一的机理:MoE 稀疏激活 + 为 expert 维度重写 infra

  • 核心账目:671B 参数按 8bit 算就是 671GB 存储,但 MoE 是稀疏模型,每生成一个 token 只激活 37B 参数;而传统 dense 模型 70B 可能要为每个 token 读满 70G。结果是"看起来是六七百 B 的模型非常大,但每次推理一个 token 需要读的参数量甚至可能不如一个七十 B 的模型"——这是 R1 调用成本接近 o3 mini 十分之一的第一性原理。
  • 第二层是 DeepSeek 的 infra-算法联合创新:行业受 dense 路径惯性影响,习惯 TP 并行等分布式方式,DeepSeek 把训练和推理的分布式"完全转向为 MoE 的 expert 这个维度去做",整个推理框架为此定制,"这里面还有更大的空间可以挖掘出来"。季宇归因于团队"跨领域协同、原创性的能力可能更强"。
  • 李翔的总结定性:MoE 把更大规模的模型能力下放到相对低成本的硬件上,加上思考推理带来的长输出提升答案质量,合成一个"中国特色、高性价比、高质量"的模型,天时地利人和。

4. 为什么是中国公司开的枪:禁令制造的选择压力

  • 季宇的框架值得完整保留:美国公司"随时可以买到大量 H100,而且有预期未来可以拿到比 H100 更强的 GB200","它是没有选择压力的,所有的路径都在往前走"——在硅谷,Meta 会训练超大规模 dense 模型;硅谷整体上 MoE 与 dense 大体各占一半。国内受禁令影响不一定拿得到 H100、"拿到的一般都是阉割版",于是长期基本上就是两条路:要么小规模 dense,要么超大规模 MoE——"这个其实就是选择压力带来的"。
  • 既有技术栈都是沿"小 dense 做大 dense"的 Scaling Law 路径挖出来的,所以 DeepSeek 针对性优化 MoE"就会带来巨大的竞争优势"。结论直白:"为什么是一家中国公司来做的?我觉得反而是被这个禁令产生的环境的变化倒逼出来的。"

5. Scaling Law 确实遇阻,新范式是承接而非替代

  • 对"OpenAI 训练受阻、GPT-5/4.5 一直拖"的传言,季宇的判断是"实际上是遇到一些阻碍的":GPT-3/4 相对上一代深度学习的提升很大,"但你不能指望这条路径可以持续的帮你不断的获得提升",去年九月坊间已传 Scaling Law 受阻——这与 DeepSeek 杀出来是相对独立的事件。
  • 他很早就认为推理时扩展是必然:预训练给了模型自然语言的基础能力平台,"它自然要往下一个范式去走,才能再创造下一次跃迁式的提升"。范式之间"不是非此即彼,是承接的关系"——就像后训练建立在 V3 这样足够好的基座上迭代出 R1。
  • 但现有路线有明确边界:O1/R1 都建立在数学、coding 这类"可以快速获得大量可靠 reward"的场景上,语言的强泛化让思考能力扩散到未经强化学习调节的领域,"但如果光靠这两个领域去驱动,在更多领域的泛化会变得越来越弱,可能未来也会慢慢撞到新的墙"。反过来,"正是因为资源受限,大家才会寻找新的解决方式"。

6. 下一步要的不是数据,是 reward——但语言本身才是底座

  • 对"数据是否耗尽、AI 自己生成数据训自己"的追问,季宇换了坐标系:R1 这类推理模型"可能要的并不是数据,要的其实是 reward"——强化学习的方法论就是随机生成一堆,靠外部信号分好坏再调整自身;数据只是"非常非常强的监督信号",广义信号可以弱化到"这个好一点,那个稍微差一点"。
  • 他标注了这是个人观点的关键分歧:"大家可能认为这里面最重要的是强化学习,我其实认为最重要的还是自然语言本身,语言本身才是提供思考能力的底层基座。"人可以"闷头思考一下午,脑海里自己做逻辑演绎,得到更深刻的结论"——这是语言带来的自我验证、自我迭代能力,而 AlphaGo 式左右互搏"并不是一个被充分定义、可以落入已有工具箱的方法论",这里"还有更大的空间可以去探索"。
  • 两条路不冲突:找到更多领域做强化学习,能"因为不同领域数据特征的差异把模型不同方面的能力激发出来"——ChatGPT 的突破正是"把代码跟自然语言放到一个模型里去训",之前分开训"效果都不是特别好"。

7. 护城河审判:资源门槛是拔苗助长,商业生态才算数

  • 季宇的核心命题:"资源的护城河是容易被技术打破的",靠一万张卡、数据量、GPU 数量建的门槛"可能都会逐渐被打破";真正的护城河往往是商业模式和生态。DeepSeek 对 NV 最大的冲击,就是打破了云厂商和巨头"围绕 OpenAI 的算法、围绕 NV 的 GPU,以万卡集群为门槛人为创造技术门槛"的狂奔路线。
  • 更进一步的判断:AI"还没有进入到经济系统当中发挥出巨大的商业价值",此时构建门槛"本质上都是对这个行业的拔苗助长";而像 DeepSeek 这样先让行业发展起来,"只要你有经济循环,自然就会有商业结构,有商业模式以及相应的新的护城河"。在技术大规模经济化之前,"这些所谓的门槛可能不堪一击"。
  • 对"有人叫嚣完全封禁显卡在中国或少数发达国家使用"的解读只有一句:"明显反映出他们有点着急了,面临挑战的第一反应就是更加的固步自封。"

8. AI 普惠 vs 大型机:x86 颠覆 IBM 的剧本重演

  • 这是季宇也是行云的核心投资叙事:NV+Scaling Law 体系"本质上在推动一个大型机化的计算机体系",越来越像上世纪八十年代"几百万上千万的机器才能跑一个今天最好的模型"。而历史的另一边,"很多人可能都不知道 IBM 在八十年代以前是什么样的行业地位,但这样一个蓝色巨人,就是被看起来很不起眼的、很弱的、很低端的 x86 芯片给颠覆掉了"——PC 革命和互联网革命都建立在那套"更经济性的计算机底座体系"上。
  • 推演到 AI:如果几千块、几万块的芯片就能跑满血 DeepSeek,"用这种几万块钱的芯片组一个集群,总的服务能力可能比那一台非常昂贵的高价值机器还要强",大型机体系就会"越来越失去价值"。DeepSeek"肯定是开的第一枪",但掘掉护城河"这可能只是一个起点"——后面是 AI 普惠的产业结构与靠硬件资源形成垄断体系的小圈子之间的博弈,芯片是必然的参与角色。
  • 落到行云自身:私有化部署从"大家觉得需求到底在哪儿、这个市场可能今天是零"变成共识;当前市场只有"几百万的满血模型"和"低精度蒸馏模型"两极,行云要做的是把满血、不量化压缩的模型变成人人用得起的标配——"其实没有必要凑合"。

9. "国产芯片能跑 DeepSeek"不是破局,"酷大"生态也不是口号能成的

  • 对市面上扎堆宣布"接入 DeepSeek、国产芯片兼容 DeepSeek"的降温:"如果是'美国有 OpenAI 我有国产模型,美国有英伟达我有国产芯片'这种简单的逻辑,这不是今天 DeepSeek 真正出圈的原因。"DeepSeek 出圈是因为找到了比既有路径更好的新路径——极致 MoE 在软硬件综合取舍上"取得更好的经济效应"。硬件若只是"Nvidia 可以跑 DeepSeek,我们的芯片也可以跑","很难真正意义上冲击"——那还是过去两年国产模型追随美国路径的老逻辑。真正的破局是塑造"比今天围绕 NV 的体系更有吸引力、更有竞争力的体系"。
  • 开源模型的标准化确实给了国产芯片一个出口——"不管你用什么样芯片,只要能把它很好的跑起来,都可以接入 API 作为服务",但发酵之后"肯定还是会回归到谁的方案最好、更符合经济逻辑"。
  • 李翔盘点出的空白档位:端侧推理已被覆盖(8B 模型 200 token/s)、服务器私有化和万卡训练都有人做,"中间这块好像还没有满足需求"。李翔认为 laptop、迷你主机有挺大机会,"核心其实不在于技术本身,还是在生态你怎么切"——手机 SOC 外人切不进去;laptop"你不可能自己做个芯片上面跑 Linux,你得跑 Windows 或 macOS";home lab(买台迷你主机专供大模型能力)的需求"今天可能还没有真正意义上激活"。

10. 梁文锋的示范:反经验主义之后,还要 build up 新的组织方式

  • 对梁文锋"技术优势是短暂的,真正的护城河是文化和组织",季宇"高度认同":OpenAI 刚出来时所有人的技术都追不上它,但"全世界有这么多优秀的人,一定可以把这件事情复现出来,你很难去通过技术挡住别人"。DeepSeek 的成功是 infra、算法、模型的联合创新,对组织能力要求极高——核心成员很多是国内高校研究生或刚毕业的博士。季宇从在 DeepSeek 的师弟处听到的细节:"他们老板对于他写的这个库或算子里面的每一个线程到底在干什么事情都是了如指掌的"——而今天很多做 infra 的人都不一定深入了解 DeepSeek 的优化到底是怎么回事。
  • 创新的方法论:"不是简单的说把一堆不同领域最聪明的人聚在一起,他们就可以迸发出价值",单纯脑洞试错"效率其实是很低的,创新本身也是需要效率的",保障就是第一性原理的通盘思考——而组织者"要能深入到细节里面,知道每一层到底要干什么,才能打破每一层的边界条件去看"。
  • 对国内惯性的诊断:投资也好创业也好都信经验主义——"相信行业专家,相信大牛,相信标签",这方式不是有问题,"中国过去四十多年的经济腾飞本身就是靠这样的方式发展起来的",成功率确实高。但"反经验主义并不是单纯的把这些东西抛弃掉就行,摧毁一个东西很容易",还要"build up 一个新的组织方式"。梁文锋连人才定义都不同——可能更多找在校学生,而非大厂标签人才——"他自己躬身入局,成为了第一个案例,是这个扭转的一个起点"。转变的确认不能靠单一事件:"一定是出现了大量类似的情况,我们才能真正意义上说这件事情发生了转变。"
  • 李翔的三十年断代史框架:2000-2010 中国制造(廉价成本大量生产),2010-2020 物美价廉(小米式,可能用 20% 的价格做到国外 80% 的性能或能力),最近五年 me better——"在某些行业里做到远超海外的能力,同时保持相对低的价钱";投资上对应的就是投 AI native 的创始人。

11. 三年后的应用图景:生产力私有化,消费娱乐上云,交互傻瓜化

  • 季宇的第一步:让所有人用得起满血模型,"低精度压缩这些事情可以抛到后面"——类比今天的电脑内存,"你不会在乎浏览器吃掉了你一个 G 的内存,因为内存已经足够大而且足够便宜"。普及后 AI 会像手机/PC 生态平移一样渗透所有行业,从愿意付费的高价值场景(AI 编程)入手,做到"大家不用考虑值不值得花钱,因为成本基本上可以忽略不计"。
  • 终局不全是私有化:"云一样是有巨大的机会",互联网拼的就是体验-流量-商业回报的循环;DeepSeek 天天"服务器繁忙",泼天流量下服务器要扩很多倍、商业回报会变低——出路是像"以前 Google 攒一堆 x86 攒搜索引擎基础设施"那样,用非常便宜的机器攒大规模集群,"你这个时候才有可能去服务成千上万的应用"。原则:"不要以硬件资源来划分商业结构,而是以哪种商业结构最适合"——生产力工具私有化部署,消费娱乐类适合互联网。
  • 李翔的畅想:短期 OpenAI 仍有"指路效应"(Deep Research 式个人助手会普及);终端连屏幕都不需要、有个扬声器接云端大模型就能实现很强的功能;交互代际演进——"我们这代人打字打得很溜,零零后全是触摸操控,一零后的时代就是纯语音"。但他也保留了一个当下的清醒:惊艳应用背后仍在调 OpenAI 的 o1 且限制使用量,上下文也还不够长,"今天其实没有看到大家比较好的利用起来大模型的能力,可能还是要等一下基础设施的变化"。
李翔

大家好,欢迎大家来到今天的《高能量》,我是峰瑞资本的李翔。

这一期我们做的是产业观察。因为在这个春节期间,最热闹的话题之一,跟中国的科技界一样也过了个“春晚”,就是 DeepSeek 在中国和世界范围内的出圈。

这里边有非常多不同的讨论。从最宽泛的来讲,大家说,这个事情影响了美国科技行业几家巨头的估值,带崩了美股;也有人说,因为这件事带动了中国科技的重估和希望,所以中国资本市场因此开始上涨。

具体在技术上,大家关心的可能更多是:DeepSeek 到底好在哪里?它到底做了哪些不同的事情?它到底是科学创新、工程创新,还是技术创新?为什么它做成了其他大模型公司或者国外公司没有做成的事情?

当然,还有大家对中国最敏感的芯片行业的关心。DeepSeek 的出现,会导致算力需求或者英伟达的需求显著下降,还是会带来更多需求?它带来的模型变化,会导致更多类似英伟达的芯片公司的机会,还是会让机会变得更靠近英伟达?

以及,中国在出现 DeepSeek 之后,影响了大模型底层的硬件需求和硬件环境,中国不同的芯片企业会不会因此获得更特别的机会?我们争取用一到两集的时间来讨论这个话题。

作为一家投资机构,我们也要求科技相关的同事分别描述自己的看法。今天带来的产业观察嘉宾,是我们投资的、最早开始做推理芯片、如今拥有更宽泛产品线的 AI 芯片公司——行云科技的 CEO 季宇。当然,他也是知乎上非常著名的芯片领域大 V。今天还有我们科技组的同事李翔,他们两位会一起围绕 DeepSeek 出现以后,硬件和芯片相关领域可能会受到的影响展开讨论。

欢迎大家在听完以后提出自己的观点、意见或者建议。大家想听到关于 DeepSeek 的什么问题,我们也争取在下一期讨论 DeepSeek 的时候回应大家。

大家好,我是峰瑞资本投资人李翔。我平时主要关注科技,特别是硬件相关领域,包括机器人、AI 芯片。季宇也是我们的老朋友了,先请季宇简单介绍一下自己。

季宇

谢谢小刚,大家好,我是行云的创始人季宇。我们是一家做面向大模型推理的 GPU 芯片公司。

之前有一期《高能量》我也参加过,分享过关于英伟达股票以及英伟达统治力的一些分析。行云本身是一家做芯片的公司,会有很多新的机会来自下游的大模型,因为这是行业最大的影响因素。

今天想聊一聊最近特别火热的 DeepSeek,这也是我们一直关注的方向。我们公司的愿景,是希望把最好的模型变成消费级价位的产品,让所有人都用得起、用得上尽可能“满血”的模型。

李翔

这个春节期间,DeepSeek 的讨论热度尤其高。它不仅引发了英伟达的股价震荡,甚至有政府提出要限制或者禁用 DeepSeek。

我们很好奇,DeepSeek 为什么能掀起这么大的影响力?不过在讨论这个问题之前,我们可以先各自聊一下自己使用语言模型,特别是 DeepSeek 的经历。

我们可能在半年甚至一年之前就已经开始聊到 DeepSeek。据我所知,行云也很早就在内网部署了 DeepSeek 的模型。要不季总先说一下你的经历和感受?

季宇

1. DeepSeek Enters Production

我们开始关注私有化部署、尝试使用这些模型,大概是在去年八九月份,也就是 AI 编程开始火热起来之后。

因为如果 AI 编程完全依赖云端,会产生大量订阅费,还有信息安全问题。在这样的情况下,我们正好看到 DeepSeek V2,包括 V2.5,市场反馈都不错,所以就尝试了一下。感觉确实效果非常好,尤其是在我们当时关注的 AI 编程场景下,已经达到了高度可用的状态。

这也是我们希望了解未来大家进行私有化部署、使用大模型时的实际体验。我们希望从把自己变成客户的视角,去感受这件事情。

我们内部最开始部署了很多种模型,都试了一遍,包括千问和 DeepSeek。这些模型都非常优秀,私有化部署之后运行效率也非常高,比云端 API 还要高得多。但最后我们确实还是用了 DeepSeek V2.5,因为它的效果最好。

其他模型有些体量会小一点,所以运行速度会更快。可能大家问一个问题之后,整个屏幕很快就被答案填满了。但是一旦进入编程这种高强度、强逻辑的场景,对模型能力的要求还是比较高的。

我举个例子。我们比较关注很多开源插件,以及 AI 编程中的一些使用方式。最早我们使用的是 Continue 这个插件,后来还有 Cline 这样的 Agent 工具,我们也都使用了一下。确实只有这种特别大规模的模型,才能在这些工具上比较稳定地工作。

相对较小的模型,整体来看,比如做代码补全可能还可以,但一旦进入 Agent 流程,对于指令跟随等方面有更高要求时,就可能出现指令跟随丢失,导致插件崩溃的情况。

我们还有一个特殊之处,就是我们是一家芯片公司。大家在 AI 编程里关注得比较多的,可能是 Python 或者前端;但在芯片公司,Verilog 也是非常重要的,只是大家关注得少一些,相关语料也没那么多。

所以我们内部刚开始使用时,很多芯片研发同事对这件事是比较怀疑的,想尽一切办法去考验它。但确实每个人都经历了一个从完全不屑,到使用之后感觉还不错,甚至有点惊喜,再到后来开始高强度使用的过程。

所以我们觉得,在那个时间点,DeepSeek 这个模型已经达到了可用状态。后来看到 V3 发布,包括 R1 这种带有推理能力的模型发布,开源模型已经从小范围可用,变成了大范围可用。

李翔

刚才主要是从生产者的角度聊语言模型的使用,你们主要用在编程、生产力和输出上面。

我平时基本上是混用各种模型,像 Kimi、豆包,包括腾讯和阿里的模型都在用。但更多还是消费者视角,比如问一些问题,让它帮忙总结文章。

春节期间正好有空,我在自己的电脑上部署了一个 32B 的量化模型。我发现,本地化部署解决了一个非常大的问题:在线模型除了 OpenAI 之外,大家其实都非常吝啬,它不会愿意输出长文。

你给它一篇长文章,虽然大家都号称支持长上下文,但测试之后会发现,它还是以搜索的方式去读。你给它一个哪怕几万字的文件,让它全文翻译或者做详细总结,它其实都是做不出来。

我发现我的 RTX 3090 正好能跑这个 32B 模型。虽然会越跑越慢,但它能把任务完整执行下来。这也算是我最近感受到的本地化部署的威力。

坦白讲,从各个模型的能力来看,我倒觉得大家的差距没有特别大,可以说各有所长。DeepSeek 春节期间出圈,很大一部分是因为它的行文风格挺有趣。但在早期的 GPT,包括使用 Claude 时,调教一下也能看到类似的特点。

我觉得未来如果安全需求变高,它的创造力可能也会有所下降。

季宇

2. DeepSeek Goes Mainstream

DeepSeek 被大众看到、变得更火,算是意料之中,也是意料之外的情况。

我觉得 DeepSeek 能火并不意外,因为从历史上看,它的工程能力和基座模型能力一直都很强。特别是它在强化学习,以及所谓“思考”这部分能力上取得突破之后,至少在国内是一个比较有突破性的进展。

当然,它的开源加上免费使用,也促进了它进一步变火。但它火到这个程度,确实比较超预期。没想到这件事会把它捧到这么高的高度,也有人把它提升到国运的层面,称为“中国特色的 AI 平权”。

李翔

不知道你对这段时间的热度怎么看?

季宇

整个出圈程度,我相信是超过所有人的预期的。但我觉得其中一个很重要的因素可能也是春节。

我举个例子。我在创业,本身又在做大模型相关的事情。平时跟父母或者亲戚朋友讲我到底在做什么,可能需要花一些时间解释:你可以下载一个 App,在出去旅游的时候问它一些问题,然后再解释我们做芯片到底是为了什么。

这次春节假期有一个好处。平时在日常工作或者假期里,我们其实很难教父母使用这些东西。他们可能听说 DeepSeek 很火、很好用,但不知道怎么用。我们刚好回家过年,就有机会手把手教他们,这也是它能够大规模出圈的一个重要因素。

当然,从技术角度看,之前的模型,包括我们之前使用的 V2.5,还是上一代模型,更像是帮你补全,或者跟你聊天。带深度推理能力的开源模型,在当时算是比较早的一个,而且真正做到了效果非常好,也增加了大家使用它的便利性。

以前我的感觉是,如果你不能很好地设计 Prompt,就不太会使用模型。这会造成一个问题:比如我给父母介绍这个东西,他们问了一个自己觉得很简单的问题,但模型回答得一塌糊涂,我还得解释“你要这样问”。这样大家用起来就会相对困难。

但 R1 自己能够思考。我记得 DeepSeek 的技术报告里还建议不要过度 Prompt 模型,Prompt 之后反而可能效果变差,让模型自己去理解你的问题。

所以我觉得,这反过来使得模型能够进入大众视野。大家用千奇百怪的方式去问它时,都会发现这个模型可以很好地解决问题。

李翔

3. Open Source Meets Reasoning

刚才说到了“开源”和“思考”这两个关键词。DeepSeek 的开源模型,从这两个方面来看,和国内外其他模型相比有什么大的区别吗?

季宇

我觉得有几个点。

第一个,思考类模型之前主要就是 OpenAI 的 O1。其他几家,包括 Kimi 的 K1.5,也是在差不多同一时间推出的。不同模型的区别其实挺大。

我自己使用下来,感觉 Kimi 的模型可能受标注人员风格的影响,语言非常方言化,有很多北方口语化的用词。DeepSeek 的模型相对更板正一些,会用更书面化的方式来描述。

一般来说,开源模型里真正具有深度推理能力的还是比较少的,因为深度推理能力非常依赖模型本身的质量足够高。如果一个很小的模型连上下文理解都会出问题,深度推理能力就更难实现。

所以,虽然现在市面上有很多模型,但我们从实际使用、并且希望把它用于生产力场景的角度,把市面上的各种模型筛了一遍。最后发现,首先要选择高质量、规模非常大的模型。

其次,这种非常大的模型如果还要具备 reasoning 能力,目前可能只有 DeepSeek 能达到这个要求。其他模型,比如 Llama,虽然也有特别大的版本,但整体质量相比 70B 模型可能没有特别大的提升。

这里面可能还是有一些技术门槛。我可以顺便解释一下开源模型和闭源模型的概念。

我觉得在语言模型这个阶段,“开源”有很多不同的含义。我们现在通常讲的开源模型,一般是指把模型参数开源出来。至于模型训练过程,或者更上游的架构,真正完全开源的还是比较少。

现在比较流行的开源模型,包括 DeepSeek、Llama,还有阿里的千问系列。这些开源模型通常会有一个最大的、完整版的模型。在这个完整版模型的基础上,再对模型规模进行压缩,发布一系列不同参数规模的模型,方便大家运行在各种设备上。

比如电脑、手机上可以运行几个 B 的小模型;服务器上则可以运行相对更大的模型。

OpenAI 最早也是开源的典型。它的 GPT-2、GPT-3 都曾经开源。当然,开始商业化之后,它基本上就不怎么开源了,甚至技术报告也变得比较保守。

开源生态是一个很复杂的事情。简单理解,开源就是把相当一部分模型能力释放出来,让第三方和个人能够自己使用类似的模型能力,而不需要依赖模型公司本身的算力和 API。

李翔

4. MoE Makes Inference Cheaper

回到另外一个我觉得 DeepSeek 模型比较大的特点:它采用了 MoE 架构,是一个参数规模相对较大、但推理成本比较低的模型。

你觉得为什么它的技术路线能够在保持模型质量的情况下,大幅降低成本?从 API 调用来看,DeepSeek R1 的调用成本大概是 GPT o3-mini 的十分之一。

季宇

我觉得这里面有几个方面的原因。

首先,MoE 这个结构本身的参数量可能非常大,大家可能也听说过 671B,通常称为“满血”模型。

一般来说,多少 B,这个 B 和参数量是一个概念。如果不考虑数字精度,按 8 比特来算,671B 基本上就是 671GB 的存储。

大家可能只会觉得,硬盘有 671GB,或者有 1TB、几 TB 的硬盘,但模型运算时需要这么大的内存或者显存,这个需求量其实非常大。

但是它有另外一个好处:真正参与生成大家看到的每一个 Token 时,实际用到的参数量并不是全量。所谓 MoE,就是一个稀疏模型,每次参与计算下一个 Token 的参数其实只有 37B。

这和以前的 Dense 模型有比较大的区别。以前 70B 的 Dense 模型,存储容量需求可能就是 70GB,显存读取的要求也可能是:为了生成一个 Token,需要读取 70GB 的参数。

这样一来,虽然 DeepSeek 看起来是一个 600 多 B 的超大模型,但它每次推理一个 Token 时需要读取的参数量,甚至可能还不如一个 70B 模型的参数量,所以它的推理成本可以变得更低。

第二点,我觉得也和 DeepSeek 在推理上的优化有很大关系。DeepSeek 在整个基础设施和算法上做了一些联合创新。

过去大家更多受限于 Dense 技术路径的惯性,所以可能会倾向于按照 TP 并行等方式去做。但 DeepSeek 无论在训练还是推理上,都把原来模型分布式的方式,转向了 MoE 的 Expert 维度。

加上整个推理框架都是为这件事情定制的,所以这里面还有很大的空间可以挖掘出来,这也是进一步降本的核心方法。

总结起来有两个点。第一,从第一性原理的角度讲,MoE 这样的架构,推理成本确实会比大规模 Dense 模型更低,而且软硬件结合起来可能会取得更好的效果。

第二,过去的路径依赖,导致大家的软件框架和其他方面,都没有针对 MoE 做深入、专门的优化。对这部分做更深入的优化,本身又可以进一步降本。

我觉得这更多体现了 DeepSeek 团队在跨领域协同以及原创能力上的优势。

李翔

回到最开始的问题,DeepSeek 为什么能掀起这么大的影响力?

简单总结一下,首先是开源加免费,以非常低的门槛让大众消费者有机会接触 AI;再叠加春节这个特殊时间点,大家产生了比较大的关注。

技术层面上,刚才提到 MoE。我理解,是不是可以认为它把更大规模的模型能力,下放到了相对低成本的硬件上?这让业界也纷纷产生了很大关注。

还有刚才没有特别展开的,就是它的思考和推理能力,使得它天然能够输出更长的结果。至少现在看,更长的结果能够提升整体问答或者模型的质量。

所以在这个影响下,我的总结还是一个“中国特色、高性价比、高质量”的模型。它在天时、地利、人和之下,确实产生了很大的影响和关注。

后面我们可以再讨论一些更细节的问题。我们先从软件来看,从 Transformer 和 Attention 架构出现这么多年,上一次引发大规模影响的是 GPT-3.5,可以算是语言模型从 0 到 1 的突破。

这次我们看到,是一家中国公司展示了创新,而不是传统意义上的美国公司。强化学习在语言模型领域确实是 OpenAI 最早提出的,但这次是中国公司,或者说 DeepSeek 背后的团队,做出了这样的事情。背后的原因可能是什么?

季宇

5. Restrictions Force New Paths

DeepSeek 之所以会做这样一件事情,和我们之前观察到的一个现象有很大关系。

从很多美国公司的角度来看,他们可以相对无限量地拿到英伟达 H100 这样的机器。国内很多创业公司可能会选择 RTX 4090 这样的消费级显卡来搭建基础设施,以及上面的软件和应用体系;但很多硅谷创业公司可能直接使用 H100,因为对他们来说,这方面没有限制。

另外,英伟达本身也在推进 GB200 这种规模更大、性能更强的机器。大家沿着 OpenAI 的 Scaling Law 路径继续往前走:在随时可以买到大量 H100,并且预期未来可以拿到比 H100 更强的 GB200 的情况下,去做软件、应用和商业模式。

对他们来说,没有太大的选择压力,所有路径都可以继续往前走。

但在国内,因为受到芯片禁令的影响,第一是不一定能拿到 H100,拿到的通常也是阉割版芯片。所以很长一段时间里,国内基本上要么是小规模 Dense 模型,要么是超大规模 MoE 模型,这其实就是选择压力带来的结果。

在硅谷,比如 Meta 会训练超大规模的 Dense 模型,是因为他们有这样的预期。当然,硅谷也有很多 MoE 模型,但大体上是两条路线并行。国内则基本上是在“小规模 Dense”和“超大规模 MoE”之间做选择。

原有技术栈本身,是沿着从 Scaling Law 开始,先做小 Dense、再做大 Dense 的路径发展起来的。所以 DeepSeek 针对 MoE 做优化,就会在这样的环境中带来巨大的竞争优势。

其他公司可能都是基于 Dense,或者相对简单的 MoE 方式做优化。国内公司可能只能做小 Dense;北美则仍然可以用大 Dense 沿着原来的路径竞争,而且不需要面临太多重新设计、重新调整技术路线的压力。

所以,为什么是中国公司做出来的?我觉得反而是芯片禁令带来的环境变化,倒逼出了这件事情。

李翔

现在市场上也有很多传言,说 OpenAI 的训练受阻了。毕竟它也一直推迟 GPT-5 或 GPT-4.5 的发布。你觉得,在海外算力资源不受限的情况下,AI 的发展或者训练是受到了阻碍,还是这只是正常节奏?

季宇

我觉得实际上是遇到了一些阻碍。

过去两年,排除中美竞争之外,整个 AI 的主流趋势实际上还是 Scaling Law。Scaling Law 本质上就是沿着 OpenAI 最开始训练 ChatGPT 的路径,从 GPT-1、GPT-2 到 GPT-3,再进一步延续到 GPT-4、GPT-5。

无论是大型基础设施厂商采购大量 GPU、建设万卡集群和十万卡集群,还是下游芯片厂商,包括互联、硬件等各方面,围绕这个方向打造规模更大、集成度更高的下一代集群,本质上都是在服务这个主流趋势。

但从算法技术角度讲,Scaling Law 本身可能会在 GPT-3 之后遇到突破。GPT-3 或者 GPT-4 获得的提升,比上一代深度学习模型高很多,但不能指望这条路径持续不断地带来提升。所以,大家需要寻找新的范式来维持这件事情。

我觉得这可能和 DeepSeek 无关,更多是去年 9 月左右,坊间开始出现越来越多的传言:Scaling Law 是不是遇到了阻碍。

DeepSeek 能够杀出来,是一个相对独立的事件。当然,DeepSeek 至少给大家普及了一个概念:在单纯的模型能力遇到瓶颈时,通过更长的上下文或者更长的推理,仍然能够提升性能。这一点在 OpenAI 的论文里其实也能看到。

李翔

我自己的感受是,对于大部分问题,DeepSeek 的思考部分大概会占到一半的长度。刚才你也说到,可以认为它削弱了人工输入复杂 Prompt 的需求。

你觉得这种长输出带来的模型能力提升,未来还会进一步提升吗?像 OpenAI 现在可以同时生成多个回答,再从中投票选出最好的答案。假如模型的绝对规模、能力和速度增长没有那么快,长度的增长会是下一个突破点吗?

季宇

6. Reasoning Becomes The Next Frontier

这件事情我从很早之前就认为是必然的。

刚才讲到,Scaling Law 本身是一种范式,它帮助我们解决了语言模型这样一个复杂任务,让语言模型能够理解自然语言。自然而然,下一步就是能不能利用这个能力达到更高的高度。

如果持续沿着预训练 Scaling Law 走,我们实际上是在不断让大模型获得更多自然语言的基础能力。但这些基础能力并不能立刻带来人所拥有的更发散的思考能力,或者快速找到正确方向的能力。

所以,在具备基础能力这个平台之后,它自然要进入下一个范式,才能创造下一次阶跃式提升。

去年 9 月,OpenAI 也在讲新的 Scaling Law,要建立在推理时间的探索上。但这件事仍然有一些技术因素没有完全解决。

比如 O1 或 R1,本身都建立在数学、编程这类可以快速获得大量可靠 Reward 的场景上。它们能够利用这些场景,建立强化学习机制,帮助模型自我调整和迭代。

语言本身是一个泛化能力非常强的系统。当通过编程或者数学激发了它的思考基础能力之后,这种基础能力自然也会扩散到更多没有经过强化学习调节的领域,让这些领域看起来也能够很好地思考。

但如果我们希望搭建一个模型,让它不断向上提升,光靠数学和编程两个领域去驱动,在更多领域的泛化可能会变得越来越弱,未来也可能慢慢撞到新的墙。

所以,我们很难指望通过一个简单范式,持续投入资源,就可以一直不停地提升。反过来也正是因为资源受限,大家才会寻找新的解决方式。

我相信未来几年还会有更多新的范式出现。它们和原来的范式并不是非此即彼的关系,而可能是承接关系。

后训练也是在一个足够好的基座模型,比如 V3 的基础上,迭代出了 R1。后面可能是 R1 在数学或者编程领域已经达到非常强的状态,这时如果希望它进一步泛化,可能就需要引入新的机制,帮助它在更发散、甚至没有 Reward 的领域继续提升。

那时可能会带来下一次 AI 能力的巨大阶跃。

李翔

正好说到数据。感觉现在比较容易获得的数据,可能已经都被 AI 训练过了,包括互联网数据和一些公开生态的数据。

刚才讲到,强化学习这一步用了一些数学、编程这类可以验证,或者可以部分自我闭环的数据来训练。那后面的数据肯定永远是最大的因素。未来会不会变成 AI 自己生成数据,再用这些数据训练自己?

季宇

我觉得它可能不一定是数据从哪里来。

预训练的时候确实需要数据,但到了 R1 这种推理模型,它需要的可能并不是数据,而是 Reward。Reward 是一个比较泛的概念,本质上也是一种监督信号,告诉模型应该往哪个方向走、怎样调整才能提高。

强化学习的基本原理很简单:它随机生成一大批结果,然后通过外部信号告诉模型,哪些生成结果是好的,哪些是不好的。模型再调整自身,让下一次生成时能够产生更多好的结果。

只要有这样的信号输入,就可以进行训练。数据是一种非常强的监督信号,告诉模型必须生成什么才是对的,否则其他结果都不太好。

但这也可以进一步弱化对监督信号的要求。比如,我只告诉你这一批结果里哪个更好一点、哪个稍微差一点,这其实也算广义上的数据。

我觉得更重要的是,语言本身具备思考能力。这件事可能不能完全套进强化学习的框架里。大家可能认为这里面最重要的是强化学习,但这是我个人的一些观点:我认为这里面最重要的还是自然语言本身,因为强化学习在过去可以应用到很多任务上,让模型尽可能朝着做对、获得更多 Reward 的方向努力,但语言本身才是提供思考能力的底层基座。

我们可以看到,思考本身是一个自我验证、自我迭代的过程,也就是大家经常说的自我博弈。

“左右互搏”在 AlphaGo 时期得到了比较大的关注,但从概念上讲,它和今天语言模型自己判断自己是否正确,完全是两个概念。AlphaGo 是两个人一起下棋、相互对抗;而今天可能是一个模型生成结果,另一个模型去校验它说得对不对。

虽然看起来像是两个 AI 在相互提高,但实际上,“左右互搏”无论是在强化学习的概念空间,还是在大模型的概念空间里,都还没有被充分定义,也没有完全落入大家已有工具箱中的方法论。所以我觉得,这里面仍然有很大的探索空间。

但这种探索可能不是基于强化学习那套方法论。因为强化学习最终还是需要一个 Reward 作为监督信号,这就变成了:能不能在开放领域获得无穷无尽的 Reward。

但自然语言可能不是这样。我们可以想一个很简单的道理:人实际上可以自己闷头思考问题。我思考一下午,虽然可能没有和别人对话,但我可以在脑海里做逻辑演绎,找到一些思路,把原来认为对或者错的东西想得更清楚,最后得到更深刻的结论。

这件事可能是语言本身带来的能力。所以我觉得,这里面还有很大的空间可以探索,而不是完全依靠强化学习:强化学习走通了,我就不断寻找更多 Reward,让模型在更多领域变得更强。

当然,这两件事情并不冲突。如果能找到更多 Reward,也可以让模型今天的能力扩散得更强。因为扩散到更多领域之后,本身也能反向激发模型更深层次的能力。

ChatGPT 之所以能做出来,其实从 2017 年到 2022 年,大家也做了很多探索。但真正的突破点之一,是把代码和自然语言放到一个模型里训练。之前有专门训练代码的模型,也有专门训练自然语言的模型,但效果都不是特别好。把它们放在一起训练之后,效果反而变得更好。

如果今天大家能找到更多适合强化学习的领域,也可能因为不同领域之间数据特征的差异,激发模型不同方面的能力,产生更强的能力跃迁。

与此同时,也可以探索利用语言本身的能力,创造新的 Scaling Law 范式。这些事情是相互不冲突的。

李翔

是的。毕竟在 AlphaGo 时期,评价相对非黑即白,输和赢比较客观。

现在在语言模型领域,数学、编程这类问题有确定答案,但更多问题并没有确定答案,甚至很难评价谁好谁坏,有时候只是偏好的不同。

所以看起来,下一个阶段的数据也好、评价方式也好,可能都会产生新的需求。

至少此前大家追求的是谁的数据多、谁的算力多,谁就能领先。DeepSeek 现在证明,至少在有限算力下,我们依然可以做出非常好的结果。

刚才我们也讲到了,数据只是一方面的原因。那除了如何评价 AI 模型质量变成一个难题之外,从模型发展来看,你觉得还会有其他瓶颈吗?

季宇

7. Resources Set The Ceiling

我觉得模型发展的另一个瓶颈,还是来自资源。因为所有技术路径最终都要落地到商业基础设施上。

Scaling Law 的支撑需要万卡集群,包括更强的机器。这里面其实也会受到经济模型的影响。如果成本能降到十分之一,我可以实现商业闭环;但如果我愿意花 10 倍资源去搏下一个未来,经济模型实际上仍然有一个上限。超过这个上限之后,大家就会觉得投资可能很难收回成本。

所以我觉得,AI 的发展肯定和资源投入、经济模型高度相关。

DeepSeek 也是一个很好的契机。开源模型和技术平权这件事情,可以让整个社会对于 AI 的商业模式逐渐闭环起来,让更多人开始使用 AI,也让 AI 能够投入更多资源。

包括由此产生的经济循环会越来越多,实际上也会为未来 AI 的发展注入更多经济动力。

李翔

假如简单畅想一下未来,模型可能经过很深度的思考之后,给你一个答案。大家第一个面临的问题就是:我们愿不愿意等模型想 3 分钟、5 分钟?我们可能还是希望,尽管你要想很多,但能够尽快给我一个答案。

特别是春节期间,很多人教大家使用 DeepSeek 时会加上一句:“不要过程,只要答案。”尤其是想让 DeepSeek 帮忙做题的同学。

话说回来,DeepSeek 开源之后,大家可以很容易地在本地部署,甚至复制出这个高成本模型的能力。DeepSeek 的火热,也让大家感觉,之前大模型公司的高昂投入好像很快就被追上了。

你觉得在开源或者现在的生态下,AI 模型或者 AI 公司的护城河在哪里?

季宇

8. Business Models Build Moats

任何一种新技术的发展,都不一定能够简单地通过技术本身形成护城河。我觉得护城河最终还是建立在商业逻辑上。

很多商业逻辑希望把护城河建立在“一万张卡”或者“很多数据”上,靠资源建立护城河。但资源型护城河是容易被技术打破的。

真正能形成护城河的,往往是商业模式或者生态。如果单纯依靠模型质量、GPU 数量、数据规模,这些东西可能都会逐渐被打破。

DeepSeek 对英伟达最大的冲击,就是过去两年很多云厂商或者巨头公司,希望围绕 OpenAI 的算法、英伟达的 GPU,形成一个以 GPU 资源、万卡集群为门槛的人为技术壁垒。大家都在这条路上狂奔,只不过这件事情被打破了。

所以我觉得,更多还是应该把护城河放在商业和商业模式上。

一个很直接的问题在于,大家对 AI 的期望确实很高,但它现在还没有真正进入经济系统,发挥巨大的商业价值。在这个过程中构建的各种门槛,本质上都是对行业的拔苗助长。

相反,像 DeepSeek 这样,先让行业发展起来,商业模式自然会逐渐形成。只要有经济循环,自然就会有商业结构;有了商业结构,自然就会有商业模式以及相应的新护城河。

在技术还没有真正大规模经济化之前,我觉得这些所谓的门槛可能不堪一击。

李翔

你去年来我们这里聊英伟达时提到,支撑英伟达股价的因素,一个是大模型产业的发展,另一个就是英伟达在产业中的垄断地位。

这段时间也看到外媒报道,甚至有人叫嚣要完全封禁显卡对中国或者几个少数发达国家的使用。我觉得这明显反映出他们有点着急了。面对挑战,第一反应就是更加固步自封。

你觉得 DeepSeek 是破局者,还是产业发展的必然方向?

季宇

“破局”这件事情,尤其对于这样一个庞大的体系和生态来说,DeepSeek 当然非常重要。由于它的发酵程度和出圈程度,对这件事也起到了很大的促进作用。

不过,真正要打破护城河,我觉得这可能只是一个起点。后面需要有更多类似的创新。这种创新不光是在模型层面,也包括在基础设施层面改变经济结构,还包括更多人围绕 AI 普惠搭建起从上到下的一整套体系。

过去两年,OpenAI、微软以及很多类似的公司,形成了一个利益共同体,都希望建立起未来整个商业社会的格局:有资源的大厂可以让所有人使用它们的基础设施和模型。

DeepSeek 撬动了这个体系的第一步。后面更重要的,是 AI 普惠的产业结构,与那些通过硬件、数据或者各种资源形成垄断体系的小圈子之间的博弈。

所以我觉得,DeepSeek 肯定是开了第一枪。它要打的目标,肯定不只是在模型和基础设施上,芯片自然也是非常重要的参与者,这也是我们公司一直希望参与的事情。

李翔

最近大家都在发布“产品接入 DeepSeek”,也有国产芯片兼容 DeepSeek 模型。还有人讨论,DeepSeek 能够绕开“酷大”生态。你怎么评价“酷大”生态在现在这个阶段的作用?

季宇

9. 国产芯片推动破局

绕开 CUDA 生态,包括刚才讲的破局,肯定不是简单地说:我有国产芯片、我有国产模型;美国有 OpenAI,我有国产模型;美国有英伟达,我有国产芯片。

如果只是这种简单逻辑,那不是 DeepSeek 真正出圈的原因。DeepSeek 并不是因为它是国产模型所以出圈,而是因为它找到了一条新的路径,让大家看到了一条可能比 OpenAI 或者过去坚持的 Scaling Law 更好的路径。

包括极致的 MoE,这可能是过去没有人探索过的路径。它让大家意识到,像极致的 MoE,在软硬件综合取舍上,仍然可以取得更好的经济效应,成本更低,不管是推理还是训练。

硬件行业也是一样。如果今天大家想的只是“英伟达可以跑 DeepSeek,我们的芯片也可以跑 DeepSeek”,我觉得这很难真正意义上形成冲击。

这并不是一个 DeepSeek 事件,而是过去两年很多国产模型追随美国路径的延续。所以在硬件层面,如果国产芯片想要推动这件事情,我们的思路是希望塑造一个比美国、比现在主流的英伟达体系更有吸引力、更有竞争力的体系。

这才是真正的破局之路。

去年大概 10 月,我也对外讲过一些我们的理念。我们觉得,今天的 Scaling Law 和千卡、万卡集群,本质上是在推动一种大型机化的计算机体系。

在峰瑞的年会上我也讲过,如果未来围绕 DeepSeek、国产芯片和 AI 普惠的目标,创造一个像过去 x86 集群、x86 个人电脑那样的普惠逻辑,就可以让大型机体系越来越失去价值。

今天英伟达的体系,包括原来 OpenAI、Transformer、Scaling Law 这一套体系,本质上是通过算法塑造机器,让机器变得越来越强,越来越像上个世纪 80 年代的大型机:需要几百万、上千万的机器,才能运行今天最好的模型,以此塑造非常高的门槛。

如果未来大家发现,花几千块钱、几万块钱买芯片,就可以让所有人用上 DeepSeek;再用几万块钱的芯片组成一个集群,其服务能力可能比一台非常昂贵的机器还要强,那么这件事情就会发生变化。

这在历史上本身就发生过。整个 PC 革命,包括互联网革命,都是建立在 x86 体系上的。

很多人可能都不知道,IBM 在 80 年代以前是什么样的行业地位。但这样一个“蓝色巨人”,就是被看起来很不起眼、很弱、很低端的 x86 芯片颠覆掉的。x86 本身编织了一套更好的、更具经济性的计算机底座体系。

这也是我们希望在芯片层面推动的方向。

李翔

这次我观察到一个现象,就是第一次大规模出现了很多人开始本地化部署模型。

但你之前提到过,计算机行业的惯性非常大。至少从芯片来看,从需求变化到芯片做出来,可能两三年就过去了。你觉得这次的影响,会让计算机行业或者芯片行业开始重视需求变化,开始考虑非英伟达的路径吗?

季宇

我觉得,这里面其实给了很多人一个机会。

过去国产芯片很难找到特别好的下游商业场景。现在 DeepSeek 这样的开源模型,本身又相对标准化,不管你用什么芯片,只要能把它很好地跑起来,就可以接入 API,作为服务提供出去。

这给了很多国产芯片一个出口。

当然,这不代表所有国产芯片都会成功。经过一段时间的发酵之后,市场肯定还是会回归到谁的方案最好,谁的方案更符合经济逻辑。

现在时间还比较短,大家基本上要么是几百万的满血模型,要么是低精度的蒸馏模型,也形成了这样的特点。

但我们希望打破硬件资源和价位之间的差距,延续这条路径,把 DeepSeek 满血模型变成标配,变成大家都用得起的标配。

这件事肯定有很大难度,但芯片本身做出很多改变,实际上可以逐渐推动它成型。

李翔

你觉得 DeepSeek 的爆火,对行云有什么影响或者启发?为此我们有没有一些规划和想法?

季宇

我们从去年 9 月开始关注私有化部署场景,也是因为我们自己就是 AI 编程用户。

那时我们跟很多人讲私有化部署,大家对这个市场还抱有比较大的怀疑,因为大家觉得需求到底在哪里,这个市场今天可能还是 0。

但现在这件事情可能已经成为共识。大家都知道,至少私有化部署和云端服务同样重要。这对我们来说是比较积极的因素。

当然,我们也需要更快地拥抱这个变化。未来一段时间,哪怕我们的芯片产品还没有出来,我们也希望给大家提供一些和现有方案截然不同的可能性。

我们希望用大家都负担得起的钱,而不是上百万元、与普通人没有关系的价格,去提供能够运行满血、而且不经过量化压缩的模型。

量化压缩可能已经形成了一种惯性认知:满血模型要么接云,要么去大企业花几百万元购买;个人则使用蒸馏模型,凑合着用。

但我觉得其实没有必要凑合。

李翔

作为一个创业者,你怎么看梁文锋说的“技术优势是短暂的,真正的护城河是文化和组织”?

季宇

10. Culture Creates The Moat

我是高度认同这一点的。梁老板本身躬身入局,为我们做了一个很好的榜样。

OpenAI 刚出来的时候,大家的技术确实都追不上它。技术会造成优势,但这个优势可能并不可持续。全世界有这么多优秀的人,大家一定可以把这件事做出来、复现出来,很难单靠技术挡住别人。

全世界优秀的人才很多,但怎么把人才用起来,是一件非常难的事情,尤其是涉及跨领域协同的时候。

DeepSeek 之所以能够成功,是因为它在基础设施、算法和模型等各方面都产生了联合创新,而不是只在某一个点上做了创新。这种联合创新对组织能力的要求非常高。

DeepSeek 的核心成员很多是国内高校的研究生,或者刚毕业的博士生。我之前也和一位在 DeepSeek 工作的师弟聊过。他跟我讲,他们老板对于他写的库或算子里面每一个线程到底在做什么,都了如指掌。

说实话,今天很多做基础设施的人,都不一定对 DeepSeek 的基础设施优化到底是怎么回事有深入了解。

DeepSeek 能把这件事做好,我觉得组织能力是一个很大的因素。创新不是简单地把一群不同领域最聪明的人聚在一起,他们就可以自动产生价值。

每个人可能在自己的专业领域很强,也有很强的思考能力,但仍然需要组织一个全局的大方向。这个方向要能够包容大家试错,但如果单纯依靠试错——大家提出一个方向去试,错了再重新来——效率其实很低。

创新本身也需要效率。这种效率的保障,就是要有第一性原理的思考。但第一性原理的思考,光靠每个人各自为政也很难实现。

组织起来,本质上是要给大家一套整体上讲得通的方向,然后让大家在各个维度沿着这个方向齐头并进。但要组织出这样一套整体思路,本身就需要深入到细节里,知道每一层到底要做什么,才能有效组织起来,打破每一层的边界条件去看问题。

我觉得这就是文化和组织形成的护城河,而这件事情非常难。

梁老板对我来说也是一个很大的激励。国内很长一段时间里,无论投资还是创业,大家都很相信经验主义。虽然很多人不会认为自己相信经验主义,但实际上做的事情、想的东西都是一样的。

大家会相信行业专家,相信大牛,相信过去在这个行业取得巨大成功的人,相信这些标签,相信把这些人放在一起就可以做成事情。

当然,这种方式并不是没有价值。中国过去 40 多年的经济腾飞,本身就是依靠这样一种方式发展起来的。大家确实形成了巨大的认知惯性,因为它解决了一个很好的问题,就是如何高效地做事情。

有经验的人知道 Know-how,做事情一定更高效,所以成功率确实更高。

但反经验主义并不是简单地把过去的东西抛弃掉。摧毁一个东西很容易,但重新搭建一套让组织能够高效做事的方法同样重要。

我相信大家是真正意义上在拥抱创新。国内并不缺创新,大家有很多非 Transformer 架构的模型,也有很多非 GPU 路线、非冯·诺依曼路线的芯片。这些确实都是很激进的创新。

但这些创新能不能成功,赌性很大,因为它们的大方向缺乏整体思考。这样就可能比较低效:做出来、失败了,总结经验,再做下一个,不断重复。

创新本身需要一套很强的方法论。除了抛掉过去、反经验主义之外,还要建立一种新的组织方式。

李翔

我其实也非常赞同梁老板的这个观点。

从投资人的视角来看,功利地说,一个初创企业需要关注的就是资金利用效率。同样的钱如果能创造价值,自然会有更成熟的企业来做。

从这个点延伸出去,本质上还是人才密度和团队组织:大家怎么找到最优秀的人,再把这些人搭配起来。

这和大模型其实是一样的。每个人可能都是一个 MoE 专家,我们怎么把一个公司里的每个专家组织起来,形成一个不仅规模大、而且能力强的公司“大模型”。

季宇

我们看到中国过去接近 20 年、30 年的发展,从最开始的“中国制造”到“中国创新”。你觉得 DeepSeek 的出圈,是不是中国企业创新在全球科技竞争中开始发生转变的标志性事件?

我觉得真正意义上的转变,不可能只靠一个 DeepSeek 这样的事件完成。一定要出现大量类似的情况,我们才能真正说这件事情发生了转变。

万事开头难。有了第一个例子,后面会有更多类似的例子。我相信,这样的例子本身也会激励更多希望促成这种转变的人。

梁老板在一些公开访谈里也讲到,这是一个认知周期的问题。中国企业在过去很长时间里通过经验主义获得了巨大成功。

包括你刚刚讲的,把很多专家组织起来成为一个 MoE,这也是很典型的经验主义体现。

但你看,梁老板不只是说要把人才组织起来,对“人才”的定义也可能和大家很不一样。他找的不是普遍意义上在大厂做过很强事情的人,可能更多是一些在校学生。

这本身就是梁老板对人才的定义,可能和大家不太一样。

但我觉得更重要的是,他讲到这种转变需要成功案例来激励整个社会。如果大家没有看到成功案例,那么无论从投资人的角度、创业者的角度,还是从参与工作者的角度,都会对这件事有所怀疑,从而形成巨大的认知惯性。

要扭转这种惯性,确实需要更多成功案例来激发大家。他自己躬身入局,成为第一个案例,我觉得这是扭转的起点。

李翔

正好也是 2025 年,这可能是一个非常有代表性和标志性的事件。

我简单总结一下最近大约 30 年的变化。从 2000 年到 2010 年,这 10 年左右主要讲的是“中国制造”:我们可以用更低廉的成本生产大量商品。这些商品不一定是高质量的,最典型的就是衣服、鞋子等。

再往后 10 年,从 2010 年到 2020 年,这个阶段讲的是“物美价廉”。典型代表就是小米这样的公司:我们可以用可能 20% 的价格,做出性能或者能力达到国外产品 80% 的产品。

这当然伴随着中国企业生产能力和设计能力的提升,也包括很多有经验的专家在企业中成为中流砥柱。

最近 5 年,我们看到中国变成了“me better”:在某些行业里,我们已经做到远超海外的能力,同时还保持相对低的价格。

这一波也是一样。我们投资更追求的是,大家有更深度的思考,对产业有更好的认知,能够从底层去拥抱变化。放到 AI 领域,肯定就是要投 AI-native 的创始人。

从竞争角度看,中国科技在全球的地位也保持了一贯的高增速,还在继续提升。

季宇

11. AI Becomes Universally Affordable

从我们 2023 年底聊天时,就已经讨论过 H100,也讨论过长上下文。我们可以畅想一下,比如 3 年之后,AI 的推理成本大幅降低,速度也有很大提高,你觉得会出现什么有趣的应用,或者 AI 会怎样发展?

我们本身也是参与者,肯定希望推动,甚至超过大家预期的一些事情发生。

首先,第一步肯定是希望所有人都能用得起满血模型,低精度压缩这些事情可以先放到后面。

当大家发现这个东西价格很便宜时,就像今天大家使用电脑一样。你不会在意浏览器可能占用 1GB 内存,因为你的内存已经足够大、足够便宜,没有明显感知。你不会因为浏览器能帮你节省很多内存,就一定要安装一个专门节省内存的浏览器。

当这件事情大规模普及之后,几乎所有行业都可以被渗透。因为当所有人都用得起时,每个行业才有机会以很低的成本,甚至不付出成本,去使用它。

为什么我们之前一直讲这个行业有很强的垄断性和惯性?因为今天比如具身智能这样的新机会出现时,它并不需要从头搭建所有基础设施,而是可以直接把原来手机、平板、IoT 设备和 PC 上的硬件、软件基础设施平移过来,复用上面的生态来打磨自己的产品。

AI 也是一样。它可能会先从一些看起来价值比较高、愿意为这件事情付费的行业入手。比如我们去年开始关注的 AI 编程,可以先从我们这种体验版用户,变成更多人的真正生产力工具。

大家可以真正从“值不值得花钱”,变成“这个东西太便宜了,成本基本可以忽略,我就可以私有化拥有它”,然后让大家大规模使用起来,搭建一个基础平台。

后面会有越来越多的行业,包括非计算机行业、非互联网行业,像今天采购电脑、搭建自己的工作流一样,把这些能力搭建起来。

当然,最终不一定全是私有化部署,云端同样有巨大机会。因为整个互联网拼的就是体验:靠体验获得流量,靠流量获得商业回报,再靠商业回报反过来把体验打磨得更好。

这件事也一样会发生。就像现在 DeepSeek 的流量非常大,服务器天天繁忙。本质上,它们的服务器投资成本并不低,已经花了非常多资金去建设。

在这么大的流量下,服务器可能需要扩展很多倍才能承载,但商业回报可能反而会降低。

我觉得,只要我们逐渐把基础设施的开放性和成本做得越来越低,让大家可以很好地搭建,就可能像过去 Google 部署大量 x86 服务器来搭建搜索引擎基础设施一样,让搜索引擎服务全世界的人。

未来如果类似 DeepSeek 的基础设施,也可以用非常便宜的机器部署起来,形成大规模集群,而且总成本不高,就有可能服务成千上万的应用。

简单来说,我们希望不要以硬件资源来划分商业结构,而是选择最适合的商业结构。

我们一直认为,生产力工具可能就应该私有化部署,这最符合生产力和经济关系。消费娱乐类产品则可能更适合互联网。无论采用哪种方式,都不应该受限于底层硬件成本和大家能够运行的模型质量。

我们希望用最好的硬件、最好的模型,去创造下游的应用,不管是互联网应用、私有化部署,还是个人电脑,也就是所谓 AI PC 里的应用场景。

这是我们希望推动的事情,而且我们相信它可以在非常短的时间内实现。

李翔

我最近也思考了很多。短期来看,我觉得 OpenAI 还有比较明显的指路效应。比如它最近推出 Deep Research,这可能会变成一个非常普及的现象,也就是所谓的个人助手。

你可以交给它一个任务,它会在或长或短的时间内帮你完成,不管是深度研究还是日常任务。

从应用体验来看,我觉得会有两个变化。

第一,还是体验优先。我们可能会看到更多设备和终端产品,甚至可能连屏幕都不需要,只要有一个喇叭、一个扬声器,接入云端大模型之后,就已经能够实现非常强的功能。

第二,在已有硬件基础上,硬件形态可能会变得更加智能,反过来也更加傻瓜化。

像我们这一代人,打字打得比较熟练;00 后可能更多是触摸操作;10 后可能就是纯语音,甚至会出现更新的操作形式。

AI 门槛降低之后,会极大扩展人的能力。我们不需要记住那么多东西,甚至很大一部分简单思考工作都可以交给 AI,未来可能就能保留更多创造力和复杂思考。

但今天大家还没有很好地利用大模型能力,可能还要等一等,特别是基础设施发生变化之后。

现在看到的一些惊艳应用,背后还是需要调用大量算力,很多都限制了使用,并不是无限制开放。大部分应用也还是在调用 OpenAI 的 O1 模型。

等这些能力进一步开放之后,确实可以更奢侈地使用它们。另外,上下文长度也还不够,这里面仍然有很大的空间。

我感觉芯片现在可能还有一个小机会,但还不确定:在 laptop 这个层级,会不会出现本地推理需求?

季宇

会的。现在比较明确的是端侧推理。比如用堆叠的方式,可以让 8B 模型达到每秒 200 个 Token。

服务器和私有化部署,你们其实也有规划;最大的训练市场也已经存在,大家都在跟随英伟达去做最大的模型和集群。

盘下来,中间这一块好像还没有完全满足需求。

李翔

我反而觉得 laptop 有挺大的机会,核心不在技术本身,还是在于你怎么切生态。

端侧如果是手机,说实话,如果你不是做手机 SoC 的,很难切进去。laptop 我觉得大家有机会,包括迷你主机,但这取决于下游商业的变化:迷你主机什么时候会成为主流。

如果是 laptop,首先必须是一台正常的桌面操作系统机器。你不可能自己做一个芯片,上面运行 Linux,然后拿它去卖 laptop。你得运行 Windows,或者像苹果一样运行 macOS。我甚至觉得,迷你主机也可能面临这个问题。

还有一个方向是 home lab。你可以买一个迷你主机,电脑还是用正常的,但它可以为你提供大模型能力。不过这个市场今天的需求可能还没有真正被激活起来。

今天非常感谢季宇和我们一起讨论 DeepSeek 的影响,以及 AI 未来可能的发展。

我们看到,春节期间 DeepSeek 可以说是天时、地利、人和,形成了非常大的热度。当然,它也是中国科技生态和科技产业的一个代表性公司。

它的后续影响肯定不只是这一段时间的热度。无论是应用、生态、行业认知,还是基础设施需求,都会产生比较大的变化。

我们也相信,未来中国科技、中国 AI 和中国芯片都会有更好的发展。谢谢大家。

再见。

季宇

谢谢大家,再见。

Vol.154 产业观察26|“DeepSeek开了第一枪,更值得期待的是AI普惠”:与季宇聊AI产业新机遇 | BidClub