94.中国 AI 从追赶到原创,真正的难题是什么?|与商汤林达华的 3 小时访谈
- 中国 AI 从追赶走向原创,难点是能否在尚未被市场验证的道路上持续投入。 林达华承认,沿着美国已经跑通的路线做优化和微创新,具有直接的产业价值;但新能力出现后,国内两三个月内往往已有一批团队跟进,“拼手速”很难积累独有的长期优势。商汤仍将20%的资源投入没有产品出口的前瞻研究;他尤其认可 DeepSeek 在架构和效率上持续深入的工作。
- 大模型显著改善了 AI 1.0 的交付经济性,却没有自动解决训练投入的摊销问题。 商汤2021年的模型工厂每年产生4万个模型,背后是不同场景反复收集数据、训练、测试,收入很难覆盖深而窄的交付链条。如今通用模型降低了定制成本,但竞争迫使公司不断训练下一代,“训练这个成本永远停不下来,而且越来越大”,一次投入、长期摊销的假设因此受到挑战。
- 林达华当前更重视适当模型规模、数据质量和真实用户反馈构成的迭代速度。 更大参数仍意味着更高上限,但公司实际面对的是两三个月的竞争窗口;几百B模型若能把训练、架构和数据做好,可能凭借更快迭代取得更好结果。行业重新关注数据治理、选择实用规模,在他看来意味着回归理性;卫诗婕强调,必须有用户,否则“对着 benchmark 迭代非常危险”。
- 商汤的视频业务选择进入完整创作流程,而非只与大厂比拼生成片段的质量。 林达华坦言,单论视频生成质量,自己的模型比不上 Seedance 2.0;但创作者需要交付的是100集短剧,涉及剧本、分镜、角色和跨集一致性,而非30秒片段。“创作跟生成是一个完全不一样的概念”:其视频平台可以利用外部模型渲染,他称今年用户增长7—8倍,已有百万级创作者和播放量过亿的作品。
- 判断商汤经营改善,需要同时看财务口径和业务承担风险的方式。 卫诗婕指出,“首次盈利”的表述与经调整亏损3.86亿元并存;林达华没有给出一个统一的盈利答案,而强调不同口径下盈利状态持续改善。“1+X”则让部分业务进入独立融资、独立生存的环境:同一个负责人,在集团内可能申请50人,独立创业时只带5人,集团通过持股继续参与成长。
- 中国开源生态的动力来自利益对齐,也为专业模型留下了长期空间。 开源让团队获得影响力、人才和融资机会;按林达华的估计,最终那次模型训练可能只占总研发成本的10%,其余大量投入用于试验,开放交流因此可以压缩试错成本。他同时提出成本、通用性、专业性的三方约束:能用8B或32B模型完成的工作,未必值得为一个包含大量闲置能力的大模型付费。
- 下一轮数据竞争的瓶颈,正在从获取答案转向构造新的问题和真实工作环境。 林达华描述,训练数据已从几分钱、几毛钱的问答,走向几十元的推理轨迹,再到几千元的复杂任务长轨迹;已有题目的解题过程逐渐被消化,模型需要进入成千上万种场景自行探索。他认为这里的瓶颈更多是人力,中国丰富的产业和工程师资源“有可能”形成战略优势,前提是公司真正将其组织起来。
- 语言能力的领先并不等于智能已经完整,学习效率可能比继续扩大模型更深刻地改变竞争格局。 林达华称,商汤在部分空间任务中观察到“反 scaling law”:增加数据反而强化语义偏见;他也认为多模态有很大潜力,但做好原生多模态很难,需要投入时间和代价。卫诗婕则提出语言具有极高的智能密度,同时认为单靠语言并不完整。林达华更关心机器为何仍需昂贵的大量实验才能进步;“自己训练自己”只是手段,现有粗放路径能否一直外推,他没有给出肯定答案。
1. 黑羊把原创与温和放在同一种文化里
- 开场送出的黑羊,是汤晓鸥设计的商汤形象。林达华解释,黑色意味着在大多数白羊中做出差异,而选择羊,是因为它没有那么“aggressive”:希望创造不同的价值,并不意味着必须具有很强的侵略性。
- 卫诗婕原先只知道“black sheep”代表与众不同,第一次听到温和也是其中一半含义。林达华把它与汤晓鸥的性格联系起来:相处舒服、待人温和,同时对原创抱有很高期待;这两个方向在他身上并不冲突。
- 另一份礼物是在今年世界工程大会上展示的人工智能长卷,由徐丽展示,使用 U1 Pro 制作,呈现世界人工智能大会从2018年开始的历程。林达华说,他从第一届就开始参加;早期会场在上海徐汇区,西岸还没有开发得很好,是一处工业风厂房。此前,汤晓鸥还在世时,他们曾请清华美院老师与 AI 团队合作,创作从1956年达特茅斯会议讲到大模型时代的《人工智能长河图》,耗时数月;这次作品用模型约40分钟完成。谈起长卷中的引语,林达华记得汤晓鸥有时会花半天、七八个小时,只准备一句让人记住的话。
2. 大量阅读先建立判断,再完成研究闭环
- 林达华2003年赴香港交换时认识汤晓鸥,最初的吸引力很具体:听说他的学生王小刚读完硕士去了 MIT。真正见面后,让他决定加入的还有相处体验——“聊一段时间之后,跟他距离自然就近了”。
- 到港中大后,他期待导师给出明确研究题目,得到的回答却是先看论文,甚至“你都看一遍”。汤晓鸥提过王小刚第一年读了600还是800篇,林达华已记不清;自己一年回头数下来,读了2000多篇。
- 阅读从 ICCV、CVPR、ECCV 的优质论文开始,再沿着引用追下去。林达华认为没有捷径:读得多,才能逐渐识别哪些内容可略过、摘要与正文如何对应,也能看见作者如何形成问题、设计实验和组织表达。
- 第一次投稿时,他在严水成指导下先尝试门槛相对低一些的 ICIP,一次投5篇,原本希望中一两篇,结果5篇全中。这段经历的重要性是完成了“读论文—提出工作—实验—写作—发表”的闭环;大量阅读已经为第一次写作提供了结构和直觉。
3. 获奖工作的价值在于改变认知并留下生命力
- 卫诗婕将何凯明2009年获得 CVPR Best Paper,与林达华2010年获得 NIPS、即今天 NeurIPS 的 Best Student Paper Award 放在一起追问。林达华承认拿奖时非常兴奋,也承认其中有偶然和运气;但回头看,更重要的是工作是否长期影响了别人。
- 在他看来,真正有分量的研究要“改变人们的认知”。只关注技术细节,总能列出 ABCDE 的差异,“世界上没有两片叶子一模一样”,但这种差别未必具有很大的创新价值。
- 汤晓鸥很少纠缠具体技术细节,反而要求学生用一两句话说明工作究竟有何不同。林达华认为,这迫使研究者从局部改动上升到整个问题的立意:如果一句话已经能让人理解这是不同的工作,创新往往在立项阶段就更清楚。
4. 数学上的优雅不能替代解决问题的能力
- 林达华2007—2012年在 MIT 读博士时,统计学习仍是主流。他回忆,Hinton 团队的博士后 Ruslan 在2008、2009年前后到 MIT 交流、推广深度学习,当时这条路线相当非主流,远没有统计学习那样强的理论支撑。
- 他2010年的获奖工作属于非参数贝叶斯:模型的参数结构可以动态变化,而他提出的方法,让不同非参数模型之间建立依赖关系成为可能。这在当时意味着理论又向前走了一步,回答的是此前很难处理的问题。
- 随后2011、2012年深度学习兴起,真正对产业产生巨大影响的路线发生变化。林达华没有因为数学上的优雅就认定这条路线更重要;他一直在追问能否找到原理,解决现有方法难以解决的问题。
- 2014年回香港任教后,他全面转向深度学习;MM Lab 已在这条路上获得充分、积极的实验结果,没有太多犹豫。今天他仍追问 fundamental 的原理,但不追求公式多复杂,而看它能否解决现有方法难以解决的问题。
5. 传播加速带来资源,也挤压了深度探索的窗口
- 林达华回忆,2005、2006年前后参加视觉顶会,会场很小,彼此即使没见过,也常在论文中认识;讨论集中在 poster、oral 和具体算法。后来会议变成几千、几万人参加,展板望不到头,不专门约,甚至碰不到熟人。
- 成果传播依次从期刊走向会议、arXiv,再到自媒体。期刊等待一年多,过去也不担心过时;会议把周期压到约半年,后来半年仍嫌慢,于是先放预印本。他提到近期 ICLR 投稿突破6万篇,认为传播方式还会继续变化。
- 卫诗婕追问学术圈是否有些娱乐化,林达华给出两面判断:更多人关注,带来资金和资源;但资本、商业竞争也把研发压进按周、按月交付的节奏,模型更新从三四个月缩到一两个月,深入探索的空间被挤压。
- 他尤其佩服 DeepSeek 没有被固定的三个月发布周期牵着走,而保留自己的探索节奏。商汤的 Leo 架构、理解生成统一,也经历约一年的铺垫;在这样的环境里,还能“沉下心来”做长周期工作,他认为难能可贵。
6. MM Lab 的宽松来自资源保障和不同的培养目标
- 林达华认为,MM Lab 的幸运之一,是长期没有特别严重的经费压力。香港政府奖学金可支持学生四年的培养费用;他强调没有精确统计,但估计本系超过八成的这类奖学金,由他们招收的学生获得,后来又有商汤及上海人工智能实验室合作带来的支持。
- 资源充足,使实验室不必为下一笔经费去做并不理想的项目,也不必依赖学生密集发论文维持运转。老师反而会说“不要太密集地发论文”,做不完就下次投;但同学之间仍有很强的 peer pressure,甚至有人因担心落后而半夜惊醒。
- 培养目标并不是让学生在毕业前积累最多论文,而是毕业时能在所在方向“独当一面”。林达华认为,教授本身不缺论文,才更有条件把学生的成长放在中心,而不把他们视为完成成果指标的工具。
7. 商汤创立时就把中国原创视为核心理想
- 2014年8月回香港任教后,汤晓鸥成为林达华的 mentor,第一次交流就谈起创办公司的想法:要证明中国人具备真正的科技原创能力,而不只是基于海外技术建立商业模式。他当时甚至相信,这家公司未来会“超越BAT”。
- 卫诗婕用汤晓鸥“骑车去食堂吃饭”的比喻,理解早期硬科技创业者的小确幸;林达华补充,汤晓鸥创业始终怀有很大的梦想。商汤后来走过的起伏,没有改变他对这个起点的记忆。
- 他观察到,早年资本更熟悉互联网商业模式,如今则愿意为硬科技突破承担风险。OpenAI 等公司的突破,让投资人看见这类投资可能获得比原有模式更高的回报;这也使今天年轻研究者面临的资源环境与过去显著不同。
8. 预研要找现有路线的原理边界
- 林达华称,商汤至今仍将20%的资源投入没有任何产品出口的前瞻研究。去年开始布局空间智能,今年年初发布相关模型,出发点是寻找 GPT 等模型还做不好的事情,而非只在已有能力上调整参数。
- 但“做不好”本身还不够。他们还会追问:是不是 OpenAI、Google 或 Anthropic 暂时没加这类数据,只要沿原路线补进去就能解决?如果答案是肯定的,它可能有应用价值,却不足以支撑原理性创新。
- 林达华想找的是更深的原因:为什么现有方法做不好这个问题。他仍看重理论背后的机制,只是不要求它一定表现为复杂数学;能提出不同原理并有效解决问题,才是这部分投入的意义。
9. 空间任务中的反 scaling 暴露了语义依赖
- 一个让团队重视的现象,是部分空间任务出现“反 scaling law”:数据更多、模型更大,表现反而更差。林达华举的任务是 perspective taking——视角换了、距离远近改变了,看到的物体应当如何变化。
- 模型可以知道走近、走远看见的都是一只黑羊,却未必理解换个角度后,外观和尺度如何改变。他们尝试增加相关数据,发现如果数据仍缺少空间联系,模型反而更依赖固化语义,未必获得真正的空间概念。
- 最直观的例子是六指照片:他们当时测试 GPT、Gemini、Grok 等模型,常得到“五个手指”的回答,因为“手掌有五指”的语言先验压过了实际图像。林达华说,最近模型可能已经开始分析这个问题;这个例子指向的是当时观察到的机制。
10. 语言具有高智能密度,但不能完整替代视觉
- 卫诗婕指出,语言把人类长期提炼的知识装进符号体系,是智能密度和使用效率极高、甚至可能最高效的载体;她因此认为单靠语言并不完整。她举例说,让多模态模型用2000字描述一个人的照片,再让生图模型画回来,通常已经不是同一个人。
- 林达华没有否认语言大模型路线的价值。他认为多模态有很大上限和广阔空间,但真正做好原生多模态、全模态输入输出非常困难;语言大模型已有更明确的工程经验,因此进展会更快。
- 他强调,多模态的目标不是让智能变弱,而是找到把不同模态放在一起又不影响智能的道路,这需要投入时间和代价。
11. 数字智能与物理智能的发展明显失衡
- 林达华把智能理解为与世界交互的复合能力,包括感知、知识、记忆、多步推理以及发出指令。他认为,IQ 测试中的空间能力、记忆能力、推理能力等不同类型,也提醒人们智能本来就不只有一条轴。
- 过去三年进步非常快,但很不平衡。数学、编程,以及可以写成文字和程序序列的长程任务,已经能超过普通人,部分达到甚至超过顶尖水平;这不意味着其他能力同步到达同样高度。
- 数字空间中的 AI 已经能处理很多工作,机器人仍多在执行简单动作。林达华用眼前场景划界:让机器人把访谈现场的拍摄设备完整设置一遍,恐怕还做不到;从数字空间走向物理空间,仍有大量工作。
12. 编程形成商业闭环,但不能代表全部经济生活
- 林达华回忆,2025年下半年,行业一度面临耐心下降:模型似乎主要用来聊天、搜索、画图,没有进入经济中最高价值的部分。如果迟迟没有新突破,他认为存在整个领域退潮的风险。
- 今年 Agent 和编程能力的突破,让 AI 开始深入高价值生产力。人们甚至把原来亲手写程序叫作“古法编程”,在他看来已经说明使用习惯发生改变,因此 AI 绝不只是一个 pure hype。
- 但单个赛道的商业飞轮也有窗口:初期可以快速加速,直到这个领域很高比例的价值已被 AI 覆盖,增速仍可能遇到瓶颈。长期成功要看它能否渗透广泛行业和生活领域,成为基础设施,而不止数学与 coding。
- 他也看到方向随热点迅速变化:上半年不做 coding 好像落后,六七月又开始集中展示3D rendering。短期资源集中可以迅速突破;当赛道拥挤、格局沉淀,部分团队再去寻找别的空间,他把这看作经济活动中的自然过程。
13. AlphaGo 把单点突破放大成了全行业期待
- 林达华将2012年 AlexNet 在 ImageNet 的成绩,视为深度学习走出小流派、进入更广泛视觉与 AI 研究的节点。但到2014年向投资人和公众介绍时,很多人仍不知道深度学习是什么,AI 也还不是今天这样普遍的词。
- 真正让全世界直观理解 AI 的,是 AlphaGo:机器下棋超过人类、超过世界冠军,公众容易看懂,资本和估值随之显著升温。林达华因此认为,AI 的历史不是均匀线性上升,而是被一系列突破事件重新定义。
- 问题在于,人们很快从下棋外推到所有领域。AlphaGo 却是针对特定规则、投入大量数据和算法迭代才做出来的系统;换到另一个领域,往往要重走一遍。这与当时“赋能百业”的广泛愿景之间,存在重要落差。
14. AI 1.0 的交付链条很深,应用面却很窄
- 商汤高峰时拓展过20条不同行业线,林达华强调,当时确实相信 AI 可以赋能百业,也确实看见真实价值。亏损并不等于技术无用,而是做完项目一算账,投入超过产出;没有价值的事情,反而可能根本不会投入。
- 每个场景通常都要重新收集数据、训练调优、测试,再达到可进入生产环境的程度。链条很长,最终模型能服务的范围却很窄;做成第一个标杆客户,不代表第二个就能低成本复制,因为具体要求总有很多不同。
- 2021年上市招股书中的 Model Factory,每年产生4万个模型,并非4万个独立项目,也包含同一路线的多次迭代;但它仍说明大量链条被反复运行。林达华将根本技术原因概括为通用化不足:项目做得越多,未必自然变成标准化产品。
15. 通用模型降低交付成本,持续竞赛抬高训练成本
- ChatGPT 出现后,行业看见新解法:一个大模型吸收大量场景数据,便可能服务很多任务;通过 API 调用,不再为每个客户从头训练。林达华认可这次通用能力是实质提升,很多工作已经可以做到可接受的水平。
- 定制并没有完全消失,FDE 的出现也说明仍需进入客户现场,但工作量比以前轻,AI 编程工具还会进一步降低成本。新的主要成本落在两端:服务用户的 token 成本,以及研发、训练模型的成本。
- 最大的未兑现假设,是训练出一个足够好的模型后,便能通过长期大规模商业化摊销投入。现实中不继续训练下一代,就可能被别人超过;从2万亿、3万亿、5万亿到10万亿参数的设想不断出现,迫使训练投入持续增加。
16. 实用规模与数据治理正在重新获得优先级
- 卫诗婕指出,创业公司一边要向资本市场证明基模处于全球前线,一边又要在“甜点模型”与具体场景里赚取收入,有限资源因此被两头拉扯。林达华认为,开始务实选择模型规模,是行业走向健康的信号。
- 另一个信号是重新检查预训练数据:一个两三万亿参数模型,未必胜过几千亿、甚至几百B的模型,原因可能是数据杂质、冲突没有治理好。他用“又贵又不理想”概括这种结果,认为它在真实市场中很致命。
- 商汤内部讨论过做2万亿参数模型,林达华称并非完全没有条件,但投入意味着机会成本。另一条路是把规模放在几百B,持续改善训练、架构和数据;模型小几倍,同等条件下迭代可能快几倍,三个月后未必输给更大模型。
- 他列举 GPT-5.3 Flash、DeepSeek 4.1 Flash、Google 的 Flash,以及 OpenAI 最近出的 5.6 Soul,说明并非只有最大体量才受欢迎;并称 DeepSeek 4.1 Flash 的性能比4.0 Pro更好。他没有否定容量瓶颈,只认为到达之前,现有规模仍有很大提升空间。
17. 参数决定上限,反馈周期决定实际能走多高
- 林达华仍相信,更大参数是重要 foundation,能够带来更高上限。但十年内慢慢逼近容量上限,与两三个月后交付一个更好的模型,是不同决策;公司需要比较的是特定时间窗口内真正能够实现的高度。
- 他借强化学习说明闭环的意义:一种方式是走很远,拿到完整反馈再更新;另一种是小步快跑、高频迭代。他认为长期来看,后者往往更有效,这也影响商汤如何安排模型研发和资源投入。
- 速度本身还不够,方向必须由真实用户校正。林达华强调,真正能留下来的不是榜单上的短期 SOTA,而是产品是否持续为用户创造价值;卫诗婕补充指出,没有用户、只对 benchmark 迭代非常危险。
18. 生存教训让商汤更重视财务稳健和认知更新
- 林达华记得,2015、2016年前后,两轮融资一度差点衔接不上,汤晓鸥拿出个人资金,帮助公司撑过短暂缺口。这不是抽象的创业风险,而是公司当时确实可能无法继续的时刻。
- 另一次冲击发生在上市前:原本准备10月中挂牌,突然上了美国制裁清单,上市后来推迟约两周。他认为这些经历使商汤投入更稳健,不会把现金烧到两个月内拿不到新钱就无法生存的程度。
- 对这一轮年轻创业者,他不认为需要替所有人捏汗:一些公司会消失,一些会留下。“Life will find its way out”意味着有生命力的公司会找到继续走的道路,虽然可能已经不同于最初计划。
- 生命力还意味着更新认知。他转述徐立的一个判断:一年、两年后回看,如果仍认为自己当年的判断全对,反而可能说明公司没有成长;组织需要传承,也需要承认新的观察已经改变了答案。
19. 通用聊天产品的试错让商汤看清资源边界
- 林达华没有把商汤今天的产品组合说成两三年前就规划好的战略:“商汤的路是走出来的,不是想出来的。”团队可以用少量资源探索管理者尚不清楚的方向,出现技术突破和用户价值后,再获得更大投入。
- 最初的大模型产品是“商量”。一次让太太试用,她在青岛出差,首先问的却是附近5公里有什么推荐餐厅;模型没有相关搜索数据,只能胡乱回答。这让他意识到,真实用户问的往往是生活决策,而不是单纯考察模型能力。
- “模型只是一个加工器”,还需要大量实时、具体的信息输入。商汤没有搜索引擎,继续经营通用聊天产品未必符合资源禀赋;他以豆包的信息基础设施说明必要条件,同时也承认,有搜索能力并不自动意味着产品一定成功。
- 到2023年底,商汤不再把这类聊天产品作为战略重点。CNI,即 Content and Interaction,将机会分成内容本身与交互方式的变化,再区分工作内容、娱乐消费内容,逐渐走出办公产品小浣熊与视频创作平台两条路线。
20. 完整创作流程比单个生成片段覆盖更大的问题
- 今年年初 Seedance 2.0 出现后,商汤视频创作平台一度很迷茫,投资人和同行不断问:与它有什么不同,能做过它吗?林达华的回答很坦率:如果只拼生成质量,比不上字节重投入做出的模型,片段确实已达到很高水平。
- 转折来自观察下游创作者:他们要交付的并不是30秒漂亮片段,而是100集短剧。剧本、分镜、人物原型、动作、故事线,都要在渲染之前被组织起来,“创作跟生成是一个完全不一样的概念”。
- 因此平台把理解生成统一、图文交错思维、跨剧集角色一致性放进创作流程,底层则可以利用 Hunyuan、Sora 或其他视频生成模型。商汤不必独占最好的渲染模型,也能为不会自行搭建整套体系的创作者提供价值。
- 卫诗婕将这种关系总结为可以合作进入生产工作流,林达华认同。平台与底层模型之间存在错位分工;直接用 Seedance 端到端完成影视创作,仍有很多工作要做。
21. 商汤用自然增长判断产品是否值得加码
- 林达华援引中期业绩披露,小浣熊增长约6—7倍,当时达到几十万日活、几百万周活。他更关注这些产品是否已经形成真实使用和价值闭环,而不是凭管理者意志提前给一个不成熟产品压上大量资源。
- Seko 今年用户增长约7—8倍,已有上百万创作者使用,并产出了播放量过亿的短剧。他认为,这说明价值已经穿过平台,抵达最终内容消费者,而不只是创作者试用了一次生成工具。
- U1 在4月发布时主要验证架构可行,七八月的 U1 Pro,以及最近的 U1.5 Lite,进一步改善了效果。他还报告图片生成月调用量相较6月增长10倍;这些自然增长是后续增加投入的依据,产品先长出生命力,组织再助力。
22. “1+X”让业务在独立生存中接受资源约束
- 卫诗婕追问半年报中的“首次盈利”,以及媒体强调的经调整亏损3.86亿元。林达华回答,不同财务口径可能分别呈现盈利或亏损大幅收窄;他强调持续变好的趋势,没有把所有口径归结为一个简单的“已经赚钱”。
- 对他来说,更关键的是组织是否健康、有生命力。很多行业需要经历较长亏损期,过去只有做或不做两种选择:全部保留,集团承担过重负担;全部砍掉,又可能错过未来成长为大业务的机会。
- “1+X”提供另一种组织方式。他举例,同一负责人在集团里可能申请50个人,准备独立融资创业时却只带5个人;从向领导要资源,到面对市场求生存,人的判断和业务效率都会被重新训练。
- 集团通过持股参与这些实体成长,林达华认为,这也增强整体财务抗风险能力,为长期试错留下空间。他否认该战略是由严俊杰、MiniMax 的成功才推导出来:在其达到今天规模前,商汤已经有多家公司走出去。
23. 科学家创业要依次跨过有用、赚钱和持续赚钱
- 林达华没有看到科学家与成功创业者必然冲突的逻辑,但前提是打破研究者原有认知。第一道坎,是从“我的技术很牛,你应该用”,转向用户究竟有什么问题;同理心意味着理解对方也有 KPI、营收和时间压力。
- 第二道坎,是有用不等于能赚钱。AI 1.0 的很多项目已经解决问题,却仍然投入大于收入;今天高速增长的大模型公司,同样需要学习如何从收入增长走向持续盈利,这不是技术有效后自然发生的结果。
- 第三道坎,是竞争会侵蚀原有利润。一个业务原本赚5块钱,同行进入后可能只剩1块;客户还可能拉来第二家供应商,哪怕觉得对方能力不如原有供应商,也会给它订单,避免依赖单一公司。
- 因此,长期盈利还需要更稳固的生态和持续竞争壁垒。林达华没有声称商汤已经解决所有问题:“这些问题都不容易”,他刚才列出的几道坎,在商汤也并非每一项都有完善答案。
24. 基模能力下沉后,应用团队必须更快更新认知
- 卫诗婕的追问是:基模公司不断把 skills 训练进通用能力,今天垂类公司能收的钱,明天会不会被字节等大厂拿走?林达华承认,固步自封就会被上下游挤压;团队必须保持创新、创造和技术能力,才能继续找到空间。
- 办公是眼前的压力。字节、腾讯、阿里都能投入大量资源,并依托飞书、腾讯文档、钉钉已有用户。林达华不认为小浣熊应当拿自己的流量劣势,去正面竞争这些平台的优势。
- 他用微笑曲线解释工具的处境:一端掌握资源,一端掌握出口,中间工具会受到两边挤压。写文书、做 PPT 只是相对浅层价值;如果以最终价值为目标,就要进一步打穿具体行业和完整工作过程。
- 生存空间来自闭环带来的学习速度:再强的模型处理具体问题,仍有很多不完整之处。如果团队对这些问题的认知成长快于基模能力增长,就能持续找到下一步,而不是只守住今天某个功能。
25. OpenMMLab 把研究者不愿反复做的工作变成公共价值
- 林达华2018年与陈凯推动 OpenMMLab,起点是几十名博士生频繁复现视觉算法。师兄师姐之间相互借代码,本来就是自然需求,只是方式零散;将已有实现整理起来,便能形成一个初始就有用的算法库。
- 他提醒,研究者可能70%—80%的时间花在整理数据、对齐格式、搭建实验和测试管线上。一个算法一种格式,赶论文时每次重新组织数据,非常痛苦;“苦活脏活”虽然不在聚光灯下,却是别人真正需要的东西。
- 供需双方的利益可以同时成立:使用者少做基线复现,专注自己的新算法;贡献者获得更多使用、引用和 credit。提供基础支撑并不抢研究者最在意的创新位置,反而帮助他们完成自己的目标,生态由此形成。
- 他称 OpenMMLab 当时有十几万 GitHub 星标、几百万开发者或研究者使用。与千问开源体系的类比也在这里:未必每个模型、每个时点都最强,但大中小规格与工具足够完整,用户就能持续从体系里获得价值。
26. 开源把影响力诉求与公共收益连接起来
- 对中国为什么走开源路线,林达华没有只用利他解释。他认为团队也在考虑自身愿景与利益:免费、可下载部署的模型更容易传播,影响力虽不是直接收入,却可能转化为融资、更高估值、人才或职业机会。
- 过去推动开源,难点在于管理层会问投入如何收回;口碑、人才等长期收益很难变成定量营收公式。即使技术负责人相信它有价值,也不容易回答“你开源为什么”这个经营问题。
- DeepSeek 提供了强示范。他将 R1 的强化学习突破、效率、“600万美元能训练一个模型”的传播点,以及开源带来的扩散并列讨论:当公司看到影响力确实能迅速提升,开源的内部说服成本随之下降,客观上形成更繁荣的生态。
27. 成本、通用性和专业性共同决定模型的生存空间
- 林达华不相信市场最终只由少数最强模型包办。他提出成本、通用性、专业性之间的三方约束:一个模型可以既什么都能做,又在每件事上做得很深,但通常需要很大规模,训练与服务都会很贵。
- 他用1块钱与100块钱说明选择:专用小模型1块钱完成某件事,大模型也许更好,却要100块,因为还包含100种你用不到的能力。竞争充分时,成本一定构成压力,减少通用性、换取低成本和专业能力,有持续空间。
- 部分日常工作在他看来已出现“智能过剩”:8B、32B的千问可能足够,就未必需要每月花几十美元购买最强模型。他还提到 Hugging Face 上已有300多万个模型;即使大厂提供多个规格,也很难覆盖所有具体需求。
28. 开源加速的不只是模型使用,更是研发试错
- 卫诗婕问,Kimi、MiniMax 等团队开源后迭代更快、表现更好,是否只是巧合。林达华认为有逻辑联系:最终那次模型训练,“可能”只占总研发成本的10%,其余约90%花在各种配方、技术和实验探索上。
- 开放权重及技术交流,使团队能更快知道社区正在验证什么,从最新方案中挑选最可能有效的组合,再做适配。一个公司的研究者独自构想,通常不如整个社区同时思考、验证来得快。
- 这也帮助解释他眼中的中美投入差距与能力差距为何没有同样大:中国总投入金额较少,却可以减少大量不知道方向的试错。一旦知道某条路可行,寻找具体实现就很快;最难的是“我都不知道路在哪里”。
29. 复现已验证方向很快,原创需要更长的复利
- 林达华用 DeepSeek R1 说明路线信号的价值:2025年,它验证了基于可验证结果做强化学习的范式。论文即使没有写完全部细节,其他团队已有大方向,再通过若干实验补齐实现,就不必从所有可能方法重新找起。
- 谈及 GPT-6,他明确提到社区对循环 Transformer 的猜测——token 在网络中循环数次再输出,并非模型方已直接披露的事实。关于具身,他另以 GPT-4 为例讨论注入大量具身数据的启示,并判断路径清楚后,类似方案可能几个月达到八九成水平。
- 卫诗婕追问,这是否意味着永远跟在美国后面。林达华承认,很多公司就在“拼手速”:海外出现新能力,两三个月内国内已有一批方案争生态位;如果10家同时抢,同质化跟进未必留下长期独有价值。
- 他没有否定优化、微创新的产业意义,但认为持久贡献仍需自己的积累。DeepSeek 在架构机制和效率上做得很深,令他佩服;商汤保留空间智能、理解生成统一等探索,也是为了在不那么热门的道路上形成复利。
30. 蒸馏是数据构造的一部分,不能简化为复制答案
- 林达华用学生向不同国家老师学习作类比:模型训练并不要求每条数据都由自己从零制造,模型之间传递信息是常规手段。尤其 Agent 轨迹达到几十万、几百万 token,不可能主要靠人逐字写出,也难靠简单脚本构造。
- 实际管线往往由多个模型协作,并随时间寻找性价比最好的组合。部分环节可能使用国外模型,更大比例则可能使用自家或国内开源模型;他也认为国外团队可能利用中国模型,但只谈“迹象”和可能性,没有声称掌握对方完整方案。
- 卫诗婕提到张一鸣禁止内部使用蒸馏,问其原因。林达华仅将其视为从长期角度出发、“很有魄力”的想法,并未替张一鸣补出具体动机;他强调,借模型造数据的核心作用,是降低原本由专家逐字构造的成本。
- 对 GPT-5.1、GPT-6 之后思维过程更难获取的说法,他承认使用障碍可能挑战某些数据管线,但没有观察到行业因此停止快速迭代。他进一步说,现在某种意义上已经“过了所谓蒸馏的时代”,新瓶颈在别处。
31. 数据瓶颈正转向新问题和可供探索的环境
- 林达华梳理了数据使用的变化:先爬互联网文本、arXiv、Common Crawl 做预训练;当原始语料带来的增益下降,再构造逐步解题的思维链;现在则要让模型完成具体任务,产生更长、更复杂的 Agent 轨迹。
- 成本也随之上移。2023年前后的 SFT 问答,一条可能几分钱、几毛钱;稍复杂的 reasoning 轨迹可能几十元;真实复杂任务的长轨迹,可能达到几千元,接近请律师等专家工作两小时的成本。
- 在他看来,已有题目的思考过程已被大量构造,下一步要产生新问题。团队可能需要建立几千、几万、几十万个具体工作环境,让模型自己探索怎样完成任务;核心不再只是取得某个现成答案。
- 他认为中国可能在这里获得优势:产业与生活场景丰富,工程师资源充足,而造环境的主要瓶颈是人力。他保留了条件——必须有公司把这些工程能力组织起来,才能把潜在资源转化为战略优势。
32. 汤晓鸥留下的核心资产是继续培育人的组织
- 汤晓鸥离世给林达华带来突然、强烈的冲击,他一度不知道失去人生与事业导师后该如何继续。团队也需要重新建立往前走的基石;最终支撑他们的,是那些“穿越时代”的理念,以及仍有生命力的集体。
- 回忆中最鲜明的画面,是一起开会、听汤晓鸥讲段子,“很温馨的氛围”。林达华认为,开放、同理心、帮助人才找到成长道路应当继续传承;具体培养方式则要随时代变化,不能刻舟求剑。
- 他如今看人才也比十年前更多元:不只是谁技术最强,能发现机会、提出灵活想法、推动业务成长的人同样重要。严俊杰等同事离开后创造新公司,在他看来也是成长的一部分,不能只把人才价值限定为永远留在原组织。
- 最看重的身份,林达华回答得很明确:“老师。”今年2026年发布的很多模型,真正做出来的是年轻团队;他最重要的交付,是“构建和守护”这样的组织,也像汤晓鸥改变自己那样,为学生和同事创造不同的职业可能。
33. 学术交流受到约束,交流意愿仍在寻找出口
- 卫诗婕提到今年3月 NeurIPS 的投稿条款风波,涉及美国实体清单上的873家机构,包括商汤、华为、大疆,并谈到中国计算机学会抗议后,会议道歉和修改政策。林达华明确反对给国际学术交流增加不必要的阻碍。
- 他强调,自己接触的很多中美学者,本质上仍是怀有技术和学术理想的人。交流更谨慎,并不一定意味着没有意愿;美国朋友也可能担心,因为与中国学者接触,而在本国受到不公正对待,他理解这种处境。
- 正式活动更难时,仍可以利用继续举办的学术会议,或以朋友身份吃饭、交流技术进展,不把每次交流都变成 PR。林达华没有说约束消失了,而是认为只要双方意愿仍在,便可能找到方式,只是代价更高。
34. 智能的下一步取决于模态互补和学习效率
- 林达华当前最关心的第一个问题,是语言以外的模态究竟如何参与智能。他相信它们重要,但承认认知仍在初期:与语言的边界、互补性、各自效率优势在哪里,还不能下最终结论,这会影响未来资源投向。
- 第二个问题是智能怎样更快成长。recursive self-improvement 只是手段:把人训练模型,变成模型训练自己,会增加自动化,却不自动消除学习所需的观察和实验;获得这些实验点,今天仍然非常昂贵。
- 相比之下,人学习新技能通常不需要一次完整训练。林达华认为,机器能力虽强,学习和进化效率却离人很远;如果这个秘密被破解,可能重塑 AI 竞争格局,而粗放扩张也可能遇到轨迹爆炸,现有路径能外推多远并无保证。
- 卫诗婕引用梅涛“多模态生成不负责产生智能”的判断,林达华部分认同:单纯生成主要提升视觉质量;但把空间感知融入思考,可能改变思维方式。目标未必是数学题做得更好,而是智能更加完整。
35. 人生选择需要一个会反复更新的自身目标
- 林达华常在面试学生和高阶候选人时问:“你设想一下,3年后自己会是什么样?”他不要求规划50年,但认为要不断思考未来三年、五年想成为什么样的人,否则很容易被短期热点和外部选择推着走。
- 对博士生也是同样的问题:现在某方向很火,但毕业后不火了怎么办?他鼓励寻找更深的价值,形成独立思考与积累;不停换 topic,可能做过很多东西,却都很浅,时髦名词和工具本身不足以让人在行业立住。
- 博士阶段,他曾把两条路形容为通向爱因斯坦或比尔·盖茨,选择了学术。后来目标又从个人财富、个人学术成果,转向与集体交融:今天更大的愿望,是打造一支中国的“AI梦之队”,而不只是让自己成为最突出的人。
36. 原创需要共同目标和跨边界协作支撑
- 林达华理想中的文化,是大家为了共同凝练出的技术理想工作,而非把身边同事比下去。共同目标不能只是负责人强加;团队需要放下一部分对短期自我价值的执念,才能在路线困惑、进度快慢不同时仍然保持凝聚力。
- 他自述商汤薪资并非行业第一,与字节等公司也有差距,但研究院离职率很低;他将原因归于共同做有意义的事,以及很低的部门壁垒。对他而言,自己未必拥有最多资源,却可以持续建设最好的研究文化。
- 语言与多模态团队在2024年年中已自然融合;后来几十位同事又围绕理解生成统一形成主线。研究院虽有十几个部门,并不一定先调整正式组织结构,大家也能跨部门共同研发,这降低了跨领域创新的组织成本。
- 对个人英雄主义,林达华保留了个人的历史作用:选对方向、让一条道路坚持下去的人,可能影响很大。但成果最终依靠协作;有 Agent 帮助,团队未必很大,仍需要不同侧重的人碰撞想法,让信息和思考流动,创造出更大的可能。
Full transcript
其实今天我们的对话当中,一直都有一个隐形的人物存在着,就是汤老师。
汤老师给我们留下的最宝贵的财富,是他所传承的理念和想法,是穿越时代的。这个山的路是走出来的,不是想出来的。大家会觉得,我花巨大的代价训练了一个很好的模型,那我这边的成本就会在未来的大规模商业化时摊掉。但是行业的现状是,训练成本依然居高不下。最近有一个新闻,大家开始回过头来看预训练数据的质量,这代表行业正在回归理性。Life will find its way out:遇到什么情况,一个有生命力的东西,或者一家公司,总会找到自己继续往下走的道路。
哈喽,大家好,我是施杰。今天我们来到了深圳,不远处是深圳人才公园,窗外可以望见深圳湾。商汤办公室就坐落在这里。
这期节目的嘉宾是商汤联合创始人兼首席科学家林达华先生。他的名字曾经被很多中国 AI 学者提及。他和他的导师汤晓鸥共同支持、培育了几代中国 AI 人才,也目睹他们走上今天的大模型征程。但 AI 之路还很长,中国几代 AI 学者和从业者经历两轮浪潮之后走到了哪儿?未来的可能性和希望在哪里?这是一个关于播种的故事,就像林老师引用了汤晓鸥教授生前常说的一句话:Life finds a way,生命自寻出路。欢迎达华老师。
裴老师你好。
听说您准备了礼物送给我。
对,这是两个礼物吧。要不先介绍一下礼物?
好。
这是商汤的黑羊,我想介绍一下这个黑羊。
可以啊,可以啊。
这代表商汤的一种精神吧。这是汤老师设计的,是不是很可爱?
好可爱。我知道这个黑羊,黄星球跟我讲过。他说 Black Sheep 意味着要做与众不同的那个。
对,有两个意思。一个是它不会很 aggressive,不是那种竞争性和侵略性特别强的。
哦。但是为什么是黑羊呢?
因为汤老师当时说,大部分的羊都是白色的,黑色才能代表你的差异化创新,所以他找了一个黑羊。
这个我是第一次知道。选择羊是因为它不是那么 aggressive。
对。汤老师本身的性格也不是那种很 aggressive 的性格,是比较温和的。但是还是希望能够做出不一样的价值:别人都是白色的,那我就做黑色的。
谢谢,好可爱。然后呢?
这个其实是我们在今年的世界工程大会上,由徐丽展示的那一幅。我们用 U1 Pro,把整个世界人工智能大会的这段历程呈现出来。世界人工智能大会是从 2018 年开始的,我其实从这一届大会就开始参加了。最早的时候,人工智能大会没有现在这么盛大,不像现在已经是几十万人参加的会场。当时是在上海徐汇区,那会儿西岸还没有开发得很好,是一个非常工业风、很 bare-bone 的厂房。经过这 9 年,人工智能已经发生了翻天覆地的变化。
这里面展现了这 9 年来的很多关键词和不同事件。大模型山脉,这个很有意义。为什么当时会想到做这么一个长卷呢?
稍微早一点的时候,汤老师还在世,我们做过一个叫《人工智能长河图》的作品,类似于把人工智能从 1956 年的达特茅斯会议一直画到大模型时代。那会儿请了清华美院的几位老师,和我们的 AI 团队一起把概念融在一起创作,花了几个月的时间。但这个作品用模型可能花了我们 40 分钟。
我看里面有一些引语。这些引语里面有没有你印象比较深的?
其实很多都是汤老师的话。他是个非常幽默的人。我不知道你有没有在其他朋友那里听到,汤老师其实是一个被 AI 耽误了的段子手。
我有听说过。
大家可能看到的是台前的汤老师,但我是他的学生,也和他一起合作了很长时间,所以我非常知道他是怎么准备演讲的。大家会看到他是一个非常风趣、非常幽默的老师。但有些金句,他背后可能花了半天、七八个小时,就为了准备一句话。
您有很多 title,但我想先把那些 title 放一边,我们先从一个我相信对您来说也很重要的身份开始,就是汤老师的学生。能不能讲讲您跟汤老师的缘分是什么样的?
1. Learning From Tang
我是在 2003 年认识汤老师的。那一年我还在读本科,当时有个交换计划,我就到了香港科技大学。汤老师那时在香港中文大学当老师,也是中科大毕业的。他安排同事到中科大招生,那位同事现在在业内也很有成就,就是李学龙教授。他把中科大班级里排名靠前的几个同学叫过去,介绍了一下汤老师的情况。
当时最吸引我的是什么呢?他说汤老师的学生读完硕士之后去了 MIT,他指的是王小刚教授。所以这件事对我们来说最有吸引力。我们知道有很多同学毕业后会到美国深造,但 MIT 对当时的我们来说,是一个很遥远、又非常渴求的殿堂级学府。后来借着去香港交换的机会,我就跟汤老师约了时间,去拜访他。那应该是 2003 年五六月份,我第一次见到了汤老师。
除了他在学术上很厉害之外,还有没有其他的人格魅力?你跟他在一起的时候感觉怎么样?
跟他聊一段时间之后,距离自然就近了,所以我就决定去了。
到了 2024 年秋天,您从科大毕业去了香港中文大学,但汤老师同年去了微软主持视觉计算组。
对,基本上我们有一个很小的交集。我到了之后满怀期待,想说:“那我应该做一个 research topic,你好好跟我讲讲要做什么。”当时他跟我说:“你先看论文吧,从看论文开始。”我问:“那看什么?”他说:“你都看一遍。”他当时跟我说,小刚第一年看了 600 篇还是 800 篇论文,具体数字我忘了,反正是非常大的一个数字。我想,他要我看我就看。
我觉得那一年对我改变最大的是读论文的能力有了很大的跃升。对我未来在一个信息量非常大的领域里快速形成自己的课题、做 research,这很重要。
怎么读论文?
读论文没什么捷径。以前有个说法叫“1 万小时定律”,做任何事情做 1 万小时,就会成为这个事情的专家。汤老师当时没有很具体地指明我要读什么,只告诉我,要读最好的论文。那最好的论文在哪里?在计算机视觉的三个主要会议上:ICCV、CVPR 和 ECCV。到目前为止,这三个依然是这个领域的顶会。你把里面感兴趣的论文读了,读完一篇之后,如果它还有引文,就按图索骥继续读下去。我一年下来回头看,读了 2,000 多篇。
读的过程中,我慢慢开始写一些自己的小工作。我的第一篇论文不是发在现在大家所谓的顶会上,而是发在当时叫 ICIP 的会议上。当时严水成在汤老师那里做博士后,我跟着他一起合作。我完全不知道怎么发论文,严水成就跟我说:“要不咱们先从一个简单一点的开始,ICIP 的标准没那么高。先中了,然后再去做更有挑战性的会议。”当时我很兴奋,第一次写论文就写了 5 篇,投了上去,也没太多期待,觉得可能中一两篇就好了。结果最后中了 5 篇。我当时觉得,这个会议我不用再投了,自那之后我基本就不会再看顶会以下的会议发表,因为不值得。
那整个过程中,汤老师给到您什么很重要的东西?
我觉得汤老师给到我一个很重要的点,就是怎么样完成一次研究的闭环。你先从读论文开始,积累对这个领域非常广的知识,了解大家怎么思考。读得多了,你会慢慢感悟到每个作者背后的思路和表达,以及怎么样形成实验设计。所以等到我真正自己写的时候,很多东西已经在脑子里留下很深的印象。哪怕是第一次写,也已经有了经验和方法论。
有一些经验方法论可以分享吗?
一篇顶会论文通常是 18 页的双栏论文。读得多了之后,你就知道哪些东西可以略过,哪些东西要抓重点,摘要和后面的部分是什么关系。慢慢有了这个感觉,读论文会变得非常快。某种意义上,你会觉得现在模型的训练方法也是这样:大量读语料之后,慢慢形成一种直觉。
明白。您刚才讲到第一次投了 5 篇,5 篇全中。我想到大概在 2009 年,何凯明博士的第一篇硕士论文就获得了 CVPR Best Paper。那也是华人首次获得这样的顶会奖项。当时汤老师调侃他说:“你看你出道即巅峰,后面只能走下坡路了。”当然事实不是这样。当时一个很年轻的人投出顶会论文,得到了全华人学者的瞩目,大家是什么反馈?您心里有什么感受?
首先,关于顶会论文这件事,我第一次看到的时候自己也很兴奋。我第一次投 NIPS,也就是现在的 NeurIPS,是在 MIT 的时候,应该是 2010 年,也是当时的 Best Student Paper Award。这个是深度学习的顶会。
对,当时机器学习的顶会。
当时我也是非常兴奋,因为这件事可遇不可求。但我回过头来看的时候,觉得对包括凯明——你刚才提到的——来说,这个工作的重点不是拿 Best Paper,而是它最后事实上发挥了非常大的影响,成为整个时代网络设计、模型设计的标杆性工作。它的生命力留存下来,这件事本身最有价值。
您读博士的时候,中国 AI 领域的学者们在想什么?那时大家想的事和今天 AI 学者想的事会不一样吗?
2. How Academic Culture Changed
确实很不一样。当时的氛围没有现在这么热闹。前两天是 ICLR 2027 的投稿截止日期,网上有很多报道说今年的论文突破了 6 万篇,等于过去很多年的论文加在一起。当时我们发 CVPR 的时候,会议规模小很多。我给你讲讲我这 10 年去国外参加顶级学术会议的感受。
最初我应该是 2005 年还是 2006 年,中了 CVPR 还是 SCPR 的论文去开会。会场很小,就几栋小楼。很多人见了之后其实相互认识,最起码就算没见过,也会在自己看过的论文里见过这位学者,因为那是个很小的圈子。大家做事情很安静,相互知道一个小领域里谁在做什么。开会的时候大家真的在开学术会:在 poster 和 oral session 上真正交流、讨论学术问题,深入讨论里面的算法。
到了大概 10 年之后,我自己当老师了。其实在 MIT 快毕业的时候,我也每年参加这些会议,就发现整个气氛发生了很大变化。会议安排的地方越来越豪华、越来越大,几千人、几万人参加,里面有工业界的,也有学术界的。Poster 摆在会场里一眼看不到头,人山人海。周围的人你都不认识,偶尔会看到一些老朋友,除非专门约出来,否则可能根本见不到认识的人。学术会议的性质发生了很大变化,学术成果的传播方式也发生了很大变化。
我很难想象今天我们做这样的访谈,10 年前或者 20 年前会有这么多谈技术问题的访谈。
我相信很少。但今天这已经成为大家分享自己思考的一种方式。最早大家发期刊,期刊审稿周期非常长,可能一年半载。但期刊发表时,成果依然没有过时,大家不会担心过半年、一年论文就不再重要。后来变成了会议,大家觉得会议效率比期刊更好,审稿周期短,审稿后能马上发表。论文从投稿到发表可能半年,比一年多快了很多。
但后来大家发现,等半年再看到论文时,成果可能已经有点过时了,于是出现了预印本,就是 arXiv。大家第一时间就把成果放到 arXiv 上,不等半年之后发表。后来这就成了一个 practice,所有人都会第一时间放 arXiv,再去投会议。到了今天,大家可能投的都不是这个了,而是自媒体。未来随着论文膨胀,可能还会发生新的变化,大家会寻求更高效的传播方式。注意力经济这些东西,也让学术圈有点娱乐化。
您怎么看学术圈变得有点娱乐化?
我觉得有正面和反面。正面是它可能确实让更多人了解这个领域。以前学术圈可能是象牙塔,只有非常小众的人了解这些工作。虽然可能也觉得很舒服,但事实上那个时候你不会获得那么多投资、资源和关注,真正 care 你的论文的可能就是你的小同行。现在越来越多人关注这个领域,获得了更多资源。我觉得某种意义上是正面的。
但它在很大程度上冲击了整个行业和研发迭代的节奏。大家追求更快的迭代,不一定把深度做得很深。比如大模型之前是三四个月出一个新版本,现在可能两三个月,甚至一两个月就会出新版本,大家压力很大,觉得能不能按天、按周把模型发出来。这使得深入钻研一种新可能性的通道和窗口被严重挤压,我觉得也可能带来不一定正面的效果。
所以在这样的时代,如果仍然能够沉下心来,做一些可能需要更长周期完成的探索,是非常难能可贵的。这也是我特别佩服 DeepSeek 的地方。你看它的节奏,不会说三个月一定得出个什么东西,它还是有自己的探索和突破节奏。包括我们自己做 Leo 架构、理解上统一等等,也是用一年时间慢慢铺垫走下来的事情。
您刚才讲氛围发生变化,底层是技术发展的转折点。什么时候学术氛围开始有了您说的这种变化?
我觉得应该就是这一两年。变化在于外部信息迭代的速度非常快。以前哪怕做一个普通的计算机视觉会议论文,从设立题目、做数学构建、做实验、调优,到最后写成论文,怎么也要大半年,每年可能发表一两篇论文。现在为什么节奏变成一个月、两个月?我觉得有两个条件。
第一个,外部竞争白热化的程度,和相对纯净的学术氛围相比,发生了很大变化。大量资本和商业因素涌入这个领域,自然会带来一些变化。如果每个人都以两三个月的速度发新模型,你不发就会承受很大压力,可能需要每三个月拿出一些东西。
您硕士期间来到当时汤晓鸥在港中文建立的 MM Lab。当然,MM Lab 其实在 2001 年就建立了。在全球学术领域,大家会特别认这个牌子出来的学生,因为觉得 MM Lab 出来的学生投的 paper 质量很高,不会水论文。这是一个被设计出来的结果吗?
3. The MM Lab Approach
说起 MM Lab 对学生的培养,可能有一点不太一样的地方,就是培养目标。很多学生到高校实验室参与研究,导师的核心目的可能是要发论文、出成果,这样才能申请新的项目,支撑实验室下一个阶段的运行。
但我觉得我们在 MM Lab 非常幸运。第一,一直以来都没有太高的经费不够的问题,我们始终有充足的资源支持实验室运行。另一方面,学生经常能拿到港府奖学金。一个学生拿到港府奖学金,他四年的学费和培养费用就由香港政府支撑。我们拿港府奖学金的比例非常高。我没有很准确的统计,但我觉得我们系每年超过 80% 的港府奖学金都由我们招收的同学拿到。
后来商汤也起来了,我们和上海人工智能实验室的一些合作,使得我们有更充足的经费来源。我们不需要为了拿经费去做很多不一定觉得最理想的事情,也没有这个压力,有足够的资源支撑实验室运行。
所以我们经常跟学生说,不要太密集地发论文。
不要发得那么密?
对。大家会有 peer pressure,总觉得旁边那个同学今年投稿了,我还没投,就有心理压力。Peer pressure 非常严重,甚至有同学跟我说,有些时候他看见旁边的同学中了论文,自己没中,半年都会惊醒,觉得会不会落伍了。我们老师从来不给他们压力,甚至会觉得实在不行下次投也没关系。其实 MM Lab 的教授不缺论文。我们给学生培养的核心目标不是发论文,而是让他们毕业时成为所在方向能够独当一面的 leader。
那个年代好像还没有那么充沛的资本,能够支持年轻创业者去创业。但今天这个时代就完全不一样了,是吗?
我觉得应该说,社会对于科技的投资发生了很大变化。AI 时代来临之前,社会资本更多投互联网,探讨某种商业模式。现在对硬科技、对科技突破的投资增加,我想是因为 OpenAI 以及这一系列公司获得突破的关系。投资界会觉得投这些公司虽然风险也很大,但可能获得比以前那种投资模式高得多的回报。
我记得汤老师以前演讲时有一句特别可爱的话:你们在的那个时代,我们这些做硬科技创业的就像骑车去食堂吃饭。用这种比喻来形容我们想要的其实不多,是小确幸的一个过程,我是这么理解的。
事实上,我觉得汤老师创业的道路一直怀有非常大的梦想或理想。我是 2014 年 8 月回到香港任教。当时系里每个新来的年轻教授都会安排一位 mentor,系里很自然地安排汤老师做我的 mentor。我第一天去的时候,他跟我说,他有个想法,想建立一家公司,后来就是商汤科技。
他说他觉得应该建立一家公司,向所有人证明中国人有真正原创的科技能力。很多公司会基于海外技术构建商业模式,国内真正做深度原创性科研、策源性研究的公司非常少。他希望去做这样的公司。当时他跟我说,他相信这家公司未来会超越 BAT。我们还在路上,但他确实从 Day One 就怀着这样的理想建立商汤科技。
我有一个特别好奇的问题。我发现从 2009 到 2010 年,曾经在 MM Lab 待过的学生,比如刚才提到的何凯明,拿了 CVPR Best Paper;2010 年您拿了 NIPS Best Paper。这些顶会奖项过去很少、甚至没有中国人的身影,而你们当时都非常年轻,还是学生,就拿了 Best Paper。为什么发生在这个时间点?为什么发生在你们身上?为什么发生在从 MM Lab 出去的这些人身上?
4. Defining Original Research
首先,为什么发生在我们身上,我觉得肯定有偶然因素和运气成分。但这些工作都很不错。真正能拿奖、能形成巨大影响力的模型和工作,核心是改变人们的认知。怎么解释这件事?科学的本质就是探索新的知识、改变人的认知。
汤老师指导我们做研究时,很少关心真正的技术细节。但这恰恰让我们有更大的创新空间。为什么呢?你写一篇论文,关注技术细节时,总能说出 A、B、C、D、E:这篇论文跟另一篇工作有什么不一样。世界上没有两片叶子一模一样。两个工作摆在一起,你总能在细枝末节找到不同,但那个创新价值某种意义上非常有限。
如果你能用一两句话讲出来这就是不一样的工作,那它的创新价值显然会大很多。用一句话表达你的论文跟别人不一样,是很好的锻炼,代表你的思维层面从技术细节提高到了整体立意、整体定位的层面。如果你说不出那句话,就很难区分。我们设立研究项目时,首先会问这句话。因此,很多工作的创造性从立项阶段就变得更加明显。
能不能举一个例子?比如您 2010 年获得 NIPS Best Paper 的那篇。我是文科生,努力去理解这篇文章,它应该是一个概率推断主线的代表作。如果用一句话解释您的 Best Paper,您想告诉大家什么新认知?
我想它让一件事情成为可能:在非参数贝叶斯这个领域,不同模型之间建立依赖关系是可行的。
为什么这个事情重要?我讲点小故事。MIT 是世界上很多原始学术理论的发源地。最初,Geoffrey Hinton 有一个博士后叫 Ruslan,后来去了苹果,成为那边很重要的科学家 leader。当时我在 MIT 读书,2007 年入学,2012 年毕业。我接触这位 postdoc 应该是在 2008、2009 年。
当时 Geoffrey Hinton 这个组在学术界不是主流,非常反主流。他这位博士后到 MIT 找了一位做语音识别的老师合作。MIT 当时做 CS 和 AI 的 lab 叫 CSAIL,是一栋非常奇特的建筑,里面大概有 1,000 位学生和老师工作。楼的设计让人站在任何位置都能看到好几层不同实验室的位置。人员流动很频繁,所有课题组都可以去别的课题组找人聊、推销自己的想法。
他当时跑过来跟我们说,他们做的叫深度学习的东西。深度学习最早是 2006 年 Geoffrey Hinton 教授提出来的,叫 deep net。2009 年他还在继续做这个流派,到处推销。但当时真正大行其道的是另一种方式,叫统计学习。
我刚才说的非参数贝叶斯方法,其实是统计学习发展到高峰时的一种方法。所谓非参数,就是原来的模型结构和参数量固定,非参数的意思是参数可以动态变化,是一种很 advanced 的数学 formulation。它数学上非常优美,模型也非常灵活,参数可以动态变化。哪怕现在 LLM 的参数也都是固定的。
当时 MIT 主要的教授都在说要做统计学习,要把它做到很高的水平,因为它有很强的理论基础。反倒是深度学习没有很好的理论基础,坦率地说,只有一些计算方法,经常碰壁。当时形成了两个流派之争,我们很难建立几个非参数分布之间的关系。我提出一套理论,也引入了其他统计学思路,这件事就变成了可能。所以某种意义上,当时统计学习领域会觉得,这代表模型理论又往前走了一步,给了这项工作很高的评价。
但那会儿也正好是深度学习爆发的前夜。那篇文章是 2010 年发表的,到了 2011、2012 年深度学习就起来了。今天来看,那个领域回到了一个纯粹的学术领域,真正给业界带来巨大影响的是以深度学习为核心的方法。
注意力被深度学习吸走了。某种意义上,您在 2010 年那个节点,在概率统计这条主线上取得了很大成就,但其实在这个分界点,深度学习已经慢慢长出了枝叶。您因此错过了那条支线,对不对?后来大模型来临之后,您又回归了这条路。
我 2014 年回到香港之后,就开始全面转向深度学习。当时我回去也是到 MM Lab 当老师,整个 MM Lab 都在做这件事。后来确实已经看到了非常 positive 的实验结果,所以也没什么好犹豫的,很快就转型了,因为有非常充分的实验结果表明这是一条很有前景的道路。
我还特地查了一下您说的这篇贝叶斯非参数模型论文。同行评价说,它在数学推导上的严密性与优雅度非常令人称赞。我之前也听黄庭球、您的学生评价过,说林老师的数学非常好。
我觉得我的数学可能跟现在很多博士生差不多,做研究所需要的数学应该还是掌握了。但 AI 做的数学跟真正数学家研究的数学有很大距离。
您做了这么多年的 AI 研究,现在是完全走向实验派、应用派,还是内心还有一个理论派一直在挣扎?
5. Intelligence Beyond Language
我始终觉得应该有一些更 fundamental 的东西。那个东西不一定叫理论,但应该是一些方法,解决一个完全不一样的问题。它最原理的东西究竟是什么?我不追求有多少数学公式、多复杂的数学去解释这些原理。但这个原理应该能够有效解决现在其他方法很难解决的一些问题。
我看重的是这个,但不会只停留在用现有方法调数据、调参数来达成,而是会追问为什么现在的方法做不好。我举一个简单的例子:商汤虽然也做模型、做产品,但直到今天,仍有 20% 的资源投入真正没有任何产品作为出口的前瞻性研究。去年我们就开始做空间智能,今年年初发布了一些在空间智能方面表现不错的模型。
当初为什么选择空间智能作为商汤一个重要的前瞻研究或技术储备方向?我们会讨论,GPT 这样的模型未来有什么事情做不好。但我们还会再问深一个层次:这些做得不够好的方向,是不是只要加点数据就好了?是不是 OpenAI、Google 或 Anthropic 还没把这块数据加上去?如果沿着当时的道路再加点数据就能做好,那它可能有应用价值,但肯定不具备支撑原理性创新的基础。
有一件事情我们发现非常反常,大家当时信奉的叫 Scaling Law。Scaling Law 的意思是,模型参数越大,或者数据越多,在任务上就能表现得更好。
对。
但有一种情况叫反 Scaling Law:数据越多、模型越大,做得越差。
是什么?空间智能吗?
当时确实发现空间智能有些事情,比如 perspective taking。什么意思呢?假设我现在看见一个东西,然后说如果换一个角度看,离远一点或者拉近一点,会看到什么不一样的。人对这件事有判断。比如我走远一点,会预期你所在位置的事物变小。这是一种很自然的 sense。随着视角变化,看见的东西会发生变化。
但当时所有多模态模型,包括比较早期一直在做原生多模态的 Google Gemini,虽然表现算最好的,依然会发现它对 scale、不同 perspective 和 view 没有概念。
就是空间的理解。
对。它只是记录了大量图像和语义的联系,比如这是一只黑羊。我走远一点看是黑羊,走近一点看也是黑羊。它知道这是黑羊,但没有这个 sense:我走到另外一个角度看,黑羊可能看起来不一样。这方面的 sense 很弱。
我们尝试过继续灌更多相关数据,但发现效果反而越来越差。它会加强语义联系,但这些数据如果没有空间联系,它就会越来越依赖语义和某种固化的语义去解释所看见的一切。从这个角度看,数据越加越多,它的固化就越强,语言偏见也越强。
这也是为什么有一段时间我经常举一个例子:现在模型可能已经分析到这个问题了。当你看一张所谓“六指手”的照片,很多当时的模型,我们测过 GPT、Gemini、Grok 等等,都会说里面是 5 个手指头。对模型来说,首先反应是“这是个手掌”。它看过 10 万次语料说手掌应该有 5 个手指,于是脱口而出就是 5 个手指头。这是当时一个本质问题:它只依赖语义翻译,再基于这个翻译做其他推理。
过去很长一段时间,我们讲大模型,都是以 LLM、语言智能为核心驱动。我们会听到一些 LLM 派说语言就是通向智能的钥匙,加入越多多模态反而会拉低智商。
某种意义上,他们说的话不能算完全不对。真正意义上的原生多模态,要把它做好非常困难。所谓全模态输入、全模态输出,这是非常难的事。到今天为止,它的天花板依然很高。
多模态能带来很多变革,包括最近 GPT-6 对具身的冲击应该很大,我相信你可能接触一些业内朋友,应该会有反馈。它的上限很大,空间非常广阔。但要做好这件事,因为语言大模型经过这些年的发展,有很明确的工程经验可以借鉴,所以往前进展的速度会更快一些。
多模态不是让东西变得没那么智能,而是要探索出把它们放在一起之后不影响智能的道路,这需要花出代价和时间。
您讲的是一个更底层的逻辑:AI 怎么理解世界、怎么获得智能,以及智能到底怎么定义。我接触的 AI 研究朋友,对这个事情有几种不同的认知。
确实有同行认为 LLM 的核心就是语言。它走得更快,所以在产业界获得的关注更高,这是事实。还有一些长期做底层视觉创新的年轻学者会说,人没有语言之前已经能够在这个世界生活,靠自己的感受、视觉观察去打猎、养活自己。那时候没有语言、没有编程。最本源的智能从那时开始发生,后来人们逐渐创造文字。
如果从第一性原理去追寻智能的本源,本源就是人跟世界的交互。这个交互包括我们的五官、声音、视觉、嗅觉、触觉等等。所以有些同学想做纯视觉的智能,连语言都没有,只靠纯视觉把智能发展出来。但我对这件事有保留。我非常认同语言智能密度更高。为什么密度高?人在发展语言的过程中形成符号体系,把最重要的知识结构化,注入语言体系里。人类花了很多年做研究、做大量工作提炼出来的,某种意义上,它确实代表了人类知识和智能的很高水平,密度很高,用起来也很好。
所以我完全不否认语言蕴含的智能、智力密度和效率非常高,甚至是最高效的载体。我只是说单靠语言不完整,还有很多东西很难用语言表达。比如置身繁华闹市,和到寂静山林里,个人感受很不一样。但你很难用 1 万字把周边环境描述一遍。又或者我指着窗外的公园,你很难把每棵树、每朵花、每个细节纹理都用语言表达出来。
我们前不久有项工作,最近也在投 ICLR,讲频谱的概念。语言蕴含的其实是高频信息或高密度信息,但还有些信息没有经过语言浓缩,形成互补。我举个简单的例子:给最好的多模态模型看一个人的照片,让它尽可能详细地描述这个人。你写 2,000 字描述这个人的相貌,再拿生图模型画出来,那就是不一样的人。这说明这个人的画像里有些东西很难用语言表达,但那些东西决定了这个人的身份。
这些东西不一定需要语言。人在一个环境里生活,每天接触的人就是那些人,不需要到每个人面前说“我的孩子”或者“我的太太”具体长什么样,我让你看一眼不就行了吗?对这些事情,图像传递信息的效率远远高于语言。所以它们存在边界:有些东西语言效率更高,比如写程序、做逻辑思维;有些东西比如美感、空间结构的快速判断,以及偏视觉的精细特征传递,图像效率更高。它们有效融合、一起工作,才可能发展出更完整的智能。
我只是说,LLM 能够把智能推到很高的高度,但单纯语言并不完整。语言是一种非常高效的方式,但它也带来折损,甚至可能引导到刻舟求剑的地步。
您觉得智能由什么组成?
我觉得智能本质上就是一个人跟世界进行交互的能力。这个能力由多个不同方面组合在一起,形成一个复合的结果,包括感知、知识、记忆、多步推理,以及发出指令。这些都是智能的关键要素。
我觉得有个东西对智能的刻画蛮好、非常值得参考,就是人类 IQ 的设计。做 IQ 题会分好几种不同类型,考察空间能力、记忆能力、推理能力等等,某种意义上反映了人的智能有不同策略。现在 LLM 已经驱动出很好的能力,比如逻辑思维、推理、记忆上下文、完成长程任务的规划。
您眼中这 3 年多以来,大模型发展到什么样的状态?
首先,我觉得这 3 年的发展非常迅速,但智能发展不平衡。像数学、编程,甚至一些可以书写成文字和程序序列的长程任务,现在做得出来的能力可以超越普通人。包括最近 OpenAI 和 Anthropic 的数学比赛,都体现出它在这些方面已经远远超过普通水平,甚至顶尖水平。所以这方面非常突出。
但空间和物理智能的发展还处在相对早期。你会看到现在机器人发展也比以前快很多,但依然只是做简单动作。现在数字空间里的 AI 已经能帮你处理非常多事情,但让机器人帮你处理家里的工作环境,比如把拍摄设备全部设置一遍,我觉得它可能还做不到。因此,从数字智能走向物理空间,还有很多工作要做。
您刚刚讲发展不太平衡,让我想到 AI 领域的人才。您是 CV 出身,在 MMLab 早期做的很多工作都是 CV。很多原来做 CV 的学者会跨过 LLM 大语言模型预训练,直接跳到多模态模型训练。当然现在看到两者又在融合。我知道您第一时间就去做 LLM 预训练。您看到做语言和做多模态、原来做 CV 的这两派人,关注重点会不同吗?
会有,但我觉得已经交融得非常深了。现在很难区分一个人原来做 LM 还是 CV。很多原来做 CV 的人现在也去做 LM,也有一些原来做 LM 的人会去看看空间智能。我看到这种转变,每次在行业会议上遇到朋友问“今年你最近在做什么”,答案往往跟去年不一样,很多人都不一样。所以我感觉大家方向选择的变化速度非常快。
在过去更学术的时代,方向坚持的时间会更长一些,因为领域风向没有这么极致。我说的极致是什么?今年上半年大家会觉得 coding 最重要,不做 coding 就落后了、out 了;可能到了六七月份,大家又觉得应该做 3D rendering,因为 GPT 出了一些很好看的 3D 东西。哪怕是 Meta,它一直很纯粹、很专注做这个事情,最新版本也在不断展示一些三维 rendering 的例子。
最近这个潮流下,很多人会顺着潮流不断调整自己的方向。所以你刚才说的起源不同的人,现在可能都搅在一起,世界关注什么就去做什么。
这是好事还是坏事?
我觉得短期来说,这种状态能够让一个局部或具体方向获得巨大发展动能,迅速突破,带来商业闭环。商业闭环对整个 AI 行业是信心提振。事实上在 AI Agent 出来之前,已经开始看到一点点冷却苗头了。
您是说 coding 冷却?
不是 coding,我是说整个 AGI 或 LLM 这件事开始有点冷却。2025 年下半年,大家会看到它只能做聊天,于是把它比喻成高级搜索引擎、聊天工具、画图写诗的工具,但就是不干有用的事。这个时候产业或投资的耐心有一定限度。它仅仅触及国民经济产业的外围和边缘,没有进入最高价值的地方。如果没有新的突破,我觉得可能会有整个领域退潮的风险。
但今年包括 Claude、Agent 等等的一些突破,使大家看到它开始能够真正进入高价值生产力领域。比如编程是第一个,而且它能发挥真正的价值。到了今年,很多人问我:“林老师,你觉得 AI 是 hype 还是真正有价值的东西?”我觉得它绝对不完全是 pure hype,它有真正的价值。
当大家把以前自己写程序的方法叫“古法编程”,就说明大家现在都用 AI 写程序,至少在这个领域里它已经落地深耕。但一个赛道开始形成商业闭环时,初期会看到飞轮转得很快。这个飞轮加速有一个时间窗口,会不断加速,直到这个领域的价值很大比例都由 AI 承担,那时就会遇到瓶颈。
从整个领域长期发展看,它成功与否就在于能不能在非常广泛的生活和经济领域真正渗透、落地生根,成为基础设施。不止 coding,还有所有行业。
现在发展不平衡也体现在产业上。Coding 和数学发展到了很高水平,但我们的经济生活不止这两个行业,还有很多别的东西。
你刚才提到,当一件事发展到一定量、拥挤程度的时候,大家都聪明,会做判断:是不是千军万马过独木桥?有些公司可能会开始思考,别的地方是不是有更广阔的世界,慢慢有人去做其他行业,把能力释放出来。
我觉得这是一种经济学自然发展的规律。当一个事情突然爆发出巨大的商业可能性,大家肯定蜂拥而上,一起做。但慢慢格局沉淀下来,大家也会散开,探索更多可能性。这就是大周期也在发生作用。
想象力在一个阶段内见顶的时候,资源又会重新流入更多元的领域去做自由探索,是这样吗?您本人应该已经经历过第二个周期,因为第一个周期其实是商汤成立、AI 四小龙的时代。我很好奇,那个时代大家是不是也会一开始过于乐观,但到了某个阶段摸到技术周期顶部?会有这样的过程吗?
6. The AI Boom And Its Limits
会有。对很多朋友来说,那个时代好像已经很久远,但实际上也就是 10 年前。商汤是 2014 年成立的,深度学习真正被领域认知是在 2012 年,Geoffrey Hinton 教授用 AlexNet 在 ImageNet 上拿了冠军。这件事让 Deep Learning 出了小圈,出了它自己狭窄的学术流派,变成整个计算机视觉乃至 AI 领域积极探索的方法。
但那时还没有出大圈。即使到 2014 年,我们见投资人、公开演讲,大家也不知道什么叫深度学习,没人知道这个东西。AI 那时都不是很流行的词。真正带来全世界出圈影响的事件是 AlphaGo。
对。
这个东西全世界老百姓都看得明白:机器下棋超过人类、超过世界冠军了。很多时候我觉得 AI 发展的脉络不是线性连续的过程,而是一系列突破性事件定义的过程。从全世界的资本到普通老百姓来看 AI,关键事件就是 AlphaGo,因为这件事太容易理解:AI 下棋超过人类了。大家就觉得 AI 很快会在所有方面超过人类。AI 从玄学变成显学,投资就突然爆发增长。像商汤也在那个时候获得了很多新一轮融资和估值上涨。
但 AlphaGo 是专门为这一种特定游戏规则设计的 AI。Google 和 DeepMind 花了非常大的代价收集数据、训练、迭代算法,最后做出一个能下棋的 AI。同样,你去任何其他领域,都得重复一个类似过程。人脸识别实现大规模商用,当时有个很重要的名词叫“赋能百业”,意思是大家认为 AI 能够颠覆所有行业。商汤那时拓展了很多行业线,高峰时有 20 个不同的行业线。
那一刻你们也相信 AI 能够赋能百业?
如果你看我们当时的想法,我们确实相信赋能百业,也确实在越来越多的行业看到 AI 应用有真正价值。但为什么当时亏损?收入快速增长,但持续亏损,就跟今天一些大模型公司一样,快速增长过程中有很大亏损。不过原因不一样。
那时很多亏损并不是因为 AI 没用。它真的有用,没用我就不做这个事了。但做完之后算账,投入比产出多,或者投入比收入多,就叫亏损。为什么会这样?每件事情都要从收集数据开始,专门训练、调优模型,不断测试,做到能上线、进入真实生产环境。这个周期非常长,也不只是训练,全流程都得重新做一遍,代价非常高。
最终即使做出来一个东西,收入端的 AI 模型也没那么通用,应用面很窄,但做成模型的整个链条很深。链条很深、代价很高,做出的东西应用范围又窄,收入和投入就不一定成比例。
它没有办法形成边际成本递减。
对。每次换新场景、新行业,就又得从头来一遍。
商汤上市的时候写招股书,是 2021 年。那时我们提到一个很重要的数字:每年模型工厂会产生 4 万个模型。某种意义上,在这样的链条里,我们或多或少、或长或短地做了好几千次。有些所谓的 4 万个,可能是在一条轨迹下不断迭代出来的,并不是做了 4 万个不同的项目。但你会发现代价非常高。这就是那个时代 AI 行业最重要、最难的问题:通用化不行。
我们曾经考虑过,先把第一个 KA 场景打通,把第一个标杆客户落地。哪怕第一个亏了,只要能复制就能赚钱。但很少能复制。拿着这个东西去看另外一个客户,又得从头来一遍,因为具体情况有很多不一样。第三个客户看起来类似,一聊又有很多不同,又得从头来。所以没有一次是真正复制,复制比例不高。
这就是那时的 business。到了 2018 年、2019 年,行业里很多同事朋友都看到了这个痛点。所以通用 AGI 模型出来之前,AI 产业有所退潮。当然也会反映在股价等方面。
直到 ChatGPT 出来,大家觉得 AI 1.0 时代面临的这个有价值但非常昂贵的 delivery,好像找到一个新的解法:训练一个巨大的模型,把所有场景的数据传进去,就具备了所有能力。这样就能真正赋能百业,一次投入能做 1,000 次服务,提升水平线,让通用智能的可复制成本变得很低。
对。它甚至都不用复制,现在不都调 API 吗?调 API 就可以。
所以计价模式发生了很大变化。在那个时代核心就是项目制。不是你们不想做产品,而是做出来一个产品到另一个地方,人家说我需要一些自己独特的东西,要定制化,永远没办法完成真正标准化的过程。只能在做了无数项目之后慢慢沉淀公共组件,但距离标准化、广泛售卖的产品还是很远。这一次有什么相同和不同?
这一轮模型的通用能力实打实地有了质的提升。大家会拿着最前沿模型的 API 去做很多事,而且很多事情能做到可以接受的水平,所以它通用性很强。这个时候定制成本就会大幅下降。正因为还有定制,才会出现所谓 FDE 的概念。没有定制,就不存在 FDE。但定制会轻很多,有一些效率工具,比如 AI coding 工具支持,成本会降下来。
7. The Cost Of Staying Ahead
真正的成本在两端,一个是服务成本,也就是 token price,另一个是训练成本。训练成本这个事情,我觉得有一个 assumption 可能行业里面需要改变,而且事实上这个 assumption 不一定成立。大家会觉得,我花巨大代价训练一个很好的模型,比如几十亿、几百亿、几千亿,训出一个好模型之后就服务所有事情,那么未来大规模商业化就能把成本摊掉。
但行业现状是训练成本依然居高不下,不是因为模型不够好,而是你训了之后不继续训下一个,别人就会超过你。行业竞争也好,内卷也好,会使得你不得不持续高投入,一遍遍做下一个模型,训练成本就永远停不下来,而且越来越大。
所谓 AGI 竞争,就是看谁能做出 SOTA。最近这两天有国内大厂说,国外都说 10 万亿参数模型了,从 2 万亿、3 万亿、5 万亿到 10 万亿,新的更大模型的设想开始出来了,而且不止一家公司说要做多少万亿参数模型。所以训练成本始终不可能向下游摊,这就是现在面临的困境。
这是现在的困境和客观事实。我也留意到这一点。这一轮原生大模型创业公司,现在某种程度上就卡在您说的现实当中。宏观资本市场、投资人看的是全球 SOTA 模型竞争,你必须证明基础模型能来到全球智能前线,所以大家不停投入更多训练成本去训更好的模型。
但进入今年以来,这些创业公司也面临各种压力,所以开始做一个叫“甜点模型”的东西,寻找 sweet spot,跑通 ToB 的领域,先把智能用在小范围场景里获得收入。因为大家都是创业公司,都需要续命。一边要给市场、给投资人交作业,证明模型能力依然在前列;一边要在后训练落地场景交付价值、走商业化。但这里面有矛盾,因为资源就这么多,其实就是把鸡蛋放在哪个篮子的抉择。您有观察到这种现象吗?
我觉得大家开始更加务实地思考,对行业是好事。当所有人盲目做参数量竞争时,我觉得不是健康状态。我觉得有两件事反映出领域开始走向更健康的状态。
一个是刚才你提到的,大家可能更务实地选择模型规模。唐杰老师之前也提到,不一定马上追求万亿参数,参数足够、模型优秀也非常有价值。
第二,最近有个新闻,大家开始回过头来看预训练数据的质量。原来我做了 2 万亿、3 万亿,好像还打不过几千亿参数的模型。原因是数据没有治理好,里面有很多杂质,很多东西相互打架,效率被抵扣掉。最终模型参数很大,但效果未必比一个 Flash 级别的几百 B 参数模型理想。又贵又不理想,就被斩杀了,对吧?所谓斩杀线的概念。大家回过头来看数据质量、数据治理,选择在实用环境里更合适的模型,代表行业正在回归理性。
在这个理性状态下,大家不一定围绕某个具体的 benchmark 竞争,而是真正从最终用户价值出发,思考怎么用高效的方法把价值交付给用户,其实能走得更远。
你们成立商汤的过程中,肯定也经历过刚才说的曲线,肯定有被资本、投资人的期待带着走的过程。大概过了多久会意识到有点不对,开始重新找自己的节奏?
当然。我觉得在当前大模型市场上,坦率地说,商汤的声量可能不是最大的,但我们一直选择自己认为正确的道路。这条道路是什么?任何技术最终的生命力都来自有没有真实创造价值,这是最关键的。关键点不是说你在某个 benchmark 上有一点提升,因为今天你是 benchmark 上的 SOTA,下个月就不是了,这个东西留存不下来。真正能留下来的不是某个技术点或参数量,而是你是不是真正在用户中留下来,为他们创造价值。
我们内部讨论过很多次,讨论过是不是要做更大的 2 万亿参数模型。如果真要做,其实也有机会、也有足够资源。但这个决策代表机会成本:当你把大部分甚至所有资源砸在这件事上,其他事就没有资源了。这个其实就是你刚才说的有限资源下的取舍。
我一再跟大家说,所有决策不是非黑即白、非对即错,而是在你的资源禀赋和时间窗口下,哪些事情或事情组合能给你带来朝目标走的最好结果。
现在有两条路。一条是从 5,000 亿做到 1 万亿、2 万亿、5 万亿参数,追求超出别人的效果。能够做 5 万亿参数模型的公司,国内可能也有好几家。另一条是把参数放在几百 B 的量级,不断优化训练、架构和数据质量。这个过程迭代快很多,因为迭代资源消耗在一定程度上跟参数量成正比。你选择一个小几倍的模型,迭代效率就可能快几倍。快速迭代几个月后,哪个结果更好?
最近会看到各家在发 Flash 模型,包括 GPT-5.3 Flash、DeepSeek 4.1 Flash、Google 的 Flash,还有最近 OpenAI 出的 5.6 Soul。它们都很受欢迎,不一定是最大体量的模型。一个体量足够、经过良好训练和调优的模型,你会发现 DeepSeek 4.1 Flash 的性能比 4.0 Pro 更好。这说明 Flash 这个几百 B 的模型依然有很大提升空间。当然也许有一天它会真正到达 capacity 瓶颈,不得不继续往前走。
这里面更多讲的是火候。除了火候之外,两条路有没有信仰上的区别?
我觉得从我的角度来说,最终模型参数量依然是非常重要的 foundation。更大的参数会带来更高的上限。但参数所代表的上限,和你能走到的高度,在一个时间窗口内是两回事。如果给你 10 年时间,慢慢迭代,也许能非常接近这个参数量下的高度。但刚才我说,新模型迭代是按 2 个月、3 个月计算的,那判断标准就变成了两三个月之后,它能到达那个高度的什么位置。
所谓信仰,是最终要到达一个真正有很高价值的 AI 或 AGI。商汤过去十几年发展下来,最重要的经验是所有事情需要有闭环,才能有效迭代。否则只有刷榜,没有迭代。
我举个简单的理论例子:强化学习里面蕴含的道理很深刻。一种方式是在一个事情上走很远,拿到完整 feedback 之后再更新一次参数;另一种是小步快跑,保持高频迭代。但长期来看,后者得到的结果更好。所以你得在一个闭环里快速迭代,带来的效果和效率远远好于一个很长周期才能完成一次反馈。某种意义上,无论训练模型还是安排研发规划,我们都会非常关注迭代速度。
我想也是。卷到这个程度,原因就是要保证足够好的迭代速度,然后迭代方向是对的。一定得有用户,否则对着 benchmark 迭代非常危险。
在商汤整个创业史当中,大模型来临之前最痛苦的时候是什么时候?
最痛苦的时候有几个瞬间。2015、2016 年的时候曾经有一段时间比较危险。我们上一轮融资和下一轮融资之间,差点没有接上,那可能公司就挂掉了。当时汤老师自己拿个人资金顶住了一小段时间,让公司能持续发展。这件事公司里很多同事都知道。
另一个时间是上市前。我们已经准备好上市文件,10 月中旬要上市、挂牌了,突然上了美国的制裁清单。那一下冲击非常大。但后来上市只拖了两周,最后还是上去了。经过这些教训,商汤在很多投入上变得更稳健,不会遇到一个事情就把资金烧光,想着如果两个月拿不到新钱就挂掉,肯定不会做这种很危险的事。
您参与了商汤整个生命周期,看这一波大模型创业潮时,好多创业者都非常年轻,就像你们当年那样。您会为他们捏一把汗吗?
我觉得倒不用为他们捏一把汗。这里面肯定会有一部分公司最后未必继续存在,但市场里也会有一部分公司留下来。
汤老师说过一句话,我觉得非常好:“Life will find its way out。”遇到什么情况,一个有生命力的东西,或者一家公司,总会找到自己继续往下走的道路。也许最后不一定跟最初想的道路一致,但它会找到未来继续发展的空间。
经历了十几年之后,有些东西可能没有以前那么执着。您刚刚讲汤老师那句很有名的话,生命自寻出路,或者生命自有出路。什么样的人、组织、公司可以被视为一个生命体?标准线在哪里?
就是它会不断孕育,我觉得这是最重要的。它不是静态的,而是动态的。这个动态反映在一方面有传承,另一方面能够跟着时代不断革新自己,而不是固守在原来的认知里。
当初徐立有一个定理:如果今年有些判断,过一两年再来看,当时的判断全都是对的,那她就会觉得这家公司没有发展、没有成长。因为你觉得两年前想的事情到现在还是一样,说明你的认知一成不变,没有发展。
第二是人才结构。很多优秀同事出去了,也会有很多更年轻、很优秀的人进来,在这里面做出很好的结果,说不定过两三年他们也会出去。我自己手下的同事,这两年陆续也有人创业,他们融资也做得很好。
我觉得这相当于他们在商汤学到了一些东西,在这个环境里获得成长。包括闫俊杰,比如在商汤的环境里,他对商业世界有一些认知;到 MiniMax 之后,可能会有自己的思考,设计该怎么走的道路。这代表商汤能够培养人,让人在里面成长。对商汤来说,你在成长的某个阶段创造了很多价值,后来选择离开去做其他事,也祝福你。这些成长带来的价值,对商汤本身的成长也很好。
您觉得如果没有商汤,中国 AI 会有什么不一样?
我觉得有了商汤之后,中国 AI 多了一些有活力、愿意创造、追寻不一样梦想的年轻人。这也是我们创立 MMLab 的时候,汤老师给我们最重要的东西。不是他在具体学术问题和技术问题上给的指导,而是他对人生和理想的引导。
你会发现 MMLab 出来的很多学生非常富有梦想,我觉得这是最有价值的地方。
您讲到了一个特别感性的部分。我之前在采星球的时候,记得那一期里面我们俩花了挺长时间聊 MMLab。我觉得他聊到 MMLab 氛围的时候,眼神里的光和向往没办法伪装。包括您刚才开场送我黑羊的时候,我很惊喜地听到,原来它不只是“黑”是重点,还有 less aggressive,是一个友好的氛围。
我们正在经历的大模型故事,市场决定了大家是强竞争的。但这个领域又由一群科学家、原来的学者组成,大家好像很温和、很理想主义。您在其中会感受到这种氛围在打架吗?
还是回到黑羊来说吧。你的眼睛看向哪里,会影响你的行为。如果眼睛看到的是竞争者,你就会持续处在非常高的竞争压力和焦虑当中。他做了什么,我是不是也要投入,做得比他更快更好,快速出一个什么东西。
汤老师说黑羊 less aggressive,在他的表达里,他有时候给年轻人上课、做讲座,最愿意寄予年轻人的是什么?是同理心。同理心是什么意思?比如我们构建合作的时候,要考虑这个合作怎样才能长久,别人会从合作里得到什么,而不是合作里只有我自己,别人也要得到东西。
另外,如果我们做一项技术或产品,它的目的是打倒竞争者,还是给用户带来价值?我想这是很大的区别。
商汤在大模型来临之后,对“想给用户什么”这件事有一个 reshape 的过程吗?
有。首先,我们并没有两三年前就有一个非常宏大、非常精准的战略判断。商汤的路是走出来的,不是想出来的。这一点我觉得非常重要,也是汤老师给我们的一句话。
你是在攀登一座山。登山的过程里,有时候你并不清楚真正登到峰顶时看到的风景是什么;走到 1 公里之后,岔路口在哪里?有很多东西很难判断,也不能天天只想着得不到结果,还得先往下走。汤老师在一次年会上给我们的寄语是:你要走好脚下的每一步路,最终会到达一个比现在更好的地方。
我们非常尊重年轻人的创造力,而且是用符合科学规律的方法尊重他们的创造力。很多产品和技术团队都允许有少量资源去做一些可能徐立和我不知道的事情。我们知道他们在做一些我们不知道的事情,但很多时候让我们惊喜的东西也从这里出来。
当一件事情开始显现技术突破的可能性、显现用户价值,我们就会加大投入,把它做成重要产品、重要业务、重要方向。
从产品角度说,我们的小浣熊现在依然是非常活跃、持续发展的办公智能体产品;还有 Seko,是做短剧、漫剧创作的平台,现在也获得了很多用户。商汤过程中还有很多别的东西,有些可能已经消退了。
这两个产品是慢慢走出来的。商汤最初做的大模型产品不是它们,叫“商量”。现在这个产品处在维持状态。事实上 2023 年初,它的构建也很接近其他当时的聊天产品。但你会发现,当时包括智谱清言等产品也出来了,大家可能都觉得这才是最重要的事。
但走到一定程度,我们意识到,根本不在于模型做好,而在于背后有没有一个很强的搜索引擎。当时有一版“商量”做好之后,我给太太试用。她当时在青岛出差,你知道她问的第一个问题是什么吗?她说:“商量,请问附近 5 公里有哪几家值得推荐的饭店?”然后它就胡诌了一通,因为没有大众点评这样的搜索引擎和数据,很难通过对话回答。
用户大部分对话不是问照片里面是猫还是狗,也不是问一段文字怎么样,而是问生活中遇到的各种具体问题:我要去哪个医院看病、去哪里吃饭、开车去那个地方怎么走。这些事情和用户贴身相关,但这里面不只有模型。模型只是一个加工器,还需要大量信息输入。商汤没有做搜索引擎,所以那时候我们觉得这对商汤的资源禀赋来说,长期不值得重点去做。只要这个产品能发展到一个很好的方向就行。比如豆包依托字节巨量的信息基础设施储备,百度为什么没有做好是另外一个故事,但最起码这是必要条件,不是充分条件。所以在 2023 年底,我们觉得这不是战略重点,应该做别的事情。
当时商汤做大模型产品的事业群叫 CNI,Content and Interaction。我们认为模型带来的变革,一个是内容的变革,一个是内容交互方式的变革。内容有两种,一种是工作内容,一种是娱乐消费内容。所以我们形成了现在以办公为主的小浣熊。最近市场上很多大厂都说做办公,我们两年前就开始做办公。另一个是内容创作,Seko 是一个视频创作平台。
我向大家介绍 Seko 时,尤其今年年初 2.0 出来后,我们其实非常迷茫,甚至觉得要不要做下去。我去见投资人、行业会议上的人,他们都问一个问题:“那你跟 Seedance 有什么区别?你能做得过它吗?”后来我们想清楚一件事,想清楚之后,反倒使得 Seko 到今天依然保持很大的生命力。今年它的用户应该增长了 7 到 8 倍,开始赚不少钱。
原因是什么?坦率地说,如果单拼视频模型生成质量,我们比不上 Seedance 2.0。它体量巨大,字节花重金投入做了很大的模型,生成的视频片段都是电影级别的,这个我觉得现在做得非常好。
但我们接触的是大量下游创作者,他们最终目的不是 30 秒短片、30 秒片段,而是 100 集的短剧。从 30 秒的优质片段到 100 集短剧,这是一个完整的创作过程。你要考虑剧本、分镜、人物原型、人物动作等等,是创作者和艺术家一整套思考和创作过程,落在自己的 storyline 上。等所有这些完成之后,再用 Seko 渲染出来。
所以在我们的整个体系里,视频生成可以是 Hunyuan、Sora 或其他视频 generator。但我们视频部门不是视频生成团队,而是“图到 V”团队。我们理解中的创作和生成完全不是一个概念。创作比生成大很多,它有非常大的空间。
因为这样的认知,我们专注打造很好的创作过程,把理解与生成统一、图文交错思维等技术亮点,以及跨剧集的人物形象一致性融进去,再借助 Seedance 的高质量渲染能力。这样就形成了很明显的区分。直到今天,行业基本也认知到,直接拿 Seedance 做端到端的影视创作,还是有很多工作要做。对大部分人来说,他们不具备足够的能力把整个体系搭起来。Seko 就是把这个体系交给他们,融入我们自己的技术,同时借助底层高质量渲染。
其实你们是可以和 Seedance 合作,进入生产工作流,而不是互相替代。
对,对,是相互错位的关系。
所以现在的新业务带来了不少生成式 AI 收入,是吗?我看财报上是这么显示的。
对,实际上有 4 个事情。我们在今年中期业绩公告的时候说到,小浣熊增长了六七倍,那时有几十万日活、几百万周活。Seko 也有上百万创作者在使用,他们创作了很多短剧,有的短剧播放量过亿。这代表它已经把最终端用户的价值闭环走通了,形成了很好的积累势能。
另外一个是 Token Plan,就不详细讲了,各家都在尝试、探索。还有我们出来的 U1 模型,4 月份出了 U1,某种意义上验证了架构是通的;到了 U1 Pro,七八月份,以及最近出的 U1.5 Lite,性能自然已经有很大提升。
开始对公众服务之后,我们每个月图片生成的调用量和 6 月份相比增长了 10 倍。这些增长都是比较自然的增长,因为我们不会强求。
还回到刚才那个问题,怎么运营一个产品?我们不会判断一定要重投入 A 或 B,而是看产品做好之后会不会有很好的自然增长。看到增长之后,我们才可能加大投入。不是完全不知道产品是什么,就因为领导意志强行把一个不成熟的产品推到不该有的高度,而是当它成熟时,我们助力一把,让它更快滚动起来。
就把产品也当作生命体。
对。如果它是真正的生命体,自己会寻出发展的路径,我们就帮助它成长。
就在一个月前,你们发布了半年报,受到很多关注。微博上有很多关于这份财报的讨论。官方把它称为首次盈利,也有媒体强调经调整后仍亏损 3.86 亿元。大家都很关心到底有没有赚钱。如果用一个口径向微博用户解释商汤到底赚钱了没有,回答会是什么?
动态来看,所谓赚钱不赚钱可能有不一样的财务口径。起码在某些口径是有盈利的,可能其他口径是亏损,但大幅度收缩。无论哪个口径,都会看到整体盈利状态持续变好,这是一个比较 solid 的事实。
但我想更多观察的,是商汤是不是变得更健康、更有生命力。这才是我们真正关注的事情。财务指标某种意义上反映了我们正在变得更健康。我们的“一加 X”战略,是把原来很多业务,比如我刚才说的 1.0 时代赋能百业,看到很多行业可能落地 AI,于是铺了很多行业线。今天也会不断有新机会冒出来,变成新的行业线,但我们有了新的认知:任何一个行业方向的培育都需要时间,中间需要有一段亏损过程。
这段时间究竟怎么处理?以前有两种方法:做或者不做。不做就砍掉,可能会失去某个事情短期亏损后长成参天大树的机会;做的话,又承担不起那么多业务线带来的巨大财务负担。
我讲个故事。商汤有很多产品团队、研究团队,真的很想把事情做好,所以往往在要资源时也比较 aggressive。但当他真正要成长,从技术负责人或产品负责人成为一个独立实体的 CEO,就要考虑更多事情。他真正在市场里求生存、求发展时,原来在集团内部做这个事情,可能会找领导要 50 个人;现在我们说,你要变成一个在市场上发展的公司,我帮你融资,你带几个人出去做这个公司。他可能只带 5 个人。
这时你会发现,市场能带来的竞争很严酷、很激烈,但对创始人本身是很好的成长,对业务来说也会更加健康、有活力,而不是纯粹要资源去做一些自己没太想清楚长期价值的事情。这样会让原来大量业务变成更加有活力的实体。商汤太极也持有其中一部分,所以也获得了很好的收益。商汤整体除了集团本身之外,还有这些持有的收益,财务抗风险能力就会变强。这使我们有很好的空间去试错,做一些相对有长期意义的事情。
所以商汤现在的“一加 X”战略,简单来说就是把商汤作为母体,孕育出很多新的生命体,但把它们放在自由市场里,让它们自己寻找出路。
对,而不是想用一个商汤装下所有可能性。更加开放的体系,长期来说更加健康。
是严俊杰和 MiniMax 的出现推导出“一加 X”战略的吗?
其实不是。是商汤自身发展到了一个点,会觉得这样对商汤、对每个业务线都更健康。因为在俊杰和 MiniMax 成长到今天这个规模或市值之前,商汤已经有很多公司出去了。
包括汤老师始终在培育人这件事情,是一脉相承的。您现在看待人才和 10 年前看待人才,会有什么认知上的区别吗?
有一些区别。10 年前我看一个人才,可能看他做技术、做研究好不好,做得好就是人才。也有另一些人不一定在硬核技术上最优秀,但有很多活的想法,可以找到新机会,让公司和业务得到发展,这些也很有价值。
所以过去 10 年,我对人才的观点逐渐变得更多元。我不会用一个模子框定谁是人才、谁不是人才,而是允许从不同角度看一个人的价值。
商汤在成长早年间被高度热议的一个话题,就是科学家创业到底行不行。科学家创业作为一个名词,在中国、或者在世界,一直都被讨论。现在这一轮大模型浪潮里,科学家创业成了主流。有没有可能一个人既是非常好的科学家,又是非常好的创业者?这两个身份可以同时并存吗?
我没看到本质上一定不能并存的逻辑。但关键是,这位原来技术或研究出身的创业者,一定要成长,打破原来自己固有的研究领域认知。
我有些学生出来创业。甚至星球出来创业之前,他就在旁边一家餐厅跟我吃了顿饭,当时还没有正式出来,征询我的建议。从一个原来研究做得很好的人,也就是科学家或研究者,走到一个能在业务上获得更大价值的 CEO 或创始人,其实有几道坎要过。
第一道坎叫从技术认知走向产品认知。很多做研究的同学认知是:“我做的技术很牛,你应该用我的。”但用户会觉得:“你不解决我的问题,我为什么要用你?”这就是拿着锤子找钉子的过程,很痛苦。我花很多心思把技术打磨到自认为很好,但用户不买账。事实上,当你站在用户的角度去看——这也是为什么我觉得汤老师说同理心很重要——你从他的角度来看,他天天有业务压力、背 KPI、有营收压力。你不解决他的问题,还占他的时间,他为什么要用你?从技术思维到产品思维,就是视角从自己转向理解别人的需求。但这只是第一步,让东西变得有用。
第二步是让它有用变成能赚钱。就像我刚才说的,商汤早年做 AI 1.0 时代的赋能百业,大部分项目做出来的东西都是有用的,但最后算账发现投入比收入多,不太赚钱、会亏损。怎样让事情赚到钱,是很难、也很开放的课题。我想现在高速发展中的大模型公司,也要学习这一课:让它从高速增长变成持续盈利的周期。这一块还需要很多 lesson 去学。
你的产品能赚钱了,能不能持续赚钱又是另一回事。这里有竞争逻辑:一件事情一旦赚钱,别人都会去做,尤其在中国,你赚钱了,别人就说“这个钱我也能赚”。大家都来做同一件事,既要抢客户、进行商业竞争,还会打价格战。你本来能赚 5 块钱,利润可能被压到 1 块钱。
而且这在真实的上下游关系里很常见。比如我们作为某家客户的技术提供商,很多客户会说:“我再拉一家过来。”哪怕他觉得那家做得不如你好,也会养着那家公司、给一点订单,因为不能只押在你这棵树上。所以怎么持续赚钱?你要形成更稳固的生态,形成持续的竞争壁垒。这一步要想清楚,也要在实践中落地。
如果这些问题都能一步一步走出来,我想就完成了从科学家到成功创业者的过程。但这些问题都不容易,刚才说的好几个问题,商汤也不是每个都有很好的答案。
您刚刚讲的三个阶段里,关于赚钱了之后如何持续赚钱,我觉得很有意思。您刚才说新业务创造了不错的增长和收入。
对。
我也看到一些大模型创业公司,现阶段可能在刚才说的 sweet spot 领域有不错的收入。但今天这个竞争形态下,很多人都会关注:看起来做基模的大厂有机会无限往下游衍生,到底什么东西会被基模吃掉?你现在能够赚这个钱,未来比如 Seedance,它会不会继续扩充能力、再往下游衍生?包括一些做后训练的基模公司都在做,把各种各样的 skills——
吃进模型。原来很多细分垂类的机会,他们也可以把这些能力训练到一个通用模型里面。你现在赚的钱,未来会不会被字节或者别的大厂赚走?所以这里就回到刚才所说的,生命是动态的。
我觉得如果我们固步自封,肯定早晚会被上游或者下游挤压掉,这是毋庸置疑的。所以在这个过程中,最重要的是团队能够始终保持活力,因为团队本身有创新力、创造力和技术能力。如果真的躺在今天做的事情上,不再往前发展,潮水涨上来的时候,就无路可退了。
事实上,即使是大厂,也有自己的主战场。比如现在做办公,小浣熊做得比较早,但现在很多人可能会说,字节、腾讯、阿里都下场做办公,而且把它作为第一优先级,投入大量资源去竞争。即使你有一定的先发优势,也抵不过大厂巨量的资源和流量投入;它们本身还有腾讯文档、飞书、钉钉这些平台,以及庞大的客户基础。
所以我们已经有了一些思考:当前阶段,我们不会用自己的劣势去打大厂的优势。我们没有那几家互联网公司那么大的流量池可以导流,但所有办公也好,工作中的 AI 也好,最终都是为了创造价值。价值的深层次,不在于帮你处理文书、写几个 PPT;那只是比较浅层的工具型价值。用微笑曲线来讲,一端是资源,一端是出口,中间是工具。工具经常会被两边挤压;不同时代总会有些缝隙,给工具留出生存空间,但核心问题是:如果以最终价值为依归,如何打穿整个行业?
我们现在会发现一个很重要的事情:哪怕是最顶尖的模型,真正处理具体问题时,也有很多不完整的地方。关键是你得有闭环。有了闭环,你的认知成长速度就可能超过模型能力成长的速度,这样你总能找到下一步的空间在哪里。所以关键比的是认知成长。
我觉得所有生命力最后都回归到人。就像您说的,如果组织里始终孕育着非常棒的人才,我相信它就会有生命力和可能性。您们最早做 MMLab 的时候,还是前 AI、前大模型时代。您说当时整个学术领域比较纯粹,年轻人面对的资源和诱惑没有那么多;但现在,一个年轻的优秀学者会面对大量资源和诱惑,外部环境变了,你们孕育人才的过程会不会有所变化?
这里我想问的是,我们都知道汤老师离世了,您应该继承并发扬了他的那套人才观。在这个过程中,您选择继承的是什么?有没有需要调整和改变的部分?
开放和同理心,以及帮助人才找到成长道路的宗旨,是一成不变的。但每个时代都有具体的要素变化,不能刻舟求剑。
比如大模型出来以前的 AI 时代,和现在这个时代,研究模式发生了非常深刻的变化。那个时代,大家可以各自用相对低的成本闭环做一件事,比如各自训练模型。最后我们的 Model Factory 可以训练出 4 万个模型,这个成本大家都能承受。到了今天,没人会说一年训练出 4 万个大模型,这不可能成立。大家协作的方式就会发生根本变化:不一定每个人都去按训练模型的按钮,因为每次代价太高,只有少部分人能做这件事。因此,我们引导大家做事情时,会让他们站在更广的角度去思考,自己能在其中发挥什么价值,而不是认为只有训练模型才是有价值的角色。我想在这里要进一步多元化。
另外一点是打造影响力。上一个时代,我们可能更多强调研究结果做得更好,有学术影响力、有技术突破。今天大家可能更急切地希望发挥个人影响力,这种倾向会重很多,所以我们也会给大家一些指导。
第一,我们理解每个人都希望自己成为更有影响力的人,这是无可厚非的。但我们会告诉他们,用什么方式获得的影响力才能持久,而不是蹭个热点、做个跟当前热门话题相关的东西。那种热度可能不到一个星期就转移了,什么也没留下。我们会鼓励大家去做可持续的影响力。什么影响力更持久?解决问题、创造价值带来的影响力是持久的,而不只是宣传上的包装。
还有一点是不要跟风,这非常重要。整个职业生涯里,我和团队做过很多工作。实话实说,有很多工作最后泯然众人,没有形成真正的影响力;也有少部分工作确实在一个历史时期产生了很大的影响。
举个简单的例子,OpenMMLab。至少在 AI 1.0 时代,它应该是 AI 领域影响力最大的开源体系。当时已经有十几万个 GitHub 星标,真的有几百万开发者或研究者在用。我们一直在反思,为什么当时能做出这么大、这么有影响力的开源项目?原因是我们捕捉到了一个大家没做的事情。
当时大家都觉得,我要做最好的算法。但 OpenMMLab 反其道而行,它提供的是一个让大家放入代表性算法的平台。它本身不是一个最新算法,而是把大家的算法都放进去。新的研究者要做实验时都会做对比实验;有了 OpenMMLab,你只需要专注开发自己的算法,其他算法由它提供。这样很多人愿意用它,省了很多事。这个事情以前没人做,你提供了完整的算法体系,自然就有很多人使用。
在今天,这可以类比千问的开源系列。不过千问最近的开源战略发生了一些变化,这是后话。至少此前,千问做了很好的开源模型生态。它的生态好,是因为千问的模型每个时代都是最顶尖的吗?可能并不是这样,但它提供的价值很完整:大、中、小模型都能在这个体系里找到,也有很多工具。大家自然会觉得它有用。哪怕模型在某些性能指标上比别的模型略有欠缺,大家还是会觉得好用。
当别人已经把一件事情做得很好,使用这个工具也能把事情做好,你再做一遍轮子,意义就不大了。但世界上还有很多问题没有解决,还有很多事情 AI 有潜力去做,却还没有人去做,这里面有很大的发展空间。所以我们会鼓励大家去做这样的事情,想清楚自己最终要做什么,是现在已有的东西做不到的。
您提到 OpenMMLab,为什么你们能够做到让大家把算法都开源出来,形成这样一个社区和算法库?
2018 年的时候,我推动了这件事。源头其实是这样的:MMLab 本身有几十个同学,天天要做各种计算机视觉算法,也经常要复现算法。大家就会互相问师兄师姐、师弟师妹:“你实现过这个吗?如果有,我拿过来,就少做一件事。”这是一种很自然的想法。
你会看到,这里形成了一种需要人的活动,只是当时用很山寨、很临时的方式来做。我们捕捉到这个点,就觉得这是有价值的事情:你希望别人提供你不想做的东西,这不就是价值吗?所以当时我就跟陈凯说,我们一起推动一下,联系一些学者。这也许是一种网络效应。任何研究者如果希望自己的研究有影响力,肯定希望自己的算法被很多人使用。
OpenMMLab 更多是学术层面的东西。大家发论文,是为了保守自己的技术秘密吗?不是,是为了让更多人知道自己的工作。做开源,是希望自己的工作被更多人使用。以前没有渠道,大家只能口口相传,或者零散地开源一些东西,再到处找;而且格式不一致,这是个非常大的问题。别小看格式问题,我赶一篇论文的时候,每用一个算法都得把数据重新组织一遍,非常痛苦。
现在做 AI 研究,大家会觉得做一个新算法最重要。但事实上,把数据整理好、对齐好,把实验设置好,花掉每个研究员 70% 到 80% 的时间。做菜前要花很多时间备菜。准备好数据和测试管线,这些苦活、脏活才是真正别人需要的东西。当所有人都抢着站在聚光灯下时,水面下那些不那么显眼的部分,往往孕育着很大的价值。一旦你把它做出来,别人就会用你。
这跟我自己的价值并不冲突。我的价值是发一篇很好的论文、做出自己的算法;做基线实验时,我不介意用别人的东西,但我非常介意别人抢我的成果。你给我提供苦活、脏活或者基础性的支撑,我完全不介意。
所以 OpenMMLab 做出来的时候,很多人觉得它有很好的起步基础:MMLab 有几十个博士生,只要把他们的算法整理好放进去,就已经是很好的开源算法库了。当时我们也是计算机视觉领域的高地。它有了影响力之后,其他学者也会来贡献,包括国内外的学者,生态就慢慢起来了。
供给者觉得,把算法放进这里,会被更多人看到和使用,文章会被更多人引用。一个算法进入 OpenMMLab 的基线库后,别人就会拿它做基线,写进论文,原创者就多一个引用。所以这件事情给双方都带来了价值:给需求方省事,给创作者带来更多认可。生态就在这样的情况下孕育起来。你一定要满足人性、满足大家的需求,这个东西才会有生命。
我觉得特别有意思。学术圈在我看来很美好,是因为它创造了一种共赢、开放、利他互利的环境,有点乌托邦。最近这段时间,我们可以看到中国走了一条开源的道路,而且似乎取得了非常不错的成果。现在以 Kimi 为代表的模型,已经成为世界上最优秀的开源模型,甚至可以和美国那些 SOTA 闭源模型较量。您觉得开源在中国为什么会走成这样一条道路?
8. Why Open Source Works
你刚才说到了利他。我觉得这个领域里很多人都是好人,但他们做事情时肯定也有从自身利益出发的想法。只是开源体系正好把这两者的关系理顺了,让大家成长、获得回报的需求可以通过开源的方式释放出来。
举个简单的例子,为什么中国很多团队开源很积极?他们肯定认为这件事符合自己的愿景或者利益。闭源模型要产生影响力,比开源模型更难。开源模型毕竟免费,或者可以下载下来部署,用它的方式更多,大家会觉得开源是免费的东西。对开源者来说,开源的目的是获得影响力。如今影响力的价值非常高。虽然它不是卖东西获得的真金白银,但有了影响力,可以去争取机会、找到一份很好的工作,未来也会带来其他收益。
所以每个人开源,可能都带有自己的诉求,但客观上,当所有人都做这件事时,就带来了一个繁荣的、有竞争的开源生态。这个生态确实给美国的模型带来了挑战。现在很多日常工作场景里,某种意义上是智能过剩。你不需要花几十美元用一个特别大的模型;也许用一个 8B 或 32B 的千问,就能把事情做好,为什么要把这些 token 的钱交给 OpenAI 或 Anthropic?
所以我觉得,模型市场未来不会只由 OpenAI、Anthropic,或者国内的字节、阿里、智谱之类的某一家公司主导。这里面有三个要素在博弈,甚至像一个不可能三角:成本、通用性和专业性。通用性是指我能做多少种事情;专业性是指我做某一件事情时,能做得很深、很可靠,成功率很高。
理论上可以做出一个既通用、又在每件事情上都很专业的模型,但代价是需要非常大的模型,服务成本和训练成本都非常高,一定很贵。小模型可能花 1 块钱就能做的事情,大模型可能做得差不多甚至更好,但要花 100 块钱,因为大模型还有 100 种你用不上的功能,你却得为它们付钱。只做一件事的时候,就没必要了。
所以相对小、但专业程度高的模型会有很大的发展空间。产品竞争力除了功能,也包括成本。竞争充分时,成本一定会带来压力。那些没那么大、减少了通用性、换来更低成本的模型,会有很大而且可持续的发展空间。任何大厂,哪怕 OpenAI,也会推出不同规格的模型,不会把所有需求都覆盖住。这就会留下很大空间。现在 Hugging Face 上也有 300 多万个模型,各自做很多不一样的事情。
所以中国看起来是走了后面这条路,有点像农村包围城市。我比较好奇,这个转折点在哪里?我的观察是,DeepSeek 去年年初在全球产生的影响,带动了中国其他模型初创公司走开源路线,是这样吗?
我觉得它有很好的示范效应。大家一直都会觉得,包括我自己最初在上海实验室推动开源时,也会想:开源赚不到钱,那投入怎么回来?当然,在实验室里无所谓,毕竟是国家科研机构,没有一定要赚钱的逻辑。但很多公司会面对这个疑问:为什么要开源?对公司营收有什么帮助?
技术负责人推动开源时,公司领导层可能会问这件事。你说长期能带来口碑、人才或者其他价值,却没法用一个定量公式算出营收。所以要回答这个问题非常困难。开源生态一直打不开的一个原因,就是大家很难说服公司管理层相信开源能带来长期正面价值;说白了,就是算不清楚账。
DeepSeek 开源之后带来了非常大的影响力。过程中有几个因素在起作用:它确实把强化学习做得很好,开创了一些新的技术路线,效率也很高,比如 600 万美元训练一个模型。但开源肯定是它扩大影响力的一个重要因素。所有公司都看到了,开源是获得影响力、尤其是初创公司提高估值的直接途径。在这个明显的答案驱动下,大家肯定会走向开源。每家公司都是从自身利益出发考虑,但客观上也形成了很好的开源生态。
Kimi、MiniMax 都走向开源之后,似乎大家的迭代和模型表现都变得更好了,这是偶然吗?两者有逻辑关系吗?
有一定的逻辑关系。开源促进了技术传播。模型迭代是什么过程?大家会觉得是拿数据训练,但真正训练最终模型,只占模型研发成本的 10% 左右。剩下 90% 的事情是做各种实验,尝试不同的配方和技术。
通过开源、开放模型权重,大家能更快地获得别人正在做的技术,这客观上促进了技术快速流通。技术流通之后,你就可以从社区发布的一系列最新技术中,挑选最有可能的方案去做实验、做适配。挑出前沿、优秀技术的速度就明显加快了。
如果没有开源,所有东西都要靠一家公司里的研究团队自己想,肯定不如整个社区一起动脑筋、一起验证来得快。所以某种意义上,为什么我觉得国内模型实际的资金投入总量跟美国有很大差距,但还是能追得这么近?原因是有大量的试错成本。中国人非常聪明,一旦知道某件事情走得通,把具体技术方案找出来其实很快。最担心的是不知道路在哪里,不知道往哪个方向走。
为什么知道走得通之后,就能很快找到技术方案?因为技术原理有很多相通的地方。大家对大体的技术方案有一定猜想。举一个简单的例子,最近 GPT-6 出来了,它会带来两个启示。我先说 DeepSeek:你刚才提到的 DeepSeek R1,在 2025 年出来后影响非常大。它带来了一个重要的技术范式,叫基于可验证结果的强化学习,也就是根据可验证的结果不断对答案做强化学习。之前大家用了很多不同方式,后来它验证走通了。论文里可能写了部分细节,但有些细节没有完全写出来;大体上,技术方向应该是这样设计的。剩下再做一些实验,把细节补上,这件事就走通了。
现在最新的 GPT-6 可能也有几点启示。第一,社区普遍猜测它背后用了循环 Transformer:一个 token 会在网络里走几圈再出来。这个方法在模型公布之前还是很学术的探索,现在 OpenAI 已经把它做到旗舰模型上了,那大家就会赶紧做,说明这条路已经被验证了。具体方案在很多学术论文里都有,接下来就是把一些细节弄清楚、把规模做上去。
以前大家觉得做具身智能,需要做 VLA,后来更进一步讲 World Action Model。大家没怎么想过用 LLM 驱动机器人,但现在大家会知道,OpenAI 在训练 GPT-4 时灌入了大量具身数据,出来的机器人驱动效果非常好,给具身智能行业很大冲击,也指明了一条路。大家就会投入资源,不断收集大量具身数据,训练一个更大的模型看看效果。我相信几个月也能做到它八九成的水平。
大家看清楚了路,也有了大致靠谱的技术方案,剩下就是通过实验探索细节。你不需要为 100 种方法做实验,只要为这一种方法做实验。
明白。但我很好奇,按照您刚才解释的路径去走,是不是永远只能亦步亦趋地跟在美国身后?
确实有很多公司在做这件事,但拼什么?拼手速。美国出了什么东西,看谁能最快做出一个中国类似的东西,抢占一个生态位。这是很多公司正在实践的做法。
说实话,拼手速很累,因为别人也在拼。我们发现一个现象:美国、OpenAI 或 Anthropic 出了一个新技术之后,国内会在两三个月内,不管采用什么方法、完善不完善,都出来一堆宣传使用这个方案的东西,去抢占生态位。但如果只有一家抢占,那可能就给它了;结果有 10 家都在做这件事,比如现在 ISI 也有很多人在做。我不是说这样不好,但你会发现大家看好一个东西,就会全部涌进去。
可这件事并没有形成长期价值。我觉得一家公司的长期竞争力,不是靠不断跟风,而是靠在一条道路上持续复利,走得足够长、做得足够深,别人就很难达到你的高度。你选择的道路可能不是市场上最热门、最主流的道路,这时你能不能坚持自己的信念,继续做下去?
沿着您刚才讲的规律,我也发现,不管是具身智能还是大模型,某种程度上仍然是美国那三家在定义 SOTA。模型公布之后,就像您说的,给中国创业者和从业者指了一条路,大家迅速把资源集中到那个方向,做出中国式的成果。我们确实能用更少的资源训练出成本更低、还能应用的模型,所以过去半年里对硅谷形成了很大冲击。
但大家似乎一直跟在美国身后做事情。如果把所有注意力和资源都投在这条路径上,似乎很难长出真正底层的原创创新。
这也是我们一直坚持做的事情:保留一定资源,做我们认为从第一性原理出发应该做的事,比如空间智能,以及理解商汤统一。事实上,商汤的资源显然没有 OpenAI 那么多,差了一个数量级,但 GPT-6 证明了我们走的这条路有价值。到了今天,我们过去一两年持续做这些事情的积累,很快会让我们拿出一些跟行业其他团队不一样的东西。
用您所说的从第一性原理出发的眼光看过去 3 年中国大模型的故事,您觉得其中有多少是跟风式创新?
我确实不知道用什么 metric 来衡量。它也不太叫跟风,应该说是在美国开拓出来的主流路径上做优化和微创新。这是一条很主流的路径,效果也很立竿见影。在应用层面和技术模型生态层面,它有非常正面的激励。我不能完全否定它,虽然名词上大家可能觉得是在跟风,但它本身有很大的产业和技术价值。
不过,如果未来中国想在国际科技竞争中作出更持久的贡献,肯定还是得走出一些我们自己的、不一样的东西。这在某种意义上也是唐老师最初建立商汤时所坚持的理想。无论经营压力大还是小,商汤在任何时候都会保留一定资源,做一些我们从第一性原理认为正确的事情。包括刚才说的,我们发现了空间智能的反 scaling law,也看到单靠视觉本身可以做一些推理。我们在这些方面有一系列自己的认知,这些认知会让我们在新时代到来时准备得更好。
在现在模型表现比较好的几家中国公司当中,有哪几家确实有我们刚刚讲的非主流的真正创新?
DeepSeek 很值得关注。它的整体大范式可能还是 LLM 的标准范式,但在架构层面下的功夫非常深,我非常佩服。我们商汤原来团队里有一些同事在 DeepSeek,现在也是里面的核心成员。他们肯定不会跟我讲涉及个人、商业和技术秘密的事情,但朋友之间也会有一些交流。他们在架构机制的性能上做了非常深入的工作,使得 DeepSeek 模型从 LLM 架构角度看效率非常突出。我想这些技术创新也非常重要。
阶跃也好,MiniMax 也好,智谱也好,各自都会在具体范式和应用上有一些不一样的创造,只是 DeepSeek 给我的印象更加深刻一些。
现在很受热议的话题之一是模型蒸馏。西方有一些声音认为,中国模型追得这么快、做得这么好,是因为蒸馏了他们的模型。业界有很多关于蒸馏的讨论。您怎么看这种声音?能不能给我们解释一下,蒸馏是不是模型发展和进化过程中的必要手段?
9. Distillation And New Data
我举个简单的例子。人学习的时候,比如我自己在国内读小学、中学,后来去美国读博士,这个过程中,我向不同国家的老师学习,大家会认为这是非常正常、正当的事情。
模型迭代时,技术上并不要求每一条训练数据都完全由自己创造,也不要求每条数据都从最原始的资料开始人工清洗和构造,那样效率非常低。所以模型之间传递信息是很常规的技术手段。所谓蒸馏,我觉得大家可能把它理解得太简单了,以为就是直接 copy and paste,其实不是这样。
现在训练 agent 模型,要构造非常多的轨迹。轨迹代表模型完成一个复杂任务的过程。当我正在训练的模型还不具备很强的 agent 能力时,轨迹长度已经达到几十万、几百万个 token,总不能让人一个 token 一个 token 写出来,或者用脚本构造出来。所以在这种条件下,我肯定要借用其他模型来构造训练轨迹。这些模型往往不是一个,而是经过一段时间迭代后形成的性价比最优组合,里面可能有国外模型,也有国内模型。
考虑到性价比,大家在构造某些轨迹时,可能会用到 Anthropic、GPT 或其他模型,但更大比例可能是自家模型或国内的开源模型。我觉得使用多种模型合作来构造轨迹、构造训练数据,是很常规的技术手段。
国外的模型会蒸馏我们的模型吗?
会,也会。他们也会用复杂的系统构造思维链,其中可能用到 DeepSeek、千问、智谱,具体很难说。他们不会公布自己的技术方案,但事实上也有一些迹象表明,他们某些轨迹里可能有国内模型的痕迹。这不是说他们抄了国内模型,而是可能觉得用某个中国模型构造某些轨迹更理想。
所以在 Anthropic 把蒸馏变成一个指控之前,蒸馏在大模型训练里是比较正常的行为,是技术设计中的常规逻辑。就像让一个孩子成长,让他上很多门课,有些老师是外教,有些是本地老师。
既然如此,为什么字节的张一鸣会明令禁止字节内部使用蒸馏?我特地去看了当时的语境,似乎他也没有解释为什么会这么说。您觉得可能是为了什么?
我觉得他可能是从长期角度出发,提出了一个很有魄力的想法。
通过蒸馏,或者说用 AI 模型来构造数据,客观上是不是能让中国团队快速追上美国的 SOTA 模型?
蒸馏,或者说用 AI 模型做数据构造,核心是降低数据构造成本。按照第一性原理,如果我不用这些模型来做蒸馏,最直接的方法是什么?找这个行业或领域的专家,让他们一字一句写出来。这是最高级别的数据构造,只是很贵。
如果完全不蒸馏,他们的模型应该也是这么做出来的,对吗?
对。他们曾经高薪请了很多行业专家来写这些东西。但如果使用模型构造数据,客观上确实会让数据构造更便捷。
我听到一个行业信息:上半年 coding 模型的蒸馏限制还不大,但到了下半年,尤其是 7 月之后,从 GPT-5.1 到 GPT-6,业界发现模型越来越难蒸。这是因为目前我们只能拿到一些短思维链的数据,模型思考的过程不像以前那样完全展开了,所以蒸馏更难。不过也不是不能蒸,大家会让很多人类专家推理这个过程,弥补其中的空白。
有些国外模型在这个过程中会制造一些障碍,希望中国模型公司不要走得那么快。这确实可能让某些数据制造管线遇到挑战,我相信是有的。但我觉得行业好像并没有因此减缓迭代速度,模型照样每个月出两三个最新的,性能提升也很快。
所以客观上,现在美国模型对我们来说更难蒸了吗?
说实话,我觉得蒸馏的时代已经过去了。
模型学习有几个阶段。第一个阶段是从大量原始语料里学习,也就是以前所谓的预训练时代。我把互联网上的文本、arXiv、Common Crawl 网站都爬下来学习。后来大家发现语料枯竭了:能爬的都爬下来了,该学进模型的都学进去了,再多爬一点,好像也没什么收益。
之后大家发现了新的数据使用方式,叫思维链。我构造解题时一步一步思考的过程,让模型学到这种思考模式。到了今年,大家可能会让模型做具体的事情、完成任务,也就是 agent 的任务。于是数据轨迹就会变得更长。
最初,也就是 2023 年,大家做的是 SFT,也就是监督微调。一条数据可能几分钱、几毛钱,非常便宜。它就是一堆问答,从网上爬一些东西下来,再补上答案,拿去训练模型,让它回答问题,成本很低。
后来有了能做数学题的推理模型,稍微复杂一点,可能要几十块钱才能采到一条轨迹。现在真正复杂任务的长轨迹,构造成本回到了几千块钱一条。这相当于请一个专家花 2 个小时工作;比如请一个律师 2 个小时,可能确实就要几千块钱,让他一步步写下思考过程。
数据成本越来越贵,但核心瓶颈已经不再是能不能蒸馏。过去储备的这些题目和思维链,不管是人工构造还是其他方式,基本都已经做完了。现在的瓶颈是产生新的问题,需要构造大量真实的工作环境和场景,可能是几千、几万、几十万个具体工作场景,让模型自己去探索、完成任务。
我觉得中国在这里有优势,因为我们的生活多样性、产业多样性非常丰富,应用场景太多了。而且做这件事的瓶颈不是算力,是人力。中国有全世界最丰富的工程师资源,只要这些人从原来的本职工作转向构造这些环境,就可能形成相对于美国的战略优势。但这要看中国公司能不能充分利用这样的优势。
所以您看好接下来的时代,因为简单来说,低处的果子已经摘完了。
对。高处的果子需要人去摘,不是靠已有数据和算力堆叠就能大力出奇迹。它需要进入大量环境,这需要很多工程师资源。我觉得这正好是我们国家的一个战略优势。
明白。今天我们聊了很多技术问题,最后我想聊一些您个人感性的问题。今天的对话里一直有一个隐形的人物,就是汤老师。他影响了您,也影响了很多学生。他离世时,这件事对您的影响是什么?
10. Carrying Tang's Legacy
那是非常突然、非常大的冲击。我甚至觉得当时有些迷茫。我一直是在汤老师的栽培、帮助和支持下,不断沿着职业生涯的道路往前走。这样一位人生和事业上的导师离开了,我确实非常迷茫。
不只是我,他领导的团队也面临着重新塑造文化、在新时代建立继续往前走的基石的过程。但我觉得汤老师留下的最宝贵财富,并不是他还在我们身边,而是他传承下来的很多理念和想法能够穿越时代。即使他离世之后,在徐立、小刚、我和其他同事那里,这些理念依然得到了传承。
正是这种精神力量,让我们在他离开之后,继续以更加开放的姿态对待人才和产业,走自己的路。我还记得他离开后,我们回顾汤老师给我们的指导。他给我们留下了很深的印象:无论遇到什么情况,包括他离世带来的巨大冲击,我们依然是一个有生命力的集体。这个集体最终穿越了困难时期,又走上了新的发展道路。
当您回忆起他的时候,立刻浮现在眼前的画面是什么?
是他跟我们开会、讲段子的画面。氛围很轻松、很快乐,应该说很温馨。汤老师其实话不多,但很多时候,他会留下一些让我们记很长时间的事情。
他离开之后,很多人都觉得您在商汤扮演的角色更重要了。就像您说的,从一开始的迷茫到现在,我不知道您有没有给自己接下来的人生树立一个新的目标?这个过程是什么样的?
我们每个人身上都有一种很重的使命感,就是把汤老师传承下来的事业继续发扬光大。接下来几年,我可能还是会跟商汤的团队、跟我的学生一起,在大模型和 AI 创新的道路上继续往前走。
但对我来说,做出具体研究成果是一方面。我一直觉得更重要的是继续培育新的力量。像俊杰做得很好,出去又成立了新公司;还有同事也去创业了。我们希望商汤能孕育出更多优秀的同事,其中一部分会留在商汤,让我们的事业走得更远;另一部分会走到外面,让世界更加精彩,让全人类 AI 事业的发展有更多可能性。
对于商汤、对于您来说,今天聊了很多,我听到两个字:播种。在不同的时代播种。
对。种子其实是一个又一个人,他们都是生命体。如果回顾过去十几年,最重要的成果是什么?你可以列出一些技术成果、论文或者具体项目。但最让我自豪的,是在这个过程中,也许像唐老师改变我的人生轨迹一样,我也改变了很多学生和同事的职业发展轨迹。也许我的一些工作让他们走到了不一样的高度,创造了不一样的可能性。这可能是我回过头来想,觉得最重要的一个成就。
大家最熟悉您的身份,是商汤联合创始人兼首席科学家。同时您也是香港中文大学人工智能交叉研究院的院长。这么多身份,也是您的学生们最感兴趣的问题:您自己最看重的身份是哪一个?
老师。因为我可以很明确地跟大家说,哪怕是今年 2026 年发布的很多模型,真正把模型做出来的不是我。我在其中的角色,是为这些年轻人创造环境;他们做出了模型和技术成果。
对我来说,最重要的工作目标,是继续构建和守护这样一个有生命力的组织。在这个组织里,年轻人会做出具体的技术成果。
应该也有很多人做了您最重要的老师。他们是谁?您从他们身上学到了什么?
在不同的时代,老师不一样。我刚才提到过几个人。除了汤老师之外,在 MIT 的时候,Alan 教授在理论功底的培养和提升上给了我很好的指导。另外一些很重要的老师不一定比我年长。其实从我的同事身上,包括小刚、乔宇老师,还有实验室里的其他同事,我都学到了很多不同的东西。
但我觉得,有一群老师是跟我一起工作的团队,我从他们身上学到的东西最多。很多技术想法,包括商汤现在的 Leo 新架构、空间智能的一些新想法,最初并不是我想出来的,而是团队告诉我、在跟我讨论的过程中形成的。我学习这些想法,再帮助他们一起把想法落地,成为一个模型、成为技术成果。但其中很多知识和新的认知,是我在跟他们交流、接触的过程中形成的。所以帮助我形成认知的人,我认为就是我的老师,这也包括我自己的团队。
我想问一个非常具体的问题,这是这一代中国学者都会面对的问题。我们看到学术也受到地缘政治的影响。今年 3 月有个事件,顶会 NeurIPS 新增条款,禁止美国实体清单上的机构投稿,其中涉及商汤、华为、大疆等 873 家机构。中国计算机学会就这件事提出抵制和抗议,最后 NeurIPS 公开道歉并修改了政策。您目睹了这个过程,对它印象深刻吗?您怎么看这场风波?年轻一代中国学者在这个时代要怎么求索?
首先我想讲一点。很多 AI 学者,无论在高校还是产业里,都是很纯粹的学者,怀着技术理想或学术理想投入工作。包括我在美国的朋友、老师和同学,我觉得大部分人都很纯粹,怀有技术理想。大家都不愿意看到这些强加进去的、阻隔国际学术交流的事情。我肯定也不愿意看到,也非常反对施加这些不必要的约束和阻碍。
当然,现实条件确实存在,不是每件事都能由我们改变。在这样的条件下,我发现大家可能会变得更加谨慎。不是中国学者不愿意和美国老师交流,美国老师也有交流意愿。很多中国学生和学者很聪明,交流时也能给他们很多正面、有用的知识和认知。但美国老师也会担心,因为交流而在自己国家受到不公正对待,确实有更严格的措施给他们施加压力,我也能理解。
所以很多交流越来越难通过很正式的方式进行,比如办学术会议。我们会利用还在举办的会议,也会用更私下的、朋友式的方式。见面不是为了做公关,而是纯粹交流:作为朋友一起吃饭,聊聊行业动态,了解美国最近有什么进展。我觉得这还是很有帮助的。只要双方做技术和学术的人还有交流意愿,大家事实上总能找到方式,只是代价更高了。
那对年轻一代的 AI 学者,您会建议他们怎样发展?
第一,要找到真正有长期价值的事情。我每年都会招博士生,他们进来后常说,最近行业里什么东西很火,所以想做这个。但我会问:你做这个不是不行,但得想清楚,等你毕业了,这个方向已经不火了怎么办?
我想寄语大家,要想清楚你做的事情更深层的意义和价值是什么,这样才能坚持下去。如果每隔很短时间就换一个 topic,很难形成真正有效的深度和积累,可能做了很多东西,但都很浅。
一个人能不能在当今时代立得住,不是因为掌握几个时髦名词,或者会用几个时髦工具和方法,而是因为真正有独立思考,有自己不一样的价值。我觉得这样的人在这个时代最稀缺,也最受青睐。
我记得黄清球对您有一个评价,您的其他学生对您也有一个很一致的评价:他们觉得林老师非常会抓问题的重点,尤其擅长在一个广泛的领域里定义最重要的问题。回到智能这个原本的话题,如果让您来定义智能最重要的问题,会有哪些方向?
我觉得智能当下最重要的事情,是它能不能继续拓展边界。它可以往宽度或者深度拓展。如果让我提几个问题,这也是我和研究创新团队当前最关心的。
第一个问题是,我们希望拿出真正的认知来说明语言以外的其他模态,在智能里扮演什么角色。我觉得我们对这个问题的认知还处于初期阶段,还不能下最终结论。虽然我们有一个初步判断,认为其他模态在其中有重要作用,但究竟是什么作用?它跟语言的边界在哪里?互补性在哪里?哪些地方语言效率高,哪些地方其他模态效率更高?我觉得这个认知会在很大程度上定义未来智能的发展,让大家知道应该把资源和力量投到什么地方,才能获得更完整、超越现有边界的智能。这是从宽度上看,也就是更多模态、更多应用可能性。
另一个问题是从深度来看,怎样让智能获得最快的成长。我想说,这不只是一个叫递归自我改进的热门名词。递归自我改进只是智能成长的一种手段,也就是自己训练自己。很多人可能没有理解,递归自我改进的瓶颈在哪里。
从人训练模型,变成 AI 或模型自己训练自己,带来的变化是训练过程更加自动化。但自动化最终带来的收益是什么?是少做一点实验,还是把人的精力释放出来?真正进化的关键是,我依然需要获得足够多的观察和实验,才能有效进化。可当前获得这些观察点和实验点依然很昂贵,我需要跑训练、跑实验、跑很多数据。
人自己进化很快。比如掌握一种新技能,并不需要一个完整训练过程,人有基本常识,就能去寻找方法。所以学习和进化的过程怎样才能像人一样高效?说实话,机器能力很强,但回到进化、学习和进步这件事上,我觉得当前 AI 跟人还有很大距离。这里面的秘密一旦被破解,就会很大程度上重塑今天 AI 发展的竞争格局。
我觉得有一个非常重要的问题:人为什么会做一件事情?这是一个特别大、特别开放、值得探索的问题,可能本质上决定了未来智能的边界在哪里。当我们找到一种更高效、像人一样的方式,达到更高的进化和智能水平时,也许就能逐渐触及真正智能的边界。
现在用粗放式的方法,我们可能耗费大量资源,最后面临轨迹爆炸。现有路径是不是一定能走到我们期待的终点,我觉得还有问题。大家基于当前的发展,认为还没见顶,还有外推空间,但这个外推究竟能走多远?我觉得不一定是无限远。
您让我想到我以前的一位嘉宾,好像是您中科大的校友,梅涛老师。我们当时也聊过多模态和智能的关系。比如视频生成、多模态生成,他有个观点,认为原则上这些多模态生成不负责产生智能。当然他有自己的立场,因为智象未来是一家用世界模型和视频多模态生成能力做业务的公司。现阶段他会提出这样的判断。
我觉得单纯做生成,确实不会带来很大的智能提升,它带来的是视觉质量的提升。但当你把空间感知能力这些东西融入思考过程时,可能会改变思维方式。它带来的未必是解数学题能力的提升,而是让智能更加完整。
我们今天聊了您非常密集的人生经历,您的人生密度超乎常人。现在很多年轻人刚刚开始自己的人生,而这是一个信息爆炸、选择爆炸的时代。您觉得怎样选择和规划人生,才足够尽兴、足够有价值和意义?
很重要的一件事是,在任何时间点,都要不断重新思考自己的人生道路和目标是什么。我不是说你要思考 50 年后自己要成为什么样的人。很多时候,我面试高阶候选人、面试学生时,会问一个问题:你设想一下,3 年后自己会是什么样?我觉得这是很值得思考的问题。
很多人容易被短期热点或变化影响,是因为没有明确自己要成为什么样的人。于是只能被时代潮流裹着往前走。但当你有了清晰的思考,核心是自己要成为什么样的人,每一步往前走时自然会有自己的判断。当然,你要吸收外界变化带来的认知和输入,但也得有自己的判断,知道这个时候应该做什么选择。
我很难回答每一种具体情况下该怎么选。但我觉得最有价值的是时不时地思考,接下来 3 年或 5 年要成为什么样的人。这个答案会指导你在具体工作和选择中的每一个决策。
回到您自己的人生体验,有没有哪一刻让您决定,或者让您有一种直觉,觉得自己要成为什么样的人?
有。我读博士时在 MIT,身边的人毕业后有不同选择。很多人去华尔街,很快能获得很高的薪资;也有人选择学术界,收入足够满足生活,但肯定不会特别高。当时我跟家人说,其实就是两条路:一条通向爱因斯坦,一条通向比尔·盖茨。我当时肯定选前者,所以走上了学术道路。
走上学术道路之后,一开始肯定是希望自己有很多学术成果,过程中也确实做出了一些具体的学术和科技成果。但我也在想,无论是成为一个很有财富的人,还是一个学术成果很多的人,更多都是从我自己的角度出发:我自己要在哪个方面取得很高成就。
当我开始跟更大的团队、更大的集体一起工作时,我和整个团队、集体慢慢有了更交融的感觉。我想的就不再只是自己成为最突出的人,而是有了一个梦想:打造一支世界级的、中国的 AI 梦之队。
这个团队的资源或具体工作目标可能随着时间变化,但核心目标是成为这样一支队伍。AI 依然是团队作战的逻辑,不是单兵比武的事情。所以我花了很多时间培养团队文化。我有信心,哪怕我们不是国内资源最多的团队,也不一定是某个实验室里最受关注的地方,但我们一定有国内最优秀的研究文化。
最优秀的团队文化应该是什么样的?
我觉得最优秀的团队文化是,每个人第一有共同目标,也有足够前瞻、有价值、有挑战性的技术理想。每个同事是为了这个理想工作,而不是为了把团队里的另一个人比下去。大家要放下对短期自我价值的某种执念,共同追求一个大家认可的价值。这个价值不是我强加给他们的,而是团队共同凝练出来、共同信仰的事情。
过程中也可能有人走得快、有人走得慢,也可能在具体技术路径上遇到困惑。但我发现,有了这样的共同目标,团队凝聚力就非常强。我们的离职率在业内非常低。商汤的薪资绝对不是业内第一,甚至可能和字节有差距,但很多人会来挖人,大家还是愿意留在这里,一起做有意义的事情。
我可以很自信地说,我们部门的跨团队融合几乎没有代价。研究院底下有十几个不同的部门,可能各有侧重,但几个大的研发主线会跨越多个二级部门,大家混在一起做事。团队里没有人执着于自己原来属于哪个部门,主要的 leader 也没有那么强的部门身份意识。
我很开心能和这个团队一起工作。今天媒体报道腾讯、阿里等公司把多模态团队和语言团队合并,觉得融合是一个很大的组织动作。但我们在 2024 年年中就已经融合了,而且很自然、很敏捷、很迅速。大家认同模型应该同时做多模态任务和语言任务,应该融在一起。翻看我们早期的新闻稿,2024 年就已经在讲这件事,那时候已经发生了。
现在我们说理解和生成统一。原来商汤有一个做生成的团队,大家认可这个目标后,很快形成了一条理解生成统一的研发主线,有几十位同学参与。大家已经没有原来属于哪个部门的那套逻辑。我们没有完全改组织结构,大家还在原来的部门,但会一起投入到认同的愿景里。
所以在做融合智能时,我觉得商汤的组织代价非常低。很多创新是在跨越领域边界时出现的,这需要没有壁垒的组织保障。我觉得商汤虽然资源可能不是业内最多的,但在这方面有很好的组织基础。
最后一个问题。在漫长的 AI 时代里,您相信个人英雄主义会带来很大的改变吗?
个人会发挥巨大作用。能让某个方向坚持走下去的人,可能会发挥很大作用;能选好方向的人,会有巨大的历史价值。但最后把事情做出来,一定需要协作。团队不一定要很大,因为现在有 agent 的帮助,团队未必需要非常庞大,但最终还是需要某种协作。
很多创新想法是在思想碰撞中形成的。团队里有侧重点不同的人,自然会有更活跃的信息和思考流动,而不只是待在一个茧房里思考。要做出改变历史的成果,这也是很重要的因素。
创造伟大的连接。谢谢刘老师。