【年终复盘②】RSI可能是NeoLab的机会、PA真的有用、创业要造灭火器还是砖头?|对话谷雨
- 谷雨改判RSI创业有机会:new lab的优势可能来自迭代加速度,而非已有模型积累。 当AI越来越能写training infra和recipe,大厂既有系统可能反成适配负担,新团队则可以随时重做,“我确实被打脸了”。但full-stack训练仍需要大量资本;他对明年RSI创业公司可能推出最强、或至少SOTA级模型的判断,明确限定为“瞎预测”。
- computer use的操作可靠性已明显进步,业务认知则是另一层问题。 coding训练规模上去后,谷雨认为“手已经基本解决了”;剩下的是理解公司规则、流程与审批,这和操作能力是相互独立的。Neocognition的ApprenticeBench把100道会计任务串起来,考察从反馈中学习;真正的长程,是员工用几个月或一两年从菜鸟变成老员工。
- 数学与memory notes两次突破,都推翻了谷雨对模型学习上限的判断。 他曾认为数学需要形式化系统提供信号、改写memory notes也不是可靠优化算法,如今承认scaling能走得更远,“不得不信”。不过,按他的观察,持续学习目前真正做得强的仍主要是Anthropic和OpenAI,训练recipe也未成熟。
- 谷雨认为论文数量已难以承担人才评价,招聘更应直接了解候选人的工作与问题理解。 他一年半没有投稿、半年多没有审稿,举例称一个16篇的审稿批次,可能只有一两篇质量过关。团队会看research presentation中的逻辑表达、问答反应和对问题的理解;但他并不因此劝退读博,“想做一件事去做就是一种理性”。
- 创业的关键教训是让技术与市场闭环,过高的发布标准也会成为成本。 学术团队想造出扎实的灭火器,着火的客户却可能先买砖头:“在你灭火器造出来之前,别人卖砖头的已经卖100个。”谷雨承认自己太本分、发布太慢;Koji则保留约束:可以先创造momentum,后面必须持续deliver,“你肯定不能bluff嘛”。
- 资本充裕正在把创业变成一种“随大流”的选择。 Neocognition种子轮融资4000万美元,谷雨说硅谷常见种子轮是500万、1000万美元;2026年上半年,国内一些new lab已出现20亿美元估值,让他震惊。资本能降低尝试门槛,但对话中的压力追问仍成立:没有回购、对赌的个人财务压力,也可能付出几年时间。
- AI视频的竞争开始落到作品本身,而非观众对技术的猎奇。 谷雨在B站观看一部两个多小时、七八个角色保持一致的AI僵尸片,“我是真的把它当电影看”;观众知道它由AI创作,弹幕仍主要讨论剧情。他由此把人的稀缺价值概括为“一个是审美,还有一个是美”:决定方向,以及提供情绪价值。
- personal agent已经在邮件筛选上给谷雨带来实际价值,突破更多来自产品交互。 持续的单一对话、拟人形象与主动推送,把已有能力组织成了助手体验;proactiveness本身并不是新技术。他同时尝试Muse与Instinct,但判断真正形成生活依赖后,“只要一个就够了”。
1. RSI让new lab重新获得追赶前沿的可能
- 谷雨原先反对RSI创业有两层理由:新公司追不上前沿模型,递归改进又需要自己的模型作为起点。Recursive和MiroMind等团队的发布让他改判;他提到有人用3个多月训出的预训练模型比K3还强,“我确实被打脸了”。
- 他的解释是,AI研发能力继续增强后,大厂积累的infra与recipe可能成为负担。一位国内模型厂朋友明知OpenAI的score centering可能提升一两个点,却因适配infra代价过高而不采用;新团队没有这层包袱,可以随时丢掉重做,获得“更大的加速度”。
- Koji追问,full-stack训练仍需要钱、卡与数据,谷雨认同资本门槛。他对明年另有一个明确标注的“瞎预测”:可能出现来自RSI创业公司的最强模型,或者至少达到前沿、SOTA级别,并非断言一定发生。
2. computer use的“手”已明显进步,难点转向“脑”
- 谷雨认为,从去年年底到今年年初,coding训练规模扩大,能力泛化到软件与网页操作,“手已经基本解决了”。剩下的认知问题是:模型是否知道事情该怎么处理,尤其是各家公司特有的业务流程。这类认知问题与操作能力是相互独立的,但最终仍要落实到软件或网页操作上。
- 团队曾花几个月搭pipeline,让agent多做几次、挑出正确结果,再封装成reusable skill。现在他认为这套工程已无必要,举Opus 5.5为例,模型能直接实现流程并自行纠错;操作层能力进步,改变了公司原来的解题思路。
- ApprenticeBench采用建筑行业的会计报账场景,共100道任务,涉及公司惯例、特定workflow与审批规则。关键在于题目不独立,必须在一个stream里连着做100个,前面获得的反馈与知识要能帮助完成后面的任务。
- 谷雨反对把长程简单等同于寻找耗时半天的难题:这种任务难以规模化,也未必导向lifelong intelligence。“真正的长程”不是一个会计把一笔账做一个星期,而是几个月或一两年里从菜鸟成长为熟悉公司的老员工。
- 第一版最强Claude模型约80分,谷雨称新版会让现有最强模型得分低很多。测试数据未公开,但更重要的是测meta-level学习能力;只对着这家公司的特定规则刷分没有意义,真把持续学习能力提上去,他也认可“那确实也算做了件好事”。
- 他还提到团队在OSU NLP Lab时期做过MMMU、Mind2Web和AgentBench等benchmark;其中MMMU、Mind2Web的后续版本或变体也被模型公司用于发布评估。
3. 数学与memory notes都突破了他原先设定的上限
- 2024年,谷雨还认为数学需要形式化系统提供信号;到2025年,informal方式已能拿到IMO金牌,2026年又进一步,前几年的一些问题基本可以通过informal方式解决。这至少打破了他两年前的认知,让他觉得还是要相信scaling,“不得不信”。
- 他上半年也曾断言,靠改写memory notes做持续学习“肯定不靠谱”,因为这不是可靠的优化算法。如今他仍认为这不是可靠优化算法,却承认上限被低估:过去记忆质量受模型能力限制,模型越强,这条路越可能走远。
- 按谷雨目前的观察,这方面真正强的主要是Anthropic与OpenAI。训练模型更好地写memory notes可能有帮助;Claude Code、Codex的long session也可能自然产生相关数据,但recipe尚未成熟。他把2024至2025年的关键词概括为vision-language、VLM、world model,2025年底至2026年是coding;从2026年到明年,至少明年下半年之前,关键词可能是continual learning。
- Koji提出另一种理解:解决数学问题的价值,也在于过程中发现方法、积累know-how,并可能像棋类运动一样成为人挑战智力极限的方式。谷雨回应,很多事情并不是因为机器做不到才有价值;做这件事本身也能给人意义与快乐。
4. 论文评价失灵,并不等于读博失去个人意义
- 谷雨用“彻底崩塌了”描述2026年的投稿与评价体系。他一年半没投稿、半年多没审稿或担任AC;一个16篇的批次,可能只有一两篇真正过关,大量AI slop让他觉得这类工作不尊重自己的时间。
- 招聘时,他更看候选人对既往工作和当前问题的理解,以及research presentation里的逻辑表达、问答反应与综合能力。他认为有taste的同行评议更理想,举例是院系资深教师通过job talk评估候选人,而不是仅凭论文数量;新的评价体系尚未建立,学校仍按惯性运行。
- 对AI人才降低教职优先级,他给出的原因很现实:frontier lab、new lab startup的收入与资源更好,学校还有评价体系问题。Koji以“10年之后教授的社会地位可能不如夜店的男模”作夸张比喻;谷雨表示自己确实这么觉得,并认为当智力不再值钱时,长相和身材可能更值钱。
- 但被问是否值得读PhD,谷雨拒绝替别人决定:不知道对方追求什么,就不该给统一建议。“想做一件事去做就是一种理性。”他的态度是先确认自己真的想要,而非把职业收益当作唯一尺度。
5. 创业需要市场闭环,灭火器也可能输给砖头
- 谷雨说自己“这辈子没有一秒钟想过去大厂”:他需要灵活作息、决定研究方向的ownership,也很难为别人完成使命。对风险,他自称“没有什么概念”;父母不强加人生节点要求,也给了他一定安全感。
- 团队在学术界一直避免拿锤子找钉子,创业后却发现自己成了solutions in search of problems。原因是研究在技术体系内自洽即可,公司却必须和market闭环;continual learning是fundamental problem,不等于已找到客户愿意购买的产品形式。
- 他借“头上着火”的例子反思发布节奏:客户不会等完美灭火器,手边有砖头也会先拍灭。“在你灭火器造出来之前,别人卖砖头的已经卖100个。”团队过于追求solid,应该更早发布没那么成熟的东西,把闭环跑起来。
- 谷雨说有时甚至可以先把牛吹出去;Koji随即补上约束:提早宣布能创造momentum,但必须不断deliver,不能bluff。谷雨举马斯克为“fake it till you make it”的典型;这段讨论保留了抢先发布与兑现承诺之间的张力。
6. 充裕资本把创业变成了随大流的选择
- Neocognition种子轮融资4000万美元,现有17名全职员工、4名实习生,计划很快启动A轮。谷雨说,硅谷常见种子轮是500万、1000万美元,而2026年上半年国内一些new lab直接出现20亿美元估值;他到6月才意识到国内会投这么多钱。
- 他最惊讶的是,开始有人说“大家都在创业,我周围人都在创业,我也想去创业”,原本非主流的路径成了跟随选择。Koji肯定资本支持年轻人尝试的价值,谷雨追问“真的没有压力吗”;随后讨论把不签回购、对赌时的个人财务压力,与可能浪费几年时间区分开来。
7. AI电影开始以作品质量留住观众
- 谷雨在B站看UP主龙小胖制作的AI僵尸片,把林正英带回一个新故事里。两个多小时、七八个角色,脸、衣着与情节保持一致,和大半年之前几分钟里人物就变样的体验不同;观众可以沉浸其中,把它当作电影看。
- Koji追问观众是否知道是AI作品,谷雨说平台有声明,但弹幕主要在讨论剧情。对他而言,这意味着观众更关心最终deliverable,而非作品如何产生;体验已经从了解技术能力,转向沉浸在故事中。
- 他还回忆,去年一部60集、每集一分钟的AI短剧,剧本报价约7万元人民币;他觉得如今AI一天就能写100个剧本。由此给出的粗线条判断是,人以后需要“一个是审美,还有一个是美”:前者决定方向,后者提供情绪价值。
8. personal agent的价值来自持续关系与主动筛选
- 谷雨认为personal agent走红更多是产品设计到位,而非某项技术突然越过临界点。真正的personal assistant需要持续的单一对话,而非每件事新开session;就像微信里每个联系人只有一个聊天窗口,卡通形象则进一步增强“有人的感觉”。
- proactiveness在他看来也不是新技术:年初的OpenClaw已有相关feature,ChatGPT、Claude的scheduled tasks也能定时查看邮件并推送。变化在于,这些能力被组织成了更自然的助手体验。
- 他同时试用Muse与Instinct,主要让它们筛邮件、挑重点并主动提醒;国内外卖、酒店、机票等服务不太好用,限制了其他用途。目前多用几款主要是尝鲜,真形成生活依赖后,他认为“只要一个就够了”。
Full transcript
嗨,我是Koji。本周十字路口的嘉宾是谷雨。这期到了年底的 2026 年,我们请谷雨来分享他的 10 个 Aha moments。你好,谷雨,欢迎来到十字路口。
大家好。
我们还是先从快问快答开始,帮助大家了解你。请问你的年龄?
31 岁。
毕业院校?
南京大学本科,然后在州立大学读博士。
MBTI 和星座呢?
INTP,天蝎座。
谷雨也是 Neocognition 的联合创始人。可以用一句话介绍一下你们公司吗?
我们公司做 continual learning。
你们的融资情况呢?
种子轮融了 4,000 万美元,很快会开始 A 轮。
目前团队规模多大?
17 个全职员工,还有 4 个实习生。
这次创业之前还做过什么?
我其实也是一个博客的联合发起人。
我知道,On Ground[?]。然后欢迎大家关注一下。
年底了,我们最近在做一个系列,请朋友们分享这一年里非常个人的经历,聊聊自己有哪些 AI 带来的 Aha moments,希望每个人都分享 10 个。我提前看了你发给我的那 10 个 Aha moments,觉得和多数人的很不一样。要不我们先从第一个开始?是什么?
第一个是 RSI 这件事。上个月我还说,我搞不懂为什么会有创业公司在做 RSI。最近发现我确实被打脸了,所以这是一个很大的 Aha moment。
我现在发现,初创公司做 RSI 确实有它的逻辑。比如前阵子 Recursive 和 MiroMind 发布的东西,确实给了我很大的惊喜。
这扭转了你的想法。
对,我发现他们还真的能做出来,还真的有这样的机会。
你原来觉得初创公司做 RSI 没有机会,原因是什么?
原来的逻辑非常粗暴。首先,我觉得做 RSI 本质上是在做模型叙事,对吧?你要追最前沿的模型厂。别说新的初创公司了,除了 OpenAI 和 Anthropic,其他模型厂这么长时间还在后面赶。那初创公司上哪儿做?这是第一点。
第二点,我觉得要做 RSI、做 recursive,首先得有起点,得有自己的模型。所以我觉得初创公司做这个不太靠谱。当然,我当时非常天真。最近确实还是超出了我的想象。比如有人用 3 个多月训出的预训练模型,比 K3 还要强。这些事情确实很刷新认知。
你觉得是什么原因,让他们可以在 new lab 的背景下也做 RSI?
大家可能渐渐达成了一些共识:本质上是 AI 现在的研发能力越来越强。你可以想象,总有一天,它写 training infra、写 training recipe 的能力会超过人。那一天到来的时候,大模型公司之前积累下来的 infra 或者 recipe,反而可能成为一种累赘。
举个很具体的例子,我在国内一家模型厂的朋友,前两周跟我聊天。最近大家都知道 OpenAI 的 score centering 有用,他们也知道有用,知道用了可能能提一两个点。但为了用这个,他们需要适配自己的 infra,代价太大,所以不愿意做。这是一个非常具体的例子。
但对一个从零开始的初创公司来说,就没有这种负担。我可以让 AI 搜一套新的 recipe,搞一套新的 infra,随时迭代,也随时可以丢掉。
所以,因为这些东西还在不断变化,如果你的 infra、过去的一些 SOP,或者团队组织架构已经成型,就比较难调整来适配新的变化。
是的,反而 new lab 有灵活性。它可能会有更大的加速度。
但前提是不是 new lab 还是得融到更多钱,才能有钱、有资源、有卡、有数据?
那是因为你要顺着模型趋势走,要做完整的 full-stack 模型训练,肯定需要大量资源,所以 Recursive 和 MiroMind 确实拿了很多钱。
除了这两家,你还看好谁?包括 Gifting 和 discovery loop,对吧?
我觉得这些做 RSI 的公司可能都有机会。国内也有一些,不过可以再观察观察。
这是第一个 Aha moment,也就是你的认知被改变的时刻。
对,我觉得 Aha moment 的意思就是这个:你感到惊讶。
好,那第二个是什么?
第二个是我们团队一直在做 computer agent。今年我们确实发现,computer agent 这件事快解决了,它真的泛化了。去年我们一直在聊,computer use 最大的问题是泛化性和可靠性。从去年年底到今年年初,大家就发现 computer use 在操作层面的问题基本解决了。
一个很大的原因是 coding 的训练规模上去了,然后泛化到了很多软件操作或者网页操作。具体来说,现在“手”基本解决了,下一步可能是“脑子”层面,也就是认知层面的问题。我们公司在做的事情,具体来说,就是让它知道一件事情该怎么处理,然后落实到软件或网页操作时,它完全可以做对。
很多时候的难点在于,它不太知道一件事情应该怎么处理。比如每个公司内部可能都有一套自己的业务流程,它不一定清楚。但它一旦知道怎么处理,认知层面的问题解决了,操作就没有问题。我觉得这是过去这一年我们对 computer use 认知上的一个转变。
所以认知层面已经不是 computer use 的范畴了,其实是 orthogonal 的。
对,但它需要体现在和软件或网页的操作交互上。比如你要解决数字世界里的工作,最终还是要落到 computer use 上。
所以这对你来说是一个 Aha moment,原因是什么?
我们公司刚成立的时候,花了几个月时间一直想解决操作层面的问题。当时操作层面有一个很大的问题,就是所谓的 reliability:它可能第一次做对,第二次就做错。
所以当时你们的解题思路是……
我们当时的做法是让它做几次,然后把做对的那次挑出来,封装成一个 reusable skill。我们搭了一套 pipeline 来做这件事。但现在发现完全不需要了。比如你让 Opus 5.5 自己实现一下这个流程,它很快就能做出来,而且会在过程中自己纠错。
没错。要不要再讲一下咱们在做的这个 benchmark,ApprenticeBench?
我们公司做 continual learning,要真正解决的一个问题是:agent 或模型部署之后,怎么在生产过程中持续迭代自己?现在还没有一个现成的 benchmark,能够很好地学习或者评估这件事,所以我们定义了这个 benchmark。
ApprenticeBench 做的是建筑行业的会计场景,是非常垂直的建筑行业会计问题。它很真实,一共有 100 道题。
这 100 道题是什么样的分布?
这 100 道题其实都是在做同一件事,就是会计报账。但每道题背后可能涉及不同的规则。比如公司处理事情的 convention、特定的 workflow,或者特别的审批流程,都可能包含在不同题目里。
有一个很特别的地方:这 100 个任务不是独立的。一般的 benchmark 是一组彼此独立的题目,我们这个是要连着做,得按顺序在一个 stream 里连续做 100 个任务。
这么设计的原因是什么?
这 100 个任务连着做,其实是一个边干边学的过程。你做了前面的题目,从中得到的反馈或者学到的知识,才能继续做后面的题目。我们希望评估的是一个持续学习的过程,也就是一个持续学习的故事。
这也涉及我们对 long-horizon 的看法。现在有很多 benchmark 声称自己在做 long-horizon agent tasks,但有一个偏差:他们可能会想找一堆特别难的任务,让一个 agent 或者一个人做半天。我们觉得这不一定是最理想的状态。一方面,这种任务很难找,也很难规模化;另一方面,我们为什么要做长程任务?我们对长程的预期是什么?
我个人认为,长程的终局是:如果真的规模化起来,量变会引起质变,我们会得到所谓的 lifelong intelligence。要有 lifelong intelligence,就不能只是埋头一直做一件事,而是得边干边学、持续迭代自己。
举个例子,我们认为真正的长程,不是一个会计把一笔账做一个星期,而是一个会计从菜鸟员工变成公司的老员工,经历几个月或者一两年的过程。这才是真正的长程。这样的长程规模化以后,才能到达所谓的 lifelong intelligence,就像人一样。
我觉得这个非常 make sense。
我觉得这也是我们公司提供的一个新视角,也是我们定义这个 benchmark 的原因。至少希望能告诉大家,未来应该追求的方向是什么。
现在 ApprenticeBench 刚发布,对吧?你们之前发过哪些 benchmark,也可以介绍一下吗?
我们组之前在 OSU NLP Lab 的时候,发过一些很有影响力的 benchmark。比如 MMMU,是一个多模态 benchmark,很流行。OpenAI、Anthropic 和 Google 发模型的时候,都会默认使用。
还有 agent 相关的 Mind2Web。我们很早就做了 Mind2Web,是 2023 年 5 月发布的,算是 LLM 时代最早的 computer use 或者 web agent benchmark 之一。它的后续版本和变体,比如 Online-Mind2Web,也被 Anthropic、OpenAI、Gemini 在发模型的时候使用。
另外,我们之前跟国内有合作,比如和清华合作过 AgentBench。大家用它来评估、发模型的情况可能不是很多,但它确实算是 LLM 时代最早期的 agent benchmark 之一,也给大家提供了早期的 agent 任务 formulation,以及数据和任务分布上的资源。
说回 ApprenticeBench,我觉得要把分数提上去好像还挺难的。目前第一版里,最强的模型,也就是 Claude 最强的模型,已经能做到 80 分左右。要提分的话,应该怎么提?
continual learning 的能力,是现在我们认为区分前沿模型和非前沿模型的一个重要维度。什么样的数据能让它在 continual learning 上有大幅提升?最重要的是能让它更好地写 memory notes。
我听说 OpenAI 和 Anthropic 都有自己的 recipe。有一种可能性是,Claude Code 和 Codex 这种 long session,天然就会产生这类数据。但目前这个 recipe 我觉得还不是非常成熟,我们公司也还在探索。其他 model labs,包括那两家以外的,大家也都没有特别好的办法。
那两家现在在 ApprenticeBench 上分数虽然挺高,我觉得还是有很大的提升空间。我们很快会发布新版本,到时候目前最强模型的分数也会低很多。
我在想,其他 benchmark 好像比较容易刷分,你们这个没那么容易刷,因为要配套的数据,是不是难度会更大一点?
我觉得刷分有两点。第一,我们没有公开,所以分数没办法被追着刷。第二,这跟 benchmark 本身定义的 challenge 有关。光刷我们这个 benchmark 本身、只对着数据去解,没有意义。你让模型针对某家公司的特定规则,把会计报表做好,这对模型没有任何好处,因为我们测的不是这个层级的能力。
我们测的是 meta-level、更高层级的持续学习能力。持续学习能力做好了,才会体现在这个 benchmark 的分数上。所以就算要刷分,有意义的刷法也应该是刷这种 meta-level 能力。你真能把这个刷上去,那我也服了;那确实也算做了件好事。
好,这是前两个 Aha moments。第三个是什么?
第三个是数学。大家都知道,前几年有些问题被 OpenAI 一个接一个解决了。这个 Aha moment 可能去年就开始了,到今年进一步放大,可能放大了 50 倍、100 倍。
2024 年的时候,大家包括我自己,都觉得数学能做成,是因为有 formalization,有 Lean 这种形式化系统。后来发现,数据量上去、质量上去,去年就已经可以通过 informal 的方式拿到 IMO 金牌了。那时候已经很厉害了,没想到今年又更进一步,前几年的问题基本上都可以通过 informal 的方式解决。
这确实打破了至少两年前的认知。那时候我觉得需要 formal 的形式化系统给你 signal,不然让 LLM train formal,有点像左脚踩右脚,感觉这个事情上限不会特别高。后来发现确实是认知不足。还是某种 bitter lesson:我们应该相信 scaling 可以解决更多问题,不得不信。
现在我觉得很多做数学的人因此陷入了某种虚无主义。
我很能理解他们。他们本来是这个世界上最聪明的一群人,做的是对智力要求最高的一件事,结果智力突然变得不重要了。
我也听到另一种说法,不知道是不是多数人的看法:解决问题本身的目的并不是解决问题,而是在解决的过程中不断探索,发现一些方法、积累一些 know-how。这比解决问题本身更重要。比如运动员追求身体的极限,但他们也没有机器快;对人来说,这件事本身还是有意义的。
数学可能以后也会像一些棋类运动一样,成为人自己挑战智力极限的一种方式。
确实,很多时候我们做的事情并不是因为机器做不到,而是做这件事本身对人有价值、有意义、有快乐。我觉得自己开心最重要。
我最近发现有一个地方叫拼豆自习室。
拼豆我知道,自习室我也知道,合在一起我就不知道了。
就是大家在一个大自习室里一起拼豆。自习室做了定制,每个人有一个小隔间,隔间前面放着拼豆的所有素材。你什么都不用带,直接去就行了。
那边有几百种颜色、各种图纸,所有工具都齐全,按小时收费。你想象那个画面,很像一个工厂,每个人一个格子,大家都很安静地在劳作,而且是付费劳作。
这个模式不错,我们公司可以退钱,拿付费来上班。
这是第三个 Aha moment。我们聊得好像比较搞笑,但我觉得这件事还是让人挺五味杂陈的。好,第四个是什么?
第四个可能又跟我们公司比较相关,因为我们在做 continual learning。这也是一件很打我脸的事。
今年上半年我还到处讲,基于 memory notes、通过改写 memory notes 的方式来做,肯定不靠谱。我当时的观点非常 research:memory notes 不是一个 reliable 的 optimization algorithm,所以我觉得它不行。
结果发现,scaling 或者继续训练还是能行。我们刚才提到 computer use 到了临界点,另外,基于 memory notes 做 continual learning 这件事的上限也被我们低估了。
我们现在觉得,虽然它肯定还是有一些问题,确实不是一个可靠的优化算法,但模型越来越强以后,这件事的上限可能还是挺可观的。我之前觉得很大的一个问题是,写 memory notes 很大程度上会被模型自己的能力 bottleneck 住。但现在模型越来越强,这件事的上限确实有可能相当可观。
不过我还是要声明一点:到目前为止,我们观察到真正这方面比较强的,也就是 Anthropic 和 OpenAI,其他大家做得都不行。
我听起来,前面几个 Aha moments 都和模型的快速进化有关,颠覆了你之前认为模型做不到的事情。我们需要用工程手段、其他手段,或者换一种 learning paradigm 来解决。
是的,确实感觉今年还是要更加相信模型的 scaling。
而且迭代也更快了。我们前面说了 4 个,第 5 个 Aha moment 是什么?
第五个是 research community 或者学术体系。相对来说,这个没有那么突然,因为从 2023 年就有这种趋势了。但到 2026 年,真的感觉到了临界点:评价体系、投稿系统、会议系统彻底崩塌了。
拿我自己举例,我已经一年半没有投过任何一篇论文了。
是什么原因?
不想投,也不是一个很高的优先级。另外,我已经半年多没有审过稿,也没有担任过 AC。这些服务也不太想做,感觉它们对我的时间并不是很尊重。
现在有大量 AI slop、大量灌水,实在很难评。比如一个 batch 里有 16 篇文章,最后真正拿得出手、质量说得过去的,可能就一两篇。现在大家对发表论文这件事也越来越不看重。
首先,投稿系统崩塌了,很难再用它来考核大家。以前我也不认同数论文之类的做法,但现在这个指标基本上已经完全没有相关性了。
你们招新的毕业生时,还会看大家的论文情况吗?
我觉得更多还是看交流。你去问一个人做过的事情,看他对我们现在正在做的事情有什么理解,很容易看出一些东西。我们的流程里也会让他做 research presentation。我觉得 presentation 还是很能体现一个人的综合能力,包括逻辑表达、QA 时的反应,以及他对问题的理解。
如果你觉得这样的体系坍塌了,什么样的体系会重建起来吗?
我觉得学术方面最好的评估就是同行评议,不应该是一个量化指标。学术会议某种程度上也是同行评议,审稿过程就是 peer review,也就是同行评议。但我说的可能还是有点不一样,因为审稿人没有什么门槛。
我说的那种评估,可能真的得由 taste 比较高的人来做。比如美国各个院校招人的时候,candidate 会做 job talk,院系里一些 senior professor,或者比较强的老师,会给出意见,判断这个人怎么样。
你有看到什么新的体系在建立吗?
我觉得体系的建立肯定会有滞后性。不管在中国还是美国,学术圈现在还是按之前的惯性在走。结果就是,不管在美国还是中国,进大学当教职的优先级可能越来越往后了,没有以前那么高了。
尤其是对 AI 来说。
你觉得是什么原因?
机会和钱都有吧。我觉得很现实的一点是,现在一个 AI PhD 去 frontier lab,或者去一些 new lab startup,其实可以赚很多钱。在学校的话,待遇差很多,资源也少很多。资源少,很多事情就做不了,同时还存在评价体系的问题,大家不一定愿意接受。
我们聊了 5 个 Aha moments,听起来很多都是这个世界在巨变。过去相信的、或者认为很难撼动的东西,开始松动了。
我之前跟朋友开玩笑说,10 年之后教授的社会地位可能不如夜店的男模。这是一个夸张的比喻,还是你真的觉得社会地位会这样?
我真的这么觉得。当智力不再值钱的时候,可能长相和身材会更值钱。
人类智力值钱也不是一件很长时间的事,对吧?人类历史上这么多年,尤其是在进入现代文明之前,体力一直更值钱,强壮更值钱。机械时代到来之后,强壮变得没那么重要了;进入数字世界之后,脑力变得更重要。
但现在 AI 就是数字世界的机械,对吧?它来了之后,脑力可能也变得不重要了。也许会有一些新的东西出现。我觉得情绪价值可能短期内是机器很难取代的。
确实。
还有一个新闻是,现在全世界卖得最好的两种减肥药,收入加起来大于这些模型公司的收入。
对,减肥药只要有效果、没有副作用,就很容易成为能让人当上世界首富的生意。
现在如果有一个 PhD 来问你,他还值不值得读 PhD,你会给什么建议?
我不给建议,自己开心就好。说白了,我又不知道你追求什么、看重什么,你自己想清楚就行。
那你觉得有什么样的人,今天还适合读 PhD?
想读 PhD,想读就可以了,不需要做很多理性分析。我觉得想做一件事就去做,这本身就是一种理性。你想做却不去做,我不知道为什么这算理性。
但有时候大家也会分析,自己为什么想做这件事。
这个我不知道,反正他只要真的知道自己想做就行。对我来说,只要我想做,其他都不重要。
那我很好奇,你为什么想创业?
要说原因的话,理性分析确实能说出一些。首先,我一路都是读计算机的,但和这个专业的很多同学有一点不太一样。尤其是大家刚上本科时,身边默认的想法可能是进大厂、拿一个好的 package。但我从头到尾都没有过这种想法。
我跟很多朋友说过,我这辈子没有一秒钟想过去大厂,自始至终都没有。很大一个原因是我不喜欢固定的上班时间和作息,这对我来说非常痛苦。我需要灵活性,不需要工作和周末之间有边界。我需要在自己处于那个状态的时候做事情,不在那个状态的时候可以不做。
另外,创业的时候,除了时间上更自由,你对做什么事情也有更大的 ownership,可以在更大程度上决定自己想做什么,而不是完成别人给你的使命。这一点对我来说也很重要,我很难为别人工作。
第三,我不抗拒创业的一个理由是,我对风险没有什么概念。我一直有这种感觉:做一件事,我想做就行,不会去计较什么代价。
这是不是也因为你的家庭给你的安全感比较强,不管是情绪上还是财务上?
父母确实没有对我提什么要求,也不会要求我达到世俗层面的目标,比如人生的某个节点要结婚、要做什么。所以可能还是有一定的安全感吧。
我们刚才在说创业。到现在快小一年的时间了,感受怎么样?和你一开始的预期一样吗?你想要的自由、自主都拿到了吗?
这其实也是一个 Aha moment。我们到第几个了?
刚才聊完了 6 个。好,那第 7 个是什么?
第七个我觉得也挺有意思。我们整个团队之前在学校的时候,在苏宇老师带领下,口碑和 reputation 还是挺好的。很大程度上,大家觉得我们的 vision、taste 不错。
学术界有一个很典型的问题,就是拿锤子找钉子。比如先想一个算法,或者想一个奇怪的设计,再想办法把它用到某个问题上,然后写一篇 paper。我们从来不会这么做。我们会比较本质地去想,这个技术问题有什么 fundamental issues,再从更 fundamental 的角度去解决问题。
我们在学术界一直是这样的风格,这也是为什么我们在 LLM 时代做了一些开创性的工作。但把这套方法放到创业上之后,我发现我们成了那个拿锤子找钉子的人,或者说成了 solutions in search of problems,SISP。
这个原因是什么?
做学术研究,你只要在一套技术体系内能闭环、能自洽就行,有一套完整的 system 就可以。但做 startup,光自洽不行,光自洽就是自娱自乐。你需要和 market 一起完成闭环,还得想这些 fundamental problems 能解决别人的什么问题,能带来什么 business value,也就是商业价值。
所以这就是我们过去几个月或者一年在交的学费。我们可能一直还是从根本的技术问题出发。比如 continual learning 确实是现在 AI 的一个 fundamental problem,但把它放到 market 和产品里,它应该是什么形式、应该解决什么问题,这确实是我们过去交的学费。
很多时候觉得这个道理都懂,但自己做的时候才发现,纸上得来终觉浅。
因为你讲的好像是一个挺浅的道理:做公司要考虑怎么赚钱。但如果不是自己做,别人直接告诉你,你不会有那么深刻的体感,会觉得说了跟没说一样。
但做起来确实不一样。一旦进入做事的状态,你可能会局限在自己的 bias 里面,跳不出来。所以人要经常跳出来反思自己,可能会产生一些对自己的 Aha moments,帮助自己完成迭代。
我觉得有一个例子还挺想讲。VC 有一个理论:一个人头上着火了,他不会等着你给他一盆水或者灭火器;他手头有块砖头,也得拿砖头把头上的火拍灭。
这个是什么意思?就是我们这个学术团队出来,做事很 solid。
我们一直在想要造出一个好的灭火器,但可能在灭火器造出来之前,卖砖头的人已经卖了 100 个。这个具体投射到你们的业务上是什么?灭火器和砖头分别对应什么?
我们对于发布的标准太高了,总是要 release 一个自己特别满意、特别 solid 的东西。但从公司的层面来说,有时候可能真的要先发布一些没那么成熟的东西,先把闭环跑起来,甚至有时候先把牛吹出去都行。我们这方面确实太本分了。
在这个方面,有谁做得足够好,是你觉得可以参考的吗?因为你肯定不能 bluff,对吧?或者说了之后却 deliver 不了。但这里面的节奏其实很重要。因为你说得早,就会成为第一个创造 momentum 的人,后面会有很多红利。当然,最后你还是要不断 deliver。你觉得谁做得好?
最典型的就是马斯克。我觉得马斯克就是硅谷这种 “fake it till you make it” 的极致。
今天确实开始有一批高中生毕业,甚至连本科都不读,就直接开始工作。你怎么看这个趋势?
我觉得其实挺合理的。很多人在教育资源比较丰富的地方,比如北京、上海,可能很早就能去做一些真正有价值的事情,接受一些真正有价值的训练。
首先,我认可我们国家的教育体系,它符合我们的国情。但是对于个体来说,前十几年可能并不是真的在磨练自己的能力,更多只是为了完成筛选。但如果你能把这段时间用来学习真正有价值的事情,我觉得高中时就能做出一些非常有意义的贡献,也是合理的。
但这确实不会成为大众化的事情,对教育资源和环境的要求太高了。
我们前面聊了 7 个 aha moment,第 8 个是什么?
我觉得创业环境最近这一年多让我哈了好多次。首先有一个很有意思的现象:过去很长一段时间里,大家都觉得创业是一条非主流的路,想法和大家不太一样的人才会出来走这条路。但过去这一年,我开始频繁听到身边有人说:“大家都在创业,我周围的人都在创业,我也想去创业。”就感觉这件事情很诡异:什么时候创业成了随大流的事情?这对我来说是一个很大的 aha moment。
另外,为什么会这样?原因还是大家趋利,很容易理解。现在的市场环境里钱是真的多,投得太多了。我到今年 6 月才知道,原来国内会投这么多钱。之前大家的印象一直是硅谷比国内钱更多。像我们公司做一个 agent startup,当时拿了 4,000 万美元种子轮,在硅谷已经算挺大了,因为最常见的种子轮其实就 500 万美元、1,000 万美元。那会儿在国内,2023、2024 年出来的一些很厉害的老师,也就拿 500 万美元、1,000 万美元。
但从今年上半年开始,国内可能有一些所谓的 new lab,直接就是 20 亿美元估值。这对我来说确实非常震惊。可能是因为国内房地产崩了,这些钱不知道该去哪里,我确实不太懂,科技老师可能看得更清楚。
我觉得鼓励创业创新总体上对社会是好事。而且让掌握最前沿技术、最有想法的一群年轻人,能够没有压力地得到足够多的资本去尝试,这肯定也是好事。
真的没有压力吗?
大家多数还是不会签回购的,我也不会签对赌的,所以我觉得这种压力不会是个人财务上的压力。
更多是会不会浪费几年时间这样的压力。
那确实还好。那我们说到最后两个 aha moment 了,第 9 个是什么?
最近这几个月,AI 视频生成确实达到了一个我之前没想到的高度。现在真的能做出一部前后一致、长达 2 个小时左右的电影。
你在哪里看这样的电影?
比如我前阵子就在 B 站看了一个叫龙小胖的 UP 主做的视频。我小时候很喜欢看香港僵尸片,也很喜欢林正英这个演员,他去世比较早。那个视频就把他搬回来,做了一部新的僵尸片,2 个多小时,前后非常一致。人的脸、情节、衣着,从头到尾几乎都不会变。
大半年之前做 AI 视频,可能几分钟的视频里,人的脸都在不断变化。现在是一部 2 个小时的完整电影,从头到尾七八个角色都能保持一致。你真的可以沉浸式地看进去,不是为了了解 AI 今天能做到什么程度,而是真的把它当一个故事、一部电影来看。
哇,我觉得这对影视从业者来说,可能是一个更大的 aha moment。那看的时候,弹幕上会讨论 AI 吗?还是几乎都在讨论剧情,不讨论 AI 了?
都在讨论剧情。
有趣。我觉得这件事确实挺好的。但看的人都知道这是 AI 做的吗?
都知道,因为 B 站会声明是 AI 创作的。
所以大家知道这是 AI 做的,但也不 care 它是不是 AI 做的,大家 care 的已经是这部电影做得怎么样了。
对。我觉得最终大家对于一件事情是怎么产生的,可能不是很有所谓。
没错,关键还是最后 deliverable 长什么样。那你有冲动自己试着做一下吗?
我觉得还挺想试试的。这个时代真的很利好创作者。就像 Alexandr Wang 说的,大家都可以去 dream,大家想做的事情,现在 AI 能帮你实现。
说到这里,我突然想到我有一个好朋友前两天写了一部科幻小说,idea 是他的,写作上 AI 帮了很大的忙。背后的主题是,未来算力会越来越贵,人会变成永生的。那个时候,如果你想获得更多算力来享受生活,因为你要获得娱乐,你要用什么去换?你要用你的记忆去换。因为记忆是数据,模型还在进化,那个时候的进化仍然需要吃掉人更多的记忆,也就是数据。所以那个故事其实很悲伤:人们卖掉自己的记忆,换取更多算力来享受当下的生活。
关于写剧本这件事,我觉得也挺有意思。去年我听说有个拍 AI 短剧的朋友,短剧可能有 60 集,每集 1 分钟,总共 60 分钟。他们那时候给剧本报价差不多 7 万元人民币。现在我觉得,AI 一天就能给你写 100 个出来。
所以还是回到前面聊到的 aha moment:好像人类智力值钱这件事,也不是一个很长久的事情,可能已经不值钱了。
那什么会变得值钱呢?
在 AI 时代,我之前跟一个朋友说过一个非常粗暴的结论:我觉得未来人只需要两件事,一个是审美,还有一个是美。审美就是你要决定正确的方向、前进的路线在哪里;美就是情绪价值吧。
好,那我们来说最后一个 aha moment 吧。
Personal agent 这个事情突然起来了。为什么这东西起来了?它确实不是因为技术到了什么临界点,当然这和技术进步肯定有关系。比如 coding 更强了,能做更多事情;computer use 更强了,在后台操作软件、操作网页的能力确实更强了。
但更多的可能还是产品上有两个很关键的设计。首先,你要真的做成一个 personal assistant。像 ChatGPT 或者 Claude 那种 session-based 的对话管理肯定不合适。因为如果把它想象成你的助手,你不可能做一件事开一个窗口,做另一件事又开一个窗口,而是要有一个 persistent 的、单独的对话。就像你现在跟 Muse 一样,从头到尾在同一个对话里。这样才会有人的感觉,就像你在微信上跟人聊天一样。每一个对象就是一个窗口,你不会说今天让你做这件事就开一个窗口,明天让你做那件事又开一个窗口。
第二点还是产品层面,你要让它更有人的感觉。这就是为什么这些 personal agent 都要搞一些卡通形象。我觉得也是为了进一步增强这种感觉。比如 Muse 的毛绒形象,做各种各样的 PR,我觉得这确实是在一定程度上拟人化。
另外一点,大家都在说 proactiveness,但我觉得 proactiveness 本身也不是什么特别新的技术。年初的 OpenClaw 就有这个 feature,再包括 ChatGPT、Claude 的 scheduled tasks,一样能做到定时查看邮件、给我推送。所以我觉得本质上还是产品和交互体验。
你自己在用什么?
我自己在用 Muse 和 Instinct。
你要用两个?它们俩怎么分工?
其实都是帮我看看邮件、看看消息。因为在国内,这些服务平台你用不了,比如外卖、订酒店、订机票这些都不太好用,所以主要就是帮我看邮件。但看邮件这件事还挺关键的,因为邮件很多,它是真的能帮你挑出重点,需要优先处理的邮件,然后自己推送给你。这一点确实还挺有用的。
你觉得最后会收敛到只用一个吗?
最终会吧。我觉得这种东西现在之所以在试不同的,很大程度上也只是尝鲜。但真的当我在生活中形成这种依赖之后,我觉得只要一个就够了。
好,我们今天的 10 个 aha moment 都说完了。
已经 10 个了吗?
10 个了,10 个了。意犹未尽是吗?
时间过得挺快的。
好,那我们最后来预测一下明年吧。你觉得明年一定会发生什么事?
明年一定会发生的事?我们公司被高价收购了,开玩笑,开玩笑。明年我会再老一岁,这是一定会发生的。
对,AI 不能逆转,AI 不能让时光倒流。
对,但是 AI 有可能会研制出长生不老的药,不过可能不是明年的事。
对于模型的发展,我觉得可能每一年都会有一个关键词,这对大家的职业规划可能有一定参考意义。比如 2024 到 2025 年,可能是做 vision-language、VLM、world model;2025 年年底到 2026 年做 coding;从 2026 年到明年,我觉得得做 continual learning。这可能是明年,至少到明年下半年之前的一个关键词。
关于明年的其他预测,其实还挺难的。因为在这个时代,一年已经是非常长的跨度了。
是的,毕竟现在模型迭代都是以周为单位的。
对。也许明年,当然这是我瞎预测,不是说我觉得一定会发生,可能真的会有一个来自 RSI 公司的最强模型。
哦,哇。来自 SSI 这家创业公司的最强模型?
或者至少是一个前沿模型,SOTA 级别的。
好的,我们拭目以待。好,那谢谢谷雨。
好,谢谢谷老师。
然后祝大家新年快乐。
新年快乐。
我们播的时候应该是 11 月吧,还是可以新年快乐了。
可以,可以。
好,拜拜。
拜拜。