# 模型能力终将普及，AI 的终局是能力与成本之比｜对话 Google DeepMind 研究副总裁 Ed Chi 硅谷坐标 Silicon Valley Vector · 2026-10-19 · 32 min · https://www.xiaoyuzhoufm.com/episode/6ad5aa4b641ef406308dc7f3 ## 逐字稿 Ed H. Chi 开源模型之所以能够追上闭源模型，其中一个原因就是我和合著者写的这篇关于 Chain of Thought 的论文。大家用 Chain of Thought 的方法来复制推理的方式。当有一天，你的奶奶指着机器人骂它：“你怎么这么笨？”你就知道，通用助理的时代真的到了。所有 AI 的东西，最终都是 capability over cost，这是毋庸置疑的。 Speaker 1 Ed，很高兴今天来参加采访。 Ed H. Chi 嗯。 Speaker 1 今天想问一问，您在 panel 上讲了哪些内容？能跟我们 recap 一下吗？ Ed H. Chi 当然可以。我今天最主要想让大家知道，过去这三十年来，特别是前二十年，我们很多时候关注的都是 recommendation 和 search。但过去十年，因为神经网络的发展，我们已经知道如何用 next-token prediction 和 Chain of Thought，发掘机器的一些基本认知和推理能力。 从思维链能够做出一些思考动作，到它的由来和背后的理念，今天我主要跟大家分享的就是这些基本认知，以及如何思考下一步更复杂的 reasoning、memory 问题，或者 RSI，也就是 recursive self-improvement 的问题。这些都是未来学术研究可以思考的方向。 Speaker 1 嗯。 Speaker 1 今天我们想跟您探讨一下 consumer AI 这个方向。最近硅谷很火的一个产品 Instinct，还有刚刚 release 的 Muse Spark，让我们觉得个人助理似乎又掀起了新一轮讨论。 Ed H. Chi 对。 Speaker 1 您怎么看个人助理这样的产品？ Ed H. Chi 从 personalization，也就是个人化的角度来看，Google 的 AI Mode Search 这个 capability，原本是在 consumer services 这边的。它大概是 LLM application 最大的一层，事实上是从 search 开始，然后发展成 AI Mode 这样的搜索或问答趋势。 Muse 或者 Instinct 这样的产品，则是想从问答发展成通用助理。也就是说，它甚至可以帮我们做一些事情，比如订机票、订旅店或者买东西。因为这涉及很多权限问题，过去 reliability 还不够高，大家很担心把信用卡交给通用助理后，它会到处乱买东西。 所以，2026 年刚开始时，像 OpenClaw 这样的探索，让大家慢慢了解这方面的 technology。现在已经有一些小厂和大厂在探索通用助理服务。我个人认为，我们还处在很初期的阶段。比如很多 confirmation 的问题——你让它帮你买机票，结果买对了还是买错了——我们事实上还没有真正看到新的 data。接下来六个月到一年之间，我预测通用助理和刚才提到的 AI Mode Search 之间的关系和 interface 会变得更清楚。 Speaker 1 您 envision 的消费级 AI 未来会是什么样子？ Ed H. Chi 从我个人的观点来看——这不代表 Google 公司的观点——我一直觉得，AI 的推理能力在不断加强。想想看，三四年前我们写 Chain-of-Thought 这篇论文时，解决的是小学生的数学问题；到了今年，我们已经在解决 Navier–Stokes 方程这样物理或数学领域里最困难的一些问题。这说明它的推理能力在三四年间已经达到了一个巅峰。 不过，目前这些推理能力还是比较集中在一些 specific domain 里。通用助理的 universal 部分，比如对产品的推理，就跟数学不一样。我个人是高尔夫爱好者，那么它对高尔夫的原理、equipment 的理解，对球杆、球这些东西，到底有多少推理能力呢？所以我们在做这方面的应用时，一定要了解整个模型在不同领域的推理能力达到了什么 level。 Speaker 1 其实我们感觉，现在的个人助理有时候很简单，就是在 text message 里面。 Ed H. Chi 对。 Speaker 1 或者是一个 app 的形态。您觉得好的个人助理，它的护城河是什么？ Ed H. Chi 我觉得很多人会认为，特别是在 consumer 这边，真正的护城河就是用户，以及用户对产品的体验。用户只要遇到一次很严重的错误，就可能对产品改观。这跟你请的是 AI 通用助理，还是花钱请一个私人助理到家里或公司里做事，是一样的问题：你对它做出错误决定或行为的容忍度有多高？ 我之前在台湾参加另一个 podcast 时，提出过一个叫 Grandma Test 的概念：当有一天，你的奶奶指着机器人骂它“你怎么这么笨”，你就知道通用助理的时代真的到了。因为奶奶对通用助理的期望非常高；当它犯的错误变得非常严重时，你就会觉得这个产品有问题。所以现在无论是从产品角度，还是从科学角度，我们都在探索这个 boundary。 Speaker 1 您觉得跟市场上已有的竞争对手相比，谷歌做消费者 AI 产品的优势是什么？ Ed H. Chi 从 consumer 的整个 ecosystem 来看，它分成 software 和 hardware 两部分。很多公司现在关注的是 hardware，比如记忆体以及产业链上的问题。Hardware 这边看起来还有很多探索机会，其中一个原因就是 on-device 和 not-on-device model 的 interaction 问题。 Apple 之前提出过 hybrid intelligence 这样的概念。消费级 hardware 以后会怎么发展，我认为仍然是一个很大的空白。另一边是 software，我们现在讲的当然都是 services，而不是 downloadable software 或 downloadable app。比较有意思的问题是，将来大家是通过 search 这样的渠道进入通用助理环境，还是通过手机、智慧眼镜或其他 device？ Services 这边，也就是 software 这边，过去一两年我们已经看到一些新颖、比较大胆的探索，但我觉得还没有得出结论。比如说，为什么我现在还需要整天想着 app 有没有更新？这是十五年前我们就在担心的问题。进入通用助理时代后，不应该还要整天往机器人身上下载 app。所以我觉得 consumer services 这边也还处于起步阶段。 Speaker 1 如果以后出现一个现象级的消费级产品，您觉得它会来自谷歌、Meta 这样的公司，还是来自 Apple 这样的硬件公司，或者是一家初创公司？ Ed H. Chi 我觉得从整个生态系统来看，它从哪里来，有时候反而没有那么重要。更重要的是它怎么样普及，以及怎样才能形成与人互动的正确 interface。从科学家的角度来看，这才是发展这方面 research 最有意思的地方。 如果是初创公司开始做这些事情，也很可能被大厂收购。所以从投资人或开发者的角度来看，大家希望以后能有一个 healthy 的 ecosystem，让整个 industry 都可以探索这个 space。 Speaker 1 关于 DeepMind，我们看到 DeepMind 有很多人事变动，模型发布的节奏也有一些变化。 Ed H. Chi 嗯。 Speaker 1 您怎么看 DeepMind、谷歌的模型在整个 Frontier Lab 里的竞争力？ Ed H. Chi 这是个很好的问题。我们当然没有停下脚步，一直在继续发展模型。最近几个月我们发表的一些模型可能比较小型，我们想把小模型用在应用上。像刚才聊到的很多通用助理和个人化功能，事实上都需要小模型，而不是大模型。 大模型的好处是推理能力更强。我们最近这段时间发表出来的大部分模型稍微小一点，希望能在应用上有更多提升。当然我们也在开发更大的模型，这个可以拭目以待。 Speaker 1 明白。所以说，追求 AGI 这个前沿目标还会继续，谷歌的算力也还是会给这些 AGI 模型，对吧？ Ed H. Chi 对。我会这样看：从整个生态系统发展的角度来说，如果你有很多资源，要把多少资源放在 application development 上，多少放在大模型、更强推理能力的模型或 coding capability 模型上，怎么分配资源，长远来看是见仁见智的，并没有唯一的答案。 现在所谓 AGI-pilled 的这帮人，特别是湾区、旧金山的 tech bro，会觉得 software took over the world；只要把 coding 做好，把 software 做好，就能 take over the world。这才造成大家对 ultra-size model 的热爱。但从我们刚才聊的应用普及、手机应用这些话题来看，至少我个人不希望未来的应用完全依赖 ultra-size model，因为运算所需的能量实在太高了。所以大模型和小模型之间的平衡，事实上连大厂内部怎么分配投资，都是一个难题。 Speaker 1 您觉得 DeepMind 跟其他 frontier lab 相比，团队的优势是什么？ Ed H. Chi 我觉得我们这边可能是人才济济，人才实在太多了，大家都想做大模型，但卡永远不够。从另一个角度来看，Google 的用户对 Google 一定会有一种期许，希望我们的模型不是用别人的，也不是用 open-weights model。用户期望 Google 拥有这项技术，这也许可以说是一种技术 sovereignty。 从这个角度来说，Google 不可能放弃 model development，这完全不可能发生。但 Google 有一个优势，就是你刚刚问的 full stack：从模型开发，到 application 和 services，都在公司里面；再往下，有 hyperscaler、token factory，甚至 chip 开发，还有能源的使用和控制。我们有能力以最低的 cost 提供 token，这可能会成为未来最重要的护城河。 如果模型的 capability 普及了，最重要的其实是 cost control，也就是以最低的成本 deliver 最好的 capability。现在这个领域很多人还没有关注 cost，但所有经济问题最终都是 capability over cost，这是毋庸置疑的。 Speaker 1 大家会担心，比如 frontier lab 都已经投了很多 CapEx，今年、明年更夸张，特别是谷歌这样的大厂，现金流也被拖成负的。我们看到 cloud 这块的 revenue 有起色，margin 也在增强，但 AI 应用的收入可能还没有显现。我刚刚听您说，之后谷歌的 focus 也会把应用的 ROI 做得更好。 Ed H. Chi 没错。长远来看，如果你是一家很 short-term 的公司，就只会想着 quality、accuracy 这些问题。如果你是一家以五年、十年为投资眼光的长远公司，就会开始思考 what's in the future，以及真正应该 optimize 的 metric 是什么。不见得只是 capability，也包括 capability over cost。 谷歌最厉害的地方，事实上就是会在技术和很多其他领域都 double down。有可能的地方就投资，这边投，那边也投。它不是不肯 innovate，而是所有地方都在 innovate。我们不只是在模型上创新，也在 application 和 chip 方面创新，整个 full stack 都在做 innovation。 Speaker 1 您现在也在做 memory 方面的研究。 Ed H. Chi 对。 Speaker 1 我们知道谷歌的哲学是能存的东西就尽量存。现在整个 memory supply chain 又出现短缺，DRAM、NAND 和 HDD 可能都短缺。 Ed H. Chi 嗯。 Speaker 1 你们怎么 balance 这个问题？ Ed H. Chi 从 computer science 的角度来看，我们过去的 research 已经知道 memory 和 computation 之间可以转换。有时候你用更多 memory，有时候你用更多 computation。 如果有一个很长远的 investment plan，就比较不会担心一时的 memory 短缺，因为可以用 computation 来代替。所以，memory research 不只是供应链和 hardware 的问题，也包括我们的计算方法需要多少 memory、多少 memory bandwidth，以及神经网络的 design 是不是应该降低 memory requirement。 计算方法也会影响 memory 的使用。比如 Timi[?] 做的 model 叫 Delta Attention Model，它使用 memory 的方式，跟 full attention、O(N²) 的 attention，以及 sparse attention model 都不一样。这只是在讲 sequential Transformer model 里的 memory 问题，我们还没有聊到个人化里的 memory 问题，或者 KV cache 的 memory 问题。 我们现在说的 memory，常常是指硬件或软件里的记忆。但从人类认知学的角度来看，memory 也是一种 program。它不只是一个没有生命的东西，而是一个不断变化、指导事情该如何发生的东西，是一个用来 program AGI machinery 的 program。所以我们做 research 时，也关注的不只是底层 memory 的运用，还包括如何整理 context buffer 里的信息，这方面我们也花了很多精力。 Speaker 1 现在 memory 研究最大的 bottleneck、最大的挑战在哪里？ Ed H. Chi 我个人认为，从 Transformer model 的角度来看，我们现在最大的 context buffer 大概可以做到 100 万或 200 万 token。在我看来，这完全不够，这是一个 bottleneck。 另外，我们对 memory 的看法，还是把它当成一个存储和提取，也就是 memory retrieval 的机制，而不是从人的认知或思考能力的角度来看待它。Memory 事实上非常重要，不只是 retrieval。这也是 research 上的一个 bottleneck；大家还没有把 memory 这件事想清楚。 Speaker 1 对，感觉人脑好像可以主动遗忘，可以学到新的东西，还可以把原来的东西压缩。这基本上是模型现在…… Ed H. Chi 没错。 Speaker 1 Continue learning 是不是？ Ed H. Chi 没错。很多学过 computer science 的人会觉得，机器的 memory 不需要这样想，它不需要忘记东西。但事实上不是这样。很多人觉得 memory 是你还记不记得的问题，其实 memory 是一个 ranking 问题：什么东西最重要，这才是 memory 真正重要的地方。 Memory 最重要的问题之一，就是 ranking。比如说，我随便讲一个地点：Paris。你会想起去巴黎时有什么记忆，这事实上是一个 ranking 问题，而不是所有跟 Paris 有关的东西一下子全涌出来。 Speaker 1 对。像现在有很多创业公司专门做 memo、memory layer。您觉得 memory 这么重要的事情，会由初创公司来做，还是基本上都是大厂来做？ Ed H. Chi 现在硬件那边也有一些人，在想怎么把 memory 和 computation 结合起来，提出一些比较新的想法，这些新想法并没有在大厂里面做。当然，大厂也有人在做这方面的事情。我觉得 memory 和 computation 之间的 relationship，未来几年可能会有一些新的发展。 Speaker 1 如果您今天要出来创业，您觉得最好的创业方向是什么？ Ed H. Chi 这个问题很好。我觉得现在有一个趋势：模型的 capability 好像开始有一点 commoditize。当然我不是说它完全 commoditize 了，但只要差距变得更小，也就是最好模型和最差模型之间的 gap 变低，value creation 就会往 application 和 token factory 这两边走。因为大家都在找护城河。 当 model capability 不再是最强的护城河时，就得去其他地方找。Application 这边可能是用户 lock-in、stickiness，以及使用体验好不好。Hyperscaler 那边则有很多跟 cost 有关的问题：能源使用量、chip design 好不好、memory 和 computation 之间的 relationship 有没有处理好，以及未来有多少会在 on-device 上运行，有多少不会。所以从我的角度来看，这些都还是 open questions，非常 exciting。 Speaker 1 对。您怎么看开源模型和闭源模型？现在我们知道开源模型追得很紧，您觉得未来这个 gap 会变大还是变小？ Ed H. Chi 这个问题很有意思。开源模型之所以能够追上闭源模型，其中一个原因就是我和合著者写的 Chain-of-Thought 论文。大家用 Chain of Thought 的方法来发掘模型里的思维链。 Speaker 1 嗯。 Ed H. Chi 也就是模型的思考模式，然后用这个思考模式来复制、拷贝推理的方式。现在大厂里有很多工作，是在想办法把推理链，也就是思维链藏起来。藏起来以后，被复制的可能性就会更低。 事实上不只是这个问题。我认为模型继续发展后，比如 multimodality 的 capability，也都很难复制。所以我觉得很多人好像把这件事说得像定论一样，但我个人认为这种想法还不成熟。看起来有些 capability 会因为蒸馏而变得更 commoditize，但有些 capability 到目前为止还看不出会 commoditize。所以现在还有很多 debate。 Speaker 1 大家好像觉得 open-source model 能做的事情越来越多，留给 SOTA 模型 monetize 的空间就更小了。 Ed H. Chi 嗯。 Speaker 1 这能撑起这样的估值和这么大的 CapEx 吗？您会担心吗？ Ed H. Chi 这就是为什么有些人在想，AI 这个市场里是不是有一部分是泡沫性的。我并不觉得整个市场都是泡沫，但不同地方肯定有不同的泡沫。比如 physical intelligence 那边，可能有一些不切实际的预期。 刚才提到的 multimodality 这块，我们很多模型的 visual reasoning capability 都非常糟糕。所以你可以看出来，这跟大家的信念不一样。如果你觉得 software took over the world，我们用 agent 的方法解决了 software 的问题，那所有问题就都解决了。要是你有这样的 perspective，我刚才讲的很多东西就不适用。但如果你觉得解决了 software，还没有解决所有问题，那我们还有很多戏可以唱。 Speaker 1 前面我们聊到，现在很多 frontier lab 在 coding 上已经有了商业化变现。您觉得下一个更 exciting 的机会会在哪些领域？ Ed H. Chi 刚才讲到，现在有很多应用。比如 Anthropic 和 OpenAI 的 revenue，有很多是 enterprise 这边带动的 subscription revenue。我挺看好 consumer 这一块接下来的崛起。 当然，从行业龙头的角度来说，我还留在 Google、继续在 Google 做事，原因就是 consumer services 一直是 Google 最强的地方。当然，这不代表将来不会有新的 space，大家可以拭目以待。 Speaker 1 接下来我们应该期待什么产品？比如谷歌在未来一两年内，有哪些 AI 产品值得期待？ Ed H. Chi 我从整个 industry 的角度来回答这个问题。我觉得现在已经有一些人在想，未来会是 super app 的时代，还是整个手机都会改变；甚至我们佩戴在身上的眼镜、耳环、耳机，都会有很大的变化，或者衣着也会有变化。 还有家里的智慧音箱。我们之前做了四五年，突然好像没人在做了。以前还在说什么智慧冰箱。从私人通用助理的角度来看，冰箱上放一个荧幕、连着 Internet，如此而已，就能把整个智慧功能做起来，这比七八年前容易多了。所以 consumer hardware 这边，我觉得还是相当 exciting 的。 Speaker 1 我的问题问完了。您有什么想补充的吗？ Ed H. Chi 没有，我觉得你问的问题都很好。作为一个科学家，我觉得非常 exciting 的地方是，大家都可以看得出来，不管是 enterprise 还是 consumer，creativity seems to be everywhere。 我刚才在台上也分享了，当年我们做 Chain of Thought，也就是思维链研究时，解决的只是小学生的问题，比如一加一等于二，买了 5 个 apple，再买 6 个 apples，一共有多少个 apple？5 加 6 等于 11。当时模型的 accuracy 只有 33%。 现在我们才刚经历了最大模型能够解决 Millennium Prize Problems 的阶段，比如 Navier–Stokes 方程。从这个角度来看，我们现在能够想象的 capability 肯定还不够，它会继续扩展。对科学家来说，这是非常 exciting 的事情。 Speaker 1 很多人觉得现在 AI 已经可以把数学做得这么好。如果我们现在要从小培养孩子，他们的时间应该花在数学上吗？还是应该把更多精力放在 AI 解决不了的问题上？ Ed H. Chi 我觉得这个问题有意思的地方在于，快十年前 Google 开发 AlphaGo 的时候，很多人在它跟棋王对决之后就说：“完了，人类以后不下棋了。”结果后来下棋的人反而更多了，想研究围棋的人也更多了。 我觉得数学也一样。很多人会觉得，既然现在能用这种方法解决 Navier–Stokes 方程，以后就没人想学数学了。我觉得可能恰恰相反，会有更多人觉得数学这么有趣，想要去研究它。过去可能有人是为了 exploration，也就是探索知识的边界；现在会有很多其他动机，比如 understanding、entertainment 或者乐趣。所以以后做数学研究的人，可能会更多是出于内心的 curiosity。 Speaker 1 有没有可能以前数学的门槛很高，但如果能通过 AI 把数学变成一种工具，很多文科生也可以利用它解决更多、更有创意的问题？ Ed H. Chi 以前学围棋，你得请教练、请老师，还要找棋力相当的朋友一起下棋，花很多时间。现在你拿个手机，就可以下载一些相当不错的围棋 application。它反而带动了围棋界很多学习，小朋友也都在用这些软件，所以事实上激励了很多人。 这也跟 search engine 有关系。当时很多人觉得，大语言模型来了，search engine 就没那么 relevant 了。但 Google 反而看到很多 search application 在增加，而不是减少。所以我觉得还是可以保持一些乐观。当然我不否认，它会改变我们现在既有的很多结构，但也会带来新的可能性。 Speaker 1 对。 Speaker 1 嗯，非常感谢。 Ed H. Chi 哪里。 Speaker 1 非常非常感谢。 Ed H. Chi 谢谢，谢谢。