硅谷坐标 x 谷歌DeepMind研究副总裁 Ed H. Chi(纪怀新):个性化通用助理的未来
- Ed Chi 判断通用助理仍处“很初期的阶段”,并给出 6–12 个月的时间表:届时通用助理与 AI Mode Search 之间的关系和 interface 会更清楚。权限与 reliability 是卡点——大家会担心把信用卡交给通用助理后,它到处乱买东西;至于它帮人买机票究竟买对还是买错,这类实际结果的数据至今还没有真正出现。他用 Grandma Test 描述通用助理的成熟标尺:“当你的 grandma 指着你的机器人骂它‘你怎么这么笨’,你就知道通用助理的时代真的到了。”
- 他强调,经济活动最终要看 capability over cost;若模型能力普及,成本控制可能成为最重要的护城河。Google 的优势在于 full stack——从模型、application、hyperscaler、token factory 到芯片与能源控制,并有能力以最低成本提供 token。Ed 也指出,现阶段很多人还没有关注 cost。
- 关于模型竞争力,他认为 Google 不可能放弃模型开发,理由是用户期待 Google 拥有自己的模型技术。近几个月发布偏小模型是刻意为之——通用助理和个人化应用需要小模型;更大的模型也在开发中。他还提到湾区一些 AGI-pilled tech bros 信奉 software took over the world,因此热衷 ultra-size model;他个人不希望手机应用都跑超大模型,因为计算能耗太高。
- 他认为,把能力商品化或开源与闭源模型差距的走向说成定论还不成熟。开源模型能追上,其中一个原因是借助他合著的 Chain-of-Thought 论文所述方法研究并复制推理方式;大厂正在设法隐藏推理链,以降低被复制的可能性。Multimodality 等能力目前也还看不出会被商品化。市场并非整体都是泡沫,但不同领域可能各有泡沫;Physical Intelligence 可能有不切实际的预期,很多模型的 visual reasoning 也很糟糕。
- 若今天创业,他认为模型能力的差距若缩小,value creation 会更多流向 application 和 token factory。Application 端看用户 lock-in、stickiness 与体验;hyperscaler 端则涉及能源用量、芯片设计、memory 与 computation 的关系,以及 on-device 计算的占比——这些仍是 open questions。
- Memory 是他眼中尚未被充分理解的瓶颈:它不只是存取,也涉及 ranking。Transformer 的 context buffer 目前约一两百万 tokens,在他看来完全不够;从认知角度,memory 也是一种 program。至于 DRAM、NAND、HDD 的供应短缺,他认为 memory 与 computation 可以互相转换,长期投资规划也能降低对一时短缺的担忧。
- 商业化的下一波,他看好 consumer 崛起——Anthropic、OpenAI 的收入有很多由 enterprise subscription 带动,而 consumer services 是他留在 Google 的原因之一。推理能力从三四年前解决小学生数学题、当时 accuracy 只有 33%,发展到如今能解 Navier–Stokes 这样的数学问题,但能力仍集中在特定领域。AlphaGo 之后下棋的人反而更多;大语言模型时代,Google 也看到 search 应用增加而非减少。他认为,即使解决了 software 问题,也不代表所有问题都解决了。
1. 推理三四年登顶:从小学数学 33% 到 Navier–Stokes,但仍集中在特定领域
- Ed Chi 的开场坐标:过去 30 年、尤其前 20 年,关注的很多是 recommendation 和 search;近 10 年,借助神经网络的 next-token prediction 与 Chain-of-Thought,才开始发掘机器的基本认知与推理能力。下一步的学术问题包括更复杂的 reasoning、memory,以及 RSI(recursive self-improvement)。
- 他给的跨度最具冲击力:写 CoT paper 时,模型解决的是小学生数学问题,accuracy 只有 33%;如今最大的模型已能解决 Millennium Prize Problems 中的数学问题,例如 Navier–Stokes equations。他认为推理能力在三四年间已达到一个巅峰。
- 但他随即补充,这些推理能力仍集中在特定领域。他以自己的高尔夫爱好举例:模型对高尔夫原理、球杆、球和装备的理解及推理能力究竟如何?“这些都和数学不一样”,做应用前必须弄清模型在不同领域的推理水平。
2. 通用助理极早期:Grandma Test 与六到十二个月的 interface 走向
- 主持人曹卿云提到 Instinct 和刚发布的 Muse Spark 带来的个人助理讨论。Ed 的框架是:Google 的 AI Mode Search 属于 consumer service;大型语言模型应用中最大的一类事实上从搜索开始,后来发展成 AI Mode 这样的搜索或问答方式。Muse、Instinct 则想从问答走向能订机票、订旅店、买东西的通用助理。
- 卡点在权限与 reliability:大家会担心把信用卡交给通用助理后,它到处乱买东西。2026 年初,OpenClaw 这样的探索让大小厂开始试水;但让助理买机票究竟买对还是买错,这类实际结果的数据还没有真正出现。他预测,未来 6 个月到 1 年,通用助理与 AI Mode Search 的关系和 interface 会更清楚。
- 谈到产品护城河,他强调用户体验与容错:consumer 产品只要犯过一次严重错误,用户就可能改变看法。他在台湾参加另一个 podcast 时提出过 Grandma Test:有一天,grandma 指着机器人骂它“你怎么这么笨”,就知道通用助理的时代真的到了。由于 grandma 对通用助理的期待很高,严重错误会让人觉得产品有问题;目前大家仍在探索这个边界。
- 对“现象级产品会从哪家公司出来”的问题,他认为来源有时没那么重要,关键是如何普及、什么才是正确的人机 interface。初创公司做出产品后也可能被大厂收购;他希望行业能有一个 healthy ecosystem,让大家都能探索。
3. Google 不会放弃模型开发;长远看要衡量 capability over cost
- 面对主持人关于 DeepMind 人事变动与模型发布节奏的提问,Ed 说 Google 没有停下模型开发。近几个月发布的模型偏小,是因为通用助理和个人化应用需要小模型;更大的模型也在开发中。他形容团队人才济济,但想做大模型的人多、资源永远不够。
- 他表示,Google 用户会期待 Google 不用别人的模型或 open-weight 模型,而是拥有这项技术;从这个角度,Google 不可能放弃模型开发。
- 大小模型之间的资源分配没有唯一答案。他把 ultra-size model 的热潮与湾区一些 AGI-pilled tech bros 的信念联系起来:他们相信 software took over the world,做好 coding 和 software 就能 take over the world。但他个人不希望手机应用都用超大模型,因为计算能耗太高。
- 主持人提出 CapEx 投入和现金流压力后,Ed 从长短期投资角度回应:短期公司会盯着 quality、accuracy;以 5 年、10 年为尺度投资,则要想清楚应优化什么 metric,不只看 capability,也看 capability over cost。他说 Google 会多重布局:模型、application、chip 和整个 full stack 都在创新;公司有能力以最低成本提供 token。若模型能力变得普及,cost control 可能成为最重要的护城河。
4. Memory 不只是存取,也涉及 ranking;context buffer 一两百万 tokens 远远不够
- 对 DRAM、NAND、HDD 可能短缺的问题,Ed 提到过去的研究指出 memory 与 computation 可以互相转换:有长远投资计划,就不必太担心一时的 memory 短缺,因为可以用 computation 代替。Memory 研究还要考虑计算方法需要多少 memory 和 bandwidth,以及神经网络设计是否应该降低 memory requirement。他举例说,Timi 做出的 Delta Attention Model,其计算和内存用法不同于 full attention、O(n²) attention 或 sparse attention。
- 这还只是 sequential Transformer model 的 memory 问题;个人化应用、KV cache,以及日常所说的 memory 也有各自的问题。从人类认知角度看,memory 也是一种 program:它不是没有生命的东西,而是不断变化、指导事情如何发生,并用来编程 AGI machinery 的 program。研究因此也关注底层 memory 运用与 context buffer 里的信息整理。
- 他指出两个 bottleneck:Transformer 的 context buffer 目前大约能做到 1 million 或 2 million tokens,在他看来完全不够;更根本的是,大家常把 memory 看成存储与提取的 retrieval 机制,而没有把它当作人类认知或思考能力的一部分。
- 他的修正是:“memory 事实上是一个 ranking 的问题。”比如提到 Paris,人会想起去巴黎时相关的记忆中较重要的内容,而不是所有与 Paris 有关的东西一下子涌出来。
- 对 memory layer 初创公司能否立足的问题,他说硬件领域已有一些大厂之外的新想法,也有大厂在做;memory 与 computation 的关系未来几年可能会有新发展。
5. 能力差距缩小会把价值推向 application 和 token factory;开源追赶部分得益于 CoT 方法
- 他的创业方向判断是:模型 capability 开始有一点 commoditize 的迹象,但并非完全商品化。如果最好与最差模型之间的 gap 缩小,value creation 就会更多流向 application 和 token factory。Application 端要看用户 lock-in、stickiness 与体验;hyperscaler 端涉及能源用量、芯片设计、memory 与 computation 的关系,以及多少计算会在 on-device 完成——这些仍是 open questions。
- 谈到开源模型追上闭源模型,他说原因之一是自己合著的 Chain-of-Thought 论文:研究者用 CoT 方法发掘模型里的思维链,再研究模型的思考模式、复制其推理方式。大厂如今也在设法把推理链藏起来,降低被复制的可能性;multimodality 等能力也可能很难复制。他认为,把能力的商品化趋势说成定论还不成熟:有些 capability 会因蒸馏变得更 commoditize,有些目前还看不出会 commoditize,相关问题仍有很多 debate。
- 对 AI 市场是否有泡沫,他不认为整体都是泡沫,但认为不同地方可能有不同泡沫;例如 Physical Intelligence 可能存在一些不切实际的预期。他还指出,很多模型的 visual reasoning capability 很糟糕。
- 他认为现实与信念并不总是一致。如果相信 software 问题一解决,所有问题就都解决了,那么他前面谈到的很多事就不适用;但如果认为解决 software 仍不等于解决所有问题,“我们还有很多戏可以唱”。
6. 下一波看 consumer:硬件与人机 interface 仍有探索空间
- 谈到 coding 之后的机会,Ed 说 Anthropic 和 OpenAI 的收入有很多由 enterprise subscription 带动;他看好 consumer 接下来的崛起。他继续留在 Google 的原因之一,是 consumer services 一直是 Google 的强项,但他也不排除未来出现新领域。
- 他从整个行业角度谈未来产品形态:可能是 super app,也可能是整个手机发生变化;眼镜、耳环、耳机乃至衣着都可能变化。他认为 consumer hardware 仍有很多探索空间,包括 on-device 与 off-device 模型的交互;Apple 曾提出 hybrid intelligence 的概念。
- 他还回顾,家里的智能音箱做了四年后,突然好像没人做了;以前有人喊着做智能冰箱,而从私人通用助理角度看,冰箱上放个屏幕、连上 Internet,就能把智能做起来,比七八年前简单多了。进入通用助理时代后,人们也不应该还得整天给机器人下载 app——那是 15 年前担心的问题。
- 收尾谈到 AI 与教育,他用 AlphaGo 作类比:近 10 年前 Google 开发 AlphaGo,很多人在它和棋王对决后说人类以后不下棋了;结果下棋的人和想研究围棋的人反而更多。他认为数学也可能如此:AI 能解 Navier–Stokes,不一定会让人不想学数学,反而可能吸引更多人。研究动力或许会从探索知识边界,转向理解、娱乐和乐趣,让更多人出于好奇心做研究。
- 他还提到围棋应用降低了学习门槛、激励更多小朋友学棋;大语言模型出现后,Google 看到 search 的应用增加而不是减少。AI 会改变现有结构,也可能带来新机会;他认为 enterprise 和 consumer 领域都“creativity seems to be everywhere”。
Full transcript
开源模型之所以能够追上闭源模型,其中一个原因是我合著了 Chain-of-Thought 这篇论文。他们用 Chain-of-Thought 的方法来复制推理方式。等到有一天,你的 grandma 指着你的机器人骂它“你怎么这么笨”,你就知道,通用助理的时代真的到了。所有 AI 产品最终都要看 capability over cost,这是毋庸置疑的。
你怎么看 DeepMind 在大模型竞争中的实力?
这是一个很好的问题。
Ed,很高兴今天能来采访你。
嗯。
今天你在 panel 上讲了哪些内容?能跟我们 recap 一下吗?
当然可以。我今天最主要想让大家知道的是,过去 30 年,特别是前 20 年,我们关注的很多都是推荐和搜索。但过去 10 年,因为神经网络的发展,我们已经知道怎么用 next-token prediction 和 Chain-of-Thought 的方法,发掘机器的一些基本认知和推理能力。
从思维链这个部分,我们可以做出一些思考动作。它的由来和背后的理念是什么?今天我跟大家分享的就是这些基本认知,以及怎么思考下一步更复杂的 reasoning、memory 问题,或者 RSI,也就是 recursive self-improvement 的问题。这些都是未来学术研究需要思考的方向。
嗯哼。
今天我们想跟您探讨一下 consumer AI 这个方向。最近硅谷很火的 Instinct,还有刚刚发布的 Muse Spark,都让我们觉得,个人助理似乎又掀起了新一轮讨论。
对。
您怎么看个人助理这样的产品?
从 personalization,也就是个人化的角度来看,Google 的 AI Mode Search 这类能力,原本就属于 consumer services。大型语言模型应用中最大的一类,事实上是从搜索开始的,后来才发展成 AI Mode 这样的搜索或问答方式。
Muse 或 Instinct 想从问答往通用助理发展,也就是说,它甚至可以帮我们做一些事情,比如订机票、订旅店或者买东西。这方面会涉及很多权限问题。之前的 reliability 还不够高,大家会担心把信用卡交给通用助理之后,它到处乱买东西。
所以,2026 年刚开始时,OpenClaw 这样的探索让大家慢慢了解这项技术。现在一些小厂和大厂都在探索通用助理服务。我个人认为,我们仍处于非常初期的阶段。比如说,你让它帮你买机票,买对了还是买错了,这类问题我们还没有真正看到新的数据。
我预测,未来 6 个月到 1 年,我们会更清楚通用助理和刚才提到的 AI Mode 搜索之间的关系,以及它们的 interface 会是什么样子。
对,你们 envision 的未来消费级 AI 应用是什么样子的?
这是我个人的观点,不代表 Google 公司的观点。我一直觉得,AI 的推理能力在不断增强。你们想想看,三四年前我们写 Chain-of-Thought 这篇论文时,解决的是小学生的数学问题;到了今年,我们已经在解决 Navier–Stokes equations 这样的物理或数学领域中最困难的问题。这代表它的推理能力在三四年里已经达到了一个巅峰。
不过,到目前为止,这些推理能力还是比较集中在一些特定领域。通用助理的 universal 部分,比如它对产品的推理能力如何?我个人是个高尔夫球爱好者,那么它对高尔夫球的原理、设备的理解,以及对球杆、球这些东西的推理能力到底有多少?这些都和数学不一样。所以我们做这方面的应用时,一定要了解模型对不同领域的推理能力达到了什么水平。
其实我们感觉,个人助理现在很简单,有时候就是在 text message 里。
对。
或者是一个 app。您觉得好的个人助理,它的护城河是什么?
我觉得很多人会认为,特别是在 consumer 领域,真正的护城河往往是用户对产品的体验。用户怎么感受这个产品?有些人比较保守,是因为产品只要犯过一次很严重的错误,你可能就会改变对它的看法。
不管它是 AI 通用助理,还是你花钱请来的私人助理,无论是在家里还是公司,你对它做出错误决定或错误行为的容忍度有多高,都是同一个问题。之前我在台湾参加另一个 podcast 时,提出过一个叫 Grandma Test 的概念:有一天,你的 grandma 指着机器人骂它“你怎么这么笨”,你就知道通用助理的时代真的到了。
因为 grandma 对通用助理的期待非常高。如果它犯的错误很严重,你就会觉得有问题。所以现在无论是从产品角度,还是从科学角度,我们都在探索这个边界。
你觉得跟现在市场上已有的竞争对手相比,谷歌做消费者 AI 产品的优势是什么?
从 consumer 的整个 ecosystem 来看,可以分成 software 和 hardware 两部分。有很多公司现在关注的是 hardware,比如记忆体和产业链上的问题。hardware 这边看起来还有很多探索机会,其中一个原因是 on-device 和 off-device 模型之间的交互问题。比如 Apple 之前提出过 hybrid intelligence 这样的概念。未来 consumer hardware 会怎么发展,我认为还是一个很大的空白。
另一边是 software。我们现在讲的当然是 services,而不是 downloadable software 或 downloadable apps。我觉得比较有意思的是,未来人们会通过搜索这样的渠道进入通用助理的环境,还是通过手机、智能眼镜或其他设备?
过去一两年,我们已经看到 software services 这边有一些很新颖、比较大胆的探索,但我觉得还没有得出任何结论。比如,为什么我现在还是得整天想着我的 app 有没有更新?这是我们 15 年前担心的问题。进入通用助理时代后,你不应该还得整天往机器人身上下载 app,对吧?所以 consumer services 这边基本上也还处于起步阶段。
如果未来有一个现象级的消费级产品,你觉得它会是谷歌、Meta 这样的公司做出来的,还是像 Apple 这样做硬件的公司,或者是某家初创公司?
从整个生态系统来看,它是从哪里来的,可能有时候反而没那么重要。重要的是它怎么普及,以及什么才是和人互动的正确 interface。从科学家的角度来看,研究这方面的人会觉得这是最有意思的地方。
如果是一些初创公司开始做这些事情,也有可能被大厂收购。所以从投资人或开发者的角度来看,大家希望未来能有一个 healthy ecosystem,让整个行业都可以探索这个领域。
关于 DeepMind,我们看到有很多人事变动。
嗯。
模型发布的节奏也有一些变化。
嗯。
您怎么看 DeepMind、谷歌的模型在整个 Frontier Lab 里的竞争力?
这是一个很好的问题。我们当然没有停下脚步,一直在继续发展模型。最近几个月我们发布的一些模型可能比较小型,因为我们想把小模型用在应用上。像刚才聊到的很多通用助理和个人化应用,事实上都需要小模型,而不是大模型。
大模型的好处是推理能力更强。最近这段时间,我们发布的模型大部分稍微小一点,希望能在应用上有更多提升。当然,我们也在开发更大的模型,大家可以拭目以待。
明白。所以,前沿的 AGI 目标还会继续追求,谷歌的算力也还是会给这些 AGI 模型,对吗?
对。从整个生态系统发展的角度来看,如果你有很多资源,该把多少放在 application development 上,多少放在大模型、更强推理能力的模型或 coding capability 模型上?从长远来看,这件事见仁见智,并没有唯一的答案。
现在所谓 AGI-pilled 的那帮人,特别是在湾区、旧金山的这些 tech bros,会觉得 software took over the world。只要把 coding 和 software 做好,就能 take over the world。所以大家才会这么热衷于超级大模型,也就是 ultra-size model。
但从我们刚才聊的话题来看,比如应用的普及、手机上的应用,这些东西以后不见得都需要 ultra-size model。至少我个人不希望它们都用超大模型,因为这类计算需要的能量实在太高。所以大模型和小模型之间的平衡,事实上连大厂内部的投资分配都是一个难题。
那你觉得 DeepMind 跟其他 Frontier Lab 相比,团队的优势是什么?
我觉得我们这边可能是人才济济。人才实在太多了,大家都想做大模型,但资源永远不够。
我觉得可以从另一个角度来看。Google 的用户对 Google 一定会有一种期待,希望我们的模型不是用别人的,也不是用 open-weight 模型。他们一定希望 Google 拥有这项技术,这或许可以说是一种技术主权。所以从这个角度来说,Google 不可能放弃模型开发,这完全不可能发生。
Google 的一个优势是它是一家 full-stack company。我们在公司内部开发模型,也做 application 和 services;再往下有 hyperscaler、token factory,甚至芯片开发,还有底层能源的使用和控制。我们有能力以最低的成本提供 token,这种控制能力将来可能是最重要的护城河。
如果模型能力变得普及,最重要的可能就是 cost control,也就是以最低的成本提供最好的 capability。现在这个领域的很多人还没有关注 cost,但所有经济活动最终都要看 capability over cost,这是毋庸置疑的。
大家会担心 Frontier Lab 已经投了很多 CapEx,今年、明年可能更夸张。特别是像谷歌这样的大厂,现金流也被拖成了负的。我们看到 cloud 这块的 revenue 有起色,margin 也在增强,但 AI 应用的收入可能还没体现出来。刚刚听您说,之后谷歌也会继续把重点放在应用上,提高应用的 IOI。
没错。你可以这样讲,从长远角度来看,如果你是一家 short-term 的公司,就会只想着 quality、accuracy 这些问题。如果你是一家着眼长远的公司,按照 5 年、10 年来投资,就会开始想未来是什么,真正应该 optimize 的 metric 是什么。不见得只有 capability,也要看 capability over cost。
谷歌最厉害的地方事实上就在这里。它在技术和很多其他领域都会做多重布局。只要有可能,这边投一点,那边也投一点。它不是不肯 innovate,而是在各个地方都 innovate。我们不只在模型上创新,也在 application 和 chip 上创新,整个 full stack 都在做 innovation。
因为您现在也在做 memory 方面的研究。我们知道谷歌的哲学是能存的东西就尽量存,而现在整个 memory supply chain 又出现短缺,DRAM、NAND,还有 HDD 可能都短缺。你们怎么 balance 这个问题?
从 computer science 的角度来看,以前的研究已经告诉我们,memory 和 computation 之间可以转换:有时候你需要更多 memory,有时候你可以用更多 computation。如果你有一个长远的 investment plan,就不太会担心一时的 memory 短缺,因为可以用 computation 来代替。
所以现在的 memory research,不只是供应链和 hardware 的问题,也要看计算方法需要多少 memory、多少 memory bandwidth,以及神经网络的设计是否应该降低 memory requirement。计算方法也有影响。比如 Timi 做出来的模型叫 Delta Attention Model,它的计算和内存用法,跟 full attention、O(n²) attention 或 sparse attention 模型都不一样。
这只是 sequential Transformer model 里面的 memory 问题,我们还没聊到个人化应用里的 memory 问题、KV cache 的 memory 问题,以及我们平常所说的 memory。我们常常讲的是硬件或软件里的记忆,但从人类认知的角度来看,memory 也是一种 program。它不只是一个没有生命的东西,而是一个不断变化、指导事情该如何发生的东西,是一个用来编程 AGI machinery 的 program。
所以我们做研究时,也会关注的不只是底层 memory 的运用,还包括 context buffer 里的信息整理,以及 context buffer 相关的研究。我们在这方面也花了很多精力。
现在最大的 bottleneck 在哪里?memory 研究最大的挑战是什么?
我个人认为,从 Transformer 模型的角度来看,我们现在最大的 context buffer 大概可以做到 1 million 或 2 million tokens。在我看来,这完全不够,这是一个 bottleneck。
另外,我们对 memory 的看法往往还是把它当成存储和提取,也就是 memory retrieval 机制。但我们没有把它看成人类认知或思考能力的一部分。memory 事实上非常重要,不只是 retrieval。我认为这也是研究上的一个 bottleneck,大家还没有把 memory 这个东西想清楚。
对,感觉人脑可以主动遗忘、学习新东西,还能把原来的东西压缩起来。这基本上就是模型现在的 continual learning 问题。
没错。很多学过 computer science 的人会觉得,机器的 memory 不需要这么想,它不需要忘记东西。但事实并非如此。很多人觉得 memory 是你还记不记得的问题,事实上 memory 是一个 ranking 问题:什么东西最重要,这才是 memory 真正重要的地方。
memory 最重要的问题之一就是 ranking。比如我随便说一个地点,Paris,你会想起去巴黎时有什么记忆。这事实上是一个 ranking 问题,而不是把所有跟 Paris 有关的东西一下子全部涌出来。
所以现在有很多创业公司专门在做 memory layer。您觉得 memory 这么重要,应该由初创公司来做,还是基本上都由大厂来做?
现在硬件领域也有一些人在想怎么把 memory 和 computation 结合起来,有一些新想法并不是在大厂里做。当然,大厂也有人在做这方面的事情。我觉得 memory 和 computation 之间的关系,未来几年可能会有一些新的发展。
如果您今天要出来创业,您觉得最好的创业方向是什么?
这是个好问题。我觉得现在有一个趋势:模型的 capability 好像开始有一点 commoditize 了。我不是说它完全 commoditize,而是说,如果最好的模型和最差的模型之间的 gap 变小一些,value creation 就会往 application 和 token factory 这两边走,因为大家都在找护城河。
当 model capability 不再是最强的护城河时,就得去别的地方找。application 这边可能要看用户 lock-in、stickiness,以及使用体验有多好。hyperscaler 那边则有很多和 cost 有关的问题,比如能源使用量、芯片设计得好不好、memory 和 computation 之间的关系有没有处理好,以及未来有多少会在 on-device 上完成、多少不会在 on-device 上完成。
所以在我看来,这些都还是 open questions,非常 exciting。
您怎么看开源模型和闭源模型?现在我们知道开源模型追得很紧,您觉得未来这个 gap 会变大还是变小?
这个问题非常有意思。开源模型之所以能够追上闭源模型,其中一个原因是我的论文。我合著的 Chain-of-Thought 这篇论文,他们用 Chain-of-Thought 的方法发掘模型里的思维链。
嗯。
他们研究模型的思考模式,然后用这种思考模式来复制它的推理方式。现在大厂里有很多工作在想办法把推理链、思维链藏起来。藏起来之后,被复制的可能性就会更低。
事实上不只是这个问题。我认为模型继续发展之后,比如 multimodality 的 capability,也会很难复制。所以我觉得很多人好像把这件事说得像是定论,但我个人认为这种想法还不成熟。看起来有些 capability 会因为蒸馏而变得更 commoditize,但有些 capability 到目前为止还看不出会 commoditize。现在有很多 debate。
大家好像觉得开源模型能做的事情越来越多,留给 SOTA 模型 monetization 的空间就更小了。
嗯。
您会担心它能不能撑起这样的估值和这么大的 CapEx 吗?
这就是为什么有人会想,AI 市场是不是有一部分存在泡沫。我不觉得整个市场都是泡沫,但不同地方肯定有不同的泡沫。比如 Physical Intelligence 可能有一些不切实际的预期。刚才讲的 multimodality 这一块,很多模型的 visual reasoning capability 也非常糟糕。
这就能看出,现实和大家的信念并不一样。如果你觉得 software took over the world,认为我们用 agent 解决了 software 的问题,所有问题就都解决了,那我刚才讲的很多事情就不适用了。但如果你觉得即使解决了 software,也没有解决所有问题,那我们还有很多戏可以唱。
现在很多 Frontier Lab 已经在 coding 上实现了商业化。您觉得下一个更 exciting 的机会可能在哪些领域?
刚才讲到,Anthropic 和 OpenAI 的收入有很多是由 enterprise 这边的 subscription 带动的。我挺看好 consumer 这块接下来的崛起。
当然,从龙头公司的角度来说,我为什么还留在 Google、继续在 Google 工作,原因就是 consumer services 一直是 Google 最强的地方之一。这不代表未来不会出现新的领域,大家拭目以待。
接下来我们该期待什么样的产品?比如谷歌未来一两年有没有什么 AI 产品值得期待?
我从整个 industry 的角度来回答这个问题。我觉得现在已经有人在想,未来会是 super app 的时代,还是整个手机都会改变?甚至我们佩戴在身上的眼镜、耳环、耳机,都会有很大的变化,甚至衣着也会改变。
家里的智能音箱,我们之前做了四年,突然好像就没人做了。以前还喊着要做智能冰箱。从私人通用助理的角度来看,冰箱上放个屏幕、连上 Internet,就可以把智能做起来。这比七八年前要简单多了。所以我觉得 consumer hardware 这边还是相当 exciting 的。
我的问题问完了。您有什么想补充的吗?
没有,我觉得你问的问题都很好。作为一个科学家,我觉得特别 exciting 的地方是,大家都能看出来,不管是在 enterprise 还是 consumer 这边,creativity seems to be everywhere。
我刚才在台上也分享过,当年我们做 Chain-of-Thought 思维链研究的时候,解决的只是小学生的问题,比如 1 加 1 等于 2,或者买了 5 个苹果,又买了 6 个苹果,一共有多少个苹果,5 加 6 等于 11。当时我们的模型 accuracy 也只有 33%。
现在我们刚刚经历了最大的模型,它已经可以解决 Millennium Prize Problems 中的数学问题,比如 Navier–Stokes equations。从这个角度来看,我们现在能想象到的 capability 肯定还不够,它还会继续扩展。对科学家来说,这是非常 exciting 的事情。
很多人觉得现在 AI 已经能把数学做得这么好。如果要从小培养孩子,他们的时间应该花在数学上吗?还是应该把更多精力放在 AI 解决不了的问题上?
我觉得这个问题很有意思。快 10 年前,我们在 Google 开发 AlphaGo 时,很多人在它和棋王对决之后就说:“完了,人类以后不下棋了。”结果后来下棋的人反而更多了,想研究围棋的人也更多了。
我觉得数学也一样。很多人会觉得,既然现在连 Navier–Stokes equations 都能用这种方法解决,以后就没人想学数学了。我觉得有可能恰恰相反,会有更多人觉得数学这么有意思,想要去研究它。以前的动力可能是探索知识的边界,但现在很多动力会来自理解,也会来自娱乐或乐趣。
所以以后从事数学研究的人,可能会更多地出于内心的好奇心去研究。
有没有可能以前数学的门槛很高,如果把数学变成 AI 可以使用的工具,很多文科生也可以利用这样的工具去解决更多、更有创造性的问题?
以前学围棋,你得请教练、找老师,还要找棋力相当的朋友一起下棋,花很多时间。现在拿个手机,就可以下载一些相当不错的围棋应用,反而带动了围棋界很多小朋友学习,也有很多人在用这些软件。
这事实上激励了很多人。这也和刚才讲的 search engine 有关系。当时很多人会觉得,大语言模型来了,search engine 就没那么 relevant 了。但 Google 反而看到很多 search 的应用在增加,而不是减少。
所以我觉得还是有一些乐观的地方。当然我不否认,它会改变我们现有的很多结构,但也会带来新的可能性。
对。
嗯,非常感谢。
哪里。
非常非常感谢。
谢谢,谢谢。