卫诗婕
谢谢。
姚欣
告诉我今年能出多少货,明年能出多少货,这个是它面临的压力。
卫诗婕
英伟达急了,对,就是急了,英伟达急了。今年的 GTC 有什么不一样吗?
姚欣
我觉得今年的 GTC,我同事给我发的一些照片,跟去年的情绪相比是暗淡了一些。
另外一点,虽然大家不讲中国,但是中国对于整个硅谷,我认为产生了冲击。
哈喽,大家好,这里是商业漫谈,我是诗洁。这是直击二零二五英伟达GTC系列的下期,在上期中,我和PPIO派欧云的联合创始人兼CEO姚欣一起还原了英伟达过往的三十年历史以及精彩的算力江湖。这一期内容将聚焦三月十九号召开的本届GTC大会所传递出的风向和重要信号,以及二零二五AI发展的大趋势,依然是由备受好评的姚欣老师为大家解读。
1. Nvidia Bets Beyond Graphics
卫诗婕
上期我们讲到,英伟达是一个持续下注未来的公司。过去这一二十年,它当时下注的未来是什么?
姚欣
我觉得首先第一个就跟 GPU 有关系。最早的 GPU 全称叫 Graphics Processing Unit,是完全为图像处理服务的,我们叫显卡。
但事实上,大概在 2000 年左右,英伟达当时的首席科学家叫 Bill Dally。他提出,能不能把这一套 GPU 的架构、并行结构,用来解决很多其他的通用问题。他提出了一个叫 General-Purpose GPU,也就是通用型 GPU,GPGPU。
其实当时这套架构最早都是学者提出来的,是 Stanford 的教授提出的。那个时候很少有人重视,但是黄仁勋特别欣赏他,所以把他挖进来做英伟达的首席科学家。然后他们最开始提出了第一代通用 GPU 结构。
那个时候我记得,应该是十几年前,我们最开始做视频编解码,就已经在用 CUDA 了,还是第 2 版、第 3 版的时候。那时候他就在讲,未来的视频会消耗非常多的算力。
接下来还有很多科学计算,包括未来大家要做一些生物模拟。实际上,他很多年前就预言了后面的视频时代。
卫诗婕
很多年前就预言了后面的视频时代,是吧?
姚欣
对,他当时就在提出这一部分。所以今天我们去看,比如自动驾驶汽车,车里面都要有车联网、自动驾驶的核心部分,这也是他很早就布局的方向。
我记得大概 15 年前,他就提出要把整个芯片放到移动设备里。一开始放到手机里面,耗电太高了,所以手机市场没有打下来。后来他说,那我就放到游戏机里面,最早做出了一台性能很强的掌上游戏机。
包括大家在玩的 Switch 游戏机,你知道吗?Switch 后面的芯片用的就是英伟达的。就是当年从手机上拿下来、耗电很高的那块芯片,后来又把它装到了汽车上面。
最开始的第一波自动驾驶模拟,全部都是用它的芯片来做的。一直到什么时候呢?我印象很深,网上还有一张图,是 Elon Musk 在 OpenAI 刚刚创立的时候,黄仁勋给他送了一台 AI 服务器。Elon Musk 签收了那台服务器,那应该是 2016 年的一张照片。
卫诗婕
他希望 OpenAI 用这个服务器做什么?
姚欣
去推进 AI 的诞生和发展。
卫诗婕
其实那是给 OpenAI 的第一次捐赠。当年 OpenAI 也是 nobody,谁能知道后来它真的做出了 ChatGPT?所以这也是一段渊源。
姚欣
我觉得这点证明了这些企业,也是黄仁勋和英伟达成功的原因之一:愿意不断地下注未来,不断地进行非常长远的投资。
我的理解是,他下注的未来,其实就是判断未来哪些场景需要什么样的计算。
卫诗婕
对,就是海量计算领域。他的业务其实就是冲着这一句话去做的。
姚欣
对,甚至你可以看 GTC 发布会的后半段,几乎就是这样的主题。它后半段描绘的是未来已经到来了。
卫诗婕
所以它不是一个产品发布会,而是一个技术展望会。
姚欣
对,也是科技风向标,是科技的一个展望。我们有时候会吐槽,它已经变成一个期货发布会了,因为它说的东西都不是今天就能发行、就能发生的,可能要到明年你才能看得到。
卫诗婕
站在此刻,面向下一个十年,它未来压注的是什么?
2. The Four Ages of AI
姚欣
这次 GTC,我觉得它给出了一个很清晰的脉络,上次还没有讲得这么清晰。它讲了 4 个 AI。
第 1 个叫 Perception AI。实际上 Perception AI 是什么呢?就是 2015 年、2016 年大家熟知的、基于计算机视觉的 AI。AI 突然能够做人脸识别了,这个每个人的手机好像都用到了。四小龙做人脸识别、语音识别,这个叫感知式的 AI。
第 2 个阶段叫生成式 AI,就是 ChatGPT 诞生的 Generative AI。
第 3 个叫 Agentic AI,其实就是刚才讲的 Manus,实际上是 Agent 的一种,是一个在数字世界里面能帮你自动完成任务的智能体。
当然,这还是数字世界。如果有一天数字世界又能跟物理世界结合呢?比如我们在数字世界中间,可能没法真的帮我送外卖、下订单,但是如果有机器人结合呢?所以将 Agent 跟机器人结合之后,又形成了第 4 个 AI,叫 Physical AI,也就是物理 AI。
所以整个故事,我自己觉得已经把过去 10 年和未来 10 年都画在了这张图里。
卫诗婕
其实昨天晚上我也在看 GTC,看到很晚。我看到它其实给了一个曲线图:最早是 Perception AI,在这里;然后到 Generative AI,上升了一点;再到我们现在正在经历的 Agentic AI,又上升一点;最后它把 Physical AI 放在最高点,是这样一条折线图。
我很好奇,为什么是这样的路径?
3. Physical AI Follows Evolution
姚欣
这背后我自己的解读,好像没有官方解读,是我个人的解读。我觉得它有点像生物的进化逻辑。
你想想,最早的单细胞生物,开始先产生的是感光器官,实际上就是感官、眼睛,以及声音等。第 2 步开始产生一定的智慧能力,就是大脑开始逐渐发育,然后产生神经系统。
神经系统本质上是在感知外界,并控制你的身体运动。实际上,这就已经从 Generative AI 走向更加聪明的阶段了。包括这次 DeepSeek,能让你进行更多的深度思考,这就像大脑在发育。
接下来,生物开始长出手和脚。它逐渐从数字世界的手和脚,也就是 Agent,走到物理世界的手和脚,最后都变成机器人了。
所以这 4 个阶段,我觉得有点像生物进化的 4 个过程。
卫诗婕
我是另外一套理解。我觉得它很像我们接触到一个事物之后所做的一系列反射。
最早的图形识别,其实是我们的视觉,是我们接收到信息。接收到信息之后,我们要在大脑里过一遍,做一个计算和思考,这个我理解就是 Generative AI,也就是生成式 AI。
当我们大脑有了一个想法或者结果的时候,就会用一些行动。有一些可能是在脑海当中实践的,这个时候我在脑海当中已经做了一个回复,这可能就是 Agentic AI。它做代理,帮你操纵数字世界。
但是 Physical AI 指的就是我们要做出行动,然后改变物理世界。所以 Physical AI 还处在一个更遥远的进程里面。
我昨天也看到了这个折线图,觉得很有意思。而且昨天他也讲了很多 Physical AI,也讲了很多产业。
4. Nvidia Must Beat Physics
姚欣
我觉得大家跳出来看,为什么黄仁勋要渲染这一条?其实有他的压力所在。
最近他的股价也一直在被波动和挑战,他必须在每年的发布会上,让所有人都期待他给大家看到一个多么巨大的未来。这个未来能够消耗大量的算力。
如果站在 10 年后去看今天的英伟达,3 万亿美元都不是个事儿。这其实是它背后要表达的一个特点。
卫诗婕
的确。到最后,Physical AI 已经要实现物理定律的模拟了。一个物体在所有的模拟世界里面,它的整个弹跳、反射,以及所有的摩擦力,全都可以计算。
这块我自己觉得还是一个非常有想象力的想法。如果 Physical AI 真的 100% 实现,可能我们要问一个问题:我们当前这个世界是不是也是模拟出来的?我们今天所谓的真实,到底是真实还是一个模拟?
而且我看 Physical AI 的时候,自己也会有一个感受:如果 Physical AI 真的实现了,像英伟达这样的公司,不是要吞掉整个物理世界的千行百业吗?它就真的变成一个超级无敌的大巨头。
姚欣
英伟达最终要对抗的是什么呢?是能耗。
最后对抗的是物理定律。所以你可以看到,它今年后来的所有发布,包括很多讲法,都在说:我如何面对最大的瓶颈,也就是能耗;我如何在特定的能源消耗情况下,让我的算力和 Token 输出持续增长 10 倍、100 倍。
这其实是它面临的最大挑战。
5. GTC Prioritizes Near Term Products
卫诗婕
我比较好奇的一点是,其实我们俩之前也聊过。我们本来预期今年 GTC 会大讲特讲机器人,尤其是人形机器人,但是我感觉昨天机器人相关的篇幅好像没有那么高。
姚欣
没有这么高。我还是觉得,第 1 个,它其实内部还是一直在做。包括去年发布的 Isaac Newton,这次不是也最后出了 Blue 机器人吗?
但的确,我觉得英伟达更要解决当前的问题。现在投资者在问的是:你接下来马上要消耗多少算力?你别老给我讲通用人工智能、讲未来,那个可能 10 年后才会成为现实。告诉我今年能出多少货,明年能出多少货,这个是它面临的压力。
而且去年 GTC,也就是一年前发布的期货,GB200 已经发出了。但是 GB200 最开始的第一批,大家传出来它有散热问题,系统稳定性也存在一些问题,所以产生了忧虑。
再加上 DeepSeek 的冲击,大家有一段时间会担忧:我是不是整个算力架构会发生一些变迁?所以短期内,市场对它是一个挑战,你看到股价这么波动,也是这个原因。
但我觉得这次它为什么不把重心放在人形机器人上?因为它要解决当前面临的问题。它告诉大家,我马上要出的 Blackwell 增强版 Ultra,下一代原来定名的 X100 也已经定名了,叫 Rubin,我也会推出。
而且我觉得前几年都没有这样,一口气把未来 3 年的产品路线图,以及每个产品什么时候交货,全都写下来了。
卫诗婕
英伟达急了。
姚欣
对,就是急了,英伟达急了。
所以它还是用这种方式,向远在美国东岸的资本市场传递一些信息。我觉得这就是 GTC 会后的背后声音。
6. DeepSeek Reprices Nvidia
卫诗婕
话既然说到这儿了,我就要跟您大聊特聊一下我最近特别关注的一个话题。
大概从 DeepSeek R1 发布之后,我一直在观察英伟达的股价。资本市场上把它称为“1·27 惨案”,“1·27”指的就是当天英伟达市值出现大幅下跌。
我觉得这件事一方面反映了美国资本市场的一些特性和戏剧性,但另一方面,我们也看到了跟中国人很相关的一点:1·27 惨案源自一份非常有名的英伟达做空报告,被称为史上最成功的做空报告。
那份报告的中心主旨就是在讲,DeepSeek 的出现如何冲击英伟达的算力生意,它的高利润率和高市场占有率还能保持多久。
这个影响一直延续到现在,它的股价还在震荡。包括 GTC 发布会之后,股价还是在跌,而且还跌了。
所以您可以从专业角度给大家讲一下,为什么从 1 月份到现在,DeepSeek 如何冲击了英伟达的股价?也可以帮助我们理解,为什么今年 2025 年的 GTC,英伟达听起来压力这么大。
姚欣
我觉得黄仁勋今年上台的状态,跟去年也不一样。去年感觉他是在台上蹦着玩摇滚,今年就有一点……
卫诗婕
去年我觉得他真的非常意气风发,觉得那是一场顺风球。
姚欣
对。今年可能能够感受到,好像步子还是很大,但迈起来沉重一些。当然,也有可能是我们的主观臆断。
这块其实跟行业内人士和投资者、行业外人士之间的信息差有关。
从 2023 年大模型开始发布,包括国内也开始“百模大战”,大家都开始做大模型,然后大量投入算力。2023 年到 2024 年,国家也在建设算力中心,全球各地都在买英伟达的卡。大家解决的一件事情,就是训练更大的大模型。
这是行业内的事情。但事实上,从去年的六七月份开始,在真正的 AI 圈内,大家开始传出一种声音:所谓大模型的规模效率,也就是 Scaling Law,在训练侧慢慢减弱了。
大家都认为,训练差不多快要到头了。典型的应该是到去年 11 月底,OpenAI 的首席科学家伊利亚主动宣布,他认为数据都快被用完了。如果大模型想再扩增 10 倍,难度会很大。
所以行业内已经形成了这样一个看法:从模型训练,迁移到模型应用,也就是模型推理服务。
但是这种迁移反映到资本市场和投资者那里,会有一个滞后的过程。大家还认为,英伟达就应该继续大量售卖芯片。
其实去年黄仁勋也极力教育大家,未来他的卡更多会用于推理,但架不住大家对大模型还有很多想象。所以在整个扭转过程中,我认为 1·27 惨案突然发生,不仅是英伟达,我觉得整个全球 AI 圈,包括 DeepSeek 的出圈,都让很多投资者和更多企业决策者意识到了一件事情:
原来现在的大模型能力已经不错了,开源模型已经做得很好了。接下来要卷什么?卷性价比,卷使用成本,卷应用,而不是一味追求性能指标达到多高,而是要追求应用落地。
这种变迁,跟之前投资者对英伟达股价预期之间产生了差距,所以导致了短期下滑。
但我认为,看完这次 GTC 会议,你能看到老黄这次 GTC 的核心主题里,几乎听不到“Training”这个词,替代它的是“Inference”,也就是推理、使用推理。
这次听得最多的词就是 Token、Token、Token,大量消耗 Token。他其实在描绘另外一个概念:当训练转向推理之后,英伟达依然是推理时代的王者。
甚至你们可能要消耗更多算力。它里面有好几页特别做了对比:同样的情况下,DeepSeek 这类模型和以前 ChatGPT 这类模型相比,Token 消耗多了 20 倍。回答同一个问题,要多花 20 倍的 Token,算力可能要多花 100 倍。
这不就可以支撑它所谓的“Buy More, Save More”吗?买得越多,省得越多。它是在说,未来会诞生更大量、上百倍的算力消耗,而英伟达依然是能够给你提供充裕算力的厂商。
这就是它想拼命传递的信息。
卫诗婕
但为什么股价又下跌呢?
姚欣
就在于市场上还在打一个问号:真正走到推理市场之后,英伟达是不是还会像在训练市场一样垄断?
大家还是有疑问。
卫诗婕
这个问题我们一会儿可以好好展开讲一下。
我也呼应一下您刚才讲的一个观点。去年我在做大模型相关选题的时候,跟您的同行、同样做 AI 基础设施的硅基流动袁金辉老师聊过。他有一个非常有代表性的观点,跟您刚才说的一样:
如果训练所需的算力是一池游泳池,那么推理所需的算力可能是一条河。也就是说,它是一个更大的消耗量。
姚欣
其实黄仁勋去年在 GTC 发布会上,就已经小小预告了推理时代的到来。
可能是因为去年我们还没有真正看到推理型模型的应用出来,但是去年年底、今年年初,DeepSeek 发布了一系列模型。包括年初我们刚才聊到 Manus,我们会觉得 Agent 到来了,AI 应用在 2025 年一定要来了。
所以这件事情已经从小范围共识变成了大共识。
卫诗婕
今天早上看 GTC 大会,除了刚才讲到的推理,还有没有什么比较有趣的事情?
姚欣
我们刚才讲,好像没有预期当中那么多人形机器人,是因为人形机器人那个事情还有点远。他得先把近阶段大家的焦虑解释明白。
卫诗婕
对对对。我们一开始关注的时候,对比去年最后一幕,10 个机器人全部升起来,大家都在讲人工智能,包括讲元宇宙。甚至之前还有人传,这一次会讲量子计算。
姚欣
量子计算最近也有很大的一些推动,但这些所谓的推动,可能都要看 10 年、20 年的周期。
所以我觉得这次老黄整个选题都更加务实了。他不是最开头还在讲,这次我没有提词器,所有东西都没有背稿。
卫诗婕
怪不得我昨天看的感受就是,今年他吃螺丝吃得好多,不像去年那么通顺。
姚欣
而且我们自己在看他的很多产品线,我认为都是匆匆推出的。AI 这个行业的确变化很快,3 个月、3 个月,其实就是在不断考验大家的反应。
所以我觉得他也开始变得更加敏捷和快速,快速调整,快速适应。
7. Dynamo Builds an AI Factory
卫诗婕
我看他这次推出了一个所谓 AI 工厂的新操作系统,叫 Dynamo,是吧?
姚欣
Dynamo。
卫诗婕
Dynamo 是你说的这种临时反应的成果吗?
姚欣
我认为是,而且我认为跟中国有关系。因为 DeepSeek 把它催生出来了,这是我的解读。
首先,这次老黄又造了一个名词,给原来一个我们很熟悉的东西升级了。以前熟悉的东西叫数据中心,IDC。后来大家说,我放的都是 GPU,把它升级成了 AIDC,也就是智算中心。
这次连智算中心都觉得这个词不够高级,又起了一个新名字,叫 AI 工厂。
老黄的原话是,他认为未来我们需要两种工厂。第 1 种是生产物理世界真实物体的传统工厂,送进去原材料,出来就是锅碗瓢盆,以及各种各样的使用品。
第 2 种叫数字工厂,也就是 AI Factory。进去的都是各种各样的数据,出来的是各种模态,包括音频、视频和各种生成内容。
未来大量 Token 的生成,都是由这类工厂来完成的。
像传统工厂一样,你要追求生产线的效率。比如流水线能不能提高工作效率,能不能 24 小时连续运转,甚至一条产线能不能生产出更多的东西,同时生产出更多 iPhone 和其他设备。
它追逐的也是这样一件事情:如何让这些数据中心、智算中心、AIDC,在单位时间和特定能源限制的情况下,产生出更多 Token。
它把 Token 当成未来新的计价单位,或者说商品的最小计价单位。只要能够生产出更多 Token,就证明投入产出比足够好,这样它的卡就更好卖。
那 Dynamo 是什么呢?Dynamo 可以理解为 AI 工厂的操作系统。它其实是一套软件,解决的是如何把数据中心里大量的英伟达 GPU 更加高效地利用和管理起来。
我们后来快速看了看它的 PPT,里面有几段介绍,比如里面有一些专业术语,像 PD 分离、专家并行。这一类术语,恰恰在不到 1 个月之前,DeepSeek 做了一个 2 月份的开源周。
DeepSeek 在发布 R1 之后,把底层是怎么运作的、为什么推理速度能这么快,做了一个开源解释。它连续发布了 1 周,把每个功能部件都进行了说明。
我能看到,今天的 Dynamo 和 1 个月之前 DeepSeek 的这一套开源组件有异曲同工之妙。甚至你可以认为,Dynamo 就是之前那一系列开源组件的又一次组合。
卫诗婕
而且我们知道,作为硬件厂商,它肯定有一个长周期。黄仁勋不可能突然预料到 3 年后要做什么卡。
但是这套东西,在去年发布会,甚至半年前的很多媒体沟通会,包括今年年初 CES 的会议上,都只字未提。
我们甚至猜测,团队在看到 Dynamo 的时候还觉得,它有点像 Kimi 发布的 Mooncake,里面很多架构和术语都很像。
姚欣
当然,这些都是开源的,所以我觉得这块确实有可能存在借鉴和参考。但这也从侧面说明,英伟达这个团队真的非常快速、非常敏捷。
他们可以把 1 个月、2 个月之内行业里的新共识和新产出,快速集成到自己的系统里面,也在快速迭代。
卫诗婕
我觉得大家都会共同认为,分布式推理会成为每一个大模型,以及每一个像我们这样做大模型服务、AI 服务的厂商的标配。大家都会沿着这条路线走。
能给大家解释一下什么是分布式推理吗?
8. Distributed Inference Rewrites Deployment
姚欣
我可以解释一下,现在的大模型是如何走向分布式推理的,也稍微解读一下 DeepSeek。
DeepSeek 这次做了一个很重要的创新。DeepSeek 满血版是 671B,它并不是一个单一的数千亿参数模型,本质上是由数百个小模型构成的。我们把它叫作专家混合,也就是 MoE。
实际上,它由很多小型专家组成。每个小型专家可能是 7B 参数,也可能是 20B 参数。每个专家适合做一类任务,有的特别适合内容整理,有的特别适合逻辑推理。
正常部署一套 DeepSeek 时,原本可能是把所有专家放在一台机器上。或者说,有 100 个专家,就找 100 台机器,每台机器部署一个专家。
但这会带来一个问题:每个专家被调用的频率和可能性是不一样的。有的专家会经常被访问,有的专家很少被访问,这就会导致 100 台机器的利用率不同,有的利用率不够,有的则太闲置。
DeepSeek 做的事情,就是按照专家的使用率进行再分配。可能把一些相对较少被调用的专家集中部署,而把其他专家分散部署。
这套架构就变成了:未来运行大模型应用时,依靠的不是一台机器,而是一个小型集群,比如 10 台、100 台机器。
这次英伟达推出 Dynamo,也是这样一套思路。英伟达卖机器时,可以卖一张单卡,也可以卖一个集群。比如这次有一个叫 NVL72 的产品,实际上就是把 72 张卡连接在一起的一个集群。
现在它不仅把集群卖给你,还给你卖一套部署软件 Dynamo,告诉你如何自动实施各种最佳部署实践,实现算法最优化,以及所有算力的最优调度和使用。
所以这套思路明显是为推理优化而生的,跟以前做大模型训练的技术路线是不一样的。
卫诗婕
的确,这就是今天大家在考虑推理时,为什么会走向这种分布式结构:在一个集群内,不同机器去做不同的任务。
这听起来很像共享经济。你把调用多的专家放在一批,把调用少的专家放在一批,然后为它们量身定制一种牵涉算力的方式。
姚欣
其实这是我们做计算机系统结构时的一种标准思路。今天如果单机性能不够,就要靠多机来执行;但一旦多机化之后利用率不足,就要开始不断调度。
云计算就是这样。这里的“机”也可以指卡,你可以说多台机器,或者多台机器上的多张卡。
传统云计算也是一种共享。为什么当年会有云计算?因为企业自己买一台服务器,跑自家的任务,可能白天跑完了,晚上没有人用,存在潮汐效应。
但如果放到公有云上,另外一个客户可能在你的低谷期使用,这样大家的综合利用率就提高了,比自己买一台机器部署便宜得多。
所以这种共享和组合,在很多计算架构设计里面都有这样的思路。
卫诗婕
算力的共享经济。
姚欣
对,也是这样。
卫诗婕
所以您觉得,新发布的 Dynamo 可能就是您刚才说的这个意思,可能有所借鉴?
姚欣
我觉得应该是形成了行业共识。我相信不仅是 DeepSeek、Kimi,包括海外很多新的模型厂商,可能在过去半年里,早就用这种方式进行内部部署了。
我觉得这次无论是 DeepSeek 的开源,还是英伟达在 GTC 发布的 Dynamo,都证明了这条路线的可行性,也会鼓励大家向这条路线迁移。
卫诗婕
这也是我很感兴趣的一个话题。今天早上看发布会,可以说英伟达的当下和 DeepSeek 是强绑定的。很多质疑都是由 DeepSeek 引发的,但在 GTC 这场会议当中,还是没有太多提到 DeepSeek,几乎没有吧?
姚欣
对,也没有正面回应市场的这些质疑。但是听下来,我觉得黄仁勋在用自己的方式默默回应这些质疑。
他没有正面回应,但其实在努力消除大家的误解。
比如发布会一开始,他先讲主流云厂商去年买了他的 Hooper,一共 120 万张,现在已经订了 360 万张 Blackwell。这是在给资本市场传递信息:它们还在不断增加投入,而且是大幅投入。
第 2 个,他又继续讲,接下来因为 DeepSeek 这类模型走向 reasoning,也就是走向深度思考的推理模型,它们单位时间消耗的 Token,比以前的问答要多 100 倍,所以算力需求会更多。
因此,英伟达可以变得更好。
第 3 层,他又在讲,我还推出了 Dynamo。你们说 DeepSeek 好,我也向它学习,我也快速参与竞争,我都做好了,你还不让我股价涨一涨吗?
所以 Dynamo 很有意思。它首先说明,我愿意听到你们所有的声音,我都听到了;而且我主动学习,很快就学到了;我仍然保持着市场领先地位。
9. Nvidia Moat Faces Reality
卫诗婕
去年的大会,的确是在整个生成式 AI 的加持之下,包括大家对人工智能无限想象的情况下,达到了最高的顶点。
今天我觉得,AI 所谓的高预期也在慢慢回落。您不觉得吗?
姚欣
我认为这在科技发展史里面非常正常,而且这才标志着科技走向成熟。
在科技发展路线里面,有人总结过一条曲线,叫 Gartner 技术炒作曲线,也叫 Hype 曲线。它说每一款技术诞生之初,我们都会有过高的预期,然后慢慢炒作。
但炒作的速度超过了技术进步的速度,这时候就会出现预期落空的过程,所以曲线会滑落。
但不要觉得滑落就是坏事。泡沫破灭根本不是坏事,恰恰相反,它是在挤掉水分,让大家更加脚踏实地、务实地做事。
这个时候,技术在进步,我们的预期也变成合理预期,反而能够走向真正的光明期。
我能感觉到,整个大模型从造神、造更大的模型、Scaling Law,到去年那套叙事逻辑,再走到今天讲 AI 工厂、讲生产力、性价比、讲模型消耗,看似没有那么性感,但在逐步落地。
实际上,这也让我们看到,未来 1 年、2 年之内,AI 真的可能进入并改变我们的生活。它会像移动互联网、互联网一样,润物细无声地全面使用起来。
因为它足够便宜,性能也已经被验证,再加上产业界有这么多共识,包括 DeepSeek 开源带来的影响。我觉得我们作为行业参与者,或者作为普通用户,反而应该对未来更有信心、更有期待。
卫诗婕
我非常认同。刚才您讲的这条曲线,让我想到其实很多伟大的公司都是诞生于寒冬。
大家可以仔细想一想,为什么它们诞生于寒冬?往往是在市场水分被挤掉之后,在一个非常冷静的状态下,它们才能有这样的做事状态。
姚欣
对。
当年英伟达在 10 多年前,我印象还很深。那时候我还在做投资人,在蓝驰做投资。我发现我们投的这些初创公司,英伟达的工程师都会进去,给他们培训怎么用 CUDA 做 cuDNN,也就是基于 CUDA 的深度学习网络。
卫诗婕
高标准的售后。
姚欣
对,甚至包括高校,大量高校,包括中国的高校,都可以直接免费申请,英伟达会免费送给你,送很多张 1080,请你使用。
英伟达在 10 多年前靠这种方式,捕获了大量开发者的心。就像我们当年学 C 语言,学会之后就一直想用 C、C++,不想再切换一样。
卫诗婕
但我在写英伟达那本书的时候,看到一个小细节。
当年 Jeffrey Hinton 的学生训练大模型需要卡,Hinton 专门为此给英伟达写了一封信,说:“你们送我一张卡,我就对在座所有学术会议的参与学者说,让他们使用英伟达。”
但是英伟达拒绝了。
姚欣
那个时候还太早了,那是 2011 年、2012 年的时代。
卫诗婕
对,但架不住后来它的反应确实非常快。
姚欣
我觉得在上一波深度学习浪潮的时候,英伟达的反应就非常迅速,开始大量投入。
卫诗婕
您说的上一波,是指 2015 年、2016 年那一波?
姚欣
对。刚才那个故事更早,因为那是 2013 年之前的事情。当时甚至连深度学习都还没有真正进入视野。
但当深度学习被行业接受之后,我能看到英伟达在那一波进行了大量投入。它得到的结果就是,现在全球所有做 AI 研究的高校、学者和算法工程师,可能都会默认先调一个基于 CUDA 的版本。
如果调通、做好了,再平移到其他平台;其他厂商则都要做适配。
所以基于这一点,它形成了很强的护城河。
这个护城河在今天大模型时代的早期也依然很强。过去两年有上百个大模型,每个模型、每张卡都去适配,难度太大,所以大家觉得兼容 CUDA 就好了。
但是随着“百模大战”结束,现在很多模型厂商都宣布放弃预训练。以后我们的基座模型,我认为会像手机操作系统,或者当年的 PC 操作系统一样,可能就剩几款。
就像今天的 iOS、安卓,以及 Windows、Linux。当基座大模型变成几款,底层模型数量缩小之后,硬件厂商适配它的难度就会减少。
这样一来,所谓 CUDA 兼容性的壁垒就会慢慢下降。甚至再往上,大家都走向 Agent 编程之后,对底层的关注会更少。
我认为,如果放到 10 年来看,英伟达的软件护城河还是可以被突破的,而且正在慢慢消融。
卫诗婕
所以您刚才提到,AMD 现在跟英伟达比起来,硬件上有性价比,但是生态上还差一口气。但您又提到,未来这些年英伟达的生态壁垒可能会慢慢下降。
姚欣
随着整个模型开始标准化和集中化之后,大家会说,我用 AMD 也能兼容,英伟达也能兼容。
它面临的挑战,就会变成毛利率下滑,业务进一步被更多性价比解决方案追赶。所以它的确不好过。
虽然它看起来很风光,估值这么高,但大家对它的期望也高。它今天有 80% 到 90% 的毛利率,25 倍、30 倍的 P/E,这能不能坚持 10 年、20 年?
在科技历史上,这样的公司非常罕见,几乎没有公司能够长期维持这么高的毛利率。它也面临着这样的挑战。
卫诗婕
我记得凯文·凯利之前说过一句话:没有任何一个科技巨头会长期处在垄断地位,在整个科技史当中都是这样。
姚欣
这就是科技有魅力的地方,永远有后来者的新生力量。
就像今天我们聊到的,英伟达现在不停下注下一个 3 年、下一个 5 年、下一个 10 年。但难道所有的未来,都只能在这些大公司里面看到吗?
卫诗婕
对呀。像今天的 DeepSeek,包括刚才讲的 Manus,以及中国诞生的这些新力量,很可能你的创业对手根本还不在牌桌上,可能还在车库里、实验室里,在你完全不会注意的地方。
姚欣
往往真正最有威胁的力量,都是从没有被关注到的领域里发生出来的。
卫诗婕
这让我想到一个话题,也是我之前看书时印象特别深刻的一个细节。
黄仁勋认为,祝福别人就是祝福你去承受痛苦。他对于痛苦的忍耐力,会让我觉得,也许英伟达当下的状态,恰恰是他的舒适区。
姚欣
我觉得英伟达其实也是起起伏伏很多次。像刚才说的 2017 年、2018 年,它也经历过股价下滑,但黄仁勋依然一步一步看好 AI,持续下注。
去年我看 GTC 大会,他把 Transformer 的 8 位作者都找了过来,要纪念 2017 年,因为那一年论文发表,也是英伟达上一个高峰期。
但谁能想到,当年的落寞,最后又造就了今天英伟达的崛起呢?
卫诗婕
所以它后来是怎么从落寞当中翻身的呢?
姚欣
我觉得还是这一波 AI 的技术路线和大的技术框架。它下注的大逻辑没有错。
刚才我们讲到,从图形计算走向并行计算,再走到通用计算,这是计算架构变迁的一个大趋势,持续了 10 多年、20 年。
今天依然是并行计算、通用计算,走向更多的加速计算。新的时代里,很多做应用、做算法的人,都会往这个方向去架构和设计。
包括我们公司自己也在做分布式计算,其实也是并行计算的一个分支。
甚至我们能看到,计算架构有一个特点,就是“分久必合,合久必分”。
拉长时间去看,七八十年代,那时候我才刚刚诞生,大家做的是集中式的大型计算。当时 IBM 做的大型机,一台机器跟这个房间一样大,什么东西都装进去了。
二十年前,银行保存的所有数据,基本都用大型机。但大型机后来被谁替代了?被一系列 PC 机替代了。
我今天组装 20 台 PC 机,性能可能就跟你的一台大型机一样。这台 PC 专门做存储,那台专门做打印服务,另一台专门负责访问。几十台凑在一起,就可以迭代。
这是 90 年代 PC 替代大型机的浪潮,本质上也是用分布式结构替代集中式结构。
但慢慢又开始集中。集中又是谁做的呢?谷歌提出了云计算。
它说,我今天把 1 万台服务器放在一个机房,把它们互联起来,形成一个超大的云。后来变成 1 万台、10 万台、100 万台,直到今天最大的云计算。
现在如果你去大型数据中心,光散热的能耗就能达到总能耗的 40% 以上,这证明计算已经超级密集了。
但这种计算在未来几年又会被打破。随着自动驾驶、物联网、机器人,以及各种各样的设备出现,你会看到算力并不一定搭载在一个核心位置,而是会走向边缘侧、设备侧。
甚至我们的手机上也可以运行小参数大模型,做图片处理、声音录制等事情。
所以我认为,计算架构 20 年的变迁,是最重要的底层旋律。英伟达从 2000 年开始抓住并行计算、分布式计算和加速计算的浪潮,才有了今天的成功。
至于其他过程,的确,如果想要成功,必先要“苦其心志”。这就是英雄成功的必经路径。
10. China Reshapes Nvidia Future
卫诗婕
现在中国用户非常关注的一件事情,就是之前被热议的 DeepSeek 会不会给算力版图带来非常大的变革效应。
我想知道,这个变革效应是真的存在吗?
姚欣
我觉得第 1 个,已经呈现出来了。
今天这次 GTC 发布会,我所在的行业主要做基础设施,也就是在 GPU 之上部署一套云服务,同时把大量模型集成起来,向大家输出 Token。
我们输出 Token,首先要追求越来越便宜,因为只有这样,大家才能轻松用起大模型。
第 2 个,我们还需要足够的弹性。你不知道用户会涌过来 1,000 万,还是 1 亿,但你都要能够承载得住。
这种需求的变迁,实际上是 DeepSeek 在今年 1 月之后才明显感受到的。特别是国内的需求开始大量响应进来。
今天在国内以前很难进入的很多领域,比如政企客户、教育行业、医疗行业,也开始拥抱 AI 了。以前可能更多是互联网行业、数字经济行业在拥抱,现在各个行业都在拥抱 AI。
所以我觉得这是一次大众的、破圈式的教育,首先把需求侧激发起来。只要有了需求,剩下的事情交给我们这些工程师完成就好了:怎么降本,怎么增效,怎么提升性能。
我觉得这会带动整个 AI 产业链上下游的发展。以前可能只有卖算力芯片、卖卡的能够收益,接下来很多做模型服务、算力调度管理、垂直模型开发的软件厂商,也会大量受益。
这样就能带动整个行业健康、持续地发展。
卫诗婕
这次 DeepSeek 公开的论文当中,有人留意到一些细节:他们应该有工程师对 CUDA 的底层进行了优化。
也就是说,DeepSeek 的模型用了 CUDA,也用了英伟达的芯片。他们做了一个相较于一般模型公司来说比较底层的工作,把底层基础设施重新做了结构上的优化,可能通过一些工程方式实现。
我认识的一位 AI 应用公司负责人评价说,世界上能够胜任这份工作的人屈指可数。我不知道他说得对不对。
姚欣
我觉得第 1 个,的确要认可 DeepSeek 这个团队。
这个团队不是我们常见的、仅仅由科学家构成的大模型算法团队。你要看到它背后的母公司幻方。
幻方是做量化基金的。了解量化基金的人都知道,这是一个非常比拼工程效率的行业。
对他们来说,每一天股市高频交易,如果能比竞争对手快 0.1 微秒、零点几毫秒提交进去,就能挣到钱。每次挣的钱都很少,但可以大量累积起来。
做高频量化交易,非常要求对底层系统性能进行优化。很多量化交易公司甚至会自己搭数据中心,自己搭建整套技术架构,不会去买一套标准服务。
幻方就是这样的企业。我们知道,2021 年它就在买 A100。在大模型这一波炒作之前,国内 2023 年我就听说它手里有 1 万张卡。
它当然是用这些卡做自己的量化交易,但它同时具备从底层优化硬件、提升性能的能力。所以才会有你刚才说的那一系列成果。
首先,我觉得要肯定:正是因为幻方对底层基础设施有巨大的理解,才促成了今天 DeepSeek 的高效率。
但第 2 个方面,对于刚才你引用的同行观点,我不完全同意。
并不是全世界只有几个人能做这件事。因为对于底层优化,大家各有专长。很多做应用的厂商,可能并不太关注这个部分。
举个例子,我当年做 PPTV。因为我们诞生得太早,2004 年成立的时候根本没有云。我们从底层搭服务器、搭硬件、做操作系统,包括到 2010 年、2011 年,那时候大家还不知道云是什么,我们就已经把所有东西都构建在云之上了。
当年我们也做了很多底层优化。只是后来公有云普及后,互联网创业者幸福多了,不需要再做底层,不需要养基础设施团队,调用各家云的能力就行了。
所以我认为,具备这种能力的企业还是很多的,特别是有 10 年以上深厚技术积累的团队。
还有一个细节,刚才你的描述不够准确:DeepSeek 并不是真正意义上绕过了英伟达。
我的观点是,DeepSeek 跟英伟达的架构其实绑得更紧了。
CUDA 是一个整体框架,上层直接给你封装好了很多接口。大部分开发者直接调用一个接口就行了,就像调用 API、调用动态库一样。
但这个动态库毕竟是 CUDA 官方写好的,它发挥底层硬件性能的效率是一个固定值。
而幻方这个团队具备优化能力,所以它调用了 CUDA 里面一个叫 PTX 的语言。你可以把 PTX 约等于汇编语言。
我们都知道,汇编语言的效率肯定比 C 语言更高。它其实是用汇编语言的形式操控英伟达底层硬件,才实现了性能效率的提升。
但正是因为用了 CUDA 里面的这套汇编,也意味着这套汇编语言可能更多是 Only for 英伟达,也就是只适用于英伟达这套体系。
所以我觉得,DeepSeek 更多是向大家展现了一套通过系统架构和技术,往更深层次做工程化优化、挖掘巨大潜力的路径。这种展现对行业的启发可能更重要。
卫诗婕
明白。
不过我们刚才讲到 Dynamo,其实也印证了 DeepSeek。或者说,今天我们在中国仍然持续看到很多新生力量。
由于国际之间科技竞争的关系,我相信中国市场对于英伟达来说,是不是前所未有的重要?
姚欣
对。在美国商务部封禁中国市场的芯片出口之前,中国是它最重要的市场。
从它的财报来看,当时全球芯片销售市场中,每年大概有 24% 转向中国。
卫诗婕
这个数字后来应该跌到 10% 以下了。
姚欣
对,因为很多芯片禁售了。
所以对它来讲,你能看得到黄仁勋有多么拼命。前段时间他还穿了个大花袄,包括英伟达公司开年会。
不光是英伟达,全球这些商业巨头对中国来说都是这样。中国是一个巨大的消费市场,是不可或缺的市场,是所有人都要争夺的市场。
所以这次 GTC 一开始发布预告的时候,不是还有 China AI Day 吗?
卫诗婕
因为我们在中国,所以我问了现场的同事:有没有 China AI Day,会不会有专门的 Panel,专门面向国内?
姚欣
现场同事告诉我没有。而且不仅如此,英伟达大会和赞助厂商的现场展台里,基本没有中国公司的展台。
除了联想,因为联想还卖服务器,算是英伟达的合作伙伴。现场没有任何一家中国公司在应用侧和模型侧进行展示。
我觉得这也是当前地缘政治环境下的产物。
China AI Day 更多是在线上的。它的时间是在北京时间晚上 9 点半,实际上美国那边已经是半夜了,所以不会在当地会场,而是通过线上、以中文的方式进行。
这也算是英伟达向中国开发者和中国市场示好,是在取悦中国开发者、取悦中国市场。
卫诗婕
所以你们在前方 GTC 现场,会觉得今年的 GTC 有什么不一样吗?
姚欣
我觉得今年的 GTC,跟去年相比,现场的情绪确实暗淡了一些。
大家没有看到那么 Fancy。去年第一次开会的时候,还先放了一段音乐,黄仁勋摇滚着登场,大家感觉像进入了一个文艺范儿的现场。
这次一上来就在讲:你看,我们的卡卖了很多很多。上来就谈商业、谈 Business,非常实用。
另外一点,虽然大家不讲中国,但是中国对于整个硅谷,我认为已经产生了冲击。
卫诗婕
是的。
姚欣
包括刚才讲的 Manus。在国内我看到很多批评它的文章,但是我发现,在硅谷很多人还是会觉得,他们也在关注。
我们有一个朋友是 YC 孵化器的创业者,他说很多人都在找 Manus 的邀请码,也想试一试。
硅谷大量产业界人士已经意识到,中国是一个不容小觑的竞争对手。他们也觉得,要跟中国公司比性价比,比产品和服务,这也是非常重要的环节。
卫诗婕
这一点的确可以看到,在全球竞争环境里面,目前 AI 只有中美两家最具备综合竞争能力。
姚欣
所以我觉得,我们也需要对自己更有自信一些。
我们在追赶,但这个追赶的差距确实越来越小。而且在走向应用、走向场景专业化,甚至走向数据优势的时候,中国企业的优势越来越大。这些都正在发生。