卫诗婕
从2023年开始,我们反复听到一句话:在大模型的淘金热当中,卖铲子的人最高兴。这个卖铲子的人指的就是英伟达嘛。但是为什么是英伟达?是什么造就了它的王者地位呢?
1. 从显卡走向通用平台
姚欣
英伟达的整个发展过程,要追溯到20世纪70年代、80年代末。SGI最早开始用计算机图形学来处理动画。因为在70、80年代进入PC爆发和繁荣时期之后,整个硅谷开始意识到,就像今天我们面对AI一样,大家都在探讨PC能做什么。除了科学计算和办公,它还能做各种各样的动画处理,包括电影特效。
实际上,最开始硅谷图形图像领域最主要的订单,都是来自卢卡斯。当时正好是美国《星球大战》上映,有点像今天我们去看《阿凡达》。那个时候,整个产业开始奠基。
从90年代初开始,英伟达也是基于图形图像发展起来的,我们当时叫显卡,graphics card。英伟达的成就在于,GPU和芯片相当于整个产业里面最底层的环节,必须形成一个统一的标准。英伟达所提供的一系列当年超前的技术预期和投入,逐渐成为了行业标准。
从最开始的图形GPU,到后来成为通用GPU,也就是GPGPU,General Purpose GPU;再从通用型GPU逐渐进入各种高增长的产业和行业。包括最开始的流媒体处理和视频,差不多十几年前,PPTV当年的音视频编解码就在用CUDA,用英伟达来实现编解码处理。
到后来数字货币挖矿,大家开始拿英伟达去挖矿。再往后就是deep learning,2013年杰弗里·辛顿开始使用英伟达的GPU;包括2015、2016年AlphaGo诞生之后,整个硅谷的产业界都把它当成了一种基础设施。再到今天,还有前两年大家可能淡忘了,但在英伟达路线图里面非常重要的元宇宙,也就是Omniverse这套体系。
整个过程给我的感受,是英伟达从一个图形GPU开始,变成了一个通用平台。通用平台上面又长出来一棵棵参天大树,这是今天英伟达有点像生态系统一样的重要特点。
在这个过程中,我觉得最核心的,还是黄仁勋的愿景能力,以及他对愿景的忍耐能力。因为当年他所能看到的今天这一切,都要花10年、20年慢慢等待。在这个等待过程中,他要足够隐忍和潜伏。
大家可能不知道,十来年前黄仁勋就跑到国内来做什么?就是给各家厂商推销他当年的移动芯片,也就是NVIDIA Tegra,对标今天高通的芯片。但他当年的芯片性能不错,功耗太大,所以他到处帮各家厂商站台,包括小米以及很多做平板的厂商。
你想想,10年前还在到处推销,今天英伟达的卡基本上已经决定了哪家公司能真正做出最大的模型。前两年,硅谷有一个讨论叫GPU rich和GPU poor,也就是GPU的富人和穷人。GPU富人,才可能获得充足的算力来进行模型迭代。当时黄仁勋也算是硅谷里面最有权势的CEO之一。
这条线的变迁,也体现了英伟达对于长期主义的下注,以及它今天获得的部分回报,而且它还在持续下注。
卫诗婕
明白,但为什么今天它的地位看似无法撼动呢?
2. 生态壁垒构筑王者地位
姚欣
英伟达牛逼,我觉得来自几件事。
第一个,就是它长时间积累出来的生态壁垒。当然,它几乎是最早的GPU创办者,并且经历了从PC到移动互联网、AI,甚至数字货币等各种应用的洗礼。首先,它硬件的成熟度已经做到了全球顶尖,硬件芯片的精密程度确实使用了最顶尖、最尖端的技术。
第二个还得讲CUDA。CUDA本质上是一套软件,是基于硬件的一整套开发工具集。但这个开发工具集,已经成为当代AI时代的C语言或者BASIC语言。所有开发者都会去使用和掌握它,不光是AI,包括今天做图形渲染、图像处理的人,都是拿这套架构和语言去构建自己的应用。
这么多开发者经过十几年的培训和积累,想轻易切换也没那么容易,所以这也是一个巨大的软件壁垒。这两点是它的实力和能力。
另外,我想讲一个隐藏的厉害之处,就是它不断下注未来。它在20年前就在下注未来,10年前又在下注20年后的未来。到今天为止,我觉得它还在持续下注10年、20年后的未来。
2024年初,我专门去英伟达和他们交流。当时有一个数字让我很震撼:我们以为英伟达应该是一家做硬件的企业,工程师大部分应该都在做硬件,但他们告诉我,英伟达80%的人是在做软件。
而且做软件还不光是做CUDA,他们还在做上面的应用。它做应用的目的是什么?是为了demo,也就是做大量的演示应用,给全行业展示:10年后你要做出什么样的东西,今天就需要用我们的GPU。
包括元宇宙、量子计算、人形机器人,这些可能要10年以后才能普及的东西,英伟达可能在5年前、10年前就已经开始布局了。
英伟达此刻面向未来10年下注的是什么?我觉得是元宇宙、量子计算,还有人形机器人这3点。
卫诗婕
我们先来聊聊黄仁勋吧,他是怎么成为科技圈教父的?他可能是今天中国人最崇拜的科技企业家之一了。
3. 黄仁勋从低谷走向王座
姚欣
我觉得今天大家过度把他神话了。其实可能5年前,在硅谷他都是个nobody;8年前,我觉得没有人搭理英伟达。英伟达发的offer没有人接,大家不屑于去那样的公司。
包括在硅谷,他所在的城市圣克拉拉,是一个相对老一点的城市,年轻人都不想去,周边都是亚洲超市。虽然华人可能比较喜欢,因为硅谷是一个从南往北发展的过程,越往南越偏硬件,越往北越偏软件、时髦,或者一些新行业。
在此之前,英伟达就是硅谷版图上非常默默无闻、非常小的一颗星。常年来讲,大家提到芯片、提到算力,第一时间想到的都是英特尔。
当时这个行业有多惨?AMD一度都要破产了,被英特尔挤得快要破产。为什么我们国产有一家海光,能够拿到x86授权?就是因为当年AMD处于破产状态,被迫卖资产,晶圆厂也卖了。
那时候英伟达也好不到哪儿去,除了挖矿业务有那么一点不务正业的上涨之外,其他都不行。包括10年前我还在做AI投资、当年使用CUDA的时候,英伟达有多卑微?卡你随便用,东西你随便用;你不会,它就上门教学,手把手教你用,比今天的华为还卑微。
甚至在上一波AI,也就是2016年到2018年,大家当时的看法还是:英伟达是个泡沫,很快就会破,没有人说英伟达会成为未来的基础设施。虽然深度学习的先驱杰弗里·辛顿用了英伟达的GPU,但大家并不觉得这件事有多厉害,因为很快就有替代方案出来了,就是Google的TPU。
之后国内也开始使用其他IP。那时候英伟达的生态和GPU壁垒,还没有今天这么高。因为当年做模型训练,一台机器就可以搞定,哪有现在这么大的需求。
这里面有一个非常重要的商业决策,应该是2019年收购了Mellanox,就是那家做芯片互联的以色列公司。英伟达摇身一变,在训练领域就不只是卖GPU了,而是在卖大型超算集群,成千上万张卡打包出售,集群之间的网络互联速度达到TB级。这件事和它2019年的那次收购直接相关。
当然,它一路上也错过了好几个重大的收购机会。英伟达本来还有一个更伟大的收购,就是收购ARM。准确地讲,是软银的孙正义买了ARM,并推动ARM和英伟达合并。
但这个合并后来遭到各国政府反对,最终没有成功。因为ARM代表的是所谓的mobile first,也就是移动优先、移动端最强的芯片。在2015、2016年,整个芯片行业进入谷底,大家都想抱团取暖。2017、2018年的时候,孙正义一直想推动两家公司合并。
如果这两家合并,未来从低端到高端、从手机端到云端,整个芯片的主宰方就会是它们联手。但这次收购最终失败,这也是英伟达后来基本放弃移动端投入和布局的原因。
最开始出的Tegra,大家应该都看过,黄仁勋给雷军站台的那些内容,其实就是为了当时发布的第一代小米平板,也就是小米Pad里面使用的英伟达芯片。那就是移动端芯片,但后来这条产品线慢慢就废掉了。
在移动领域,英伟达不是最优秀的解决方案提供商,逐渐被ARM和高通占据了市场。
黄仁勋这个人怎么说呢?首先,我觉得他还是很会营销自己的。这不是一个负面评价,硅谷一些优秀的科技领袖,可能都有很强的营销意识或者品牌意识。像马斯克、乔布斯,哪怕是小扎的那件灰色毛衣,都是一样的。
他知道自己要时刻保持一个icon,容易被大家记住。所以为什么会穿皮衣,和我们说的“红衣大叔”之类的做法是一样的。他一定懂营销,也懂人性。他不是一个纯科学家,也不是一个纯技术人员,还是一个非常聪明的商人。
他的商业战略,从穿皮衣这件事上你就能看出来。其次还有很多小细节。比如我去斯坦福大学,整个斯坦福大学的楼和院系,很多都是赞助商的名字。计算机系就是Bill Gates,也就是比尔·盖茨赞助的,所以整栋楼叫Gates楼。
斯坦福大学的EE,也就是电子工程系,赞助商就是黄仁勋,所以那栋楼我们一般都叫Huang Building,也就是黄楼。你能从这些细节看到,他非常注意品牌。
甚至像GDC这个大会,我十几年前就参加过。那个时候的会议哪有现在这么气派?当时主要是少量的专业从业人员,加上大量学术人员和教授。
我十多年前参加的时候,在会议上认识了徐立,也就是今天商汤的董事长。当时他还是个学生,背着双肩包就去了。我们在门口或者酒店里坐下来聊一聊,更像是一个学术论坛加开发者工作坊,哪像现在这样,办得跟大型演唱会一样,上来就是一段摇滚,完全不一样。
但我觉得它的特点是坚持了十几年。从最开始的这批人,也就是斯坦福、伯克利的核心学术圈教授,逐渐成为它最核心的萌芽和发动力量。
我有一个很深的观察:你会发现硅谷所有创新的最底层,或者说萌芽期,几乎都来自这些高校。就不说杰夫·金德,也不说当年的仙童半导体,所有半导体产业,甚至硅谷的诞生,都和这些高校有关。
光说英伟达,英伟达走向GPGPU的关键人物之一叫Bill Dally。他之所以能够走向GPGPU,和斯坦福教授Bill Dally有关系。他现在也是英伟达的首席科学家,他的徒子徒孙在国内都已经被奉为圭臬。
硅谷企业和学术圈的紧密结合非常重要,因为是这些有远见、同时具备工程能力和影响力的教授,推动企业走向了一个新时代和新标准。
其实老黄并不是自己的技术视野有多宽广,而是很好地整合和利用了这些资源。一方面,他和高校、科研机构进行深度合作;另一方面,早期其实也挺卑微、挺卑躬屈膝的,抱各家的大腿,抱各种应用服务、互联网大厂的大腿,形成了自己的一个小小生存区域。
随着AI时代这个时代级话题的产生,应该说还是时代造英雄,是这个时代造就了英伟达。如果没有今天这么大的AI使用和AI消耗,我觉得它可能还是一个somebody,不是nobody,只是一个somebody而已。
我之前看书里写很有意思,连英伟达的员工都没有料想到自己的公司会到现在的科技界的一个地位,我觉得三年前都没有料想到,二零二二年的时候都没有料想到。因为我当时有一些朋友做投资嘛,包括大家去选嘛,大家都觉得说,哇,我最后公司我卖给英伟达,大家觉得这事儿就属于做差了嘛,做low了嘛,就跟卖给Meta要卖给Google啊等等的,这是差一大档吧?我之前看书里面写的一些挺有意思的。首先他保持非常细的管理风格,因为大概全公司有五十几个人是向他直属汇报的。
卫诗婕
对对对对,以及他们公司有白板文化嘛,就是他们不用PPT,他们就是所有人就上去讲。在我看来,白板文化就是黄仁勋非常懂人性的一个体现。白板文化决定了公司永远保持着所有做事的人能够被看见,然后避免论资排辈的,这其实就是一个非常好的体现。
姚欣
刚才你说这个本来我想提的真实的情况,因为我跟内部员工也交流过嘛,就是他其实不可能做到他来面面俱到来回复,但的确就是说他是能做到对于一线发生什么的知情和了解,他对于新生事物有持续的敏感度。你像一个小细节,就是这个Papalaxy,就是所谓的这个硅谷的AI search这家明星公司,甚至要收购TikTok这家公司,它之所以火就是老黄带货有关系,老黄自己很喜欢用它,后来这个也是支持它并投资了它。这点的话,你想对于这样一个繁忙的CEO,其实他还有时间去研究一个产品,因为我是二四年一月份我去英伟达的时候,那时候应该就已经投了。我跟他们投总监在聊的时候,就他就说嘛,他说老黄对于所有的新生的东西或者新生的这些创业公司,他都要亲自要见的。其实他的时间那时候已经是超级繁忙了,已经是二三年就成为大忙人了,但是他居然还有这么多的时间去跟这些最先进的这些当年可能也就十个人、二十个人的这样小公司的CEO,他要去交流,这个也说明了就是他对于一线和对于新生和创新的东西,他永远保持着这种关注和好奇。当然这个也很正常,我刚才不是一直在讲他这个战略远见者嘛,他今天对于许多新的技术、新的领域都是在不遗余力的超前投入,不计回报的投入。所以这点我觉得也是他的个人风格上一个很闪闪光的点。
其实还有一个小细节,海外台湾老乡们,其实除了英伟达股价增长之后啊,英伟达街对面的一条公司就是那个Super Micro,就超微半导体,应该炒股的人都应该都关注过吧?就是有一度时间整个超微涨得比英伟达涨得还要猛。超微是在干嘛呢?超微主要做主板,就是服务器主板,刚才不是说那么多张卡吗?那张卡插在哪儿呢?就插在主板上面去,其实主板就是一个集成的活,就是它把各种各样的卡、内存啊、芯片呀、存储硬盘啊等等都集成在一起,就插在一个共通的一个板上,这样一个主板。这个活呢,坦白讲没有什么太高深的技术价值,因为他卖的客户也都是那些头部的大型客户。但我觉得老黄还有一件事你能看得到,每年包括他都会去,除了自己办这个GTC之外,每年六月份还有一个很重要的一个展,就是台湾的这个全球科技电子展。我能看得到英伟达另外一个崛起的力量是台湾的科技半导体对于英伟达的支撑,台湾老乡群哦,这个是一个它的很独特的一点,因为你知道它代工拿的是台积电的代工嘛,台积电的产能能够包下来,你都是只有跟苹果和那什么在去争抢产能的过程中。然后第二个呢,他也不忘带着老乡一起走,Super Micro这样一个其实没啥技术含量的一家公司,股价能带崩掉,带的翻了十几倍吧,十倍左右吧。这个里面的话你能看得到,因为过去二三十年咱们知道的几乎所有的PC设备的这些品牌都是台湾的,什么华硕、宏基、微星、技嘉,几乎我们用的显卡,特别在两千年以后,二零一五年以前吧,或者二零一二年以前,你几乎百分之九十以上的所谓的计算机的这种核心的零部件的组装生产厂商全部在台湾啊,当然它可能厂也许设在大陆,但这些品牌运营方全是台湾,所以导致出现每年六月份会有一个全球的电子展在台湾,就是全球所有的这些跟电脑跟服务器相关的上下游的零部件厂商的一个综合的大展,也是一个消费大展。那这件事情其实在背后,我觉得也是在支撑着英伟达的发展,包括到英伟达今天它为什么能够这么好的整合特别硬件的产业链,有硬件的这种供应链的能力,也跟它的这个所谓的台湾老乡圈是密不可分。但的确就这帮人其实挺抱团的,因为其实这个事儿还要再追溯到硅谷,硅谷在两千年以前,硅谷的华人圈的核心圈是台湾人,是因为硅这件事,半导体这件事,其实大量的公司当年就跟今天AI一样的,大量硅谷公司的CTO、大量硅谷公司的技术工程副总裁都台湾半导体出来,这个是他们为什么能够在硬件这件事情上来讲的话,能够有一个全球的协作力量。怎么讲呢?我觉得就像你自己看他自己的介绍和自传一样的,他是在台湾长大,他刚刚去美国的时候其实没有上什么好的大学,上了一个很偏的一个社区学校,他是一个真正的美国从底层这样混上来,一步步混上来,所以说你能看得到他心思上是非常清晰和沉稳的,这都是硅谷的这些从底层奋斗上的这些人的成功之道。
卫诗婕
他跟大家说,公司离破产只剩30天,这个是真的吗?
4. 英伟达如何度过危机
姚欣
危机感的营造,我觉得很重要。
第一,它历史上确实有过起起伏伏。虽然没有到只剩30天这么夸张,但英伟达很多次也到了一个非常危险的状态。它其实有一点特殊:创始人的股份比例特别小,公司很难由他掌握最大的话语权和控制权。
它本质上是一家公众公司,是一家由投资人控制的公司。虽然他是创始人,但本质上和职业经理人差不多。所以对他来讲,公司的业绩是他能不能稳定住公司的前提。
你看最近英特尔不是换了人嘛?英特尔这么大的公司,CEO也会被换掉。这些公众公司本质上都是职业经理人CEO,和founder已经离得很远了。
但黄仁勋能够做这么几十年,我真的觉得和他的超前布局有关。他能够每隔3年、5年,就押中一个或大或小的时代浪潮。
卫诗婕
像你说的,曾经大家提到芯片,谈的都是英特尔。那英特尔是从什么时候开始陨落的?
5. 英特尔的陨落始于摩尔定律失效
姚欣
第一个大的背景,就是摩尔定律失效了。CPU的摩尔定律从2011年、2013年之后已经开始减缓,直接带来的就是,新一代应用需求对于并行计算的要求,远远大于对传统计算的要求。这是最根本的原因。
其次,我觉得和英特尔犯的一系列重大战略决策失误有关。英特尔当年其实有很好的机会进入移动端市场,本来没有ARM和高通的机会,但公司内部出现了所谓创业者的窘境,被当时处在顶峰的PC业务和高额利润吸引,没有对移动端给予足够重视。
这也是英特尔和英伟达错过移动端发展之后,给高通和ARM提供了增长和发展的机会。
当然还有一点,英特尔以前是重资产模式,不仅设计芯片,还制造生产芯片,拥有大量工厂和员工。这让它过去的利润非常丰厚。但随着先进产能转移,英特尔在先进制程上迟迟攻关不下,被三星和台积电超过。
英特尔有个绰号叫“牙膏厂”,每次只能挤出10%的性能提升。台积电已经冲到了7纳米、5纳米,它还在14纳米。14纳米我记得用了6年,正常应该两三年就要迭代和替换了。
整整4代产品没有任何进步,换个马甲、换个壳。这又是一次经典的创业者窘境的重演。他觉得这样已经够好了,但忽略了今天的科技进步:如果你不去卷未来,未来有一天就会卷死你。
三星和台积电就是这样,逐渐攻破了当时大家认为不太可能量产的7纳米、5纳米技术。攻破之后,也导致英特尔CPU的能耗比和最先进的产品相比,出现了很大的差距。
而它的主要竞争对手AMD,放弃了自己的生产能力,转而拥抱最先进的产能,于是在新一代CPU的制程、芯片和能耗比上大幅反超英特尔,实现了这样的提升。
卫诗婕
所以英伟达现在身后的追赶者都有谁?谁离它最近?
6. 训练垄断遭遇推理分化
姚欣
我的核心观点,一句话讲:在训练市场,也就是训练算力市场,英伟达是一骑绝尘,几乎没有对手能够挑战。在推理应用市场,则充满不确定性,最后一定是多分天下。
我认为最终的推理市场,应该是一强或者一两强,再配合很多细分垂直领域,形成群雄分割的市场。英伟达作为群雄之一,还是会在推理市场里面占据非常明显的位置,但不会形成垄断。
这里面我先定义一下。这其实是根据波士顿矩阵模型来的。一般一个行业的垄断领先者,市场份额通常达到40%甚至更高,可以称为垄断者;市场领先者一般有20%左右的市场份额;市场参与者一般是个位数,可能是5%到10%。
在训练市场上,我觉得英伟达是垄断者,可能占到50%、60%以上。在推理市场上,它能成为领先者就已经很了不起了,甚至有可能随着未来发展,变成其中一个普通参与者。
原因有几点。第一,推理市场的特点是跟着应用需求走,在不同场景里面,我们有一个所谓的不可能三角:成本、性能、能耗,三者无法同时做到最优,只能取舍。
比如有的场景追求性能最优,像云端训练、云端推理;有的场景追求能耗最优,比如眼镜上的识别芯片、摄像头识别芯片、车载芯片等等。
正因为场景多元化,芯片设计架构的追求也不一样。就像刚才我们讲的,为什么移动时代ARM能崛起?ARM的核心就是能耗比极高:同样的耗电,它提供更强的性能;或者说在同样性能下,它最省电。
移动设备最关注的事情,就是手机是否省电、电池是否耐用,所以能耗比是移动设备的核心设计点。当时无论是英特尔还是英伟达,芯片都不是最擅长这一点,因此在AI推理时代,也会随着应用场景的不同,拆分出很多细分领域。
不同细分领域会有不同的芯片和解决方案,国产芯片也会有各自的细分市场机会。
这些细分市场有一个很独特的定义,叫芯片定制行业。结合具体行业,定制一款专有芯片。谁是做定制芯片最好的公司?这家公司叫博通Broadcom,也是新的万亿美元市值俱乐部成员。
它进入万亿美元市值俱乐部,说明大家认为未来不会是英伟达一家独大,这其实也是一个小小的信号。
再讲一下我看到的追赶格局,分海内和海外。首先必须说明,海外是主战场,因为国内芯片目前还处在不能自给自足的情况下,更不要说出海、向海外大面积供给。产能是最大的制约。
中国不是没有更好的芯片设计能力,可能工艺问题只占两三成,产能问题占七八成。我们的产能不足,短时间内还没法体现,但我相信我们的产能,就像很多新能源产业一样,早期紧俏,后期充裕。
再过5年,我觉得中国半导体芯片很有可能在很多领域横扫四方。甚至现在,在28纳米以上制程的芯片中,中国已经有45%在向全球销售,也就是所谓的常规制程。接下来到14纳米制程,我估计中国未来也会占到全球一半。
现在在高端制程上,我们自给自足都还不够,更不要说对海外出口。所以产能是一个真正的大话题,并不是大家想象的那样:华为据说已经搞定5纳米,中兴已经官宣7纳米能通过,因此5纳米、7纳米对于今天的AI芯片来说已经足够使用,尤其对推理芯片来说已经足够使用。
海外这边不得不提,最有希望形成影响力的其实是两个阵营。第一个是以AMD为主的传统芯片巨头,也是英伟达常年的竞争对手。
AMD是唯一一家既具备CPU的x86指令架构,又具备GPU的公司。它当年收购了ATI,而ATI也是英伟达的竞争对手,所以AMD两者兼具。再加上这几年AMD把英特尔打得满地找牙,也不容小觑。
AMD的问题是什么?能力都具备,但生态不够。一句话讲,就是和英伟达相比,软件生态的建立缺乏时间积累和沉淀。
这也和AMD同时多线作战有关。它不仅有GPU,还有CPU;它的投入、人员规模,以及在单点上的投入,都和英伟达有较大差异,所以AMD一直属于大家众望所归,但扶不起来的状态。
卫诗婕
插一句,为什么大家痛恨英伟达?
7. 围剿英伟达的多重联盟
姚欣
大家都知道英伟达的利润率有80%到90%。这种利润率绝对不可能长期持续,因为没有任何一个时代、任何一种基础设施,能够在80%到90%的毛利率下长期发展。它的过度垄断,坦白讲已经制约了行业进步,所以它已经是众矢之的了。
硅谷大厂现在的策略是这样的:一方面自研,最著名的就是Google的TPU,包括微软和AWS也都有自己的芯片自研计划。
同时,大家拼命投资一堆新的芯片,比如Cerebras以及各种各样的架构,去挑战英伟达。核心本质,就是用一种特定的专有设计去挑战通用GPU。
另外一条线,就是“敌人的敌人就是朋友”,所以大家推动AMD。AMD有一套和CUDA类似的软件生态,叫ROCm。
ROCm有几个特点。第一,它是开源的,也可以兼容英伟达。它背后的主要推动者不仅是AMD本身,还包括Meta和微软,它们都是最主要的赞助者和推动方。
它们希望让ROCm变成未来AI芯片时代的安卓。如果对比的另一边是iOS,那它们就想做一个安卓出来。
卫诗婕
您刚才讲到两个阵营。第一个阵营是以AMD为代表的传统芯片巨头,第二个阵营是各家都有自己的“小九九”,也就是自研芯片阵营。
姚欣
对。巨头们是两头下注。巨头挺割裂的:一方面谄媚英伟达,买它的GPU;另一方面派自己的研发人员重兵投入去支持AMD,甚至给AMD许诺,只要你的东西做得好,我们一定会怎么怎么样地使用你。
第三个方面,自己还在自研,同时在外面孵化、投资小团队,几乎把所有能用的斗争形式都用上了。纵横联合,团结一切可以团结的力量,打倒这座大山,同时把所有后路都准备好。
这就是现在整个AI芯片的产业格局。
国内的情况怎么说呢?可能会得罪人。我的真实感受是,我只看到了华为有机会。原因还是刚才讲的,核心不是芯片怎么设计,而是芯片的产能和制程。
现在真正能够和英伟达谈得上竞争、能够在局部细分领域成为竞争对手的,只有华为,尤其是华为的昇腾系列。
最卡脖子的还不仅仅是GPU怎么做。现在大家已经意识到,AI时代不需要GPGPU,AI时代需要,AI推理时代更需要一条定制的专有路线。所以有人把它称为XPU,因为有太多不同的PU了:LPU、TPU、DPU、NPU,各种各样的PU。
干脆有人就给它起了个名字叫XPU。总之,英伟达走的是General Purpose GPU,也就是通用路线;我们则走专有路线。专有路线一定会在刚才说的不可能三角里面做得更好。
所以谷歌、亚马逊、微软,其实都属于割裂的巨头阵营:既买、又合作、还投资,同时还在憋大招。海外巨头就是这个打法。
卫诗婕
嗯,明白。
姚欣
国内的巨头虽然也在做,但没有形成势力。国内互联网厂商做芯片,几乎都没有成功,也没有形成势力。因为国内没有那么强的全产业链能力。
海外也就谷歌算是做成了,微软和AWS最终可能都做不成芯片。这和它们公司的软件文化、硬件兼容性以及自身特点有关。
国内只有大型、超大型云厂商可能还有机会,比如阿里、腾讯和华为。
为什么谷歌有这个基因?我觉得Google在上一波AI时代买到了一张临时入场券,看似现在还有效。
上一波是2016年第一波AI,也就是AI 1.0。当时谷歌下手比较早。真正统治AI 1.0生态的,不只是CUDA,当年非常重要的一条线是谷歌的TensorFlow。
TensorFlow是上层的AI训练、推理框架,比CUDA的层次更高一层。早些年大部分开发者可能自己买一台电脑,DIY一下,大家可能使用CUDA。但当大家发现需要更多算力时,就会选择使用云。
那时候谷歌是第一批推出基于云端的一整套训练、推理平台的公司,叫TensorFlow。它当时形成了一个标准,而TensorFlow底层可以不跑CUDA和GPU,也可以运行谷歌自研的TPU,于是形成了一个小闭环。
坦白讲,在当前Transformer带来的第二波AI架构里,TensorFlow已经没有那么强了。谷歌还专门把PyTorch的真正负责人贾亚清挖了过去,现在贾亚清在负责谷歌这套AI Infra,担任负责人。
卫诗婕
您说2016年拿到第一张入场券,TensorFlow背后代表的入场券是生态吗?
姚欣
是它的垂直生态优势。因为谷歌不开源,也不把芯片卖给别人,不让别人直接使用。
第二,TensorFlow也没有完整开源,但它通过云的形式对外提供服务。你不懂底层,当然也可以使用谷歌的AI Cloud。这个服务还是有不少用量,再加上谷歌自己的用量非常大,所以它能够保证TPU不断进行技术进步、产能优化和技术投入,形成内部循环。
除了谷歌之外,其他大厂很难做到这样的内循环。AWS和微软做不到,是因为它们的企业客户不能接受黑盒。企业客户一定要求使用透明、清晰的方案,所以最终还是要卖英伟达的GPU,因为客户指定要用英伟达的GPU。
但谷歌内部有大量使用场景,中小型客户也不太在意底层细节,所以它能够养起这样一个循环。
卫诗婕
好,其实英伟达现在作为巨头,本质上是不是处于一种被围剿、被觊觎、被挑战的状态?
8. 英伟达的高毛利难以持续
姚欣
一直是,过去两年一直是。
从今天的股价来看,我觉得英伟达的股价很难长期支撑。它现在的市盈率,是由数据中心80%多的高毛利支撑着未来30年的增长,这件事显然是一个弥天大谎。它的长期股价,我们是不看好的。
虽然AI这个叙事极其巨大、极其宏伟,但我们依然不认为它既能维持垄断,又能维持高毛利。它今天的股价是所谓的“戴维斯双杀”嘛,或者“戴维斯双击”嘛,利润又好、增长又好,市场又垄断。
这种三重优势,在任何科技史上都不会维持太久,一定有一块要慢慢下降:要么是利润下降,要么是整个垄断地位下降。
首先,第一步被挑战的事情是什么?就是从训练到推理。DeepSeek事件的深层次问题,和我们去年在行业里一直讨论的事情有关:我们认为AI即将进入推理时代,而不是训练时代。
去年行业内其实已经达成了共识,只是今天的大众投资者在DeepSeek事件之后,才形成了共识。从垄断走向一强多专,会发生很大的变化,这毫无疑问会对它的市场份额和垄断性带来挑战。
第二,正因为它无法垄断,所以不可能支撑起高毛利,它还会有第二次踏空。
当然,这不是一个炒股节目,我也不想把它变成炒股节目,我只是谈一些自己的看法。对于英伟达收入增长的预期,我觉得未来2到3年内还是非常确定的,因为这是一个新旧势能、新旧动能切换的过程。
刚才虽然讲了很多挑战者,包括AMD和各家自研,但它们真正成为一强多专里面的那一专,一定要迈过无数大山,包括产能、性能和生态。这件事在两三年内很难发生,它们还不具备成为完整挑战者的能力,可能只能蚕食英伟达的一部分市场。
所以即使推理时代到来,我觉得推理市场最大的市场份额可能还是英伟达,可能40%、50%还是它,只是会慢慢被削弱。
未来几年股价不好预测,但至少从收入预测来看,我认为英伟达仍然会达到、甚至超出投资者预期。只是它的利润率会下滑,垄断和利润那一条会下滑,但收入还会增长。
卫诗婕
也许对于英伟达来说,最幸福的是2022年前后的那段时间。它做得不错,突然之间一个转折点到来,一下子登上王座。但现在王冠之重其实很痛苦,因为我们前面讲过,它一直处在被觊觎、被围剿的状态。
您会觉得,当下对于英伟达来说,会是压力更大的一种状态吗?
姚欣
我觉得是。要不然它为什么要天天开会、天天讲未来呢?
你看,它其实从去年就在讲。去年GTC最后一个重要场景是什么?一排人形机器人站成一整排,和黄仁勋并肩站在一起,其中90%都是中国制造。为什么要讲这件事?因为它必须讲一个更大的算力使用场景,让投资者愿意买账。
这可以弥补它可能在3年、5年之后逐渐下降的AI推理市场份额,同时又崛起一条第三增长曲线。这件事它现在就要不断铺垫。
所以我觉得今年它还会讲人形机器人,因为它要逐渐铺垫这件事。但核心问题是,市场信不信。市场往往都是后知后觉的,在形成共识之前,大家都把这个观点当成炒作信号。
所以股价可能在GTC之后先炒一把,炒完之后就开始跌。5年以后、10年以后的东西,今天让我怎么用股价、怎么用利润增长来验证?没法验证,也没法证明,更没法证伪,所以它就会成为一个很好的炒作点。
卫诗婕
刚才其实我们也聊到了DeepSeek。DeepSeek让大家形成了一个共识:大模型要进入推理时代。有一种声音认为,DeepSeek会在算力版图上带来变革效应,这是真的存在吗?
9. 推理时代考验超大显存
姚欣
简单讲,短期内大家认为,从训练切换到推理之后,推理的用量远远低于原来的线性预期,所以会形成一个gap。但随着推理成本下降,推理规模还会大幅普及,慢慢又会把这个坑填满,整体体量会变大,依然能够带动英伟达市场份额和收入增长。
现在市场上有这样的消化逻辑,这也是本次GTC会议的重点看点之一,就看黄仁勋怎么去平衡和讲述。
英伟达数据中心的核心芯片是训推一体的,既可以做训练,也可以做推理。要看他把重心放在哪里。前几年天天讲的是芯片互联带宽有多强、芯片本身的计算能力有多强、制程有多强、能耗有多强,这些都是训练场景的指标。
今年我特别关注的一点,就是它会不会推出超大的显存。上一代H200已经把显存调大了,这次会不会调得特别大?
对于推理型任务,其实并不需要一个大集群。做AI推理,单台甚至一两台服务器就可以了,但更重要的是显存的制约:能不能把670亿参数的完整模型装进去?
如果不能,就会导致模型不停地在不同显卡、不同机器之间来回调度。显存之间的IO吞吐和调度,才是导致今天推理性能上不去的重要原因,而不是计算芯片本身。
所以我们会关注,这一次它在推理侧、包括芯片显存侧,会有多大的动作。我现在看到的一些初步判断,是显存会扩到288GB。
你想想,这比上一代H100已经大了4倍、5倍。如果真能达到288GB,再加上IP4——这里面有些技术话题,我就不讲太深了——如果IP4和288GB显存同时出现,我可以简单讲,我们自己的测算结果是,一台机器就能跑满血版的DeepSeek。
这样一来,整个推理成本还能进一步下降。而且在全球范围内,能够提供这种方案的厂商并不多。NVLink的领先度几乎冠绝全球,288GB显存虽然没有那么高的领先度,但能够大规模生产出来。
有这两点,我判断大家可能都会大量购买英伟达新一代GPU,并且用于推理场景。这样的话,在推理市场里面,它可能一开始又会拥有60%到70%的市场份额,因为没人能挑战它。
如果这样,它可能真的就度过了那个空窗期,直接又一路上扬。
当然,还要看它这代芯片的发货周期。现在都是期货式发货,去年3月发布的GB200,到今天还没完全到货,才刚刚开始到货。如果它加快发布节奏、加快技术迭代周期,短期内大家还追不上,它的垄断地位可能还会延续1到2年。
卫诗婕
如果它发布超大显存,是不是意味着它在为现在爆发的推理需求,提前给出了一个更适合推理场景的硬件必需品?
姚欣
可以这么理解,就是这个意思。我觉得它肯定会发,完全符合它的预期。
但如果这个东西明年6月才能提货,市场上可能就会有不同声音,会觉得低于预期。如果它告诉大家今年年底就能拿到,我觉得股价一定会猛涨。
因为GTC这个发布会已经不是在做产品发布会了,而是一个技术战略展望会。它讲的东西都是未来期货。
你看,前一段时间有一次重大波动,倒不完全是DeepSeek的原因。DeepSeek的短期冲击最多一两周。2月份最重要的一件事,是第一批GB200终于拿到了。那是去年3月份立的flag,今天终于兑现。
但第一批拿到之后,大家发现中间有一些瑕疵,使用起来没有它一年前开发布会时宣称的那么好。这导致后续订单的确定性遇到挑战,股价就跌了下来。
这才是2月份下跌的真正特点。英伟达甚至调低了台积电产能中GB200的产能。大家就会认为,你肯定有问题,之前吹得太饱、太牛了,今天没有完全兑现当年吹的牛。
去年3月份你要知道,那是什么心态?它吹完之后,市场全体站起来鼓掌。今天它如果再吹,大家可能会冷静一些:我要不要鼓掌?我别鼓掌之后,一年以后又发现是一次吹牛。
资本市场就是这样。吹牛不怕,吹牛之后一定要兑现。你兑现了,大家就会认可你的credit,认可度再加一成;下次你再吹更大的牛,大家就再相信。
但上次吹的牛哪怕有一点点瑕疵,大家就会没信心。下次你再吹,我就默认打八折,甚至打六折。
卫诗婕
那这就等于白吹了,撑不住了。
姚欣
也不能说没兑现,只是没有百分之百兑现。
卫诗婕
现在它的股价已经高处不胜寒了。
10. 英伟达押注更大的算力市场
姚欣
所以为什么我认为长时间来看股价一定会下跌?它当然很累。
你想想它为什么要疯狂投资?包括这两天为了配合GTC要做的一件事,就是推动CoreWeave上市。CoreWeave刚刚发布了招股说明书。
英伟达以前就吃过股价暴涨暴跌的亏。2017年,英伟达还是一个卖芯片的好孩子,给各家大厂好好供货,跟着大家一起涨。2017、2018年AI第一波,加上数字货币挖矿第一波,它的股价两年也涨了差不多将近10倍,和今天的暴涨一模一样。
2016到2017年,当时有很多报告,但为什么2018年会暴跌?除了数字货币市场下滑,更重要的是家里被偷了。以刚才讲到的谷歌TPU为代表,当然也包括国内大厂,开始纷纷不再采购英伟达GPU用于数据中心,因为它们找到了更便宜的替代方案。
那时候有各种各样的GPU,包括TPU、FPGA,寒武纪也开始创业。这一波直接导致英伟达股价大跌。
这之后,英伟达就开始思考:我和这些大客户、互联网巨头之间,属于与虎谋皮。我把80%、90%的货都卖给它们,它们一旦不用,对我来讲就是巨大灾难。大客户占比太高了,所以必须降低大客户依赖。
这一轮,英伟达从2023年刚开始就做了一件事:有意限制给大厂的出货,同时扶持一批自己的联盟和小弟,专门找那些暂时扶不起来、容易控制的公司,甚至通过投资的方式来扶持它们。
首先,在云大厂里面找的小弟是谁?就是Oracle,也就是甲骨文云。甲骨文云以前在美国云市场的份额可能连5%都不到,甚至不到3%。但英伟达给甲骨文云的供货量,和谷歌、微软、亚马逊类似,处在同一个量级,直接把甲骨文云的骨架撑起来了。
第二,通过投资直接下场扶持一批自己的小弟,我们称之为英伟达的“白手套”。
这些公司坦白讲,不能说有什么特别深的技术壁垒,因为英伟达已经把全套解决方案和技术能力都做完了。卡间互联、上面的训练平台,它都已经完成了。
英伟达要做的,就是找这些小公司,重金投资它们;投完之后,让它们购买英伟达的卡。买完卡之后,还允许它们去做质押,持续加杠杆。
这和当年乐视网做硬件有异曲同工之妙,本质上是一个持续高倍加杠杆的过程。
你去看CoreWeave就知道了。CoreWeave是英伟达投资的,它拿投资款去买英伟达的卡;买回来之后,英伟达再给它担保,让它可以拿这些卡去银行抵押80%,拿回钱之后再买卡,以此反复。
3年时间里,它直接把这家原本在新泽西的小型挖矿公司,变成了今天大约250亿美元的独角兽。
微软买不到足够的卡,因为英伟达有意不给微软足够的供货,导致微软和OpenAI被迫向CoreWeave租卡。
卫诗婕
这个算金融资本游戏了吗?
姚欣
我不是说了吗?这就是新一代的乐视,和当年乐视做的事情类似。CoreWeave就是不断加杠杆、加杠杆,在做这件事。
它的招股说明书和报告里都有这些内容,上周刚刚提交了美国上市申请。为什么会在这个时间段提交?就是为了造势。
所以英伟达通过大量方式,建立自己的二线云小弟。预备的就是某一天几朵大云不买它了,还有一堆二线云小弟给它撑场子。
同时,这也能让它的财报不会被几家大客户吃掉。不是3家云厂商就占掉90%的供应,它还有更多供应商和更多需求方。
它不光在资本主义世界里做二线云小弟、拉帮结派,还在全球各地游说政府。它找中东土豪,找欧洲国家,去告诉它们:你们一定要摆脱美国的数字霸权,一定要具备自己的AI可控能力和主权能力。你们应该训练自己的阿拉伯语AI、印尼语AI,那是不是也需要自己的训练芯片?应该由国家买单。
这叫主权AI。一系列的事情,核心本质都是大厂和英伟达之间,大家虽然在买卖、做最大的生意,但都在背后准备后招。
姚欣
短期内会是算力的一个泡沫。但回到刚才的话题,DeepSeek事件确实会冲击大家之前对这个故事的测算。
大家一测算:如果DeepSeek能够用几千台服务器、几万张卡服务1亿用户,甚至数亿用户,那么这种数亿用户的App有多少个?可能有50个、60个,甚至100个。
50个、60个或者100个应用乘起来,可能需要50万到60万台服务器,是不是就够了?英伟达现在一年产量大概在120万张卡,还在不断增加,未来可能到300万、500万张卡。换算成服务器,可能除以4或者除以8。
于是大家就会觉得:你这一家公司的产能,似乎就足够全球人民迈向人人都使用AI了。大家因此产生质疑:你所堆叠的未来30年高增长,还存在吗?
但我也要讲我的观点,我认为这个质疑还站不住脚。大家忽略了另一个变量,就是随着模型能力不断提升,特别是从文字到图片,再到音频、视频,这是一个必然趋势。
即使是同一个模型,如果今天用图片生成,消耗量可能就是文字时代的1000倍左右;如果再视频化,又可能是1000倍。
现在开源模型还不够完整,也缺乏评测数据,但从信息量角度看,过去的互联网时代已经证明了这一点。比如我们当年做视频存储、视频传输,相比音频,数据量要大100倍。
至少从单价和带宽消耗来看,音频公司的服务器消耗又是一个量级。早期新浪门户那种图文互联网,可能又是另一个100倍。这部分提升还没有被充分预估进去。
我的PPT里有一页讲行业共识,一、二、三,其中第一个共识就是算力开始从训练走向推理。下面是我们摘取的一系列数据报告:推理算力从2024年英伟达财报显示的40%,未来3年会慢慢变成60%、70%,最终可能达到95%以上。
这只是占比,但那时候整个饼已经超级大了。整体规模可能比今天再增长1000倍、1万倍。
所以,英伟达是不是在构建下一代人类文明的基础设施?我觉得是,但它只是参与者之一,不是只有它。
今天全行业做的所有事情,包括竞争对手、大厂,以及我们自己,其实都在做同一件事:长期来看,算力需求还会海量爆炸式增长,尤其是推理算力。
短期内,在从训练向推理转换的过程中,会对英伟达股价产生阶段性冲击。但中期来看,它的一些垄断地位还在,真正能站到台面上的竞争对手还没有出现。
我觉得两三年内,它仍然有很强的增长和发展,还可以继续炒作、持续增长。
卫诗婕
明白。
姚欣
中期如果看1年、2年的发展,我觉得它的需求一定会猛增,收入也一定会猛增,这一点仍然有确定性。因为现在看不见竞争对手能够立刻出现,哪怕是在推理市场,也看不见谁能立刻和它掰腕子、和它两分天下。
但3年、5年之后,无论是中国AI芯片产能的提升,海外整体产业的发展,还是新一代架构的出现,都会对它形成冲击。
不过那个时候,整个饼已经做大了。随着多模态AI应用的普及和渗透,这个饼也会极其巨大。本期节目就到这里了。有关英伟达,你有哪些听后感?还想要听哪些话题?都欢迎在评论区留言告诉我,我们下期再见。