[BidClub_]
晚点聊 LateTalk · · 65 min

159: 马斯克Terafab太空算力、英伟达重拾CPU|与Fusion Fund张璐聊AI算力新趋势

张璐程曼祺

Podcast
TL;DR
  • Terafab真正要争夺的不是一座芯片厂,而是马斯克生态的算力主权。 计划把 Tesla、SpaceX、xAI 从芯片设计、制造一路整合到部署应用,终极目标是年产 1 TW AI 算力,并将 80%-90% 部署到太空。张璐把它形容为一个“巨大的跨公司的工业操作系统”,但判断落地周期和资金需求都会远超马斯克自己的预期。
  • 太空数据中心在未来两三年并不是一笔成熟的创业押注。 宇宙辐射、芯片封装、发射、维护与故障维修都面临重大技术和成本问题;若服务地球应用还要承受 latency。张璐给出的成熟窗口是七年甚至十年。“如果都要探索在太空里建数据中心,为什么不在临近的加拿大建?”
  • SpaceX需要用“整个太空经济”而非火箭与 Starlink 支撑万亿美元级上市叙事。 张璐认为,轨道部署还对应马斯克更深的诉求:“他不希望有任何政府去监管他。”在太空管辖、轨道执法与月球资源归属都模糊的阶段,SpaceX既可能成为太空经济的主要支持者,也可能成为未来规则制定方。
  • 比轨道数据中心更近的机会,是服务一个“AI native、robotics native”的太空产业。 微重力工厂可探索地球上难以形成的晶体、材料与蛋白质结构;AI还能管理卫星交通和数据交易,机器人则可从月壤提取水、氢、氧,搭建月球“加油站”。真正的空间算力需求要等这些本地应用形成规模后才成立。
  • 当前更可投的是地面 AI infrastructure 的效率层,以及其他太空基础设施。 Interconnect、optical switch、能耗、memory、security、推理成本与系统整合都有明确瓶颈;创业公司还必须回答,是服务未来的大集群,还是自己重资产建设集群。张璐的直接结论是:“我觉得不是一个好时机,我觉得还是有点太早。”
  • NVIDIA正在从 GPU 公司改写为生产 token 的“AI工厂”,推理则把收入从一次性需求变成持续性现金流。 训练与推理的算力占比已从约 70%-80% 对 10%-20% 走向五五开,未来可能倒挂为 20%-30% 对 60%-70%;Jensen Huang据此预计,Blackwell 与 Vera Rubin 到 2027 年对应的数据中心收入可能超过 1 万亿美元。
  • Agent时代会同时抬升 CPU、GPU、LPU、NPU 等异构算力,平台控制力比单颗芯片的胜负更重要。 NVIDIA用 Vera CPU 补上工具调用、代码执行、多 Agent、强化学习与 simulation,并把 Groq 的低延迟、高吞吐推理能力纳入 Vera Rubin;即使 CPU 未必永远胜过 AMD,掌握整机、整柜和一站式采购仍是巨大的集成优势。
  • 企业级 AI 已进入预算、部署与退出同时加速的阶段。 受监管行业更偏好私有云或本地部署的小语言模型,以兼顾准确性、隐私、延迟和成本;Fusion Fund网络中的企业最高已有 120 亿美元 AI 预算,部分不到十人的公司一年收入从零增至 2,000 万美元。金融、医疗、保险、工业与供应链是可能最快落地的方向,去年部分成立不到两年的被投公司被收购并获得 10-20 倍回报。
Digest · the substance, structured for research

1. Terafab要把马斯克生态变成一套工业操作系统

  • 曼祺概括的计划是:马斯克在 3 月 21 日提出联合 Tesla、SpaceX 和 xAI,自建从芯片设计、制造到部署应用的全栈产能,终极目标为年产 1 TW AI 算力,其中 80%-90%进入太空。
  • 张璐认为这不是突然冒出的构想。马斯克长期想把芯片、基础设施、模型和终端掌握在同一体系里,核心是“不想被别人去卡住我自己算力未来发展的一个延展空间”。
  • 她以 Google Gemini 的快速提升作参照:自有 TPU、算力、模型与数据,使系统级优化和成本优化更容易。马斯克则想把这种全栈能力进一步接入汽车、机器人、卫星和物理世界,形成“巨大的跨公司的工业操作系统”。

2. 太空数据中心首先撞上辐射、维护与延迟

  • 张璐的第一层保留是宇宙辐射:它对芯片性能的影响“比大家想象的要大很多”,包括 TPU 等芯片应采用何种封装保护,目前仍有现实技术问题。
  • 发射成本即使能被 SpaceX 持续压低,也只是总成本的一部分。大型集群发生硬件故障后,日常运维和维修都极其昂贵,“更高的其实是维护成本”。
  • 算力服务谁同样关键。若支持未来的卫星、机器人和其他太空 AI,本地计算可以降低延迟;若近期主要把结果传回地球,距离带来的 latency 会削弱经济性。
  • 张璐用一个刻意朴素的反例检验能源与冷却叙事:加拿大水、电资源丰富、气候寒冷又地广人稀,“为什么不在临近的加拿大建数据中心”,而要直接跃迁到太空?

3. 万亿美元级 SpaceX需要一个“太空经济”估值框架

  • 张璐明确认为 Terafab 与 SpaceX 上市相关:市场传出的预期估值达到万亿美元量级,而“从来没有公司以这么高的价格去上市”,仅靠火箭发射和 Starlink 很难讲完整。
  • 马斯克希望 SpaceX代表的是 space economy——太空生态、基础设施及其全部潜在市场价值。Terafab、月球基地、轨道服务和边缘计算因此既是长期规划,也是支撑估值想象空间的资产。
  • 她同时强调马斯克确实“一以贯之”:上市叙事并不意味着愿景是假的;如果太空 AI 应用最终形成海量需求,就近建设数据中心的路径可以成立,只是技术和需求成熟仍需时间。

4. 监管真空可能比太阳能更能解释轨道部署

  • 张璐对马斯克动机的尖锐判断是:“他想在太空里面建数据中心,其实很核心的一点是他不希望有任何政府去监管他。”1 TW 规模若落在特定国家,会面对大量监管批准和政治协调。
  • 太空虽有部分国际组织管理低轨轨道,却没有类似领土、领空的清晰管辖体系。谁发射卫星、谁负责移除的规则即使存在,也缺少明确的持续执行者。
  • 这让轨道与月球资源呈现“先到先得”的意味:先发射更多卫星就可能占据稀缺轨道。马斯克不仅可能成为太空经济的主要支持者,也可能成为“未来整个太空经济的一个规则制定方”。

5. 太空工厂是更近的 AI 与机器人应用

  • 张璐认为近期最值得关注的场景之一是太空工厂。微重力或无重力环境可能形成地球上没有的新晶体、材料和蛋白质结构,或制造更完美、对称的晶体,为受材料瓶颈限制的产业提供新选项。
  • 她的核心定义是,太空“天然叫 AI native、robotics native”。把人送上去还要建设维持生命、健康和安全的生态;机器人所需的生存支持更少,因此自动化不是替代人工,而是产业成立的前提。
  • 这也解释了太空数据中心更可信的长期路径:先有太空工厂、卫星网络和机器人系统,再由本地集群支持本地 AI,而不是先把地面工作负载搬上轨道。

6. 卫星交通和月球加油站已勾勒出本地算力需求

  • Fusion Fund一家被投公司用 AI 管理卫星交通,减少卫星碰撞、资产损失和太空垃圾;在管理过程中还可促成卫星数据交易,把高质量数据用于矿产检测、山火预警和气象等地球应用。
  • 另一家公司建设太空“加油站”:机器人从月壤提取水,再分离出氢和氧,三者均可服务火箭或太空飞行。若该路径成立,飞船无需从地球携带全部燃料,可在月球补给。
  • 张璐设想每颗卫星都能成为小型 edge device。只有当卫星数据、自动化设施和太空 AI 应用达到足够数量,就近的数据中心才同时具备需求基础和 latency 优势。

7. 轨道数据中心的创业窗口可能还需七到十年

  • 曼祺提到已在做太空计算服务的美国公司 Starcloud;张璐也知道该公司,并称其正与前述月球加油站项目讨论合作。马斯克的愿景确实已加速资本关注。
  • 但她不认为这是未来两三年的成熟机会:轨道数据中心可能需要七年甚至十年的技术周期,等待封装、发射、维护成本成熟,也等待太空经济产生足够多的本地工作负载。
  • 对创业者,她的回答没有模糊空间:“我觉得不是一个好时机,我觉得还是有点太早。”更合理的观察期是未来三到五年,再按太空生态实际增长速度决定是否进入。
  • 资本结构也是边界:数据中心是重资产生意,创业公司要想清楚,是亲自拥有集群,还是提供让集群更高效的软硬件与太空基础设施服务;后者当前更适合初创企业。

8. Terafab带出的近期机会集中在集群效率层

  • 张璐把机会从“再做一颗芯片”扩展为完整 AI infrastructure:数据中心成本、耗电、网络、存储和系统协同都决定实际性能,基础设施本身将像能源与交通一样形成护城河。
  • 她举出的具体标的是下一代 interconnect 与 optical switch。AI耗电不仅来自训练,大量电力花在 communication 和传输;更快、低耗的互联是大规模部署的前提。
  • 资本风向也在改变:过去只投软件的大型 VC 开始进入 deep tech,重点寻找能解决 AI 基础设施瓶颈的硬件和软件。Terafab更像需求信号,而不是要求所有公司复制它的资本开支。

9. NVIDIA正在把自己改造成生产 token 的 AI工厂

  • 张璐在 GTC 观察到,Jensen Huang不再把 NVIDIA定义成芯片或 GPU 公司,而是“全栈式的人工智能基础设施公司”,核心叙事是支持下一阶段的 token economy。
  • 产品单位也从一颗芯片变成生态:她回忆自己求学时,一家公司一年发布一两颗芯片已很快;本届 GTC则一次发布七颗芯片,并连同 interconnect、推理基础设施和软件平台整体推出。
  • NVIDIA卖的“不只是一张卡或者一个芯片”,而是包含 GPU、CPU、网络、存储、CUDA、Agentic AI 和 inference 部署方案的完整系统。客户的采购问题也从选哪家芯片,变成向谁购买整套 AI工厂。

10. 推理把算力需求变成持续性现金流

  • 张璐将训练称为“一次性的现金流”:模型在某一阶段集中消耗大量 GPU;推理则会随着产品使用持续发生,尤其当 Agent长期在线、频繁调用工具和数据之后,它成为“持续性的现金流”。
  • 她回忆,早期讨论中的算力结构约为 70%-80%用于训练、10%-20%用于推理,如今已接近五五开;未来可能倒挂为训练 20%-30%、推理 60%-70%。
  • Jensen对 Blackwell 和 Vera Rubin 的判断也建立在这项假设上:到 2027 年,对应的数据中心收入可能超过 1 万亿美元,前提是 token 消耗及推理负载远高于早期训练需求。

11. Agent让 CPU重新进入 AI算力的核心位置

  • Fusion Fund此前的行业研究已发现,部分新模型架构在 CPU 上比 GPU 更高效。张璐据此判断,未来 AI训练和部署不会只由一种计算架构完成。
  • Agent不只是生成 token,还要持续调用工具、执行代码、协调多个 Agent;强化学习、simulation 等流程也大量依赖 CPU。Agent从偶发问答变成持续运行后,CPU需求会同步上升。
  • NVIDIA此次推出 Vera CPU,并将其定义为面向 Agentic AI 和 reinforcement learning 的处理器,据称效率比传统 CPU 有两倍提升;首批合作方包括阿里巴巴、字节跳动、Oracle 和 Meta。
  • 掌握 CPU还有平台意义:若 CPU仍在别人手中,NVIDIA就无法完整定义整机、整柜性能。即使未来 AMD的单颗 CPU更强,NVIDIA的一站式采购和集成优势仍可能非常大。

12. Groq与两笔早期收购补齐了 NVIDIA平台

  • Fusion Fund去年有五家公司被收购,其中两家买方是 NVIDIA:贾扬清创办的 Lepton AI,以及焦建涛创办的 Nexusflow。两家公司成立均不到两年,NVIDIA从年初接触到收购、内部整合都推进很快。
  • 张璐透露 Lepton随后进入 NVIDIA的 DGX 平台,成为其 GPU 云布局的一部分。具体整合细节受限制不能展开,但网站快速跳转和产品上线体现了 NVIDIA“看到能力就立刻收进生态”的执行方式。
  • Groq成立于 2016 年,创始人曾是 Google TPU项目核心成员;其路线不是修补 GPU,而是重新设计低延迟、高 token 吞吐的推理路径。优势受特定模型规模限制,却能补足 GPU加 CUDA的通用训练与推理能力。
  • 据节目引用的报道,交易价格约 200 亿美元,并采用非独家技术授权加人才收购的特殊结构。张璐直言,Groq单看芯片“不值得英伟达付的这个价格”,价值在于让 Vera Rubin拥有 CPU、GPU、推理加速器、网络和存储的完整故事。

13. 全栈竞争最终会延伸到世界模型与真实三维数据

  • 张璐观察,当前具备相对完整全栈能力的是 Google、NVIDIA与 Apple;Apple欠缺自己的 AI模型,但芯片、产品和终端完整。Meta等公司也在通过投入和收购补芯片能力。
  • 她把模型演进概括为语言模型、multimodal、Agent,再到世界模型;后一阶段不仅需要模型,还需要高质量的三维真实世界数据。
  • 这正是她看好马斯克生态的原因:Tesla提供交通、工厂和真实视野数据,SpaceX拥有工程、卫星和太空数据,未来还可能加入人形机器人相关数据。其他公司可能只有视频,马斯克拥有的是多样化“三维世界的真实数据”。

14. xAI的人事震荡体现了马斯克的速度与代价

  • 张璐认为联创陆续离职可能说明模型能力提升速度低于马斯克预期;他的目标不是追赶而是超越,因此一旦判断方向有误,就会迅速调整。她以“done is better than perfect”概括创业中的调整逻辑。
  • 他招人时却极具耐心:张璐认识的一位联创被马斯克连续说服三年。加入后,团队常工作到凌晨五六点,因为马斯克可能凌晨一两点到公司继续头脑风暴。
  • 她给出的浓缩评价是“一个很有魅力的暴君”:愿景、内驱力和招募能力都极强,但他把目标置于人情、得失和牺牲之前,“觉得不行他马上做调整”。
  • 张璐不因此对 xAI悲观。并入 SpaceX后,它能调动 Tesla和SpaceX的人才和资源,以及真实世界、卫星和太空数据,已不是普通初创公司;SpaceX未来若受太空经济托举,xAI也可能随之加速。

15. Google TPU的优势主要存在于 Google全栈内部

  • Google投资 TPU已超过十年,说明其很早便意识到推理的重要性。TPU与 Google的模型、数据、现金流和应用反馈共同优化,构成 Gemini快速提升的重要基础。
  • 张璐记得 Google内部使用 TPU时,training cost约为 OpenAI ChatGPT的三分之一;关键不是芯片孤立胜出,而是系统级性能与成本优化。
  • 第三方缺少 Google完整技术栈,使用 TPU时性能和成本都会打折。曼祺补充,Google通过 JAX等软件体系及支持 Google校友创业,可能逐渐扩大熟悉这套架构的开发者群。
  • 张璐仍不认为 TPU短期会有效威胁 GPU:金融、医疗、保险等行业的 AI渗透可能还不到 1%,总需求足以容纳多种架构;NVIDIA同时用 CUDA和更完整的平台提高迁移成本。

16. 企业级 AI的预算、收入与退出通道正在同时打开

  • 张璐看到的共识是,金融、医疗、保险等高监管行业更需要垂直小语言模型,并在本地或私有云部署。它们追求低延迟、低幻觉、数据隐私和成本优化,而不是把全部数据交给通用大模型。
  • 数据本身还不是资产:企业要先做 data curation,再加入安全与隐私中间层,才能连接 AI应用。Fusion Fund约有 45 位全球千强企业 CTO的 CXO网络,其中最高一笔企业预算达到 120 亿美元,一些金融、保险公司三四个月即可完成新的人工智能技术整合。
  • 医疗是张璐最看好的垂直方向之一:美国医疗约占 GDP的 20%,礼来与 NVIDIA达成数十亿美元合作,ChatGPT和 Claude也推出医疗专属产品;高质量数据、小模型和 federated learning有助于降低机构对数据隐私的顾虑。
  • 金融、医疗、保险的整合速度可能最快,物流、供应链和工业 Physical AI也在扩张。部分不到十人的 B2B团队一年收入从零增至 2,000 万美元,因为传统企业更愿与初创公司合作,而不愿把核心数据交给大型科技平台。

17. 美国市场以快速采购和并购循环放大小团队价值

  • 张璐把全球 AI人才聚集美国归因于商业化效率:JPMorgan Chase等传统银行正快速整合 AI;Koch Disruptive Technologies可把技术导入旗下企业,合作周期甚至只有一两个月。
  • Fusion Fund去年五家公司被收购,其中四家成立不到两年,部分交易带来 10-20 倍回报。张璐承认更希望公司长期做大,但这种“短平快”的退出促进资金、人才和连续创业者循环。
  • 曼祺在结尾把组织形态概括为两端:Tesla、SpaceX和 NVIDIA走向超级垂直整合;她还以个人开发者 Peter Steinberg 的 OpenClaw为例,认为个人或极小团队做出产品后被大平台吸收,是相对确定的创业机会之一;节目后记称 Peter在 OpenClaw走红后很快加入 OpenAI。
  • 她还以 Groq约 200 人、200 亿美元交易估算,“相当于一个人就值一亿美元”。
  • 张璐接下来仍会围绕第四期基金推进投资:去年投十家公司,今年计划再投七至十家,并支持三家公司上市。个人重点是 inference cost、能源、memory、security和系统整合,以及医疗机器人、微型或纳米机器人;太空经济则仍是未来两三年的重点观察和投资方向。
程曼祺

这期节目邀请了 Fusion Fund 的创始合伙人张璐做客《晚点聊》,他也是 SpaceX 的投资人。马斯克刚刚在 3 月底发布了一个惊人的计划 Terafab,要联合特斯拉、SpaceX 和 xAI,自建史上最大的芯片厂,掌握从设计、制造到部署应用的全栈产能。其中最科幻的部分,是马斯克希望把 Terafab 80% 的算力部署到太空,建设太空 AI 数据中心。

Terafab 的目标年产能是 1 太瓦,耗电量非常惊人,是目前全球 AI 算力年耗电量的约 20 倍。从马斯克的雄心壮志出发,我们延展聊了太空经济的创业机会,以及 AI 基础设施领域的变化与新机会,重点讨论了英伟达在 GTC 发布背后的一系列整合意图。

这次播客的背景是,Fusion Fund 此前在 AI 基础设施和 AI+产业模型上有很多布局,陆续都有了一些新的变化和收获。这包括近期 SpaceX 和 xAI 合并之后,马斯克宣布新的大动作 Terafab 计划,要建立太空数据中心;以及最近高通刚刚收购了 Fusion Fund 投资的一家端侧小模型公司,这背后也有一些 AI 基础设施和 AI 应用层布局的变化。

我们可以先从马斯克的新计划 Terafab 开始聊。这是马斯克刚刚在 3 月 21 日宣布的,因为 Fusion Fund 也是 SpaceX 的投资方之一。张璐,你可以从你的角度讲讲,你怎么看这个宏伟的设想?

张璐

1. Terafab 的全栈野心

其实我觉得 Terafab 的这个构想,马斯克也不是第一次提了。很早之前,马斯克就已经提到过,自己本身是在半导体行业,还有包括整个从底层、芯片层,一直到基础设施层、模型层,进行整体生态构建的愿景。

过去这一年,大家能看到一个非常明显的差异,就是 Google Gemini 的性能提升速度非常快。在它和 OpenAI 的竞争过程中,其中一个非常大的优势,就是它有自己全套的、全栈式的技术系统:从自己的芯片层,也就是 TPU,再到算力、人工智能模型、数据层等等。在这个完整的系统之内,再去做模型优化,包括算力部署优化,都会更加容易。

所以从马斯克的角度来讲,他也是一个生态构造者,也想打造生态。但一方面,他不只是单纯地说“我想自己做芯片”,更核心的是“我想自己拥有算力能力,不想被别人卡住自己算力未来发展的延展空间”。所以他才会有这个想法。

当然,这是一个很宏伟的计划。他也说过,未来大家不需要在什么 clean room 里面去做各种各样的实验或者生产。我觉得他的很多构想和愿景足够巨大,但具体实施的话,硬件层面的很多创新并不是那么容易推进的,可能还需要一些时间沉淀,也需要一些时间进行技术整合。

但是,整体大的生态构想绝对没有问题。而且现在无论是 SpaceX 即将上市,还是它和 xAI 整合之后,再加上 Tesla 未来和 SpaceX 的整体生态整合,都会带来很多巨大的想象空间。

这不只是单纯的 AI 生态整合,而是想把 AI 能力、物理世界和生态整体达成一个大的组合拳,然后在这个层面上去做各种技术应用、技术优化和成本优化。

所以我觉得,这本身是一个非常伟大的愿景,也有非常巨大的战略价值。但是它的周期,以及投资金额,可能比马斯克自己预想的要多很多。

程曼祺

你怎么看他给这个计划规划的具体算力?因为他自己宣布的是年产能要达到 1 太瓦的 AI 算力,而且还有一个我觉得大家比较关注、比较科幻的想法,就是会通过 SpaceX 把 80% 到 90% 的算力送到太空,在太空中直接用太阳能解决能源问题。现在大家讨论很多的,比如“电不够了”这样的能源瓶颈,可能都能得到解决。

Sam Altman 也吐槽过,说觉得这个想法挺不切实际的:发射到太空的成本很高,而且万一这个集群在太空坏了,想去维修,包括平时的运维,也会非常麻烦。

张璐

2. 太空数据中心面临现实

是的。最近也有很多人问我,马斯克在太空里面建设数据中心的想法是不是可行,包括近期可能的路线图。我觉得短期来讲,确实有很多巨大的问题。

首先,宇宙里面有辐射,热辐射对芯片以及整个系统性能的影响,其实比大家想象的要大很多。另一方面,就是成本问题。这个成本不只是单纯的发射成本,当然发射成本 SpaceX 可以持续优化,还包括运行和维护成本。

在这个基础上,你还要考虑,到底这个算力是去支持太空里的人工智能应用,还是支持地球上的人工智能应用。

当然,未来太空经济和太空生态会逐渐扩展开。那个时候,我们会有很多海量的太空数据和卫星数据,这些数据都可以成为非常好的垂直领域人工智能应用的基础。每颗卫星也可以成为一个小的边缘计算设备,去搭建这些应用。

但这还是需要一定时间,去把太空基础设施和太空生态整体打开。如果近期想在太空里搭建数据中心,去支持地球层面的 AI 应用,除了刚才提到的成本问题,还有一个现实问题,就是延迟,也就是 latency。它距离太远,所以技术层面上还有很多需要解决的地方。

包括之前 Google 也讨论过,TPU 的封装怎么样才能在宇宙辐射环境下保护芯片性能。这些问题都还没有解决。

马斯克当然有长线愿景,但我个人觉得,他想在太空里面建数据中心,核心的一点是,他不希望有任何政府去监管他。在太空里没有明确的监管,他会有非常大的自由度。

但如果单纯去看能源供给和数据中心冷却的问题,我经常半开玩笑地跟朋友讲,美国旁边就是加拿大。加拿大有非常多的水资源和能源资源,同时天气很冷、温度很低,再加上地广人稀,非常适合建设数据中心。

如果你都要探索在太空里建数据中心,为什么不先在邻近的加拿大建设数据中心,去驱动整个北美大陆的人工智能应用?

所以我觉得,这个设想当然有它长期的愿景,但短期层面上还有很多技术问题、现实成本问题,以及应用实际效用的问题,可能还需要再考虑一下。

程曼祺

他提出这个想法,是不是也和 SpaceX 要上市有关?他可能想给大家更多关于 SpaceX 能做什么的宏大未来规划和想象?

张璐

这绝对和它快要上市有关。SpaceX 现在当然是这个行业的霸主,收入水平也很高,但大家也听说了,它预期的上市估值是万亿美元级别。从来没有公司以这么高的价格上市,所以它也需要一个比较强的愿景,去支撑它上市的价格。

或者说,SpaceX 所代表的不应该只是一个火箭发射服务公司,也不应该只是 Starlink 这样的卫星服务公司。它希望 SpaceX 代表的是太空经济,也就是 space economy:整个太空生态、太空经济和太空基础设施的市场价值,可以体现在 SpaceX 的市值上。

在这个基础之上,当然就要延展到很多未来的部署。所以我觉得这和上市还是相关的。

但另一方面,他确实也是一个比较一以贯之的人。他对很多长线愿景,未来有一天可能真的会去做。

如果有一天,我们真的在太空里部署了非常多人工智能应用,非常多卫星成为边缘计算设备,当太空里的人工智能应用数量足够多时,也需要就近建设数据中心去支持。太空数据中心支持太空领域的人工智能应用,我觉得这个路径是行得通的,而且它的 latency,也就是延迟,也不会那么严重。

希望到那个时候,我们在应对宇宙辐射、封装和成本方面,都已经有了更好的技术解决方案。

程曼祺

如果未来在太空中建设数据中心,可能会有哪些人工智能应用?比较传统的太空应用,大家想到的可能是卫星发射之后的通信和遥感,这些都已经存在很久了。

一些比较新的太空经济,可能是因为 SpaceX、蓝色起源这些公司刺激出来的。在这样的太空经济里,有哪些 AI 可以发挥作用的地方?

张璐

3. 太空经济释放新应用

其实挺多的。第一个我想聊的是太空工厂。太空工厂是一个相对近期、我们能够看到非常大应用场景的方向。现在已经有一些公司在探索太空工厂。

在地球上合成一些新材料、新的晶体结构,甚至在医疗层面合成新的蛋白质结构,都会受到重力影响。太空的优势是微重力或者无重力。在这种情况下,可以形成非常好的、以前可能没有过的晶体架构或材料结构,也可以形成非常完美、非常对称的晶体结构。

现在很多技术瓶颈卡在材料这一层,医疗领域的瓶颈也可能卡在新的蛋白质结构层面上。这些都可以给我们带来很多新的选择,创新可能性非常巨大。

另外,太空领域是一个天然的 AI-native、robotics-native 领域,它从底层就会应用人工智能和机器人技术。

未来搭建太空工厂时,我们现在在地球上讨论的一些人形机器人应用,可能并不是那么合适,因为人力相对比较便宜,也更灵活。但如果是太空工厂,即使发射成本相对较低,把人类送到太空之后,仍然要制造一个生态系统,让人可以在那里存活,并且健康、安全地生活。这种生态系统的搭建,也需要很多技术成本和前期投资。

但如果发射一个机器人上去,维护以及维持它运行的费用就会低很多。所以我说,太空工厂天然就是一个 AI 原生、机器人原生的生态。

在这个基础之上,还有很多其他应用。举几个我们自己公司的例子。我们有一家公司做的事情很有意思:用人工智能管理卫星交通。

现在卫星发射越来越多,卫星彼此之间也经常会发生碰撞。碰撞造成的损失比较大,也会造成太空垃圾,对其他太空设备构成潜在威胁。他们做的就是用人工智能进行交通管理。在交通管理的过程中,还可以进行卫星数据交易。

其实大部分卫星数据都非常高质量、非常有价值。它不只是可以用于太空应用,对于解决地球上的问题也有很多用途。比如现在有很多公司用卫星数据检测矿产,提前检测山火,或者通过气象数据开展地球端的应用。这是一个很有意思的应用场景。

我们还有另外一家公司,建设的是太空里的加油站。它是一个机器人系统,可以从月球土壤中提取水,再从水中提取氢气和氧气。这三类物质都是火箭发射和太空飞行中会用到的燃料。

未来,火箭发射或者载人飞船就不需要携带那么多燃料,而是可以到月球上进行所谓的“加油”。像这种自动化机器人系统,在太空中进行通信、AI 应用和 AI 部署,也需要数据中心支持,或者需要进行本地化部署。

所以你会发现,太空经济已经铺展开了各种各样有意思的应用场景。太空生态的成长速度,可能会比大家想象得快很多。

程曼祺

这里有一个我挺好奇的问题。刚才你也提到,马斯克想在太空中建设数据中心,可能还有一个原因是想少一些监管。

现在无论是他未来想把数据中心发射到太空,还是你们已经投资的一些公司在太空中的活动,它们也会占据一定的物理空间。这个只要向某个国际协会申请轨道空间就可以了吗?是不是不需要每个国家的政府介入?合规流程是怎样的?还是说这个领域其实太早期,很多地方本身就没有明确流程?

张璐

当然,现在有一些国际组织可以对低轨道进行监管。但整体上,因为我们有领地的概念、领空的概念,却没有非常明确地定义太空中到底由谁管辖哪一部分,所以在太空里确实会有很大的自由度。

这也是为什么我刚才提到,马斯克在太空里会觉得自由度更高。另一方面,他自己的宏观愿景也非常巨大。比如刚才提到的 Terafab,它要有 1 太瓦的算力产能,这个数字非常夸张。

如果在特定区域和国家做这些事情,需要经历的监管批准,以及在政治层面上需要得到的支持,都是非常巨大的。所以他可能会认为,自己已经成为太空经济的奠基人,或者说处在奠基公司的位置,那么在太空里自由度会更高。

而且,他不只是想成为最主要的太空经济支持者,也可能成为未来整个太空经济的规则制定方。成为规则制定方,也会给他更大的自由度。

程曼祺

我觉得这应该是马斯克很大的一个雄心壮志。包括你刚才提到的,比如在月球上进行资源开采,再把资源用到星际交通和燃料业务上。我也在想,月球的资源到底属于谁?可能谁都不属于。

张璐

这也是为什么你会看到,美国政府层面现在也在加速推进月球计划。4 月 1 日,NASA 就要进行下一次发射。现在 NASA 负责人也比较明确地表示,3 年之内不仅要重返月球,还要搭建月球基地。这其实都是在探索整个太空经济的可能性。

就像你讲的,现在大家也没有明确的定义,到底资源属于谁,所以有点“先到先得”的感觉。

包括轨道也是这样。虽然有一些国际组织可以监管部分轨道,前一年也出现了一些新的监管规定,比如谁发射上去的卫星,谁就要负责把它拿下来,以降低未来潜在的太空垃圾数量。

但有了这样的条文之后,谁去跟进、完成监管,现在还是一个问题。于是就导致,如果你现在发射的卫星越多,占据的轨道越多,那么别人可能就很难再使用这些轨道。

再加上马斯克做 Terafab 的愿景,它不是一个短期愿景。他其实已经想了很长时间,希望把自己各方面的技术公司都整合到同一个体系里,这是进一步的垂直整合。

比如他有火箭,有卫星,有很多终端,有机器人,现在又想把芯片和算力基础设施全部掌握在自己的体系里。整体体系堆叠起来之后,它不只是一个算力工厂,更像是一个巨大的跨公司工业操作系统。

这个工业操作系统最后不只是给 Tesla 或 xAI 供货,而是可以把马斯克生态里各种多样化的业务绑定在一起,核心算力也掌握在自己手里。

这也是为什么他提出这么大的愿景,要做到 1 太瓦的算力产能。这个算力产能不只是当前即时需求的映射,而是一个终极目标,针对的是他未来设想的机器人社会、自动驾驶网络、卫星边缘计算生态,以及更大规模的 AI 推理等需求。

他是从这个角度预设未来的需求,认为这些需求是整个马斯克生态所需要的。他希望这样的算力需求掌握在自己手里。

程曼祺

每次马斯克提出大的愿景和想法,也会对外界产生影响,催生新的创业风潮。比如之前的商业航天,以及 Optimus 带来的人形机器人。

这一次 Terafab 计划,你有没有看到美国出现什么相关的创业公司或创业机会?

张璐

4. AI 基础设施创业窗口

当然。我觉得创业机会主要集中在整个 AI 基础设施领域。

现在大家已经非常明确,不能只去做一个芯片或者一套算力,它其实是一个完整的集成系统。刚过去的英伟达 GTC 大会上,黄仁勋也讲得很明确:英伟达现在已经不只是一个芯片公司,而是一家 AI 基础设施公司。

未来 AI 基础设施会像能源和交通基础设施一样,成为非常明确的护城河。但如果这个护城河没有掌握在自己手里,单纯依靠购买 GPU,卡脖子的可能性就会非常高。

所以 Terafab 这个愿景,给产业内带来的很多机会,就是如何让这么大的人工智能基础设施集群变得更加高效。

现在我们会看到很多新技术,针对的是数据中心成本降低、耗电量降低,以及相应的 interconnect,也就是互联技术。我们最近有一家公司就和这个非常相关,它做下一代 interconnect 和 optical switch,也就是光交换技术。

人工智能的耗电量,一部分在训练,但很大一部分实际上在通信和传输过程中。怎么样让传输和通信更高效、耗电量更低,同时实现更快速的传输,这也是未来大规模人工智能部署的关键前提条件。这是一个新的创新机会和窗口。

我们会看到很多新的基础设施公司快速崛起。以前很多 VC 可能单纯只投软件,但今年很有意思,我们发现越来越多大型 VC 也开始关注深科技。

我们一直在投企业级人工智能、医疗 AI,也在投深科技。今年会有越来越多资本进入深科技这个品类,其中核心就是看深科技里面针对人工智能基础设施的创新。

程曼祺

我也看到一些和他现在提出的计划非常直接相关,或者说特别相似的创业项目。比如美国有一家叫 Starcloud 的公司。

张璐

对,我知道。它也是做太空计算服务的。

程曼祺

而且这家公司在华盛顿,不是在加州那边。

张璐

是的。它最近还在和我刚才提到的那家做太空加油站的公司谈合作,所以它本身发展速度也比较快。

这部分确实是因为马斯克的愿景,推动了很多资本对这个方向的关注。但如果你问我个人看法,只讲太空里的数据中心,我觉得距离真正落地还有很长时间,并不认为这是接下来两三年内会发生的事情。

哪怕未来真的有这个需求,轨道里的数据中心也可能还需要 7 年甚至 10 年的技术周期,才能实现技术成熟度。它还需要整个太空经济和太空生态打开,出现海量太空 AI 应用需求。到了那个时候,在太空里建设数据中心才是合情合理的。

现在即使 SpaceX 的发射成本在逐渐降低,如果发射这么大规模的数据中心,发射成本仍然非常高。更高的其实是维护成本,包括硬件出现故障之后的维修成本,整体维护成本都非常巨大。

更不用说刚才提到的那些现实技术问题。

程曼祺

你觉得现在是创业公司做太空数据中心的好时机吗?

张璐

我觉得不是一个好时机,还是有点太早,可以再看一看。

现在更好的机会是做 AI 基础设施,整体做 AI 基础设施以及相关优化技术,都是非常好的机会,无论硬件还是软件。

如果想做太空相关的事情,可以做太空基础设施。除了数据中心之外,还有很多其他太空基础设施机会,初创企业都可以探索。可以先观察接下来 3 到 5 年太空经济和太空生态的成长速度,再根据成长速度判断,什么时候是进入太空数据中心领域的好时机。

而且,数据中心这种大型集群的创新机会,对资本需求非常高,是重资本投入。在这个基础上还要想清楚:这个机会未来到底属于大企业还是小初创企业?初创公司是服务这样的数据中心更好,还是自己去做数据中心更好?

这些都是初创企业需要想清楚的,自己真正的创新机会在哪里。

程曼祺

我们可以展开聊一聊近期全球大型科技公司,包括一些新的创业公司,在 AI 基础设施层面的布局和变化。

刚才也提到,3 月英伟达举办了一年一度的 GTC。黄仁勋在 keynote 演讲中强调,算力的重心正在从之前的训练转向推理,也就是模型的使用阶段。GTC 上也发布了新的产品方案,并且很快整合了去年底收购的 Groq 公司的 LPU 产品。

我们可以先围绕英伟达的动作来聊。通过 GTC 上的发布,以及去年底的收购,你看到英伟达在 AI 算力和基础设施上有哪些新的想法?

张璐

5. 英伟达打造 AI 工厂

我上周一直在英伟达 GTC。我们从 2017 年开始就和英伟达有比较紧密的合作,我也在周二给他们的 Inception Program 做了一个演讲,分享我们现在的创新生态。

其实我们很早就关注到英伟达在整个人工智能基础设施上的布局。比如去年我们有 5 家公司被收购,其中 2 家就是被英伟达收购的,而且这 2 家全都是人工智能基础设施公司。

英伟达收购这两家公司之后,内部整合速度也很快,马上就上线了新的 GPU 优化平台、GPU 云等产品。那时候我就觉得,它的愿景已经比较清晰了。

今年,Jensen Huang 相当于做了一次正式发布。就像我和他提到的,他对英伟达的定义已经不是一家做芯片或者 GPU 的公司,而是要做全栈式人工智能基础设施的公司。

它现在的核心概念是 token economy,也就是 token 经济。如何去扶持和支持接下来整个 token 经济产业的崛起,是它现在思考的重点。

这也是我觉得过去一年英伟达比较大的变化:它要变成一个 AI 工厂。它不是只想做最强的 GPU,除了 GPU 之外,也在加强自己的基础设施能力。

以前是 CUDA 系统,现在还包括这次重点推出的 Vera Rubin 平台,以及整合之后的 Groq LPU 推理平台。它想把 Groq 的推理加速能力加入 Vera Rubin 这个大型 AI 工厂平台,而不是让 Groq 单独走一条完全平行的产品线。所以这是一个更大的整合思路。

同时,它也希望市场改变对英伟达的理解。现在市场对英伟达的判断还是认为它是一家芯片公司,但 Jensen 想改变这一点。他卖的不是一张卡或者一颗芯片,而是一套完整系统。

这套系统不只是有 GPU,也有 CPU、网络、存储、CUDA 系统,以及面向 Agentic AI 和推理的整体部署方案,这些都可以由它提供。

而且在英伟达今年的大会上,你会发现它已经不是单芯片思维了。前段时间我在一个 panel 上聊到,我以前在斯坦福读书,读的是材料科学与工程,芯片其实是我的专业方向。那个时候觉得,一家公司一年能发布 1 到 2 颗芯片,已经非常非常快了;更早的时候,可能几年才能发布一颗芯片。

但今年英伟达直接发布了 7 颗芯片,再加上完整的 interconnect,也就是互联技术,以及推理基础设施的组合。

所以它是全生态发布,不是以前那种“我发布一颗芯片,发布一个产品”,而是发布一个生态,进行整个生态的整合和优化。这一点非常重要。

另外一个很重要的转变,是算力重心已经从训练转向训练加推理。

训练在我看来算是一种一次性的现金流:一次需要使用很多卡,这就是成本和消耗。但未来推理在成本中的占比会越来越大,因为我们使用推理的次数会越来越多。

尤其是部署了大量智能体之后,推理层面的消耗会变成持续性的现金流,也是一种持续性的消耗。

这也是为什么在 GTC 上,Jensen Huang 会直接说,Blackwell 和 Vera Rubin 在 2027 年对应的数据中心收入可能超过 1 万亿美元。他判断背后的核心前提,就是未来 token 的消耗,以及推理层面的负载,会远大于早期训练层面的消耗。

我记得几年前和微软的一位人工智能专家交流时,我们就讨论过这个发展趋势。那时候可能 70% 到 80% 是训练,10% 到 20% 是推理。到现在,已经逐渐形成 50% 对 50%。未来可能会倒挂,变成 20% 到 30% 是训练,60% 到 70% 都是推理,而且推理还是持续性的。

另外,我当时还听到一个观点,这也是我们一直在看人工智能基础设施的方向:未来所有 AI 产品,包括 AI 训练和 AI 部署,不应该都由同一种计算架构完成。

以前大家一直讨论,AI 的底层架构一定是 GPU 主导。但去年我们发布了自己的人工智能基础设施行业报告,已经发现一些新的模型架构在 CPU 上的效率比 GPU 更高。

所以这次你会看到 Jensen 也在强调 CPU,尤其是在推理语境下,CPU 的重要性越来越强。

再加上它现在要把 Groq 的低延迟和高吞吐推理能力吸收进来,因为 LPU 也是一种新的架构可能性。

除此之外,最近我们有一家被 Qualcomm 收购的公司。Qualcomm 一直在 NPU 层面做研发,因为低能耗对于未来端侧 AI 部署,也就是 AI 在边缘设备上的部署,是非常重要的底层计算架构。

未来的 AI 应用场景会由多种、多样的计算架构共同完成。对于英伟达来说,不要单一依附或者只依靠 GPU 架构就更加重要。

这也是为什么它现在在做更多 AI 生态布局,包括把自己重新定义成一家 AI 工厂。这些事情在内部是相互推进、相互连接的。

程曼祺

6. CPU 回到 AI 核心

我觉得它有一个从应用层可以看到的共同变化,就是 Agent 应用带来了很多对推理和模型使用的需求。尤其是 OpenClaw 从去年底到最近都非常火,还有 Claude Code、Claude Cowork 等等。

这次英伟达确实久违地发布了 CPU 产品。它上一个 CPU 是 Grace 系列,2021 年发布,距离现在已经很多年了。GPU 一直更新得更快,而这次 GTC 发布了 Vera CPU,也就是新的 CPU。

而且它的名字第一次和 GPU 系列使用了同样的命名。你能感觉到,刚刚说的统一平台,以及下面不同架构芯片组合的统一、异构生态,确实越来越强了。

包括 Groq 的整合,我也挺意外的。它去年底才被收购,这个整合速度还是挺快的。

張璐

你可能也认识一些英伟达的人。我们和英伟达的朋友聊天时,能感觉到大家都非常辛苦。

比如 Google,很多做 AI 的团队一周工作 7 天。我在 Meta 的朋友也天天处在 war room 里,处于战备状态。有时候工作到凌晨 2 点,第二天早上 7 点又接着工作。

这是因为现在整个 AI 创新生态在加速。未来的市场规模当然非常巨大,但竞争环境,以及不同玩家在市场中的位置,也可能快速调整。

这也是为什么英伟达有非常强的危机意识,居安思危,想提前布局。

它现在想做一个全平台公司,CPU 当然是很重要的一点。它发布 CPU 时,我记得有一个非常明确的定义:这是全球首款专门为 Agentic AI 和强化学习打造的 CPU 处理器。

除了 Agentic AI,另外就是 reinforcement learning,也就是强化学习。现在强化学习已经比较通用,基本上各家公司都在使用。

它的效率据说比传统 CPU 有两倍的提升,而且一开始就宣布了很多合作客户。

程曼祺

而且有中国公司,因为可能没有相关禁令。

张璐

是的,我记得当时提到过阿里巴巴和字节跳动。这些都是中国公司。美国这边的重要合作伙伴,包括 Oracle 和 Meta。

我们刚才提到,CPU 确实会越来越重要。尤其在 AI 基础设施里,对于推理和生成式 AI 来说,它们不只是把 token 吐出来,还需要持续调用工具、持续运行代码。

如果未来真的实现 AI Agent 的全产业部署,Agent 会一直处于活跃状态,随时都需要调用,这对 CPU 的使用需求当然会越来越多。

很多工作,包括多 Agent 协同、强化学习,以及 Simulation,也就是模拟流程,都离不开 CPU。

现在我们可能只是单次问答,使用频率还不是很高。但在智能体时代,它会持续运行,不停调用工具、调用数据,以及执行不同任务。

在这个语境下,CPU 会越来越重要。这也是为什么英伟达做了 GPU 之后,还要考虑如何把 CPU 纳入整个生态。

CPU 纳入之后,对它还有一个好处,就是平台会更完整。如果 CPU 仍然掌握在别人手里,它就没有办法整体定义服务器平台,以及整机、整柜的性能。

还有一个核心点是,从客户角度看,现在客户在系统集成过程中,选择不再是“CPU 从哪家买、GPU 从哪家买”,而是想买一整套 AI 工厂和 AI 基础设施。一站式解决方案直接找英伟达就可以了,这在竞争层面上也会更有优势。

所以从这个角度来看,CPU 很重要。即使英伟达的 CPU 没有 AMD 做得那么好,当然它现在声称自己更好,但即使 AMD 后来居上,对英伟达来说,集成优势仍然非常巨大。

程曼祺

我想补充聊聊你刚才提到的,英伟达去年收购了 2 家你们投资的公司。这个可以展开讲讲,也可以给大家一些像英伟达这样的龙头企业,在 AI 基础设施上的思路。

其中一家应该是 Lepton AI,对吧?

张璐

是的。

程曼祺

另外一家也可以一起讲讲。比如为什么会被收购?

张璐

7. 英伟达收购补齐生态

另外一家是 Nexusflow。这两家公司也比较巧,都是非常杰出的华人创始人。

Lepton AI 的创始人叫贾扬清,很多做 AI 的人可能都听过他。他也是开源生态里非常杰出的贡献者。

另一位创始人叫焦建涛,曾经是伯克利非常有名的人工智能科学家和教授。他做的这家公司,也是我们投资之后被英伟达收购的。

这两家公司具体的产品细节,我不太方便分享,因为英伟达和他们都有一些要求。但你可以看到,英伟达在执行层面动作非常快。

这两家公司成立都不到 2 年,当然它们自己的产品也很成熟,商业化推进速度也很快。但在去年年初,英伟达就已经开始和这些公司接触,看到它们的产品可以在自己的生态里产生巨大价值之后,马上就把它们收购进来。

收购之后,整合速度也非常快。比如 Lepton AI 被整合之后,就变成了 DGX platform。所以现在你去 Lepton 的网站,会直接跳转到英伟达的网页。这是英伟达未来布局 GPU 云非常重要的一步。

程曼祺

去年英伟达最大的收购,肯定还是 Groq。对,据报道可能花了 200 亿美元。我相信资本市场和创业圈都有很多讨论,这可能代表了英伟达什么样的想法?Groq 这家公司的背景也可以稍微讲讲。

张璐

首先,这次收购不是典型传统意义上的 100% 股权收购。当时达成的,我记得是非独家的技术授权,以及人才收购。

核心当然是为了获得这家公司,但为了更快完成交易,它采取了这样一种特殊架构。

Groq 是 2016 年成立的公司。它的创始人以前是 Google TPU 项目的核心成员。Groq 一开始并不是想在 GPU 上做优化,也不是去修补 GPU 的问题,而是重新设计推理的计算路径,尤其强调低延迟和 token 的高吞吐。

这两点正好是英伟达现在搭建人工智能基础设施和 AI 工厂时非常需要的能力。

Groq 的 memory architecture 在速度上非常有优势,只是这种速度优势局限于特定的模型规模。在这种情况下,它的新型架构加入英伟达平台之后,可以很好地补充英伟达现有平台的能力。

这并不是说 Groq 进来之后,英伟达的整体战略发生了变化。英伟达还是会继续做 GPU,继续用 GPU 加 CUDA,保持训练和通用推理的大平台基础能力。

但在这个基础之上,它也想把专门的推理加速能力吸收到自己的体系里,包括 Groq 很强的低延迟和高 token 吞吐能力。

这也是为什么今年它可以推出 Vera Rubin 这样的平台。这个平台的故事就完整了:它有 CPU、GPU、推理加速器、网络和存储。这些东西加在一起,就是完整的人工智能工厂。

这就是 Groq 对英伟达的价值。单纯看 Groq 的芯片能力,它可能不值得英伟达支付这样的价格,但 Groq 对英伟达的价值并不只是芯片产品,而是补全了它整体生态的故事线,以及生态各方面的集合能力。

英伟达过去一年在收购层面非常活跃。不只是英伟达,现在芯片能力已经成为各大科技公司和人工智能公司的核心竞争点。

谷歌已经有自己的 TPU,苹果的芯片能力也非常强。除此之外,Meta 这样的公司现在也在芯片层面投入很大,做很多收并购方面的部署。

你会发现,大家逐渐意识到,如果想守住自己的技术护城河,就要有全栈式的打法。

现在可能具备全栈式能力的公司,包括 Google、英伟达和苹果。苹果除了没有自己的 AI 模型之外,其他能力,包括芯片、产品和终端,都非常完整。

所以大家逐渐看到,作为未来的科技霸主,一定要有自己的全栈式人工智能基础设施平台能力。

程曼祺

最开始我们讲到的马斯克布局,也都是有芯片、有 AI 模型。

张璐

是的,马斯克的构想更加巨大。

现在很多人工智能公司,还是基于大语言模型。它是语言模型,但我们都知道,语言模型之后的下一站是 multimodal,也就是多模态;再下一步是 Agent,也就是智能体;再往下走,其实是世界模型。

世界模型的核心不仅需要模型能力,更重要的是需要高质量的三维世界数据。

这一点我非常看好马斯克。因为他的整体生态里有 Tesla 的交通数据,有 Tesla 工厂的三维真实视觉数据,还有 SpaceX 工厂、卫星工厂的工程数据、卫星数据和太空数据。

未来可能还有人形机器人。这也是为什么他做机器人是合乎情理的,因为他的机器人世界模型和 Physical AI 模型能力会非常强。

他的数据能力很强,而且数据非常多样化。其他科技公司可能都没有办法和他相比,在三维世界和真实世界的数据能力上,其他大部分公司顶多只有视频数据。

但马斯克拥有的是三维世界的真实数据。如果他能够把这些数据利用起来,打造整个 AI 生态,尤其是世界模型这样的 AI 生态,那么他的生态能力可能会比我们现在看到的这些科技公司再提升一个量级。

程曼祺

8. xAI 重组后的生态优势

说到马斯克整个 AI 相关布局,有一个和 AI 基础设施、算力无关的题外话,但我觉得大家比较好奇。最近 xAI 有很多人员变动,他最开始找的很多联合创始人也陆续离职了。

张璐

我觉得这可能反映了两点。

第一,xAI 内部很多模型能力的提升速度,确实低于马斯克自己的预期。所以他的特点是,他不怕打脸,这其实很厉害。

作为连续成功创业者,他从来不怕承认自己犯了错误,也会及时调整。创业经常讲“done is better than perfect”,但这个过程中可能犯错,关键在于犯错之后能不能及时调整。

对他来说,他从来不想追赶其他模型的能力,而是想超越其他模型,所以他的预期相对其他公司可能更高,团队压力也更大。

第二,是马斯克的个人性格特征。他看重一个人才时,招聘能力非常强。我认识很多人,包括其中一位 xAI 的联合创始人。马斯克找了他 3 年,不停地联系他、说服他。

那个人当时先是在读 PhD,后来本来打算创业。和马斯克聊得差不多之后,有一天他跟我说:“我终于被马斯克说服了,我要加入 xAI。”

所以,马斯克追逐人才的能力非常强。他有巨大的愿景,也能说服人才加入他。

当时 xAI 的一些联合创始人朋友跟我讲,他们经常在公司待到凌晨五六点。因为马斯克可能凌晨一两点进来,和他们一起头脑风暴、探索产品应该怎么做。

他自己的工作强度非常大,也带动了整个团队的工作强度。大家长期处在高压、又被打鸡血的状态。

但另一方面,当他发现有错误时,做决策的速度也很快,而且不太留情面。他不会因为“你跟了我这么长时间”,就说要再调整一下。如果他觉得不行,就会马上调整。

所以不能用通常的人性,或者我们说的情商、情感,去判断他的做事风格。这可能也造就了他高速、快速的创业者风格。

我认识很多和马斯克合作过的人。我觉得有一个词很适合形容他:一个很有魅力的暴君。

一方面,你会觉得他是暴君;但另一方面,他又很有魅力,有非常巨大的愿景,也时时刻刻有明确的未来愿景,以及改变世界的强大内驱力和动力。

但在这个过程中,他会认为愿景最重要、目标最重要,其他决策、得失和牺牲都是值得的,或者说都不是他优先考虑的事情。

xAI 经过这次人员调整之后,接下来会怎么发展,是整个 AI 领域,以及关注马斯克生态的人都可以关注的话题。

程曼祺

我也和一些做 AI 的人聊过。有些人现在对 xAI 有点悲观,觉得之前离开的那些人还是挺强的。

张璐

我觉得其实也不需要悲观。xAI 现在和 SpaceX 合并之后,再加上它在整个马斯克生态里能够调用的资源,还是非常夸张的。

很难有另外一家初创企业,能够像 xAI 一样调用这么多资源。它们在人才层面上,也可以直接使用 Tesla 和 SpaceX 的人才。

内部人才流动和资源流动的效率都非常高。所以我觉得,xAI 现在已经正式成为 SpaceX 的一部分,不再是一家单独的公司。

未来它也会和 SpaceX 一起,获得即将到来的巨大太空经济趋势的托举,会有一个加速过程,因为它是在乘势而为。

另外,它还有数据优势。比如真实世界数据,以及未来能够获得的卫星数据、太空数据,这些都是它巨大的潜在优势。

程曼祺

前面说到英伟达的全栈式布局,包括其他大公司也都意识到要做比较深的垂直整合。有一个相关话题,在美国应该也讨论得比较多,就是 TPU 和英伟达的 GPU。

Google 的 TPU 现在也被认为有很强的竞争力。你可以讲讲,你观察到的 Google 最近在 AI 算力和基础设施方面有哪些动作和变化吗?

张璐

9. Google TPU 的生态优势

Google 在 TPU 上的投资已经做了很长时间,一定超过 10 年。这也证明 Google 并不是最近才意识到推理的重要性,它很早就意识到了推理的重要性,而且沿着 TPU 这条线积累了很多年。这一点非常重要。

再回到 TPU 本身的能力,我觉得它最大的能力还是体现在 Google 的生态里。TPU 本身的优化,是基于 Google 整体的全栈式优化,补全了 Google 从芯片层到模型层、再到数据层的完整体系。

Google 还有很多现金流、应用场景,以及现实世界反馈,打造出了自己的生态。

但如果你把 TPU 提供给第三方使用,当然现在 Google 也开始向第三方提供 TPU,你会发现它的芯片能力没有在 Google 内部使用时那么好。

这还是回到我们刚才说的,整个系统优化非常重要。Google 自己使用 TPU,不只是性能好,成本也很低。

我记得现在 Google 整体训练成本应该只有 OpenAI ChatGPT 的三分之一左右,就是因为它可以在 TPU 的基础上做非常好的系统优化,从而实现成本优化。

但如果我是第三方公司,去使用 Google 的 TPU,我没有 Google 那一套完整系统,也无法做到那么好的系统优化,所以在性能和成本层面都会打折扣。

这也是为什么虽然资本市场可能有很多讨论,说 TPU 会占领 GPU 市场,但短期来看,还是很难对 GPU 形成有效威胁。

而且未来市场会越来越大。现在只是 AI 产业部署和产业整合的开始。我们现在看到的金融、医疗、保险等行业,AI 整合可能连 1% 都不到。

真正大规模铺开之后,对算力的需求会非常巨大。那时单靠一家 TPU、单靠一种计算架构去支持,也不太现实。

所以未来我们会看到市场需要多样化的计算架构。除了英伟达之外,其他公司也可以提供各种不同的解决方案,才能有足够的算力基础,支持大规模人工智能部署。

程曼祺

你刚刚说到,TPU 可能会给第三方公司带来一些使用难度。我们之前有一期节目也聊到过这个事情,其中两位嘉宾是从 Google 出来创业的。他们提到,Google 内部因为自己做 JAX,就像 CUDA 这样的软件系统,所以确实用得比较好。

可能会让 TPU 逐渐扩散的一点是,Google 会支持很多从 Google 出来创业的人,使用 Google TPU 的整套方案,从芯片到系统层面。

他们当时也提到,xAI 之前离开的那批人里,有一些人有 Google 背景,所以他们对 Google 的芯片比较了解,也比较熟悉 Google 的那套系统。

张璐

是的。核心就像你说的,如果 Google 也有自己类似 CUDA 的系统去支持 TPU 的使用,从开发者角度看,使用起来会更加方便。

但在这个基础上,这也是为什么英伟达现在不只有 CUDA 系统。它要做更加全栈式、全平台的各方面能力,帮助开发者在它的平台上获得各种服务和整合。

这样一来,用户对它平台的依赖性会更高,也更难迁移到其他计算架构平台。

程曼祺

最后一部分,我们可以稍微延展一下,从基础设施到应用层的变化。

请你来做这个节目,我也想让你分享一下对 B2B,也就是企业市场的观察。C 端 AI 市场的信息在全球范围内相对更通畅,大家也能看到一些明显热点,比如 OpenClaw 这样的个人 Agent。

Fusion Fund 自己很关注企业使用 AI。最近一段时间,你看到具体行业和 AI 结合有哪些变化?包括你们投资的公司可能也服务了一些具体客户,有没有一些此前没有出现、但现在看起来会加速的迹象?

张璐

10. 企业级 AI 加速落地

今年确实是 enterprise AI,也就是企业级人工智能非常好的一年。不只是技术层面的创新和发展,整个产业整合的速度也非常快。

从企业级人工智能来看,我们先说几个大的趋势。首先,今年业内可能形成了一些共识。

第一个共识是,大企业不只是科技公司,很多大型产业都愿意进行人工智能的垂直领域部署,而且这种部署基于的是小语言模型,而不是大语言模型。

金融、医疗、保险等很多行业都是高监管行业,数据也比较敏感。所以它们更希望 AI 应用或 Agent 可以本地化部署,或者部署在私有云上。

在这个基础之上,它们对于特定应用场景有需求,包括延迟要求,以及不能出现幻觉、必须保证准确性的要求。这些都让垂直领域人工智能应用的部署速度更快。

因为通常使用的是小语言模型,客户不需要把所有数据都传到云端,数据隐私可以得到更好的保障,成本也更容易优化。小语言模型对算力和电力的消耗相对更低。

所以我们会看到,垂直领域小语言模型的整合速度越来越快。

第二个趋势,我从 1 月份开始就明显感受到。当时我在达沃斯和很多大型企业的 CEO,甚至董事会成员交流,大企业的焦虑感非常重。

大家都意识到,自己拥有海量数据,但怎样才能把数据变成真正的数据资产?核心就是要和 AI 整合。否则你有一堆数据,但它并不是真正的数据资产。

一方面要进行数据优化,也就是 data curation;另一方面要搭建安全层和数据隐私层这样的中间层。在这个基础上,才能进行各种人工智能应用的整合。

我们从 2018 年开始就有自己的网络,叫 CXO 网络,里面大概有 45 家全球 1000 强企业的 CTO。

今年我们听到的普遍反馈是,他们手里的预算越来越高。最多的一位告诉我,他手里有 120 亿美元预算,全部用于人工智能技术相关的收购、技术整合、订单和战略合作。

这是一个很大的转向。这些 CTO,或者首席人工智能官,手里的预算增加之后,不仅会加大大企业在人工智能层面的投资和部署,也会加快人工智能整合。

我们会看到很多金融公司、保险公司,在 3 到 4 个月内就完成一些新的人工智能技术整合。这也是我们看到的巨大机会。

回到具体行业机会,一方面,我非常看好人工智能在医疗领域的应用。你也知道,我一直对医疗领域非常有热情。2017 年我们就发布了人工智能医疗行业报告,去年又做了 2.0 版本。

今年年初也有一个比较大的信号:比如 Eli Lilly 和英伟达达成了几十亿美元的战略合作,专门推进人工智能公司和制药领域的合作,以及人工智能应用场景的部署。

同时,ChatGPT、Claude 和 Anthropic 也都发布了人工智能在医疗领域的专属应用产品。

大家发现,医疗领域不仅有巨大的市场规模,美国 GDP 的 20% 都和医疗相关,它还有海量高质量数据和多样化应用场景。这些都是人工智能应用层非常关键的条件。

所以我们会看到,很多高质量医疗数据开始被应用到垂直 AI 产品中。高质量数据也有助于小语言模型的搭建和部署。

同时,很多医疗机构开始使用 federated learning,也就是联邦学习。这样在监管层面,就不用太担心数据隐私问题。

类似的思路也在金融和保险行业得到体现。所以金融、医疗、保险这 3 个行业的发展速度,尤其是 AI 整合速度,可能是最快的。

除此之外,物流、供应链等传统行业也在进行大规模部署。

另一个大家都在讨论的方向当然是机器人,也就是 Physical AI、物理 AI。这个方向的发展速度非常快。

但在 Physical AI 层面,也要看具体的产业应用。工业和供应链领域的应用,可能会发展得更快。除此之外,太空领域也是非常好的方向。

我刚才提到,太空本身就是 AI 原生、机器人原生的领域。

过去 10 年、11 年,我们一直关注的都是企业级应用,都是 B2B,没有看过消费端。

现在也会发现,人工智能整体的市场应用中,做 C 端应用确实有点困难,因为竞争对手都太强大了。

但 B 端应用的好处是,传统行业的大公司反而不愿意把内部核心数据分享给大型科技企业,也不愿意把大量核心数据上传到云端。

在这样的情况下,它们更愿意和初创企业合作,反而会让很多初创企业加速垂直领域应用的迭代和发展。

所以今年我们会看到很多做垂直 AI、面向 To B 部署的公司,收入增长速度非常惊人。我们有很多公司一年时间内收入从 0 增长到 2000 万美元,团队可能还不到 10 个人。

所以在美国,现在做 To B 的企业级 AI 是一个非常好的时机,也是一个发展非常快的时期。

程曼祺

我觉得中美在创业上的差异,确实是中国很多创业者还会想做偏互联网、移动互联网的消费用户市场。美国则有很多创业者非常聚焦企业级市场,这可能还是和整个退出环境有关。

张璐

是的,两边市场确实不太一样。

美国包括硅谷的人工智能创业者,其实非常有意思。他们的背景基本都是移民,亚裔可能最多,其次可能是欧洲裔、加拿大裔、以色列裔,最后才是所谓土生土长的美国人。

你会发现,全球很多人工智能人才都聚集到硅谷,或者美国这个大市场来创业。为什么?就是因为我刚才说的这些 To B 机会。

他们的员工或者工程师团队可能还留在加拿大、欧洲,但如果想进入市场、实现商业化,美国是最快的市场。

我们合作的很多大型 CTO 所在的公司,都和 JPMorgan Chase 有合作。JPMorgan Chase 是美国最大的银行之一,他们的首席人工智能官也在我们的网络里。

作为美国最大、也可能是最传统的银行之一,它现在在人工智能技术层面的迭代和整合非常精准,速度也很快。

还有大家可能听过的 Koch Industries。Koch Industries 是美国老牌企业,不是上市公司,是私营企业中规模最大的企业之一,也是共和党比较大的金主。

它有一个叫 Koch Disruptive Technologies 的部门,专门引进新型人工智能技术解决方案,给旗下控股的大型企业使用。它的合作周期可以非常快,可能一两个月就完成。

你看到这些传统行业龙头企业在加速人工智能整合,就能理解为什么全球很多人工智能创业者愿意来到美国市场,因为这里的商业化速度非常快。

在商业化之外,我们刚才也提到,去年我们有 5 家公司被收购,收购方包括英伟达这样的巨头。它有很多样的退出渠道,不只是 IPO。

IPO 可能需要 7 年甚至 10 年,但并购可能更快。我们去年被收购的 5 家公司里,有 4 家成立时间不到 2 年,给我们带来的收益也是 10 倍、20 倍。

当然,我也希望它们能做得更大,获得更高的回报倍数,但这样的短平快退出机制,也促进了人才和资金流动,这是这个市场非常大的优势。

程曼祺

而且我觉得,它创造了很多有经验、有底气的连续创业者。其实大家总结 OpenAI 最开始是“蓝血创业”,也就是说,他们并不是为了财富去创业,已经过了那个阶段。

张璐

你说得很对。硅谷的连续成功创业者群体也越来越大。我自己也是连续成功创业者出身。

2015 年创办 Fusion Fund 时,我们搭建的第一个生态叫超级创始人网络。这个网络里有 62 个人,每个人都是连续成功创业者。

正如你说的,大部分人已经实现了财富自由,所以他们探索下一家公司时,不只是考虑财富收益或财务回报,更重要的是改变产业、改变世界。

我在其他采访中也提到过,我觉得在这里做早期投资是一件比较幸福的事情。我自己有一点理想主义,经常相信一句话:在改变世界的同时创造财富,但最重要的是改变世界。

你确实可以从这些连续成功创业者身上看到这样的信仰和信念。他们做很多新的创新探索,核心目的是改变产业、改变世界。

这样的原动力会帮助他们吸引更多人才,也会帮助他们更快地进行创新探索。在做各种决策时,他们更多考虑的是公司的长期优势,而不是短期财务回报。我觉得这一点也非常重要。

最大的代表可能就是马斯克。他是最典型的连续成功创业者。虽然现在是全世界首富,但如果你看他的日常生活节奏和生活条件,可能并不想过他的生活。

前段时间,他的妈妈还发布过一条 Twitter,说她去看马斯克时,发现他睡的地方就是一个气垫床。他没有非常好的生活条件,也没有很多个人生活享受。

我觉得这就是一种使命驱动型连续成功创业者的思维方式。

程曼祺

最后一个问题。接下来一段时间,比如接下来一个季度或者半年,你计划把最多精力花在什么事情上?

张璐

我当然还是会聚焦投资。我们在去年年初发布了第四期基金,所以从去年到现在,也一直处在非常紧张、快速、被打鸡血的状态,和很多初创企业合作。

去年我们投了 10 家企业,今年可能还会投 7 到 10 家。所以看项目、管理项目,可能是我花时间最多的地方。

今年我们还会有 3 家公司上市。在公司准备上市的过程中,我们作为董事会成员和早期投资人,也需要提供很多支持和辅助,这方面会花很多精力。

如果说到我自己对技术方向和产业的热情,这 3 个方向我都会看:企业级人工智能、医疗 AI,以及工业自动化。

但如果细分来说,我个人会比较感兴趣、想多花时间的方向,首先是人工智能基础设施相关的创新,尤其是能够解决 AI infrastructure 下一阶段瓶颈的技术。

它的瓶颈不只是模型,也包括 inference cost,也就是推理成本;能源瓶颈;memory,也就是内存和存储瓶颈;security,安全问题;以及系统整合。这些都是我非常看好的技术方向,我会花很多时间关注。

另外就是刚才提到的医疗 AI,以及人工智能在生命科学和医疗领域的应用。这不只是软件层面的应用。

去年我们投了 2 家公司,都是机器人在医疗领域的应用。一家做传统制药和生命科学行业的机器人自动化,发展非常快,叫 MADRA。

另一家做微型机器人,也就是微观机器人或者纳米机器人层面的应用,这也是我非常看好的方向。

最后,我可能还会持续保持对太空科技的热情。太空领域、太空经济正在快速迭代发展,整个太空经济未来的规模也非常巨大。我觉得未来两三年都是非常好的投资机会。

我从小就对太空有一种原生的热情,也有对创新的巨大动力,所以可能会在这方面花更多时间。

程曼祺

今天非常感谢 Fusion Fund 的张璐做客晚点聊。我们从马斯克的 Terrafab 开始聊,也聊到了英伟达、Google 这些大公司在 AI 算力、AI 基础设施方面的布局思路和新的变化,最后也聊到了 AI 和产业结合在企业级市场带来的价值和未来趋势。今天节目就到这里,谢谢各位的收听,大家拜拜。

本期联点呈现推荐一百一十五期节目,我与模型智能创始人徐林杰聊 AI 算力和基础设施。当时我们的切入点是华为在 2025 年 4 月发布的 Cloud Matrix 384 超节点 AI 集群,这是由 384 块华为升腾 910 芯片互联而成的。那期节目里比较详细地拆解了算力底层的构成,不止 GPU,还有互连技术、网络、冷却等综合系统。结合 GTC 三月的新发布,我们可以看到英伟达自己也纳入了更多异构芯片,也就是不同架构的芯片。基于我们这期聊到的,它整合了收购的公司 Groq 的 LPU 以及它自己新推出的 CPU。

从这两期节目里我们可以看到,在整个算力底座的竞争上,大公司还是有新团队难以撼动的长期积累。这和应用层已经出现一人或几人的小团队估值就可以达到数亿美元的公司的情况非常不一样。所以现在有两种非常有意思的组织方向,一个就是我们这期聊到的特斯拉和英伟达,他们都是越来越超级垂直整合的巨无霸。另一种就是很多个人开发者或者说新的小团队,他们以小博大,几个人就做出了非常有影响力的产品。典型的是 Peter Steinberg 作为一个个人开发者做了 OpenClaw,可以预期的相对确定的创业机会就是以这种小团队的方式做一些产品或者应用,然后被大的团队吸收,比如 Peter 在 OpenClaw 火了之后很快加入了 OpenAI。即使在芯片领域,像 Groq 这种公司,它被英伟达收购时其实人也不多,大概就两百人,两百亿美元对应到两百人相当于一个人就值一亿美元。

我们这期聊到的很多创业机会都属于这一类,比如张璐提到他们自己投资的公司里去年有五家被收购,其中几家成立的时间都不到两年。当然,市场也更期待撼动格局的新的传奇和大独角兽出现在应用层、AI infra 层或者一些新的智能方向上,如具身和世界模型。我们可以看看之后会不会有这样的新公司。本期节目就到这里,感谢收听。如果你对今天聊的话题有观察、好奇或疑问,欢迎在评论区分享想法,这也会成为我们节目的一部分,让整个讨论更完整。你也可以把我们的节目分享给对这个话题感兴趣的朋友,推荐更多你想听的主题和嘉宾。你可以从小宇宙、苹果 Podcast 等渠道关注晚点聊 Late Talk,也欢迎关注我们的公众号晚点 Late Post,下期再见。

Thank you.

159: 马斯克Terafab太空算力、英伟达重拾CPU|与Fusion Fund张璐聊AI算力新趋势 | BidClub