Vol.71 简单聊聊GPT5和美国电力---with 刘一鸣/101 Weekly
- GPT-5并未证明数据“撞墙”消失,而是显示强化学习把 scaling law 延伸到了新路径。 庄明浩认为,Ilya 在2024年9月指出的原始数据瓶颈“没有说错”;变化在于合成数据、预训练再利用与后训练形成了“左脚踩右脚就飞上去”的梯云纵,数学、编程、医疗正是能够明确通过强化学习提升效果的领域。
- 算力需求仍会从训练延伸至推理,而且单位成本下降不会压低总需求。 庄明浩给出的量级是:token 单位成本差不多每12个月下降一个数量级,但 token 消耗和所需算力也差不多每12个月以指数级上升,“它就配上了”。推理 token 与算力并非简单线性关系,还要同时考虑时间和单次消耗成本,不能用单一方程处理。
- GPT-5发布不及预期,但产品工程仍在为 To C 主线补短板。 减少幻觉、路由、去掉谄媚,以及更细的工程实现,都在改善产品体验;工具应用、任务长度和成功率的提升,则指向更可靠的 agent。庄明浩的判断是,“主线还是 To C 的这个战场”。
- OpenAI必须加码 To B,因为消费订阅很难独自覆盖不断扩大的 CapEx。 ChatGPT 周活从年初约3亿—4亿升至7亿,但即便继续增长,周活乘转化率、再乘每月20或200美元的 ARPU,收入仍是可估算的;企业实施和政府订单提供更大的边际增量,同时也要正面应对 Anthropic 和云厂商的竞争。
- 广义 scaling law 仍有效,但能力增长已经从“喂更多数据”转向预训练、后训练与强化学习的组合。 庄明浩认为,这条研发路线至少到2024年Q3仍然奏效,GPT-5强化工具应用、任务长度与成功率,符合 L3 agent 阶段;至于下一节点及 L4 如何实现,“对于我们这些外人来讲可能没有办法知道”。
- 美国电力资产的重估,来自数据中心 CapEx 触及电力系统临界点,而非 GPT-5 单次发布。 几家头部公司当前单季度投入约1000亿美元;庄明浩转述摩根士丹利报告称,到2029年还是哪一年,年投入可能达到3万亿美元,并据此推演:“美国整个电力生态都可能被重新写一遍。”
- 电力扩容机会不止发电设备,而是生产、输送、配电及辅助设施的全链条。 刘一鸣关注 GEV 的蒸汽燃机、蒸汽轮机、SMR 与水电等布局,并提到订单排到2029年;但两人明确保留判断边界——他们是在按 AI 需求和 CapEx 推演,尚不知道数据是否已到临界点、具体需要怎样改变。
1. 强化学习绕过了原始数据瓶颈,却没有否定“撞墙”
刘一鸣先追问 Ilya 在2024年9月提出的数据瓶颈是否仍成立。庄明浩的回答很明确:“伊利亚没有说错”,公开世界里的原始数据,以及再加工、再标注的边际效率,确实已经非常差。
过去一年真正超预期的是强化学习权重的提升:它不再只是后训练提效工具,也开始通过已训练模型生成合成数据,再反哺预训练,形成能够自我抬升的循环。
庄明浩用“梯云纵”形容这种机制:“左脚踩右脚就飞上去。”一旦预训练、合成数据与强化学习能够互相促进,能力进步就不再完全受限于新增互联网语料。
GPT-5重点展示数学、编程、医疗,并非偶然;庄明浩认为,这几个板块都明确能够通过强化学习提升模型效果。DeepSeek、千问、Llama、Anthropic及 OpenAI 过去一年的头部模型发布及其高分能力,大体符合这条路线,Google 则“可能不太一样”。
2. 推理需求吃掉降本红利,GPT-5继续向 agent 演进
从 base model 到推理模型,再叠加模型尺寸、复杂数据和合成数据,最终都推高训练、推理及应用端的 token 消耗;因此算力重心向推理迁移的趋势仍会延续。
庄明浩借“安迪—比尔定律”的逻辑解释为何降本不等于总消耗下降:token 单位成本差不多每12个月下降一个数量级,消耗与算力需求也差不多每12个月以指数级增长,“它就配上了”。
刘一鸣追问 token 增长10倍是否意味着算力也增长10倍。庄明浩没有强行给答案:“这个可能不仅仅算力,还包括时间”,算力、时间和单次消耗成本令它“不是一个单一方程能够解出来的数据”。
3. GPT-5没有惊喜,但 OpenAI 的商业压力更加具体
刘一鸣认为 GPT-5 整体发布“不太给力”;庄明浩则指出,产品改进并没有因此消失:减少幻觉、路由、去掉谄媚,以及更细的工程实现,都在改善产品体验。
庄明浩判断,对于 OpenAI 或 Sam 来讲,主线依然是 To C;问题在于 ChatGPT 周活已从年初约3亿—4亿增长到7亿,再向上时,很难继续要求指数级增长。
消费收入可以近似拆成用户数、转化率和每月20或200美元的 ARPU。即便实现此前谈到的10亿日活,这个数字相对算力、CapEx 与其他成本仍可能“不够”,OpenAI 只能从 To B 寻找更快增量。
企业实施团队、政府大单都是这条路线的体现,但竞争也更硬:刘一鸣认为 Anthropic 在企业服务和编程上“把 OpenAI 打得很痛”,云厂商又在 To B 战场占据重要位置,倒逼 OpenAI 投入更多。
4. 广义 scaling law 仍在走,未知的是 agent 之后
庄明浩把今天的 scaling law 定义得更宽:它已不只是预训练数据投喂,还包括后训练、强化学习等。至少到2024年Q3,他认为头部厂商仍有较清楚的阶段目标、里程碑和实施路径。
庄明浩回顾,OpenAI 此前将路线描述为从 chatbot 到推理,再到 agent;agent 后面可能是把各种能力组织起来的“组织者”,最后是创新,但他也表示“没记错的话”。GPT-5强化工具应用、任务完成长度和成功率,符合 L3 agent 阶段的要求。
对后续如何从 agent 走向更高阶段,庄明浩保留不确定性:头部公司内部“可能”正在尝试,但外界并不知道它们具体在试什么、努力方向是什么,也无法判断 L4 如何实现。
5. 数据中心 CapEx 把美国电力系统推到了临界点
刘一鸣观察到,GEV等电力股一度涨得甚至比英伟达更高。庄明浩则回溯,2024年Q3截至时,标普500细分类别中基础设施、能源类“应该是排第一的”,甚至比 IT 和科技更靠前;Q4回落,1月和2月又因 DeepSeek 事件延续了讨论。
转折来自Q2几家头部公司的财报:应用、用户拓展、收入利润和云收入增长都较好,市场预期从悲观迅速翻正。结合持续两三年的数据中心 CapEx,庄明浩推测它可能已到临界点,开始影响电力系统的稳定性和容量,甚至影响民用端;美国电力市场化且与价格相关,也使市场进入新的状态。
现在几家头部公司一个季度大概是1000亿美元的体量;庄明浩转述摩根士丹利报告称,到2029年还是哪一年,每年可能要投入3万亿美元。若这个投入趋势再翻几番,“美国整个电力生态都可能被重新写一遍”。
数据中心建设曲线快速上升、办公楼建设曲线几乎跌完,两者已经接近交叉,甚至可能继续发展到前者超过后者。若趋势再持续三年,核电厂及其他电力设施可能让一些已经淡出公众讨论的“锈带”城市重新被拉回视野。
6. 不止发电,而是整条电网设备链
刘一鸣强调,美国电力扩张近似一轮“大基建”:新建电厂只解决发电,输电、配电、变压器及其他辅助设施同样存在瓶颈,对应另一批上市公司。
美国各州经济和电网条件差异很大,部分地区甚至需要重新设计。庄明浩给出的逆向框架是:“你底子薄,那你可能改善的空间变得更大了嘛。”
刘一鸣介绍,GEV覆盖蒸汽燃机、蒸汽轮机、天然气发电,并投资 SMR,也有水力发电,基本占据电力相关的多种概念;但两人没有把逻辑推演包装成精确预测:“我们不是能源专家”,是否已到具体临界点、需要怎样改变仍需专业数据验证。
节目结尾,刘一鸣认为 GPT-5 对算力及其他领域的影响不大,次日英伟达等标的也没有太多变化;部分算力租赁公司上涨,似乎与某几家公司的财报有关,与 GPT-5 本身关系不大。