历史能告诉我们关于 AI 革命的什么 | Tyler Cowen 与 Alex Imas
Tyler CowenAlex ImasErik Torenberg
- AI 能力快速提升,可以与更为平常的经济增长并存。 Tyler Cowen 对人类瓶颈较少的领域更加看好,尤其是数学;但他提醒,技术进步加快,可能只是更早暴露“真正的瓶颈”。Alex Imas 表示,他讨论的增长框架仍指向收益递减;持续两位数增长需要满足一些现有证据尚未证实的条件。
- Token 消耗激增,并不能自动证明前沿实验室的收入预测也会激增。 Imas 援引 Ramp 数据称,随着价格竞争加剧,“Token 使用量呈指数级增长,收入却持平”。Cowen 仍看好 AI,但追问:哪些其他行业能以足够快的速度增长,支撑极端的支出预测?Anthropic 的预计收入和 IPO 预测市场,都没有显示最快速起飞的情景正在发生。
- 企业值得关注的关键能力是协同,而不只是个体智能。 Imas 认为,AI 智能体面对的竞争对手是拥有“拼图式智能”的组织,而非普通员工。当前的智能体集群大多只是在并行处理;真正的协同突破可能改变企业结构,并引发就业的非连续转变。不过,他把这个令人担忧的情景与概率预测明确区分开来。
- 智能体经济仍面临商业和人性障碍,单靠更强的模型未必能扫清这些障碍。 如果必须猜,Cowen 设想智能体在5年内可能达到 GDP 的1.5%,但认为近期达到10%不现实。平台可能抵制绕过其追加销售的外部智能体;用户仍偏好亲自做事;快速颠覆还会引发政治反应,拖慢部署。
- AI 能够完成工作,不等于 AI 资本所有者一定能拿走由此产生的租金。 Cowen 区分了生产性资本与保护垄断利润的进入壁垒;Imas 的分析原则是,价值会流向稀缺之处。能源、土地或稀缺的人类劳动可能受益,但 AI 也可能缓解这些约束:“首先要想清楚稀缺性。”
- 两位嘉宾更看重制度制衡和激励,而不是期待智能体实现完美对齐。 他们偏好的框架是机制设计:智能体即使不具备与人类相同的偏好,也能服务于人类利益。Cowen 认为,已观察到的恶意使用大多是 AI 遵从恶意人类的指令;Hugging Face 事件则体现了激励失灵和人为失误,制度可以从中吸取教训。
- GDP 的统计值可能低估生活福祉的大幅改善。 Imas 描述了一个 GDP 增长3–5%、人们却因廉价或免费的数字产品而更加兴盛的世界。Cowen 补充说,长寿——例如有可能活到120岁——也是需要更全面衡量的收益,但他仍认为 GDP 是“最被低估”的统计指标。
1. 能力加速,收入前景仍未明朗
- Imas 认为,从聊天机器人转向智能体,意味着 AI 从回答问题走向“真正干活”。METR 报告并未显著改变他的判断,因为其中不少证据此前已经出现。面对每次模型发布,他都会追问:新解锁了哪些“具有经济价值的任务”?基准测试中的陡峭增长曲线只能不完整地反映这一点,尤其难以衡量需求描述不充分的工作和隐性知识。
- Cowen 将自己显著调整判断的时间定在8月;他于2026年11月11日发言。数学领域的进展,以及大约3周内就能做出一个“明显更好”的模型,超出了他对人类瓶颈较少领域的预期。不过,过去一周里,他的看法又“略微悲观了1%”。
- Cowen 对实验室极端收入预测的质疑在于:谁来买单?哪些其他行业能以足够快的速度增长,支撑这些预测?他没有得到答案。Anthropic 的 IPO 预测市场“没有冲上2万亿美元以上”,其预计收入也不像超级快速起飞的情景,金融市场看起来仍相对正常。尽管他看好 AI 带来的益处,但相比湾区的线性外推,他更相信市场判断。
- Imas 认同,客户最终需要获得生产率提升,才能支撑更高支出。与此同时,随着高 Token 消耗的智能体成本上升,前沿竞争正转向价格。他援引 Ramp 数据称,“Token 使用量呈指数级增长,收入却持平”:消费量可以加速增长,但降价会阻止收入同比例增加。
2. 持续两位数增长需要异常有利的条件
- Imas 的增长框架要求瓶颈消失,尤其是想法产出中的收益递减。技术进步必须能够以更少资源带来进一步进步,而不是每提升一点智能都要投入越来越多资源。相关模型参数必须大于1;根据包括 METR 报告在内的现有证据估算,这一参数“明显小于1”。完整的递归自我改进循环可能改变这一点,但目前还没有证据证明它已经出现。
- 自动化也会改变经济权重。在非同质偏好下,自动化产品降价后,可能在支出中占比下降,使价值转向剩余瓶颈。Imas 解释说,讽刺之处在于,“增长最慢的东西”对 GDP 的贡献可能最大。Cowen 补充了制度惰性:美国国税局仍在使用传真机,大型公共服务部门的运作方式也不像初创公司。
- Cowen 更看重“人类历史漫长的跋涉”,而非湾区的种种讨论。美国在经历衰退、战争或疫情后,某一年增长10%并非不可想象,再叠加 AI 带来的增长——原本可能达到3–4%——也是如此;但他会“重仓押注它不会发生”。美国在1980年代复苏期间,增长曾短暂超过8%。他也不认同机器人会在3年或4年后带来20%的增长。
- 这并不意味着福祉提升不会超过统计上的经济增长。Imas 描述了一个 GDP 增长3–5%、廉价或免费的数字产品却让人们更加兴盛的世界,调查数据可以捕捉这些产品的价值。Cowen 补充了寿命延长——他曾告诉 Torenberg,自己可能活到120岁——这是 GDP 之外的收益。衡量方式应该演进,但在短期内 GDP 仍然有用。
3. 组织的门槛高于个体基准测试
- Imas 的论文《组织智能》(“Organizing Intelligence”)指出,常见的竞争比较对象设错了:AI 智能体面对的是组织,而不是普通人。比较优势让不同的人承担各自擅长的任务,形成高于普通个体能力的“拼图式智能”。即便是能在每个维度都达到普通人水平的“最小通用人工智能”,也未必会改变经济格局,不过,更低的生产成本已经可能影响工资。
- 真正的团队协作仍然薄弱。Imas 表示,智能体集群“基本上只是在并行处理”。在协同基准测试中,即使允许沟通,由2个智能体分工完成任务的表现也可能不如单个智能体。相比之下,2个人可以利用分工,在获得双倍资源时胜过1个人。
- 协同能力提升可能打破科斯定理所描述的企业规模上限,带来显著不同的组织形式、就业和工资水平。当被问及阻碍因素时,Imas 回答:“说实话,我不知道。”协同能力或许在后训练中体现不足,但他明确表示这只是一种可能,并不掌握内部信息。
4. 对齐取决于激励和制衡
- Cowen 从委托代理理论切入 AI:委托人无法通过合同完美控制代理人。Imas 则将让模型具备与人类相容的偏好,与设计一种即使偏好不同也能促使模型提供帮助的机制区分开来。制衡机制可以弥补意图不一致的问题。Cowen 举例说:“我和弗吉尼亚州州长的立场并不一致”,但他依然乐于住在那里。
- 因此,Hugging Face 事件并没有让两位嘉宾感到太意外。Imas 将其描述为“一次又一次的人为失误”,暴露了激励机制失灵,但没有酿成重大灾难,也促使人们改善运行环境。Cowen 区分了令人担忧的公开表态与实验室的实际行为;他说,已观察到的黑客行为大多——甚至可能全部——是恶意人类让 AI 按照他们的指令行事。
- 当被问及 Paul Christiano 所说的“AI 相关死亡可能在一两年内成为最可能的死因”时,Cowen 直言:“强烈反对。”
- 谈到 Nvidia,Imas 预计整体趋势不会有太大变化。他指出一个有条件的脆弱点:如果宏观冲击迫使 Nvidia 成为最后买家或最后贷款人,而公司的创始人兼 CEO 届时已经失势或离任,公司介入的能力可能会减弱。这可能拖慢行业发展,但他预计结构性力量最终会重新占据上风。
5. 就业和应用取决于转型速度
- Imas 对就业的担忧以快速突破为前提,尤其是协同能力取得突破。工资和就业可能经历一次“相变”,速度快到劳动者来不及转入新行业。新的机会仍可能出现,但长期失业可能让人们退出劳动力市场。他强调,描述自己担心的情景,不等于估算该情景发生的概率。
- Cowen 看到另一个匹配问题:雇主很难识别谁能有效使用 AI。学位、成绩和面试,对判断如今更为重要的思维灵活性可能没那么有用。在认证机制或 AI 评估方式改善之前,招聘可能放缓,失业率也可能暂时自然上升。不过,他仍预计会出现“难以计数的新项目”和新的工作岗位。
- 谈到智能体与智能体交易,Cowen 要求先看分母。智能体占 GDP 的10%还早,哪怕达到6%也已经非常庞大,而且近期似乎不太可能。若必须猜,他设想5年内可能达到1.5%。这些增幅中的任何一个都可能被称作爆发式增长:“GDP 的分母很大。”
- Imas 指出一些不直观的应用障碍:一个能力很强、却总给用户订到飞机厕所旁边座位的智能体,会失去用户信任。平台也有动机拦截绕过面向人类的追加销售的外部智能体。Cowen 则谈到自己的个人偏好:亲自把日程录入日历能帮助他记住安排;即便智能体能力大幅提升,他预计自己仍会保留这个习惯。
6. 政治反应也会成为增长约束
- Cowen 预计选举后,反对声音会推高数据中心成本,并在一定程度上拖慢项目,而不会全面阻止发展。州长的强硬表态可能软化为对工会和工资的要求,现有项目则会继续推进。有些辖区会拒绝项目,但其他选择也很重要:“我们有50个州,真好。”
- Imas 指出,政治反应本身是内生的:目前就业和增长相对健康,限制了干预压力。极端颠覆情景会引发极端政治反应,从而限制其持续发展。回头看,这种互动可能会让技术扩散显得远比能力预测所暗示的速度慢。
- Cowen 补充说,竞选资金研究已经显示,金钱购买政治结果的能力有限,地方选举的部分情况除外;这也是制衡机制在偏好不一致时发挥作用的例子。
7. 生产性资本与受保护的垄断租金是两回事
- 谈到 Torenberg 提及的 Piketty 相关文章时,Imas 认可,经济活动可能更加依赖资本。但在更富裕的社会里,稀缺的新型人类工作也可能创造可观价值。悬而未决的问题是,这类工作能否大量涌现,支撑整个劳动力群体;历史经验倾向于认为有可能,但并未给出 AI 时代的答案。
- Cowen 区分了“资本能够大有作为”与保护特定所有者垄断租金的壁垒。历史上,基础技术往往让消费者受益,但历史经验不能证明结果必然如此。如果 AI 资本变成大宗商品,生产能力提升也不能证明其所有者能够获得持久利润。
- Cowen 认为,土地或能源租金比资本拿走所有租金更可信。即便如此,他也不愿妄下判断:AI 可能让能源变得不再稀缺,或者廉价的地球改造和海水淡化可能改变土地稀缺性。地段仍可能有价值。他的建议是:“首先要想清楚稀缺性。”
- Torenberg 提出基础设施投资者的另一面观察:超级用户“怎么用都不够”,而整体应用仍有限,这说明短期瓶颈在供给。不过他也承认,推测中间还差一步:应用扩大最终必须带来可衡量的公司收益,才能证明大幅增加支出合理。
8. 自动化直觉,不代表不再需要实验
- Cowen 对能力的乐观始于国际象棋。他13岁时接触到一款名为 Tinkerbell 的弱棋力电脑,并一路观察后续进步。强棋手知道,下棋依赖直觉,而非计算器式的算术。看到电脑攻克国际象棋后,他开始相信更广泛的自动化也能实现:“你只是在等它扩展到其他所有领域。”
- 他同样不认为品味是人类牢牢守住的领域。模型已经能很好地推荐古典音乐录音;他预测,只要人们付出一些努力,“不到2年”就会出现优秀的 AI 诗歌——可能只需要十几位付费诗人和过程审核,而非数十亿美元。Imas 认为,训练更好的验证器,能把进展拓展到显然无法验证的任务之外。
- Cowen 认为 Leopold 的《情境意识》(“Situational Awareness”)非常重要,但不同意其快速起飞机制:模拟无法广泛取代实验,尽管某些领域可以。Imas 提到 Lucas 批判:如果缺乏深层结构性理解,仅凭预测可能会漏掉系统的内生反应。生物技术尤其可能进展缓慢,因为实验和监管仍然影响重大。
9. 结构性理解或将重塑研究与教育
- Imas 认为,AI 帮助构建结构模型是一个被低估的机会,例如细胞模型,或用于宏观经济分析的数字孪生。理解结构有望帮助人们创造真正的新事物。Cowen 欢迎节目中谈到的数字孪生工作,但指出该项目仍需要5位共同作者、大量资金和一所研究中心;这再次说明,工具能力提升并不能消除组织层面的要求。
- 对高等教育,Cowen 希望看到更多实验、创新和衡量,敦促主持人向其学院计划投入更多资金和优秀人才。Imas 预计市场力量会推动传统高等教育萎缩,同时催生新形式。他长期看好这一方向,但对行动迟缓的机构何时转变没有把握。
- 两人都预计,经济学工具将变得更有价值。机制设计、内生反应和结构性推理,都能直接用于解决 AI 尚未解决的问题。Cowen 想象,随着 AI 填补知识空白,经济学会拓展成社会科学;有能力的人可以一边“手握控制旋钮”管理智能体,一边指导研究,实现早年的芝加哥学派愿景。
完整逐字稿
机构的运转并没有我们希望的那么顺畅,也没有我们担心的那么糟糕。英伟达最近发生了一些怪事。如果你看预测市场对 Anthropic IPO 估值的预测,它并没有飙升到 2 万亿美元以上。
你预计这种增长会持续下去,还是会趋于平缓?
收益会超过成本,但这需要一些时间,而且实际进程会比很多人所说的正常得多。
真正实现经济转型所需要的,不只是能力,还包括这些智能体彼此协调的能力。现在有一种“智能体群”的说法,但仔细拆解就会发现,这些智能体仍然很不擅长协调。它们大多只是在并行处理任务。
很多时候,有些事情发展得越快,你就越早碰到真正的瓶颈。你要是问我智能体什么时候会占 GDP 的 10%,我觉得不会很快。
两种不同的情景会是什么样?一种是 GDP 增长稍微正常一些,另一种是 GDP 增长真的达到两位数。
Alex、Tyler,欢迎来到 a16z 播客。
很高兴来到这里。
谢谢,谢谢邀请我们。
有很多话题可以聊。首先,我们来谈谈一些时下热门的话题。METR 报告发布了,围绕它也出现了很多讨论。Paul Christiano 谈了这件事,也发了推文。眼下,人们对 AI 的现状以及 RSI 感到不安和焦虑。我很好奇,Alex,你怎么看我们目前看到的情况?对于眼下的一些断言,你持什么看法?
我仔细读了这份报告。我觉得,进步惊人而且正在加速,这是毋庸置疑的。任何关注模型发布的人都能看出来,模型发布得越来越频繁,能力也越来越强。从去年 11 月到今年 11 月,能力上的变化已经让人觉得像是进入了一个完全陌生的世界,尤其是智能体 AI 和聊天机器人时代之间的差别。
你可以从公司发布的数据中看到聊天机器人时代与智能体时代的差异。现在你能看到真正的生产力提升。使用聊天机器人时,你几乎是在用一个高级版的维基百科:你提出问题,它给出答案。使用智能体系统时,你看到的是实际的工作成果。这些系统真正完成工作的能力进步得非常快,你也能看到很多指数级增长曲线。
这就是 METR 报告展示的内容:又一条指数级增长曲线。说实话,我没有因为这份报告而大幅调整看法,因为其中很多数据此前已经在其他领域出现过。我们知道 S-1 声明,也知道一些尚未发布的模型。我没有因此大幅更新看法,是因为我基本上早就有这个判断了。
你的看法是,你所说的这些指数级增长曲线会持续增长吗?它们什么时候可能会逐渐放缓?你有多看好这些增长曲线能维持下去?
你刚才说的“其中一些指数级增长曲线”,正好切中了核心问题:这些增长曲线会出现在哪里,又会如何彼此关联?对我来说,METR 报告中的关键短语是“定义明确的任务”。大问题在于:那些定义没那么明确的任务呢?很多工作都没有明确的定义。
我不是那种觉得在定义不那么明确的任务上我们就安全无虞的人。我认为模型在这些任务上的表现也在不断变好,只是要让这类任务出现指数级增长曲线可能更难。此外,还有关于隐性知识的问题,以及哈耶克式的担忧:这些技术究竟会对经济产生什么实际影响。
Tyler 和我都是经济学家,所以我得从这些信息中筛选出有关这些增长曲线对经济以及具有经济价值的任务意味着什么的内容。对我来说,关键问题是:每次模型迭代,究竟解锁了哪些前一代模型无法完成的、具有经济价值的任务?指数级增长曲线只能非常不完美地反映这一点。你可能会看到某个基准测试上的增长曲线惊人得夸张,但现实世界中的加速却并不明显。我们还没到那一步;我认为我们确实正在现实世界中看到很大幅度的加速。不过,这些都是我在思考的问题。
1. Tyler 为什么稍微谨慎一些
Tyler,我们来听听你的看法。我觉得你在这场讨论中一直是比较审慎的声音。Alex 可不审慎——我开玩笑的。不过,你有没有根据最近发生的事情调整看法?你怎么看?
很多时候,有些事情发展得越快,你就越早碰到真正的瓶颈。我不会频繁调整看法,但这里是 AI 领域,而在 AI 领域,具体日期非常重要。我们是在 2026 年 11 月 11 日录制的。这一点很重要。从 8 月以来,我的看法变了不少,主要是因为数学问题。
在人类瓶颈不多的领域,我看到进步快得多;而且大约三周内就能做出一个明显更好的新模型。我之前没想到这件事会来得这么快。我会把这个变化追溯到几个月前。
不过,如果你说的是过去一周,METR 报告的信号是看跌的。英伟达最近发生了一些怪事。我没有任何预测,但这会让整个行业稍微放慢一些。你如果看预测市场对 Anthropic IPO 估值的预测,它们会上下波动,但并没有飙升到 2 万亿美元以上。
你看看 Anthropic 自己预测的营收数字。我记不清确切数字了。我不会说自己感到失望,但这些数字并不是在超级快速起飞的情景下你会预期看到的水平。而且这说的还是他们的 IPO。就这些原因而言,我会说,与一周前相比,过去这一周我的看法变得悲观了 1%。无论从你希望的角度还是担心的角度来看,机构的运转都没有那么顺畅。
OpenAI 和 Anthropic 在过去两三年的增长速度,会是你对未来的基本判断吗?先不谈具体公司;我指的是领先的 AI 公司,以及我们已经看到的经济影响。你预计这种增长会持续下去,还是会趋于平缓?当然,它们也在和超大规模云服务商竞争。
几周前我在湾区,很多人都在跟我说非常高的营收数字。我问了他们一个问题:“其他行业要以多快的速度增长,才能让你们给我的 Anthropic 和 OpenAI 那些极高营收预测变得合理?”没有人回答。他们甚至都没试着给出答案。
我认为这说明那些极高的营收数字并不可信。这并不意味着我看空整个行业。我仍然看好。我觉得情况会不错。这些都是很优秀的公司。但归根结底,如果你看市场数据——无论是实际利率、股价,还是其他任何指标——市场数据看起来仍然相当正常。
整个投资界都在谈 AI。这已经不是 2014 年那种有点神秘莫测的事了;当时你可以说:“我读了一篇 LessWrong 博客文章,现在我就很有钱了,因为我读了它。”相比于湾区那些不太认真考虑社会互动的人所作的判断,我更相信市场的判断。这就是我的看法。AI 会改变整个世界。收益会超过成本,但这需要一些时间,而且实际进程会比很多人所说的正常得多。
补充一点,我觉得 Tyler 说得完全正确:要让营收增长站得住脚,你就得开始看到经济其他领域的生产力数据有所改善。到某个时候,经济其他领域必须愿意为这项产品付费,而这种付费意愿的提升必须来自经济其他领域生产力的提高。我们还没有看到太多这方面的证据。这并不是说它不会发生,而是说它终究必须发生。
另一个因素是竞争。特别是在过去几个月里,前沿实验室之间开始出现激烈的价格竞争。以前,它们只是在比谁的模型更好。现在,越来越多的企业开始使用模型,成本也因此变得相当高,因为智能体 AI 会使用多得多的 token。
OpenAI 和 Anthropic 都在努力传达这样的信息:“我们提供了一个更便宜、能力不相上下的模型,甚至可能稍微好一点,也可能稍微差一点。”Mistral 也在参与竞争。DeepMind 也在参与竞争。你会看到 token 价格大幅下降。Ramp 有一套很不错的数据集,可以追踪这些变化。
你也看到了,token 使用量呈指数级增长,而营收数字却持平,对吧?这是怎么回事?这是价格竞争造成的。在前沿市场上,你看到的价格竞争比六个月前激烈得多。
我觉得,最近这次选举的影响被夸大了。很多数据中心项目仍会推进,但我认为这会让进展稍微慢一些。监管出台的可能性更高,监管力度可能稍强,也可能更早出台——或者特朗普会在安全护栏问题上让步。对我来说,这不是一股重大力量,但会让我对这个行业略微更悲观,尤其是在起飞速度、营收数字以及其他方面。
顺便问一下,既然聊到这个话题,中期选举有没有让你在其他方面更新看法,Tyler?还是说这有点像钟摆式的反弹?这种来回摆动是我们本来就该预料到的吗?
大部分结果我都预料到了,甚至还预测过,但德克萨斯州确实让我很意外。我没想到德克萨斯会像那样翻转。也许只是我最近没怎么去那个州,但这确实让我很震惊。
2. AI进步的速度是否正在加快?
对。那么谈到AI对经济的影响,你们俩都说过,强烈反对GDP实现两位数增长的说法。你们的看法要审慎得多:AI会对消费者产生巨大影响,会改变很多事情,但正如你几分钟前所说,GDP增长可能会比我们预期的更正常。在讨论原因之前,你能解释一下,要实现什么条件才行吗?这两个不同的世界分别是什么样:一个是GDP增长比较正常,另一个是GDP增长真的达到两位数?Alex,你刚才稍微提到了这一点。给我描绘一下那个世界——如果AI对经济产生巨大影响,会是什么样子?
有一篇很棒的论文,准确阐述了实现这种奇点式增长所需的条件,作者是Ben Jones和Chad Jones。我记得Philippe Aghion可能也是作者之一。基本上,你得满足一系列相当苛刻的条件。最主要的一条是,不能有真正的瓶颈。尤其是,创意生产函数不能存在瓶颈,创意不能出现报酬递减。
基本上,在旧世界里,你会有一次技术突破,随后这项突破带来的回报会递减。而在这个世界里,一项突破会催生越来越多的技术突破。你需要投入更少的资源,却能获得越来越多的技术,并从这些技术中实现越来越多的产出。所以,基本上,回报是递增的,而不是递减的。
你实际上可以估算模型里的这个参数。如果它大于1,你就处在这个两位数增长的世界里;如果它小于1,你就处在标准的、回报递减的个位数增长世界里。如果你看目前为止的数据,包括METR的报告以及现有的其他数据,并估算这个参数,它显然小于1。这种情况可能会改变,有些人认为它会改变。一旦出现完整的递归式自我改进循环,这正是会发生改变的地方。但就目前而言,要从这些模型中挤出越来越多的智能,就需要投入越来越多的资源。
我想补充一点,你可以看看增长曾经非常高的案例。不久前,加纳一年增长了40%。这很惊人,但加纳是个很小的地方,只卖一样东西:石油。80年代有一小段时间,美国的增长率超过了8%,但那是在经历严重衰退之后。发生疫情和重大战争之后,增长率也可能暂时很高。
如果美国在某些方面搞砸了,或者我们又遇到一次疫情、某种可怕的战争或其他奇怪的事件,同时又出现一波AI驱动的增长,也许能让增长率达到3%到4%。某一年能达到10%吗?我会说能。我会大举押注它不会发生,而且这种影响也只是暂时的。其中很大一部分会来自走出衰退、战争或疫情。不过,这也是一种思考方式,而且完全符合Alex刚才说的内容。
如果机器人技术兴起,你们的看法会类似吗?还是说情况不同,因为机器人会影响更多现实世界、实体经济中的领域?
我觉得这很可能会来得相对缓慢。看看Waymo要多久才能进入华盛顿特区。我们现在还没等到。而且那是一种相当简单的机器人:前进、后退、转弯。看看机器人公司的估值,它们确实比以前高得多。虽然很难估算,但你不会看到它们突然变成万亿美元级公司。我的意思是,你可以把特斯拉算作某种机器人公司,但市场数据表明,这件事会发生,而且进展不错。不过,三四年后它不会给我们带来20%的增长。不会。
对,对。那么,那些最聪明、也最相信这种失控式增长的人——我们的朋友Dario和Leopold Aschenbrenner,他们都相信这一点——你觉得他们的想法有什么不同?是他们对技术发展速度的看法不同吗?还是他们相信技术能突破其中一些瓶颈?我们可以怎样尽可能有力地呈现另一方的观点?
我觉得——Tyler,你也请补充——我认为这个论点,接下来我要讲得有点技术性,是关于所谓齐次偏好或非齐次偏好。如果你看看过去那些实现自动化的事物,最终会发现,被自动化的那部分对增长的贡献变小了。
假设你有一百万台机器人。它们制造的东西会变得更便宜;颇具讽刺意味的是,这种东西在经济中所占的比重反而会变小,因此对增长的贡献也会减少。对于非齐次偏好,有一篇很不错的论文用200年的数据估算了这类偏好。研究发现,在广泛实现自动化的情况下,经济中创造增长的价值会转移到瓶颈上。这只是增长衡量方式中一个不太方便的特性。增长最慢的部分会对GDP贡献最大。这就是为什么会出现这些效应。
我完全同意这些说法,不过我还想补充一个更偏社会学的因素。就我而言,我猜Alex也是如此,我们脑海里在情感上最鲜明的,是人类历史上那段漫长的跋涉:以往的增长时期、几个世纪的GDP数据、生产率数据。而对Dario、Leopold和许多人来说,情感上最鲜明的,可能是他们在湾区的对话;这些对话确实包含真实信息。
但当你问那个大问题——哪一方情感上最鲜明的经验能带来更好的预测?——比起他们一直在吸收的东西,我会选择我和Alex塞进脑子里的这些内容。当然,他们会选择另一方。
对。基本上,我们的意思是,回顾过去几百年,从电力到互联网,以及其间的所有突破性技术,都没有带来失控式增长。即便有,也是因为起点很低、发生在战争之后,或是类似的原因。我确实认为这次的发展很可能比那些更快,但即便如此——
你会对瓶颈有切身体会,无论是工业革命、科学革命、电力的普及,还是美国国税局至今仍在用传真机,诸如此类。试试教育科技软件吧,我经常用,简直是一场噩梦。它们甚至还没达到10年前本该达到的水平。
而那并不是——
问题并不是说监管毫无影响。监管确实是个问题,但惯性很难克服。我们的经济中有很大一部分属于政府、非营利组织、医疗保健领域中受到严格监管的部分、高等教育以及普通学校教育。你真正了解这些领域是如何运作之后,就会发现美国经济中有40%可以说是一场噩梦。在欧洲,这个比例可能更高。在法国,这些行业或许出于其他原因就得维持现状,但无论如何,这会让人充分认清现实。并非所有事情都像初创公司那样。
3. GDP是衡量AI影响的正确方式吗?
假设总统交给你们两位一个任务:制定一套指标,用来判断AI是否在广义上推动我们国家繁荣发展。显然,这是个非常宏大的问题。GDP会是你们考虑的主要指标之一吗?我们应该期待AI对GDP产生重大影响吗?你们会考虑哪些指标?
对,我觉得这是个非常重要的问题。我想,在开始之前还要补充一点:我认为Tyler和我在能力方面其实并不真的反对旧金山共识。我觉得很多人听我和Tyler,或像我们这样的人讲话时,会想:“哦,你们对AGI持悲观态度,或者类似的。”绝对不是这么回事。我们讨论的重点是它会如何影响经济以及实体经济的结构。
在思考可以使用哪些衡量指标时,我认为从历史上看,GDP一直是追踪人类福祉和繁荣状况的一个很好的指标。
这与国内生产总值的走势相当吻合。Erik Brynjolfsson、Avinash Collis 等人研究的是这样一个事实:技术已经开始造成一道楔子,因为技术创造的许多产品基本上是免费的。他们关注数字娱乐和数字产品,也提出了一种叫作 GDP-B 的指标。我忘了这个缩写具体代表什么,但它本质上是在 GDP 的基础上,加入一项基于调查的衡量指标,用来评估那些未必有定价、或因自动化而变得便宜甚至免费的产品,对人类福祉有多大贡献。你可以想象这样一个世界:GDP 仍处于 3% 到 5% 的区间,这对增长来说已经算高了,但整个世界实际上正蓬勃发展。要怎么捕捉这种情况?我认为可以通过这些替代性指标来衡量。
寿命延长带来的影响很可能会很重要。所以,Erik,假设你能活到 120 岁。我觉得自己活不到那么久。这会以复杂的方式推高 GDP,也可能以更复杂的方式推高人均 GDP。但多出来的那些年本身与 GDP 是不同的,而经济学可以衡量这些年的价值。这也是 GDP 可能需要变得更重要、并加以修订的另一个原因。
正如 Alex 所说,随着 AI 发展,GDP 的准确性会逐渐下降,我们需要对它进行修订和改进。但短期来看,它还算不上一个糟糕的指标。我常说,GDP 是最被低估的统计指标。
2010 年代,Peter Thiel 曾因原子领域相对于比特领域缺乏进展而广为人知地表达不满。但如今已经过去了 10 年或 15 年,我们有了自动驾驶汽车、早期的飞行汽车,还有一些大型企业——如今最大的公司都是硬件公司:Nvidia、SpaceX、Tesla。Tyler,你是否会说,这已经不再是那么令人担忧的问题了?十年之后,你会如何看待这件事?
4. Hugging Face 黑客事件对 AI 安全意味着什么
我想,原子领域几乎肯定会取得突破,但我们现在还没有真正做到。无人驾驶汽车对人类实际福祉的贡献微乎其微。它最大的贡献就是很有趣,你还能告诉朋友:“我坐过 Waymo。”它其实并不比 Uber 好。对我来说甚至稍差一点,因为它们会按限速行驶。它有种科幻小说般的趣味。美国大部分地区仍然没有这项服务。欧洲就更别提了。所以我们还没到那一步。这才是令人惊讶的地方。这也让人想到机器人技术,它的发展同样会很慢。
我记得十年前问过你,大停滞什么时候会结束,我记得你当时大致说,要等到我们有了自动驾驶汽车。我不记得你说的是投入使用的时候,还是普及到一定程度的时候,但你现在还这么认为吗?
大体上是。不过这只是程度上的问题,而且它们显然是可行的。新款 Tesla 相当出色。最近我几次坐了 Alex 的 Cybertruck,但就市场渗透率而言,我不知道具体数字。总之,规模还是很小。
我们回到另一个话题。Alex 最近写了一篇相关论文,不过我先问 Tyler。关于智能体蜂群这个话题,以及 Hugging Face 事件:这件事有没有改变你对可能性的看法,或者让你担心什么?你对那里的情况有什么反应?
这件事几乎没有改变我的看法。我很好奇 Alex 是否认同这个观点。作为经济学家,你首先会从委托—代理理论的角度思考。除非条件受到非常严格的限制,否则无论委托人试图写下什么样的合同,都无法很好地控制代理人。所以,当我们在 AI 身上重现这一结果时,这很有意思,但我并不太惊讶。解决办法一直都会是制衡机制,以及我们在政治领域所说的权力分立。这并不意味着你能实现完美对齐。
如果你从经济学家的角度看这个问题,那么围绕对齐问题的所有忧心忡忡——是的,人们应该投入很多精力研究它,但说到底,你会想:“嘿,我 17 岁时就学过这个。”这确实是个问题。不过 Alex,你怎么看?
遗憾的是,我 17 岁时没学过这个。我觉得我们又一次达成了共识。对于如何让 AI 最好地服务于人类,这个问题有不同的看法。这就是对齐问题。一种思路是让模型本身与某种宪法对齐,使模型在个体层面上拥有与部署它们的人类相同的偏好。
另一种思路,也就是 Tyler 提到的,是不必在意这些智能体有什么偏好,也能让各方面实现对齐。它们各自可能严重失调,但你可以围绕它们设计一种机制,让激励机制促使智能体以对齐的方式行事。这就是经济学中的机制设计思路。作为委托人,我不一定需要代理人真心想帮我。代理人完全可以只想帮助自己,想做什么就做什么。机制设计所研究的,就是如何建立一套制衡体系,让代理人仍然按照委托人的利益行事。
从我看到的实验室研究来看,无论是内部还是外部,很多人都在朝这个方向思考。我们确实需要采取机制设计的视角。正如 Tyler 所说,发生的事情并没有让我感到惊讶。
我和弗吉尼亚州州长的政治立场并不一致,但这个州治理得相当不错,我也乐于住在这里。
嗯,我们大致上有两党竞争——
——而且行之有效。
你认为 Anthropic、OpenAI 和这些公司,或者 AI 安全社区,思考对齐问题的方式是错误的,或者在某种程度上存在混乱吗?
他们实际上的想法是一回事,他们对外的说法又是另一回事。他们对外的说法受 Twitter 的影响太大,而 Twitter 上的言论往往相当歇斯底里。我认为,他们实际上的想法比外界看到的要理性得多。我没什么长篇大论要说,也不认为我们必须彻底改造他们。我觉得他们相当务实。他们是公司,准备上市。他们不想惹上太多官司,也不想受到过度监管。
我们已经有了制衡机制,当然,其中并非每一项都好。但我们实际看到的问题——那些黑客事件——大多,或者也许全部,都是由恶意的人类个体造成的,AI 只是在执行人类交代的任务。这是个大问题,但这也是一种对齐:恶意的人类说“做这个”,AI 就照做。成本正是由此而来。
有些人会这样类比:对齐在某些方面是做给员工看的。2020 年和 2021 年的安全议题也有点像这样,当时人们更加关注社会议题,所以 CEO 不得不说一些话来取悦员工群体。有些人是真心认同,有些人则不是。或许在 AI 安全方面,外界有很多担忧,也有人拿这作类比,认为 CEO 并不像他们表现出来的那样真心认同这些理念。
这些公司内部也有制衡机制。这也是公司运作良好的部分原因:你最终必须推动那些行得通的事情。这和大家说的多少有些不同。公司内部存在筛选和淘汰机制。人们想升职、拿奖金,也想做出能够成功的事情。总之,我认为最终的结果会比 Twitter 上说的要好。
Hugging Face 就是个完美的例子。如果你仔细梳理实际发生的事情,会发现那不过是一连串人为失误层层叠加。发生这样一起事件——姑且称作“事件”——其实挺好,它没有造成重大灾难,还暴露了智能体激励机制中的许多问题。你可以看到,这些公司从 Hugging Face 事件中吸取教训,着手打造更好的环境。一切都不会一帆风顺。进展会有起伏,但整体趋势是向上的。
Paul Christiano 在他的演讲中说,一两年后最可能的死亡原因会是 AI 相关死亡。你觉得这说法有点歇斯底里吗?
我强烈反对。
5. 为什么 AI 智能体仍然无法团队协作
Alex,我们深入聊聊你的论文吧。能不能分享一下你们的一些研究发现,以及仍然存在的问题?
好。我想,你说的是那篇《组织智能》(“Organizing Intelligence”)论文。
6. AI 真的能让经济增长翻倍吗?
是的。这篇论文是我和 Andrew Caplin 以及我的同事 Shane Legg 合写的。思路从一个谜题开始:AI 在某些特定维度上正变得非常强大,但我们仍看不到任何明显的经济转型。我们首先关注的是,人们过于强调单个智能体的基准测试,却没有考虑这些智能体在经济中要与什么竞争。相关的竞争单位不是智能体,而是组织。
从历史上看,由于李嘉图比较优势的概念,组织一直被视为一种超级智能体。如果你有一堆工作,做每项工作的并不是普通人,而是最适合做这项工作的人。因此,组织所能达到的智能水平远高于对整个人群取平均值所得的水平。AI 智能体本质上是在和人类组织或团队竞争,所以不应该拿个体层面的基准测试结果去和人类做某件事的表现相比。应该比较我们所说的“拼图式智能”。
接下来,我们开始逐层分析能力提升会如何影响经济和均衡。这是一篇形式化的理论论文,我们考察了不同的智能水平。我们从最基本的 AGI 开始,也就是 AI 模型在每一个维度上都达到普通人的水平。我们发现,即使到了这一步,它对经济的影响也不会很大,因为组织的能力强于普通人。相反,你会开始看到工资发生变化,因为生产成本降低了,而这会影响人类的工资。
我们的研究表明,真正的经济转型需要的不只是胜任工作,也就是具备完成特定任务的能力;还需要智能体彼此协调。如果你看看 Hugging Face,甚至看看针对千禧年大奖难题的解决方案,就会看到一种“智能体蜂群”的理念。但仔细分析就会发现,这些智能体仍然很不擅长协调。它们并没有协调,主要只是在并行处理。在专门测试协调能力的基准上,可能会发现一个智能体比两个分工合作的智能体表现更好,即使这两个智能体能够相互沟通。但把同一项任务交给两个人,他们会分工、沟通,表现远胜于资源翻倍的一个人。智能体在协调方面仍然相当差劲。但如果它们在这方面有所进步,基本上就能突破科斯定理所说的企业规模上限,催生截然不同的企业。这就是基本前提:一旦协调能力提升,企业形态的经济可能性,以及工资和就业的变化,都会随之改变。那时,我们才会看到明显的变化。
那么,目前弄清楚如何实现协调,最大的瓶颈是什么?
7. AI 对工作和工资意味着什么
说实话,我不知道。我觉得原因可能很简单:模型训练中没有纳入协调能力。这不是后训练的一部分。说实话,这方面我没有什么见解。
是的,我们谈过一些你们意见一致的领域。我想找找你们意见不同的地方。也许我们来谈谈就业。Alex,我觉得你更担心转型可能来得太快,以至于就业方面会突然发生变化。你愿意谈谈你的担忧或看法吗?
我主要担心的是这种可能性。其实我很赞同 Tyler 的看法:这些变化对实体经济的影响可能会相当缓慢。但如果转型很快,比如协调能力取得突破,那么我们的论文表明,工资和就业可能会突然变化。经济可能会出现相变。新的行业和机会仍会出现,但经济中的重新匹配需要时间。如果转型来得这么快,可能就没有足够的时间完成这种重新匹配。结果可能是失业人群规模扩大,进而形成递归循环,让人们逐渐受到创伤,最终被挤出劳动力市场。这是我个人的担忧,但发生的可能性是另一回事。
我也有类似的担忧。我觉得和刚才说的是同一回事,不过现在招人时很难判断一个人是否擅长使用 AI。过去,我们会用一些不完美的指标来衡量某人所需的技能:比如他上过康奈尔大学,成绩全是 A,或者面试表现不错。现在的问题是,他的思维是否足够灵活,能学会使用 AI。我们往往无从判断,这可能会抬高自然失业率。优秀的人岗匹配会更难实现,求职搜寻也会耗时更久。我不认为这个问题会永远持续下去。最终,AI 本身会弄清楚这些事,也会出现认证,证明一个人使用 AI 的水平。但在转型期间,人人都是新手。你可能已经很有经验,像科技界的很多人那样,但除此之外,我们在这项重要的新技能上都是新手。
那么,这对就业和工资意味着什么?我很好奇你们怎么看这些问题。
招聘会变得稍微慢一些,但会涌现出数量惊人的新项目和新工作。说实话,我相当看好。劳动力市场一直表现不错,但当然会出现动荡和转型问题,就像以往一样,比如中国冲击和工业革命时期。我预计还会有一轮类似的变化,其中有很多我们甚至还没想到、还没见到,但它们终将到来。
在这种平行经济中,智能体彼此购买和交易的规模会扩大到什么程度?智能体的数量要多得多,而且全天候运行。如果智能体成为互联网上的主导力量,我们应该用什么思维模型来理解届时的情形,又有哪些情形不会出现?
我不确定你说的“爆发”是什么意思。如果你问智能体何时会占 GDP 的 10%,我觉得不会很快。如果它们的占比从几乎 0%升到 6%,你可以把这称作爆发。GDP 的 6%是个巨大的数字。即使达到这个水平,看起来也不会很快。如果是 1.5%,我能想象五年内实现。如果你非要我猜,我可以把 1.5%称作爆发。GDP 的规模非常庞大。这是经济学的核心洞见之一:GDP 的规模非常庞大。
是啊。即便是我们现在拥有的智能体,也已经非常强大了——比如手机上的消费级智能体。但问题就在于,现实中存在一些完全出乎意料的瓶颈。网站都是为人类设计的,而且彼此各不相同。你还是会遇到这样的情况:你的超级智能体每次都给你订一张紧挨着厕所的机票座位。每次都是。然后你就会想:“下次我可不想用智能体了。”
或者说,还有各种监管。这才是最大的问题,对吧?企业花费数十亿美元,在网站上精心设计选择架构,向人类推销产品。智能体没有同样的心理机制,因此不会容易受到这类选择架构的影响。这些平台有动机阻止别人的智能体代替用户购物。你已经能看到这种情况了。打开 Muse 或类似工具,它就不能替你在亚马逊购物。
我不用智能体管理日历,虽然它们可以这么做,因为我想在心里清楚每天会发生什么。只有亲自写下来,再花点时间放进日历,我才能记住。这很蠢,是我的缺点,但我觉得它不会消失。智能体就算变得好十倍——不管这是什么意思——我还是会想亲自把安排写进日历。我能直接说出,12 月 18 日我要去听一场文艺复兴时期音乐会。我们分配注意力的方式存在一些有趣的不可分割性,这往往是最大的瓶颈之一。
8. 选举、数据中心与 AI 政治
回到监管这个话题,你似乎比较冷静地看待这样一种可能性:中期选举可能导致数据中心项目无限期停滞。我想了解你对 AI 舆论氛围更广泛的看法。负面情绪有多大程度是真实存在的?也就是说,它会不会导致像布卢明顿那样的情况——当地正在尝试在一定程度上禁止 AI 的使用?你怎么看待其中的政治经济学?
嗯,我们有 50 个州,还有各个县、市,甚至其他国家。看起来发展速度会稍微放慢,但基本上还是会推进。就连新任德克萨斯州州长现在都开始改口了:“嗯,我们只是想让工会参与进来。”
他们需要支付不错的工资。我们现在有的项目会继续推进。其他项目我们会重新审视。乔什·夏皮罗的言辞非常强硬,但现实情况截然不同。所以这会推高成本,但我认为最终影响不会太大。不过,会不会有很多地方坚决说不?大概会。但话说回来,我们有50个州,我很高兴有这么多州。也许最后会变成52个。
是啊。顺着这个话题说,我认为这完全取决于发展路径。一切都是内生的,包括政治经济学。州长们之所以改变态度,是因为失业率看起来很不错,经济也在以合理的速度增长。经济状况看起来一切正常,所以没有什么实际理由会引发这种政治经济学层面的反应。
但那些预测极端情景的人没有意识到,极端情景一旦开始,极端的政治经济学反应也会随之开始,而这会从内生层面限制事态发展。事情只会这样来回拉锯。由于这种相互作用,未来生活的人回头看数据时,会觉得事情进展得比人们原先想象的慢得多。
一个人能投入政治的资金似乎有一定限度。很久以前,大家都担心“联合公民案”会带来什么后果,担心企业会控制一切。但埃隆投入了5亿美元,或者大概是这个数,最后还是没能得到自己想要的结果。这是否暴露了金钱在政治中的局限?还是说科技圈的人——或者说企业——善于为自己的业务配置资源,却不太擅长在华盛顿的政治圈里配置资源?
我敢不敢说,湾区的人有点低估了学术界?研究竞选经费的人早就知道这一点了。有很多证据表明,花钱并没有那么大作用。你可以觉得这是好事,也可以觉得这是坏事,但这一切完全没有让我感到意外。
我不认为这些人是傻子。你也许会觉得,从他们竟然怀有政治抱负这个更广义的角度来说,他们是傻子。但除了某些地方选举之外,没有什么简单办法能让你花一大笔钱,就换来自己想要的政治结果。这就是制衡机制,哪怕体制里的任何人都不和你立场一致。
是啊。
我们拥有一个美妙的制度。
我不是开玩笑,每天都会想:美国制度真是了不起,竞争性市场也真是了不起。它并不完美,但正如泰勒所说,这套制度会带来种种奇妙结果。
9. 亚历克斯和泰勒是如何走上这条路的
是啊,我很好奇:如果你们两位互相采访,最想了解对方什么?泰勒,我先从你开始。你最想了解亚历克斯哪方面的看法?
你是怎么成为经济学家的?我想听听你的起源故事。
泰勒,这问题可太为你自己着想了,因为答案和你有关。
好,那你多说一点。
我是从摩尔多瓦来的移民。在美国长大时,我们靠食品券生活,日子过得差不多就是那样。我父母对经济学一无所知,我自己也一无所知。我上大学时读的是医学预科,因为我知道医生是做什么的。我父母也知道医生是做什么的。
大学里有必修的先修课,我选了一门经济学导论。我觉得挺有意思,但当时仍然在读医学预科。我修了这门课,成绩不错,GPA也比医学预科课程的表现所预示的要高。我原本打算去医学院。我申请了,也被录取了;后来我开始读《边际革命》。我还在NPR听过一档理查德·塞勒参与的节目。你们两位给我的启发让我想:“哦,经济学也能让我做这些事。这太不可思议了。”
我只知道这个故事的一部分,谢谢你补充。
《边际革命》那部分我知道。
那是在2008年或2009年,当时还没有多少经济学家向你展示这个领域能做多少事情。我退出了申请医学院的流程,去了唯一录取我的学校,也就是加州大学圣迭戈分校。谢谢你,加州大学圣迭戈分校。后来的事大家都知道了。这真是一个不可思议的领域,也是一套知识体系,能帮助我们理解——尽管我们能理解的并不多——这个我们称为经济的复杂系统究竟发生着什么。
我可以追问一个问题吗?摩尔多瓦会不会、也该不该成为罗马尼亚的一部分?
会。这是我的看法。
我觉得他们应该并入,而且终将会并入。
好吧。它们最初本来就是一体的。那个国家叫比萨拉比亚。我奶奶来自比萨拉比亚,不是来自摩尔多瓦。
我觉得这大概算是个有争议的看法,但我其实不是摩尔多瓦人。我来自德涅斯特河沿岸地区。
啊,好吧。现在一切都说得通了。
我们是从德涅斯特河沿岸地区逃到美国的难民。当时发生了内战。我们躲在地下室里避弹,后来作为难民来到了美国。
摩尔多瓦文化和罗马尼亚文化非常相似。两种语言也几乎一样。
风投人士说“永远要问起源故事”,他们说得太对了。
亚历克斯,你会问泰勒什么问题?
我想知道你是怎么被AI吸引,并开始如此认真地思考它的。我好像从没听你讲过这个故事。你很早就看到了这项技术的变革潜力。你是怎么比大多数人更早意识到这一点的?
所有棋手都有类似的故事。我年轻时是个象棋神童。那年我13岁,在新泽西下棋,有人推来一台叫“丁克贝尔”的电脑,让它和人类对弈。它下得很差,但我看到了进步会是什么样子。
棋手都明白这一点:只要棋下得还不错,就会知道象棋不是用口袋计算器就能搞定的东西,它需要直觉。如果你看到计算机征服了一个你早就知道主要靠直觉的领域,就很容易相信它也能征服许多其他领域。加里·卡斯帕罗夫很早就意识到了这一点。肯·罗格夫也不需要别人费多大劲向他灌输AI的前景,他也很早就看到了。棋手是最早看懂这一点的人。这就是一个非常简单直接的故事,事情就是这样发生的。
德米斯也是。
德米斯也是,当然。常见的说法是,到了20世纪90年代,你看到AI大显身手,并通过“深蓝”击败了卡斯帕罗夫。“深蓝”并不是一个很好的模型,但你会想:“好吧,它能做到这一点。”然后你就等着它把这种能力推广到其他所有领域。但这花了很长时间。事实上——
我觉得这是个很好的例子。很多人看到AI会说:“它做不了这个,也做不了那个。”但它几乎什么都能做。想想RLVR,或者后训练中可验证奖励的那部分。很多人把它当作自我安慰的说辞:“这个没法验证,那个也没法验证。”但如果你把验证器训练出来,几乎任何东西都能变得可验证。
你能批评它,说明它几乎是可验证的,对吧?
没错。象棋就是个很好的例子。如果你是非常优秀的棋手,就会清楚下棋需要多少直觉,也会清楚这种能力未来能发展到什么程度。
Mar [?]正在研究如何让AI写诗。我不确定他们做到哪一步了,但在我看来,这应该行得通。
嗯哼。是为了写出更好的诗吗?
对,写出伟大的诗。我认为,只要有人认真投入去做,两年内就能实现。我说的不是投入几十亿美元的大型重大项目,只要有点投入就行。找来十几个诗人,付给他们一些报酬——不用很多——让他们放手创作,同时在整个过程中设置一些制衡机制。这样就能成功。
我们公司里有些人觉得,“品味是人类独有的”这种说法不过是在自我安慰。这些系统已经很擅长判断品味了。
10. 快问快答:AI预测与高等教育
它们已经很有品味了。你可以问它们古典音乐的问题,比如西贝柳斯《第五交响曲》最好的录音版本是哪一个,它们会给出很好的答案,现在比《企鹅唱片指南》的答案还好。
真有意思。结束之前,我还想问几个范围比较广的问题。你看到达龙和别人合写的那篇文章了吗?文章大意是说,皮凯蒂对上个世纪的判断并不正确,但在AI时代,他提出的R > G模型也许会成立。我想听听你的看法,亚历克斯。
是的,我想这是他和菲尔·特拉梅尔合写的。《二十一世纪资本论》,没错。我认为,经济活动可能脱离劳动、转而以资本为中心,这个想法……
这是那篇文章更广泛的观点。很多人对其中的方法论有意见,我就不谈这个了。但技术可能会让经济活动更加依赖资本,这种大体上的设想确实可能发生。不过也存在其他可能。正如我写过的、泰勒也提到过的,技术也可能创造更多工作岗位,而这些岗位可能很有价值,因为它们很稀缺。
是啊。
没错。这个观点是,价值会流向稀缺之处。这就是瓶颈逻辑。如果这些岗位存在于一个富裕社会中,大量价值就会流向它们。问题在于,这类岗位有多少,它们是否足以支撑整个经济。从历史上看,情况确实如此,但这种趋势是否会延续下去,仍是个大问号。这些都是我们需要在数据中密切关注的事情。我和你合写的论文《通用人工智能的经济政策》正是提出了这个论点:我们需要更全面地追踪人工智能将把经济带向何处。
非常基础的技术往往会让消费者受益:火、语言、电力等等。这并不能证明这种情况会再次发生。但我们需要区分两件事:资本有能力发挥很大作用,以及进入壁垒让特定资本所有者获得垄断租金。
我觉得那篇文章并没有充分论证后一个命题。它主要是在说资本能发挥很大作用。但如果资本变成了大宗商品——有人说所有租金都会流向土地,或者流向能源——我不确定这是否属实。不过如果非要说的话,我觉得租金全都流向土地或能源,比全都流向资本更有可能。
是啊。
没错。价值会流向稀缺之处。如果稀缺的是能源,租金就会流向能源。
也许人工智能本身会让能源不再那么稀缺。所以我不太愿意做预测。
但至少我能理解为什么有人认为海湾国家会赚得盆满钵满,或者土地所有者会大赚一笔,诸如此类。人工智能会改变很多事情,也许我们能以很低的成本改造土地、淡化海水。这听起来并非那么不可能。也许关键在于土地的位置,或者最适合退休的地方,比如太浩湖——那里很特别,因为离湾区很近,又不用交那些税。预测实在很难,但最重要的是要从稀缺性出发思考。
嗯。
是啊。说到这点,在我们这个领域,我们认为最大的稀缺在供给端,而短期需求远比表面看起来的要大。这个判断基于这样一个假设——或者说信念:你去和重度用户聊聊,就会发现他们根本用不够。重度用户只占少数,而且只分布在少数公司里,人工智能也还没有广泛普及。反方会说,它目前还没有给公司带来可衡量的影响。所以,认为随着人工智能使用越来越广泛,它最终会对公司产生足以证明巨额支出增长合理的影响,这仍然是推测。
我们刚成立了一支新基金——Machine Age Fund,投资数据中心和基础设施堆栈中的其他部分,帮助缓解一些供给方面的挑战。Leopold 的论文《态势感知》在你看来,算不算过去几年科技领域最重要的公共知识分子作品之一?我很好奇你怎么看它的影响和意义。
不只是在科技领域,在任何领域都是如此。话虽如此,我觉得他太迷恋快速起飞了。当时我就告诉他,他假设模拟可以替代实验,于是科学就会陷入一个无休止的循环,不断加速。我不认为模拟在多大程度上能替代实验。某些领域可以。Alex?
我们同意。
我对卢卡斯批判这套说法太执着了。抱歉,这是另一个圈内话题。简单说,就是要想做出预测,你必须理解问题深层的结构参数。模拟能做的事,以及人工智能真正擅长的事,是预测。但很多时候,它没有把系统的内生反应考虑进去。我们会越来越多地看到这种情况。
Robin Hanson 的《模拟人时代》:你觉得这本书经得起时间考验吗?这些观点会留下怎样的影响?
我觉得它错了。这是一本杰出的书,我也很喜欢 Robin。书刚出版时,那已经是很久以前了,我对他说:“Robin,人工智能会先实现。”Robin 说:“不,人工智能可能会实现,但模拟人必须先出现。”我说:“Robin,模拟人很可能永远不会出现;但如果他们先出现,也会需要人工智能。”我觉得这场辩论看来是我这边占了上风。但这本书很值得一读,能让你获得新想法,也能把你从教条式的沉睡中摇醒。
你们有什么想法吗?我们聊的都是当下的议题。英伟达现在正处在风口浪尖,尤其是 Jensen 的处境。你们怎么看公众讨论?有哪些地方被误解了?你们如何解读这件事可能意味着什么?我们能从中吸取什么教训吗?Tyler?
我们已经说过,协调是不可能的。事关重大,而他在公司的行为似乎有些不协调。事实上,最终会没事,因为有制衡机制。我不知道他们打算怎么运作。我觉得这很好地印证了我们一直在说的那些事情。
Alex,你有什么补充吗?
我觉得这不会真的改变发展轨迹太多。制衡机制有效。供应链在很大程度上是多元化的。所有东西都供不应求。需求会带来供给,供给也会创造需求。我觉得一切都会好起来。这个系统很稳健。
最大的变化或许会出现在宏观层面出了问题、英伟达不得不充当最后买家或最后贷款人的时候。如果 CEO 创始人被削弱或离开公司,他们就远没有在这一切都没发生时那么有能力做到这一点。这件事有影响,但中期来看,影响会逐渐消退。它可能会让进程稍微慢一些,但结构性力量迟早会占上风。
嗯。
如果让你猜,下一个像《态势感知》这样的文稿会是什么主题?它会极具前瞻性,并对我们的社会产生巨大影响。你觉得会是生物技术,还是仍然是人工智能?眼下有哪些被低估的想法,可能会在未来几年产生巨大影响?
在我看来,它们也被低估了。大家都在谈生物技术,我也完全认同,但我觉得进展会特别慢,因为监管的限制,以及无法通过模拟解决主要问题。不过话说回来,Erik,我觉得你会活到 120 岁,而我不会。简单说就是这样。
我觉得我们会建立更好的微观和宏观经济现象模型——更好的结构模型,只要人工智能能帮我们创造这些模型。比如细胞模型,或者用数字孪生来做宏观经济学:能够为我们需要预测的事物构建结构,将会是重大突破。这涉及经济学中约化形式与结构模型之争。当你理解了结构,就能创造全新的事物。我觉得人工智能帮助我们理解并重建这种结构的潜力,实在被严重低估了。
那会很棒。Raj Chetty 刚发表了一篇关于数字孪生的新论文。
正是如此。数字孪生——我指的就是这个。但他需要五位合著者、大量资金和一个研究中心,这很正常。他能做成这件事非常了不起。但这也说明了一些问题。
我们最后来谈谈大学。前面说过,学术界在某些方面被低估了,硅谷尤其如此。既然我们已经肯定了它的价值,那么高等教育领域有哪些创新最让你们期待?目前最迫切的需求又在哪里?我们对这个问题很感兴趣,因为我们孵化了 Harwitz 和 Dre Academy [?]。Tyler,先从你开始。
我希望你们真的做点什么,在这方面投入的资金比你们宣布的还要多,也派出一些最优秀的人才。我不太清楚你们的计划,但很希望能以某种方式参与进来。和你们、Austin、Manurva 以及其他创新者一样,我们需要在高等教育领域进行更多实验、创新和评估。如果你们也参与其中,我会非常高兴。
太棒了。我很愿意邀请你参与。Alex,你对什么最感兴趣?或者对于任何想在高等教育领域推动创新的人,你有什么建议?
我觉得创新越多越好。高等教育在接下来的——我也不知道——会发生巨大变化。
这些机构变化太慢了,所以我说不出一个很准确的时间表。但我觉得市场力量会让我们对高等教育的常规理解收缩,也会缩小这个领域传统形态的规模。我认为会出现大量新创新,而且从长远来看,我对高等教育非常乐观。我的看法就是这样。
你们现在都看好经济学这个领域吗?眼下正在发生的事情让你们感到鼓舞吗?你们怎么看?
我认为经济学工具箱和经济学思维方式都被严重低估了。我也带有很强的偏见。不过,在我看来,事情的发展是这样的——我们之前谈到了对齐问题,而从机制设计的角度来看,经济学工具箱非常适合用来思考这个问题。在政治经济学问题中,内生性这种情况一直都在发生,思考这类后果也很重要。
思考卢卡斯批判也很重要。你估计出一个参数,但它实际上并不是结构参数,所以不能用它来做决策。所有这些都极其重要,我认为接下来它们会变得更加重要。所以我持乐观态度。
它或许最终会变成社会科学。人工智能弥补了经济学家不熟悉的基础思维工具,而这些工具会因此更有价值。这最初是芝加哥学派的一个构想,源自加里·贝克尔等人。你只需要一些非常聪明、具备一定技能的人,有点像我们现在所说的软件工程师,不过这个职业会有自己的名称。他们亲自调节各种参数,管理一批人工智能代理;他们是经验主义者,懂经济学,也做各类社会科学。这就是我的预期:早年芝加哥学派愿景的真正实现。
我来自芝加哥大学,所以我认同这个愿景。我很乐见其成。也许我们会在芝加哥大学实现它。
太棒了,以这样一个圆满的回环为对话画上句号。Tyler、Alex,非常感谢你们来参加播客。
谢谢。我的荣幸。