20VC:Jev 创始人谈数据为何比算力更重要|美国开源模型能否追上中国|智能与 Token 的成本:那些无人看见却必须了解的事(Diogo Almeida)
- Almeida 认为,AI 市场缺少的是可靠判断力。他用一个比喻形容模型表现:“大约95%的时候像 Einstein,另外5%的时候像 Mr. Bean”(“Einstein like maybe 95% of the time, and Mr. Bean the other 5%”)。这足以辅助工作,却不足以让模型不受监督地处理会计事务。Jev 所称的优势是智能可靠性,而不是速度或成本;Almeida 说,这两者并非关键。
- 在 Almeida 看来,任务设计和数据比算力更能推动 AI 进步。他的排序是“先做对任务,再看数据,然后是算力,最后才是算法”;他认为 GPT 4.5 说明单靠算力扩展未必奏效,前提是定价大致反映推理算力成本。编程能力的提升来自相关训练数据;据他理解,单位算力美元所对应的通用预训练智能几乎没有增长。
- Jev 的收入逻辑,前提是自动化成功后能扩大客户预算。面对如何做到100亿美元收入的追问,Almeida 预测会出现“超级 Jevons 悖论”:项目必须足够便宜、真正奏效并创造价值,才能让客户在原有预算之外继续加大支出。他说 Jev 毛利率不错且已经盈利,但 Jev、Fable 和 Astra 的实际自动化程度都大约为0%。
- 对工作流程的理解,可能让 SaaS 老牌厂商抓住下一波 AI 浪潮。Almeida 看好“SaaSapalooza”,认为专有智能可以存在于围绕共享模型构建的软件中。他承认窄模型可能更便宜,但期待的是让 AI 在后台自主工作数周,而不是让 Copilot 能力小幅提升;Stebbings 则强烈反驳他对 Harvey 垂直工程能力的描述。
- 基准测试打平不代表模型能力打平,Almeida 也不看好美国开源模型追上中国同行。他的判断是:“不行,除非中国决定不再继续努力”,并将差距归因于伦理和法律约束,而非技术能力。他不会在编程智能体中直接使用未经改造的中国模型,但认为训练、安全护栏和工具调用检查可以提供其他安全方案。
- 尽管编程智能体增长迅速,Almeida 仍认为需求驱动的泡沫风险存在。Stebbings 反驳说目前看不到需求冲击,现有模型的价值也尚未充分释放;Almeida 同意模型很聪明,但认为 FOMO 和被夸大的预期可能迅速退潮。他批评许多“Neo 实验室”的商业模式无非是招揽前实验室员工、买 GPU,最后等着被收购。
- Typesafe 此次融资是为了结交战略盟友,而 Almeida 表示公司账上的现金已经在增加。Stebbings 称 Jev 已服务约三分之一的《财富》500强企业,并将公司7天内从零做到1亿美元收入归功于 Sequoia 的 Pat Grady,同时给出75亿美元估值。Almeida 的首要考虑是:“我们需要盟友,才能与世界上最大的公司竞争。”
1. 可靠性决定 AI 能否从辅助走向无人值守自动化
- Almeida 所说的可靠性,是智能表现的一致性,而不是在线时间或吞吐量。模型能解很难的数学题,却可能在会计工作上出错;这类失误的后果无法接受:“大约95%的时候像 Einstein,另外5%的时候像 Mr. Bean。”企业不愿自动化,是在理性应对这种波动。
- 他的工程标准是前期投入大量精力,之后让软件在后台持续解决问题。这要求智能可靠性达到多个“9”,必要时宁可牺牲峰值表现,也要换取稳定性。ChatGPT 已经能稳定地给出可辨认且礼貌的回答;他希望回答背后的判断也能达到类似的可靠程度。
- 问题未必出在模型权重上。准确率达到97%时,Almeida 想弄清楚错在模型、提示词,还是语言歧义。Jev 有责任提供提示词指导和更强的模型。把它说成“只是个分类器”,忽略了要让系统足够稳健,除了拿到一个漂亮的分数还需要多少工作。
2. 任务是否选对,决定了什么数据有价值
- Almeida 总结出的“最深刻教训”是:“先做对任务,再看数据,然后是算力,最后才是算法。”Stebbings 质疑 AI 扩展已遇瓶颈的说法;Almeida 指的是预训练,并承认在数据足够时算力确实有帮助。如果定价大致反映推理算力成本,他认为 GPT 4.5 按 token 成本衡量是规模最大的模型,却在商业上没有成功。
- 被问到有用数据是合成数据、专有数据还是其他类型时,Almeida 没有直接回答,而是从任务倒推。新任务需要的数据可能从未存在过。以 RLHF 为例,人类对 LLM 输出进行比较的数据必须先定义、标注,再不断迭代;企业数据库里没有现成的替代品。他说,如果任务和数据选得对,一个 GPT-2 规模的模型也可能胜过类似假想 GPT-9 的模型。
- 对 RLVR,他说,验证式奖励并非突破所在:2021年,模型还没有推理能力时,针对单元测试尝试 PPO 已经失败。隐藏推理改变了任务结构。好数据必须有合适的难度,才能推动前沿模型进步;随着模型能力提升,好数据的定义也会改变。企业数据同样需要围绕目标塑形,光是拥有数据还不够。
- Stebbings 认为,随着市场从实验室扩展到拥有智能能力的企业,数据供应商可以服务这一市场。被问到 Surge 和 Macaw 是否是好生意时,Almeida 把问题抛了回来,称企业自有智能仍是开放议题,并表示行业仍处于炒作浪潮,还没进入现实阶段。
3. 决策模型的竞争,取决于组织激励是否不同
- 被问到 OpenAI 为什么不能复制 Jev 时,Almeida 说,如果对方真正重视可靠性,双方会展开“一场有意思的较量”。Stebbings 反驳说,实验室想要企业收入,怎么会不重视?Almeida 回应:“你根本不知道他们有多不在乎。”他的论点针对的是组织目标,而不是实验室没有能力做出强大模型。
- 他认为 ChatGPT 早期以月活用户为目标,导致模型迎合用户;如今编程智能体也出现了类似的使用量导向。打造专门的决策模型,需要有意识地重视判断力。尽管中国模型的基准测试成绩相当,他仍认为 Anthropic 的模型最好;他觉得 Jev 目前“没有真正的竞争对手”,但预期这种局面迟早会变。
- 他对基准测试的态度也发生了转变:产品发布时,基准测试看起来至关重要;但他说,客户试用那些高度针对基准测试优化的替代品后都失望而归。这件事“远没有我原先以为的那么重要”,让 Jev 可以“少许诺,多交付”。他欢迎认真的竞争,认为这对世界有好处,同时承认竞争会伤害公司业务。
4. 工作流程知识,让 SaaS 有机会进入更广阔的软件市场
- Almeida 的不满在于,软件编写方式变了,但软件本身基本没变。他用蓝色 LED 打比方:加入蓝色 LED 带来了现代屏幕和白色照明,而不是只让指示灯市场扩大50%。他希望可靠 AI 成为“第四种基础逻辑门”,从而开启远超市场同比例增长的可能性。
- 他认为,现在把 AI 附加在产品上的做法合乎情理。模型不可靠,就不能放心让它替公司做重要决策;所以厂商把 AI 放在由用户承担检查责任的环节。AI 可以替用户做事,因为决策失误的代价由用户而不是公司承担。结果就是熟悉的 SaaS 软件旁边多了 AI,而 AI 并没有深度嵌入软件逻辑。
- 面对“SaaSpocalypse”论调,他认同 Martin Casado 提出的“SaaSapalooza”。老牌厂商了解工作流程,也有资金投入工程;在他看来,分销能力并非它们占优的主要原因。他以 TurboTax 为例,提出一个假设:产品界面还能在哪些地方变得更顺畅?他认为,应用软件专家比前沿实验室更懂这个问题。大型 SaaS 公司位置有利,但并不保证一定胜出。
- 他提出“软件研究员”这一角色,负责打造新界面并展示价值所在。他反对把 ML 研究员排在 ML 工程师和软件工程师之上的职业等级。目标是消除开发者眼中的“无法自动化”类别,最终只剩下一个问题:要花多少力气。他认为技术进步,以及帮助开发者用好这些进步,是当前主要瓶颈。
5. 专有智能也可以存在于围绕共享模型构建的代码中
- Stebbings 提到 Fireworks 和 Modal 提出的专有企业模型案例。Almeida 把“像同事一样的 AI”比作这个时代的“无马马车”:自动化不必长得像人。他举例说,工厂里的机器可以负责把瓶盖拧到瓶子上,只解决一个特定操作,不必等通用的人形机器人出现。
- 如果企业想要这种形态,而且有意愿和能力为自己的分发渠道训练模型,那么企业训练的“AI 同事”可能有意义。但 Almeida 不认为这些条件应被默认成立,虽然他觉得实验室开发通用智能、打造 AI 同事的路线更说得通。如果企业能雇到成本只有原来1/1,000的无限实习生,就应该能找到有用的工作;他不认为持续学习或窄模型能解释这种效果为何还没出现。
- 他承认窄模型可能更便宜,也坦言不知道具体公司的模型到底有多好。他更看重的是存在于模型外围软件里的专有智能:数据库本身不如数据的使用方式重要。他说,工程师讨厌更新依赖项,除非当前版本不够用;否则他们会把它锁定,只有当更新能大幅降本时才会考虑升级。
- Stebbings 强烈反对把 Harvey 说成薄薄一层封装,并指出它有深入垂直领域的功能。Almeida 补充说,自己没有使用许可,了解也不完整;但他的理解是,Harvey 在更大的自主化目标未能实现后,成了律师 Copilot。他认可其领域工程,但期待远不止于此:希望 AI 能在后台完成数周工作,而不是只让人的生产力提高两位数百分比。
6. 不同任务的单位 Token 智能提升并不均衡
- Stebbings 认为原始智能的提升已微乎其微。Almeida 反对用单一的 IQ 式标尺衡量模型:模型在一个任务上可能表现出色,在另一个任务上却弱得多。据他理解,单位算力美元所对应的通用预训练智能“几乎没有增长”;编程能力则大幅提升,因为更多编程内容进入了训练分布。
- 他把编程智能体最大的跃升定位在“去年11月前后”,但想不起具体是哪一版 Opus;此后他看到的提升开始递减,包括市场热议 Fable 5.2 和 Opus 5.5 期间。处于这种平台期时,针对窄任务的成本优化会变得有吸引力。这与基础模型通用性全面提升不是一回事。
- 他用写作能力作反向检验:“过去9个月,写作有进步吗?”他的回答是否定的,随后马上补充:“也许有,也许是我没用对它们。”更多编程智能体数据未必会提升无关能力。因此在他看来,单位美元对应基准测试成绩的图表并没有测出投资者以为它们测量的底层现象。
7. 开源模型排名掩盖了激励机制和安全取舍
- Almeida 说:“所有基准测试都不行。”测量智能并非不可能,但很难;实验室内部也有更好的代理指标。他认为 OpenAI 和 Anthropic 基本诚实,因为它们领先并不需要作弊;他也纠正了 Stebbings 关于实验室有义务诚实的说法。第二梯队实验室承受着说服自己能够胜出的压力;他举了 Llama 4、Google 和中国实验室为例。
- 他特别提到,“美国开源模型领军者”这个模糊目标,只是在奖励表面声势,却没有带来实际使用量。美国开源模型能否在真实智能上追上中国同行?他的判断是:“不行,除非中国决定不再继续努力。”原因在于美国团队给自己设定了更高的伦理和法律标准,而不是技术能力不足。
- 这种差距在经济上是否重要,仍取决于具体情况:如果进步陷入足够严重的平台期,智能方面的小幅差距可能无关紧要。他也反对把未经改造的模型直接放进编程智能体,当成唯一部署架构。“我不会在编程智能体里直接使用中国模型,”他说,同时认为训练可以消除部分偏差。
- Stebbings 提出提示词注入和后门风险。Almeida 则提到威胁建模、安全护栏,以及让 Jev 判断工具调用是否安全、是否在“打电话回中国”。安全可以由多个组件共同保障,不必完全依赖生成模型。他不满的是“单模型”思维,以及行业里的“眼罩”。
8. Jevons 悖论要先有成功项目,才能带动支出扩大
- Stebbings 追问,Jev 极其便宜,如何做到100亿美元收入。Almeida 说,公司已经有不错的毛利率,服务效率也高;它不是那种先补贴再说的标准打法。降价会让项目变得可行,但 Jevons 悖论成立的前提,是项目创造足够价值,让客户恢复原来的预算,之后还愿意继续加码。
- 他预测会出现“超级 Jevons 悖论”(“mega Jevons paradox”),Token 消耗量将远超传统文本生成 LLM。被问到能源和基础设施能否支撑时,他回答“可以”,同时承认仍需要大量效率研究。这个预测成立的前提是 AI 成为能改善生活的后台基础设施,而不是只给人们发送更多生成内容。
- 他给出的严峻基线是:“Jev、Fable 和 Astra 的实际自动化程度都大约为0%。”他承认有少数例外,但认为整个行业仍有待建立。他认为,后台 AI 的机会应该大于编程智能体辅助工程师、或让软件编写效率提高约20%这样的机会。
9. 尚未释放的模型能力,不代表没有需求冲击风险
- Almeida 说自己“有一阵子”就认为 AI 是泡沫,并一直按泡沫破裂做准备。Stebbings 认为眼下看不到需求冲击;Almeida 则说,FOMO 会带来一部分需求,因为买家高估了模型能力。如果部署效果不如预期,预期可能迅速逆转,需求随之收缩,即使技术本身没有同步变差。
- Stebbings 反驳说,即使进展停滞,现有模型仍有大量价值没有释放。Almeida 同意模型非常聪明,但质疑组织能否通过现有界面获得这些价值。他举例说,企业因期待自动化而裁员,之后却又收回决定:模型能力可能确实很强,但企业的实际操作押注仍可能失败。
- 他对“Neo 实验室”的批评很尖锐:招揽前实验室员工、买 GPU、玩得开心,最后被收购。他认为这是在浪费资源。他喜欢模型通过 RL 变得更聪明,尽管提升正在递减,但不会拿自己的钱投资;VC 算1%的登月式项目时,结论可能不同。他的期望值判断是,当前支出并不合理;他也愿意接受现实证明自己错了。
- 讨论 GPU 出口争议时,他提到 Will Depue 的结果,但说自己在网上听说,同一技术似乎表明 DeepSeek 4.1 Flash 并非用那种方式训练。Jev 的效率让公司可以置身 GPU 支出潮之外。Stebbings 提到 Cognition 是编程智能体供应商中的第四名,收入达16亿美元;Almeida 没有分析这个市场,也没有预测其3年后的规模,并提醒 FOMO 曾多次推动市场经历一轮又一轮涨落。
10. 融资是为了结交盟友,与最大的实验室竞争
- Stebbings 介绍 Jev 已被《财富》500强企业中约三分之一采用,并将公司7天内从零做到1亿美元收入归功于 Sequoia 的 Pat Grady,同时提到75亿美元估值。Almeida 说,这轮融资绝大部分是投资人主动找上门;公司忙到连路演材料都没时间准备,所以整个过程没有用融资演示稿。
- 投资人分享了自己投资组合中的公司如何使用 Jev,这为 Jev 提供了有用的信息;Almeida 说,Typesafe 不会通过窥探客户数据来获取这些信息。被问到以75亿美元估值融到7.5亿美元时,他说交易条件几经调整,团队起初也没有明确的融资目标。最终的优先事项是结交盟友,而不是尽可能多融资或抬高估值。
- “我们是盈利的,”他说,公司账上的现金还在增加。此前融资不多的公司,不该为了花掉一大笔钱而临时编出支出计划。他说投资人愿意按3倍估值参与;Stebbings 称这像泡沫行为。Almeida 回应:“我们不需要钱,也不需要这个估值。”
- 他选择 Andreessen,是因为双方在技术乐观主义上理念一致,并称赞 Martin Casado;选择 Sequoia,主要是因为他希望 Sonya Wang 成为战略层面的思想伙伴。他的经营原则是“重大决策要慢慢做”:重要决定需要想清楚原因、理念和框架。这一原则适用于产品、数据路线图、信任和招聘。
11. 稀缺人才是专注任务的数据建设者
- 最难招人的,是 Almeida 数据领域团队中的人才;这是一个内部专门团队,负责生产 Jev 的任务所需的新型数据。障碍在于如何把机会讲清楚:聪明人可能以为,不当研究员就无法推动 ML 进步。他希望他们向内部专家学习,直接让模型变得更聪明。
- Stebbings 提到 Modal 的 Eric 正在与2000万美元级别的应届生薪酬竞争。Almeida 说,Typesafe 有意提供高薪,但不会匹配实验室开出的最高价;公司要找的是认同其使命的人。他担心极高薪酬会破坏文化筛选,并举例说,他认为市场上已经有人专门辅导申请者应对 Anthropic 的文化面试。
- 他不愿招聘 OpenAI 研究员,说的并不是一概拒绝 OpenAI 员工。他认为这类候选人存在选择偏差:更关注算法和规模扩展,把数据视为低地位的工作。执着于发明新任务的研究员可能非常优秀,但未必适合 Jev 所做的“原生于机器的 AI”。他普遍看重的招聘特质是“技术热爱”——共同推动技术进步的热情。
12. 在他的可靠性议程中,软件研究先于机器人
- 他直觉上认为机器人是最被过度炒作的领域,因为要让机器人可靠运行,仍有许多前提没有解决。相反,软件研究最被低估:让 AI 与代码结合、创造新界面的人。他希望随着自动化进步,业界能更多探索软件还能变成什么样。
- 他对未来5年的预测,围绕的是委托代理问题:从选民与代表,到股东与公司。他认为法律很像软件:详细指令能让行为可复现,但缺少一种原语来确保人们遵守“法律精神而非法律条文”。他认为 AI 可以让委托方更直接地表达意图,减少这种错位——尤其是当各方认同原则、却对执行方式存在分歧时。
完整逐字稿
几乎所有关注 AI 的人都知道,可靠性是最大的瓶颈。你有 95% 的时候得到爱因斯坦,另外 5% 的时候得到憨豆先生。数据比算力重要得多。我不想被称为新实验室,因为在我看来,大多数新实验室都极其、极其浪费。Anthropic 的模型就是最好的,即使中国模型在基准测试上能与它们匹敌。
我真的相信我们将迎来一个巨大的杰文斯悖论。AI 显然太棒了,可软件本身却没有改变。大家被这种单一模型的思维蒙蔽了太久,真他妈久。我一直觉得 AI 是个泡沫,所以我想继续为泡沫最终破裂的可能性做规划。我们需要盟友来对抗世界上最大的公司。我们不需要钱,也不需要估值。
欢迎收听《20VC》,我是 Harry Stebbings。今天来到访谈席的是我们这个时代最优秀的创始人之一,也是最炙手可热的公司之一——Diogo Almeida。Diogo 是 Typesafe 的创始人,Typesafe 是 Jev 的开发商。Jev 的用户中,大约有三分之一来自《财富》世界 500 强。相当了不起。没错,接下来更精彩。红杉资本的 Pat Grady 说,Jev 仅用七天,营收就从零增长到一亿美元。而当你速度这么快、表现这么出色,自然也会有些收获。他们的估值已达 75 亿美元,那轮融资由 Andreessen 的 Martin Casado 领投,红杉资本也参与了投资。今天,我们和 Diogo 一起聊聊模型的未来。这是一场非常精彩的对谈。
你已抵达目的地。
Diogo,我特别期待这次对谈。Eric 在 Modal 的节目播出后,我们有过一次很精彩的交流。我昨晚还和他聊起了你,所以我非常期待这次访谈。欢迎来到节目。
谢谢,谢谢。那次交流很短,不过很高兴你喜欢。真的很有意思,我没想到它会发展成现在这样。
我们当时说,这会是一场火药味十足的讨论。所以,在我们开始聊——
当然。
——那些火药味之前,我想先搭建一些——
嗯哼。
——框架,打好基础。对于不了解 Typesafe 和 Jev 的听众,你能用 60 秒介绍一下吗?
1. 为什么 AI 仍然无法实现自动化
我会说,Jev 并不是一个专用模型。不过,对于不只是软件开发者的听众,我更想谈谈 AI 的现状:AI 怎么能在那么多事情上如此聪明,比如解决千禧年大奖难题,却始终无法彻底改变软件?我们使用的所有 SaaS,基本上和十年前没什么两样,而且几乎没有任何一整类工作实现了自动化。
免下车服务——我们一直没能做好。虽然有 AI 客服,但在重大决策上实际上并不可靠。这怎么解释?它有些方面似乎特别出色,有些方面却糟糕透顶。在我看来,我们用 Jev 做的就是试图弥合这一差距:让 AI 的自动化能力好到令人难以置信,而不只是提供有人参与的辅助。
我和红杉资本的 Sonali 聊过。说到端到端自动化,她问:“为什么可靠性是自动化面临的最大障碍?”
我先说明一下我说的可靠性:我指的不是正常运行时间,也不是可用性或高吞吐量。我说的是智能的可靠性——我还在找一个合适的词来描述它,大致就是智能表现不参差。我认为,几乎所有关注 AI 的人都知道,可靠性是最大的瓶颈。
举个例子。你的数学有多好?我的数学有多好?我相信,我们根本不可能帮忙解决千禧年大奖难题。我没读过那些题目,但我敢这么说。可同样这些模型,甚至无法用于会计这种简单得多的工作。问题是,为什么?
问题不在于这些模型的表现方差特别大。大家很喜欢我创造的这句说法:你有 95% 的时候得到爱因斯坦,另外 5% 的时候得到憨豆先生。问题在于,按期望值来看,结果行不通。因此,公司很明智地意识到,你实际上没法把事情自动化。在过去四年的几轮 AI 热潮里,我见过太多公司试图实现会计自动化,但它们屡屡失败,因为账算不过来。这一点都不是扩散的问题。真正让你栽跟头的是可靠性。也许你可以牺牲一点爱因斯坦式的表现,换来更常见、更频繁的稳定发挥,同时保持同样的实用智能。在我看来,这就是 Jev 的超能力。
那我们怎么才能做到?要怎样才能去掉憨豆先生?虽然我很喜欢憨豆先生。
我也很喜欢憨豆先生。
呃——
其实我很喜欢那些发疯的智能体。你知道,坏情绪永远在线。这是个特别有趣的故事。但我不希望自己的软件在后台运行时也这样。
是啊。
作为工程师,我想写一个东西。我想在一开始投入很多精力。也许我没意识到会花这么多功夫,但最后总是如此。我希望它能在后台运行,永远把问题解决好。
是啊。
2. 数据胜过算力
要做到这一点,你只需要智能可靠性达到好几个九。我认为实现这一点的方法——唉,我真希望能把幻灯片放出来,不过我试着用手比划一下。我把它称为 AI 的“苦涩教训”。Sutton 提出了“苦涩教训”,大意是算力比算法更重要。
嗯。
从 2019 年到 2022 年,再到 2023 年,我们经历的就是这种规模扩展时代:只要扩大规模,模型就会变得更好。
嗯哼。
发展到 GPT-4.5 时,这种趋势基本上就到了平台期。后来,整个领域在扩大规模这件事上也差不多停了下来,因为它不再带来相应的回报。我认为,这里有一个苦涩的教训:数据比算力重要得多。做过应用机器学习的人对此都很清楚。但旁观者似乎没意识到这一点:数据显然比算力更有价值。
最重要的事情远胜其他一切:你的北极星是什么?你把什么定义为正确的任务?在 Jev 之前,大语言模型领域里存在的两个正确任务是 RLHF——
嗯哼。
——也就是基于人类反馈的强化学习,意思是“讨人类喜欢”;还有 RLVR,意思是“在基准测试中拿高分”。这两者都无法真正转化为能在后台运行的软件。我认为,这才是所有问题的根源。
问题不在于 AI 没有能力,因为 AI 显然能力很强。你在现实世界里有经验。所有有现实经验的人都知道:你优化什么,就会得到什么,对吧?只不过我们恰好一直在优化有人参与的流程。
哦,太感谢你这么直白地给了我这么多追问的机会,我——
我也能补充一点吗?说到可靠性,ChatGPT 从来不会不像 ChatGPT。你上次看到它随机吐出一堆字符是什么时候?这有点奇怪:即便你让它写一封礼貌的邮件,它也不会突然开始说——我可能不该在播客里说脏话——但它不会突然开始说侮辱性的话。有时候人类确实会犯这种错。
问题不是它不礼貌或谄媚。问题是它会在文本中做出错误的决定。有意思的是,它在某些方面可靠,在另一些方面却不可靠。如果你把优化重点放在真正重要的可靠性上,也就是决策和判断上——
嗯。
——这才是实现真正可靠性的方法。
你刚才说,算力带来的收益正在进入平台期。首先,我们真的到那个阶段了吗?你是认真的吗?我以为重点在于——
你是说预训练?
当然,单说预训练。不过,投入越来越多的算力,还是会带来越来越好的输出,对吗?
是的,但你需要的数据比人们曾经以为的多得多。也许有人把这件事说得面目全非,好像他们从一开始就完全正确。但当时的说法就是:“一路扩展到天边,你就能得到通用人工智能。”GPT-4.5 打破了这种说法。
我显然不知道实验室内部在发生什么,但如果我们相信这些实验室大致是根据推理算力来定价的,那么 GPT-4.5 仍然是按 token 成本计算的史上最大模型,而且商业上并不成功。我认为,情况显然如此,因为你不能不加思考地一味扩大算力规模。
大家在训练上投入了大量算力,但还得配上大量数据。这就是为什么你会看到那么多快速致富的门道,都是向实验室卖数据——强化学习数据。没有这些数据,实际上什么都做不了。我记得最近 Dwarkesh 可能发过一条推文,比较数据和算法哪个更重要。数据显示出来的效果要好上很多很多倍。那应该是这周的事。
这是机器学习从一开始就众所周知的事。它甚至不是 AI 独有的,只是计算力扩展的时代在这方面是个奇怪的异类。
当我们谈到数据的价值,或者说数据为什么比计算力重要得多时,这指的是合成数据吗?是每家公司都拥有的专有企业数据吗?是 AI 系统生成自己的体验吗?是某些类型的数据,还是广泛的数据?你能帮我理解一下吗?
真希望我能把那些图表带来。我还是从我最惨痛的教训倒着讲吧:重要性从高到低依次是,做对任务,然后是数据、计算力,最后是算法。我们在做 RLHF 时,把这一点学得非常、非常透彻。只要任务做对了,底层算法的质量就没那么重要。
一个 GPT-2 规模的模型就能打败类似 GPT-9 这样的模型——尽管 GPT-9 根本不存在。要获得数据,你首先得知道正确的任务是什么。通常,当你创造一项新任务时,相关数据根本还不存在。我们做 RLHF 时,网上到处都找不到用于比较 LLM 输出的人类偏好数据。公司数据库里没有,互联网上也没有。我们必须定义任务、弄清楚指令、招募人工标注员,不断迭代,然后摸索出这类数据应该是什么样子。
嗯。
首先把任务做对,才能解锁数据。问题在于,从零开始建立一项新任务很难,因为按定义来说,相关数据并不存在。
嗯。
我们这边也是类似情况,RLVR 也一样。RLVR,也就是带可验证奖励的强化学习,究竟什么才是正确的任务,这里面有个棘手的问题。抱歉,我可能讲得有点太深入了。
不不不,继续说。
RLVR 的关键根本不在可验证奖励。它很大一部分依赖潜在的思维链,也就是隐藏推理,让模型能私下思考,然后再作答。早在 2021 年,就已经有可验证奖励了。有人尝试做强化学习,比如用 PPO 在单元测试上训练,却不加入推理,结果一直失败。
所以,关键根本不在可验证奖励,而在任务的结构。结果就是,一旦采用 RLVR,模型在这方面的表现会好得多。什么才算好数据,现在取决于模型有多强。这就是为什么做数据的人需要接触前沿模型:数据到底好不好,要看它能不能提升前沿模型。
数据的难度必须恰到好处,才能推动模型进步。数据的细微差别以及它是否贴合当前策略,都很重要。回到最初的问题:正确的数据是不是存在于企业数据湖里?我认为不是,因为它们很可能没有按正确的方式整理。
确实有人在尝试这么做,所以很多数据供应商都想把这些数据弄到手,再卖出去。也许他们能加工一番,让数据派上用场,但最重要的是,要专注于如何用这些数据推动我们的任务进展。如果忘了这一点,你就是在优化一个局部目标,反而偏离了真正的目标。
我们该如何用这些数据推动任务进展?提供数据的公司——Surge、Macaw——算是好生意吗?它们现在是不是变成了服务型企业,必须从头到尾参与项目,深入到模型的实施和效果,而不只是像早期那样提供数据?它们是好生意吗?
这个问题更该问你,而不是问我。你觉得它们是好生意吗?
我个人觉得是,因为这些 LLM 在数据上会花多少钱,背后的市场实在太大了。
嗯。
而且,如果你认为我们将进入一个企业拥有自己智能的世界,那它们始终需要补充数据。这样一来,潜在市场规模就不再局限于 LLM,而是扩展到所有人。
有意思。这倒是个有趣的辩题:企业到底会不会拥有自己的智能。这话题挺有意思的。我会说,我们仍处于炒作浪潮之中,而之后总会有一段幻灭低谷,然后——
是啊。
——才会进入现实阶段。我觉得我们还没到现实阶段。
朋友,你说炒作和低谷的时候,有个词发音太惊人了——
这个词读作“trough”。记住了。
不,我刚才是想优雅地说出来,好吗?我可是英国人。
好吧,好吧。
真迷人。
哦,是啊。
投入这么多资金,你会担心吗?还是觉得这些投入有道理?
我觉得这会让我为这个世界担忧。把钱往火炉里扔,对世界不是好事。我真不想说得太消极,但我也不想被叫作“新实验室派”,因为在我看来,大多数新实验室都极其、极其浪费。
感觉它们的商业模式就是:招一群前实验室员工,弄一堆 GPU,玩得开心,然后最终被收购。
在我看来,这像是在浪费资源。一方面,我不喜欢这种做法。另一方面,人们正在往强化学习等领域投入大量资金,而我其实觉得这挺酷的。虽然收益递减非常明显,但模型确实越来越聪明。这对世界来说算是好事。我觉得很酷。
我会拿自己的钱去投吗?不会,显然不会,因为我们有钱是用来下注的,而我们显然不会这么做。所以我也不喜欢这个领域里这种做法。不过,风险投资的账可能算得过来:有 1% 的机会押中一个超级突破,而且从期望值来看确实为正。等等,你刚才问了什么来着?我担心吗?刚才还有个问题——
你担心吗?还是觉得这些投入有道理?
哦。我根据自己的期望值计算,会猜它并不合理。不过我很乐意被证明是错的——至少就目前而言是这样。
你预料到它会这么快见效吗?
这么多年来,甚至在 TypeSafe 成立之前,我一直觉得自己肯定漏掉了这个领域的某些东西。显然,后来我说服了自己,我并没有漏掉什么,但这个方向在我看来实在明显得不得了。它明显到我第一次想到时就放弃了,因为我当时想:“Anthropic 肯定已经做完 80% 了吧。”这是我听说过最显而易见的事情。
所以在我看来,这在现实世界里显然会很有价值。我还是觉得大家没真正理解这一点,尽管产品发布显然非常成功。我没料到的是,开发者领域会出现类似 ChatGPT 的时刻,因为——
嗯。
连非开发者都在谈论它。这是我完全无法预料的。那真是——
什么——
——太奇怪了。
大家没理解什么?大家对 Jev 和你最大的误解是什么?
我的团队很讨厌我谈这个,但我有条规矩:上播客时,我可以放开了说。我认为,讲 Jev 真正在做什么会让我处于竞争劣势,因为大家总是理解错。如果我们什么都不告诉别人,就能永远稳坐头把交椅。我太在乎这个领域了,忍不住要抓狂地大喊:“到底他妈是怎么回事?”
大家真正没理解的是,模型的特别之处不在于成本或速度。再说一次,关键在于智能的可靠性。
嗯。
大家还是在用 LLM 的思路看问题。我觉得很多人正在耗尽别人对他们的信任。未来肯定会出现模仿者,但在我看来,他们应该非常重视可靠性。现在那些推出仿制品的人,想做的还是 LLM 领域的那一套:把基准测试成绩刷到最高,制造炒作,再强调速度、成本这类无关紧要的小数字。
他们真正该做的是沉下心来,埋头苦干,把模型做得非常、非常聪明。大家没意识到,这才是我们全部的工作重心。看到基准测试结果时,即使我们的成绩领先得惊人,只要模型还犯傻,我们依然会觉得难受。这才是我们关注的事,我觉得整个领域的人都该关注这个。“它为什么只有 97% 的准确率?缺的那一环是什么?”
说清楚一点,问题不总是出在模型上。很多时候,问题出在提示词上。但——
嗯。
——开发者工具就是这么做出来的,对吧?我们得教育用户,弄清楚怎样才能把提示词写得更好。我们得搞明白,这种语言里是否有某些细微之处,能帮助大家写出更稳健的提示词;或者我们是否需要让模型变得更聪明。这才是大家真正忽略的地方。
我觉得开发者懂了,而且他们懂得比我想的快得多,因为他们本来就不在乎那些基准测试。他们只会说:“你的模型显然最擅长处理新东西。”但那些说“哦,这真的很无聊,不过就是个分类器”的人,最后却做出了仿制品。他们不明白,为什么你可以投入这么多精力,让模型变得越来越稳健。
你刚才说了“仿制品”。我能直说吗?
哦——
OpenAI——
当然,请说。
——还有其他公司,在你们发布之后,很快就开始尝试打造自己的决策模型产品。为什么大型模型提供商不直接复制你们,把你们挤出市场?
我觉得这问题一点也不直率,我觉得这完全是个公平、合理的问题。如果有一天他们开始非常重视可靠性,那就会变成一场有意思的较量。所以——
Diogo,他们怎么会不在乎可靠性?他们想要企业客户。他们想要——
你他妈根本不知道他们有多不在乎。
什么?怎么会?他们想要企业客户,想要营收。如果没有可靠性,你怎么让 CIO 签约?
我觉得人们很难把智能理解为一种产品,所以才会试图把基准测试当作创可贴。基准测试多少可以作为一个替代指标,帮助人们理解底层事物的智能水平。但据我观察,过去9个月里,整个文本领域已经认识到,基准测试根本说明不了什么。
Anthropic 的模型就是最好的,即便中国模型在基准测试上能和它们打平。即使你用基准测试刷分的能力来衡量,你还是会觉得 Anthropic 的模型胜过对手,尽管它们在几乎所有基准测试的帕累托曲线上都不占优。
基本上,System 1,也就是决策模型这个子领域,似乎很快就明白了这一点——我觉得竞争可能在一周后就开始了。感觉大家两三周内就懂了。我们当时会说:“哦,没错,其他那些不过是在刷基准测试分数,简直一塌糊涂。”两者的差别很容易看出来。我觉得,真正在乎可靠性,需要一种不一样的组织。
如果他们不在乎——
你说。
——可靠性,那他们在乎什么,Diogo?
这真的取决于他们的业务目标,对吧?在“ChatGPT 无所不能”的时代,也就是 Claude Code 出现之前,他们在乎的是月活用户数。这和优化出最佳聊天机器人体验是完全不同的指标。这就是谄媚行为出现的原因,而且它一直循环下去:“哦,它更会迎合人了。它有时会撒谎,但嘿,这就是人们想要的,所以我们就在某些领域继续这么做。”
你优化什么,就会得到什么。这就是 ChatGPT 优化的方向。我觉得现在大家在优化编程智能体领域相当于月活用户数的指标。如果他们不为此训练专用模型,也不投入大量精力深入思考,我觉得短期内他们做不出可以媲美的模型。
我希望他们都这么做,因为我觉得这会对世界大有裨益。显然,这对我们的业务不利,但现在感觉还没有真正的竞争。这种情况迟早会改变吧?我希望竞争出现,也希望我们能证明自己是最好的,因为我们最在乎这件事,最聪明的人都在竭尽全力,聚焦于我们的北极星目标。不过再说一次,现在还谈不上竞争。
看看你所在的决策模型产品市场,三年后会是什么样?会像 Uber 和 Lyft 那样,还是像 GCP、AWS 和 Azure 那样?三年后的市场格局会是什么样?
我想我算是个技术理想主义者。我不太会去想竞争格局会是什么样,我更在乎技术格局。我们的优势始终会是带来令人震撼的技术突破,所以我们必须持续推出很棒的东西。我看待这个市场的方式是:不去理会竞争。
就 token 数量而言,我真的相信我们会迎来一个超大规模的杰文斯悖论。这不会是个不明显的杰文斯悖论,也不会像大型语言模型那样是假象,而会是超级大规模的。使用量会多得惊人,我觉得它会彻底超过至少文本型大语言模型的 token 总消耗量。
我觉得这些东西会无处不在,我们终于会让 AI 在后台运行。我觉得人们对 AI 的感受会开始转变:从觉得它只是给自己产出一堆垃圾,到觉得“哦,它确实让生活变好了”。技术能改善生活,人们是真心喜欢的。
你说“超大规模的杰文斯悖论”,我们有足够的能源和基础设施来满足你预想的这种超大规模需求吗?
有。
那你的技术乌托邦有哪些瓶颈?
相比之下,我们的模型效率高得多。
我们没有采用那种标准的补贴打法。我们可以极其高效地提供这些服务。
对。
我觉得,在效率方面还有很多提升空间。当然,我们得做些很厉害的研究,但这正是我信任我们能做到的事。要让这种超大规模的杰文斯悖论出现,我们必须大幅提升效率。
我觉得最大的瓶颈是,现在这件事感觉有点像单人游戏。从 AI 的角度来说,突破技术边界是我们的责任;从整个领域的角度来说,我们需要和开发者密切合作,帮助他们拓展边界。
这就是我一直在说的:一种我梦想中的角色。我受够了地位游戏,尤其是在旧金山,机器学习研究员高人一等,机器学习工程师又高软件工程师一等。我觉得这完全不对。我希望我们能创造一种新的角色,我现在最喜欢的叫法是“软件研究员”——真正推动软件边界的人。
如果你知道自己正身处互联网或移动技术的寒武纪大爆发时期,你就会觉得有那么多边界等着突破,有那么多唾手可得的机会,因此需要先行者走出去,建起一座座灯塔,告诉大家:“嘿,这里有价值。我们去那里掀起淘金热吧。”我非常期待鼓励人们去突破这些边界。我真希望自己有时间亲自去做。能做的疯狂又令人兴奋的事太多了。
我觉得,要让 System 1 模型无处不在,让 AI 真正自动化处理各种事情,这两点会是最大的瓶颈。要是我还能再说一点:我不知道你是不是软件工程师,但我敢保证,每个做过软件工程师的人脑子里都想过:“这个我能自动化”,或者“这个我没法自动化”。你得心里有数,对吧?如果你想自动化一个移动文件的任务,你能做到。如果你想给笔记本电脑做一个语音界面,这样就不用动手打字,那你就做不到。
我希望 AI 能彻底消除“没法自动化”这一类事情。到那时,剩下的只是投入多少精力的问题。我对软件的未来有一整套长篇大论。我可以把这个还没成熟的想法好好展开聊聊。
哦。
我觉得这个比喻特别能说明 AI:AI 显然非常棒,可软件本身却没有改变。这确实改变了编写软件的方式,但软件本身还是老样子,这很令人遗憾。
我很喜欢蓝色 LED 的比喻。红色和绿色 LED 出现时,用途很有限。它们几乎只能用作指示灯,因为效率很高。但加入蓝色 LED 后,LED 市场规模并不只是扩大了50%,而是让各种可能性成为现实。没有这块缺失的、可组合的拼图,我们就不会有今天的屏幕,也不会有高效得多的白光 LED。
我希望 AI 最终成为第四种基础逻辑门。所有软件都建立在三种基础逻辑门之上。它们非常简单,但软件工程师的聪明才智让你能通过这些按位比较,创造出今天软件中的一切。如果我们能再加一种呢?我觉得它能让我们的能力提升远超33%,甚至提升几十万倍。这就是我为什么特别期待软件领域迎来一场寒武纪大爆发。
你为什么觉得现在的软件有点像场悲剧?看看今天的企业软件,顶多就是在企业软件里撒了一点 AI。
是啊。
你能谈谈你对此的感受吗?
我觉得这其实非常合乎逻辑。我不认为这是分发问题。我认为企业采用 AI 的动力非常大,而采用得最彻底的那些企业也吃过最大的亏。我一直以来的观点是,大语言模型不可靠,所以不能把关系到公司利益的决策交给它们。
嗯嗯。
但你总可以让它们做关系到用户利益的决策,因为公司往往根本不在乎自己的用户。很悲哀,但事实就是如此。所以最终的结果是,AI 不会深入到应用的逻辑中。你最后得到的还是原来的 B2B SaaS,只是在旁边附加了 AI。它做不了高风险的事,却可以给用户甩一堆垃圾内容。用户多少还挺喜欢,因为它响应很快;至于核实内容是否正确,责任就落在用户身上。
考虑到目前的可靠性水平,这其实非常合乎逻辑。我觉得人们绕了这么大一圈、浪费了这么多资源才走到今天,实在令人惋惜。我也认为,鉴于模型目前的智能和可靠程度,我们正好走到了这个位置。
最大的收益会落到拥有分发能力的现有企业手里吗?你看看 Salesforce 这样的公司,再想想你刚才说的软件行业现状令人惋惜,收益会归于那些已有分发能力的企业,还是会有新一代公司从中受益?
首先,所谓 SaaSpocalypse 显然不会发生。Martin Casado 把它称作 SaaSpalooza,我很喜欢这个说法。我不一定认为这意味着大型 SaaS 公司会胜出。我觉得最有希望胜出的是那些最在乎这件事的人。
与 AI 公司相比,SaaS 公司有一个巨大优势:它们确实熟悉工作流程。它们有足够的规模,可以先投入资金进行工程开发,因为要实现自动化、考虑方方面面并真正解决人们的任务,需要真正的工程能力。这才是这里真正有价值的东西。
我不一定认为大型 SaaS 公司总会是赢家,但我觉得它们最有条件胜出——原因完全不是它们拥有分发能力,而是它们最接近这些问题。它们明白:“比如说,我们是 Intuit,做的是 TurboTax,那我们可以在哪些地方改进界面,让操作更顺畅?”OpenAI 或 Anthropic 的人根本不可能知道怎么做,对吧?他们仍然活在象牙塔里,觉得软件这个概念将不复存在。所以——
对。
——它们可能会成为大赢家。
你刚才提到,了解流程和工作方式很重要。我请过 Fireworks 的 Lin 来节目,也请过 Modal 的 Eric 来过。他们都谈到了公司掌握自身智能的重要性,以及拥有这些了不起的专有数据的好处——
嗯嗯。
——以及针对每家公司打造专用模型的好处。Diogo,如果关键在于流程和工作方式,那这肯定就是终极目标了,对吧?
哎呀,我该怎么说得优雅一点、英式一点呢?我觉得这种观点符合当下世界运作和看待 AI 的主流思路,也就是把 AI 描述成一位协作者。这正是 Anthropic 大力推动的方向,让它使用的界面和人类差不多。
我认为这会像 AI 时代的无马马车。就像工业时代,人们会说:“我们把马车做出来,只是不要马。”我认为 AI 协作者也是类似的东西。很显然,如果你要做自动化,自动化的优势就会和人类不同,你应该发挥自动化的优势。
嗯嗯。
在工业革命中,你不需要等一个完整的协作者,比如人形机器人,来执行任务。你只要找出一件极其具体的事,比如把瓶盖拧到瓶子上,然后将它自动化,这个问题就永远解决了。我认为工作总体上就是这样发展的。
如果你认为 AI 协作者是正确方向——我完全不这么认为——并且假设大多数公司都愿意、有能力也有意愿去训练它们,因为它们需要学习如何在你的公司里进行分发,那么我觉得掌握自身智能这个方向多少说得通。但实验室采用的通用智能 AI 协作者方案,在我看来确实更有道理。
几乎任何公司,如果能得到无限多个成本低一千倍的实习生,应该都能找到很多能提高生产力的用途。我们这个领域应该回答一个问题:为什么现在还没有出现这种效果?那些认为你必须掌握自身智能的人会说:“哦,你需要持续学习之类的东西”,或者“你需要更专门的模型”。但我觉得这些说法和现实不太相符。
Fireworks 帮助过硅谷几家顶尖的知名公司。我想到的是 Harvey、Ramp 和 Cognition——其中一些我可能记错了——它们都在打造自己的模型。你的意思是,走这条路是个错误,而通用模型或其他替代模型也会一样好,所以这么做基本上是徒劳的吗?
这很复杂。首先,基准测试极具误导性;制定基准的人有很多扭曲的动机,会让自己的模型在内部评估中显得更好,同时从外部叙事的角度看,也不想让人觉得自己会被大型模型彻底击垮。我不知道这些模型到底有多好。我想它们肯定能做到更便宜,也更专业。我觉得这是一个成熟的迹象,说明我们的能力水平正在逐渐触顶。
嗯。
我觉得 AI 的进步往往是分阶段跳跃的,而这些跃升会在你开始获得特定分布的数据时发生。我觉得很难否认,编程智能体性能最大的一次跃升大约发生在去年十一月前后。
没错。
我记不清当时是哪个 Opus 版本了。那次是它开始用于生产的节点。从那以后,边际收益一直在递减。我们可以聊聊自己多喜欢 Fable 5.2 或 Opus 5.5,但从那以后,收益似乎一直在递减。看到边际收益递减时,你就可以开始做微优化,比如降低每个 token 的成本。
我对这个世界的看法是,这些现象全都说明我们还不能可靠地解决问题。我认识的软件工程师——我自己也是软件工程师——都讨厌更新依赖项。我们不喜欢升级到最新最好的东西。我们唯一会更新的理由,是之前的版本不够好用。否则,你就会把它锁在地下室里,只有成本大幅降低时才更新。
我认为现在有很多自动化做得还不够,这也是我觉得数据最能说明的情况。当然,我有偏见。我对这个世界的看法是,基于杰文斯悖论以及类似的模型,我们会开始固化真正的自动化成果,而人们不愿意更新它。公司不会通过拥有自己训练的模型来获得专有智能,因为这很难实现;它们会通过在模型周围构建软件来获得专有智能。
Harvey 和 Cognition 这样的公司之所以那么强调自己掌握自身智能,是因为否则它们看起来就只是套在大语言模型外面的一层薄薄封装,似乎毫无护城河。但软件和工程即使算不上护城河,也是一件极其出色的事。提前投入资源去理解真正的问题并将其自动化,这样这些问题就再也不必重复解决,人类也不必再做那些繁重的基础工作,这对世界非常有益。我觉得未来的公司更可能以这种方式发展,而它们的专有智能会体现在代码层面。这有点像你用哪种数据库也许能形成一些护城河,但真正重要的是你如何使用这些数据库。
Diogo,我很感兴趣。我对 Harvey 所在的法律市场相当熟悉。你觉得他们只是薄薄的一层封装吗?在我看来,这是一个非常具体的领域,需要深入的产品功能,而且只有通过垂直化的方式才能实现,这也是他们存在并且非常成功的原因。我会强烈反对把他们说成只是薄薄的一层封装。
“薄”都是相对而言的。我怀疑现在这么说听起来不太政治正确。这取决于我希望它做到多深入。据我所知,上次我跟 Harvey 确认时——我显然连许可证都买不起,所以也不完全清楚——Harvey 还在 OpenAI 工作时,他们曾梦想着让越来越大型的项目实现自主自动化。但这条路最终没走通。他们最后不得不转向为律师打造 Copilot。据我了解,他们现在做的仍然是这个。
作为律师的 Copilot,你可以做很多垂直领域的事情,但围绕 Copilot 能做的工程也有限。比如开发垂直领域的 MCP 工具,基于真实法律资料检索 RAG?现实是,人们想自动化大块工作,而不只是让人们的效率提高两位数百分比;很多 AI 最后也就做到这个程度。
我觉得他们围绕这件事做了很多工程工作,这很棒。我觉得后续还会有更多工程工作。就连系统消息也是一种相当粗糙的工程手段:你通过编程让 LLM 按某种方式行事,却没有任何保证、没有把握,除了如今人们做的那些非常古怪的评测之外,也没有真正的方法来检验它到底有多有效。
我希望所有地方都能有更多工程投入,尤其是那些与 AI 相邻的领域。我希望有一天我们能超越 Copilot,直接在后台自动完成那些需要花几周时间的工作。自动化往往需要适应现有的技术条件,所以这类工作最终的形态或许会与现在人类做的很不一样。
你之前提到过 token 成本,就在刚才那段两三分钟的谈话一开始——
哦,操。
——你说到——
我有那么差吗?哦,操。
没有,伙计。
好吧。
没有,我很喜欢。
是啊。
太棒了——
是啊。
——但麻烦的是,我得记住你说的内容。我刚才想问的是:看看如今的原始智能,按 token 计算的原始智能真的像大家所说的那样在提升吗?
你能说说你的看法吗?我其实想就这个话题写篇博客。
不,我觉得现在已经不是这样了。我认为它以前提升得非常明显。我觉得原始智能仍在提升,但提升幅度微乎其微,小到你根本察觉不到。这有点像遇到一个智商 180 的人和一个智商 190 的人:你分辨不出来。所以,是在提升,但幅度不大。
其实我觉得,用智商 180 到 190 的人来打比方,对 LLM 目前的表现也太宽容了,因为我不会说它们相当于智商 180 或 190 的人。我会说它们偶尔能达到 180,或许吧。我也不太确定。但有时它们也只有 80,甚至更差。
我的看法是,这不是单一维度的问题。第一,基准测试不重要,所以我们应该把它们都扔掉。如果你试图看基准测试成绩随时间变化的单位成本,那完全是胡扯。第二,我认为存在一种普遍意义上的智能,也就是预训练智能与计算成本之比;据我了解,这个指标目前几乎没有变化。
随着数据增多,并且针对不同的任务子集进行训练,你可以让模型更适应分布内任务——回到“苦涩的教训”这个观点——从而让它们在该数据分布内的表现好得多。按每美元计算,编码领域的智能有没有大幅提升?当然有,提升巨大。但这不是因为基础模型本质上变得更通用了,而是因为我们让编码任务更多地落在训练分布之内,所以模型在这方面更可靠。
嗯。
但过去九个月里,写作能力有提升吗?我觉得没有。也许是我没用对它们。还有很多其他能力完全没有任何提升。如果你在编码智能体领域不断扩大数据规模,其他很多类型的数据能力并不会因此提升。数据规模扩大的收益会递减。所以这件事很复杂,也有很多细微差别。
你提到了模型能力的差异:有时像 180,有时像 80。我们看各种模型时,会发现开源模型在很多方面都在尽可能接近前沿水平。你怎么看开源模型的格局?有哪些大家应该知道、却很少有人知道的事?
哎呀。
还有哪些事是大家应该知道的?
最后这个问题很难答。嗯,我觉得大家应该知道的是,基准测试全都是胡扯。所有基准测试都很糟糕,而且会带来扭曲的激励。讽刺的是,受影响最大的人,是那些没时间亲自试用模型的人,因为他们最容易被基准测试本身误导,而且这件事的利害关系越来越大,包括对所有开放权重和开放研究领域来说都是如此。
有办法衡量智能,但这非常困难。各家实验室不会公开讨论这件事。当然,他们内部会用一些代理指标。公开领域的现状非常遗憾,错误信息泛滥。人们没有动力公开自己最好的智能衡量方法,我觉得这很可悲。
Diogo,谁最爱胡扯?
谁最爱胡扯?
你说要加点猛料,那我就给你来点猛料。
哦,好吧。
它——
顶尖实验室有动力说实话。我相信 OpenAI 和 Anthropic 大体上是诚实的。第二梯队的实验室则有动力欺骗自己。他们想相信自己能成为第一梯队的实验室,内部也承受着很大压力,想把基准测试成绩刷到最高。但他们不能承认这一点,否则整个组织架构都得炸锅。
Llama 4 就是这样:他们在刷高基准测试成绩这件事上做得太明显了,尽管内部有很强的动力这么做。Google 现在也在发生同样的事,很多中国实验室也一样。我觉得他们在努力冲顶,所以不会明目张胆地刷基准测试成绩。我认为很多争夺安慰奖的团队,刷基准测试成绩的程度简直疯狂。
如果让我稍微说点猛料,有个领域大致可以说是美国某个开源领军者所处的领域。他们拿到的只是一个次要的安慰奖,因此也没瞄准顶尖梯队。这纯粹是胡扯,是做给外人看的,因为根本没人用那些模型。那谁会站出来揭穿他们呢?
在我看来,推理模型的格局糟糕得多,因为根本没人知道什么才算表现好,所以大家都在竭尽全力刷基准测试成绩。这对我们来说其实相当不错,因为没人会相信那些基准测试结果。这让我们对基准测试本身有很大影响力,我觉得这对整个领域来说是理想的状态。理想情况下,没人会在意任何机器学习模型的基准测试,不管是字符串模型还是 System 1 模型。但现在这种情况实在太普遍了。
咱们把这事展开聊聊,伙计。顶尖实验室有义务说实话吗?还是说作弊才符合他们的利益?
不,抱歉,这不是义务。他们不需要作弊也能跻身前列。他们是真的想成为顶尖实验室,而且也有能力做到。所以答案是,他们不需要作弊。
我觉得业内有种声音认为,我们需要一个美国开源领军者,需要推动这家公司向前发展,无论它是 Reflection、Poolside 还是 Thinking Machines。你觉得我们需要推动美国的开源模型发展吗?
“我们”是谁?“推动”又是什么意思?
我觉得大家普遍认为,中国开源模型的效率很高。除非我们有替代方案,否则中国开源模型会被广泛使用,并威胁美国安全的某些方面。
深入研究一下威胁模型,其实挺有意思。如果你直接使用它们经过后训练的原版模型,那肯定存在威胁。不过,如果你实际上用的是——我记不清你刚才是怎么说的——企业的私有智能,理论上——
嗯。
如果你对模型进行训练,就可以在不同程度上去除很多偏见。理论上,这种事情完全做得到。所以关键在于,威胁模型是否真的是把这些模型直接接入就用。
所以你不认为中国开源模型会带来威胁,比如藏着你不知道的危险提示注入,或者后门?
先说清楚,我不会在我的编程智能体里直接使用中国模型。不过,这说到底只是其中一种威胁模型。如果你认为人工智能只有编程智能体这一种形态,那它当然确实构成很大的威胁。但我们还需要考虑另一种可能:美国的开源模型有多强?它们能否赶上中国模型?据我了解,美国的模型开发者给自己设定了更高的伦理和法律标准,因此要赶上那些模型可能会非常困难。
如果这些模型实际上不好用,那就要看更聪明一点的模型究竟能带来多大差别,而这很难预测,尤其是现在进展正在趋于平缓。不过,如果它们无法具备竞争力,那这么做可能就是白费力气。如果你把视野狭窄地限定为:原封不动地把它们接入编程智能体,那么这对整个领域来说仍是个悬而未决的问题。
如果你设想的世界里还有很多其他选择,我们就可以衡量偏见、针对偏见建立威胁模型、通过训练消除偏见,并加上安全护栏。这其实是我们现在一个非常重要的应用场景:让 Jev 判断工具调用是否安全,或者是否在向中国发送数据,等等。保障安全的方式还有很多。我觉得大家戴着这种“只有一种模型”的眼罩已经太久了。我完全不接受这个前提。
你觉得美国的开源模型能赶上吗?
如果说真正的智能,我猜不能,除非中国决定不再努力。原因不在于能力,而在于伦理。不过这或许也无关紧要。如果整个领域的进展停滞得足够厉害,那领先的那几个百分点也许就不重要了。
你觉得我们对中国实施出口禁令是正确的吗?
哎呀。我的理解是,这里面有不同的部分——我不知道你指的是 GPU 出口禁令,还是——
对,具体是 GPU 出口禁令。因为他们展示了——
哦。
——一些最新的 DeepSeek 模型和其他一些最新的中国模型,实际上是用最新的 Blackwell GPU 训练的。
哦,对。那是 Will Depue 的发现。我一直在和朋友聊这件事。不过网上也有些挺劲爆的说法。我在网上听说,用同样的技术可以看出 DeepSeek 4.1 Flash 并不是用那种方式训练的。
嗯。
我的工作是应对硬件泡沫和新云计算的种种疯狂局面,同时确保我们最终能迎来想要的未来。因为我们的效率很高,所以可以置身事外,不必成为 GPU 领域的主要参与者,也希望能平稳度过眼下发生的各种疯狂事。
你提到了眼下发生的这些疯狂事,也提到了新云计算。哥们,新云这一层真是个疯狂的领域。
嗯。
接下来 12 个月,新云领域会发生什么,是大家还没考虑到或没看到的?
嗯,我认为人工智能已经泡沫化一段时间了,所以我想继续为泡沫最终破裂的情况做准备。
泡沫破裂时会发生什么?在我看来,问题不会出在供给端,而只会出在需求端。我们还没看到需求端受到冲击。那么,是什么会导致泡沫破裂?
天哪。好吧,我们可以聊聊这个。这话题挺劲爆的。编程智能体确实改变了人工智能的格局,但这个论点已经被提了很多年。我觉得,把很多不同的指数级变化因素结合起来看,会很有意思。
我相信有一部分需求是由害怕错过的心态驱动的。这种心态来自人们觉得自己取得了不错的成果,也觉得必须全力押注这类技术。我确实认为,当人们开始面对人工智能实际能做什么时,需求可能会很快崩塌。
根据我的观察,很多在人工智能上花钱的人,并没有充分了解人工智能的能力。他们的判断很不准确,实际上高估了人工智能能做到的事。我觉得这类情况可能会引发需求冲击。在人工智能领域,过度承诺、交付不足的情况实在太多了。
这和大家说的完全相反。大家的说法是,即使模型进步停滞相当长一段时间,人们仍有大量尚未挖掘的价值可以从中提取。这和你说的似乎正好相反。
我认为这么说的人,正是那些努力从现有模型中提取价值的人。所以这里面多少有些偏见。我并不反对他们说这话的本意。
好。
他们的意思是:“天哪,这些模型真他妈聪明。”不过,我们还是得看看——我同意它们确实聪明得惊人。我只是觉得,它们的交互方式,以及展现这种智能的方式,还不够理想。
我们还得看看另一面:那些在人工智能上押注过头、结果吃了亏的人。有很多公司会说:“人工智能能解决所有这些问题,我们裁掉很多员工吧。”然后它们不得不收回这个决定。这会对公司的未来产生许多长期影响。
这些人不只是想最大限度地榨取价值,或是把赌注下得太满;他们是基于人工智能确实能做更多事这一现实,试着做出合乎逻辑的押注。我认为,关于人们是否有能力提取大量价值这件事——即使人工智能的能力暂停增长——现实也好,故事也好,都相当复杂。
我觉得很多人看到这些公司的利润率结构,就会说这很像泡沫。你们的利润率好吗?
不错,确实不错。
哥们,你们要怎么把收入做起来、实现规模化?你们价格这么低,这很棒。
嗯哼。
而且,成本低是使用 Jev 的一大优势。但要做到 100 亿美元营收规模——
对。
——规模实在太大了。
对,对,对。
你们怎么帮我做到这一点?
杰文斯悖论,对吧?杰文斯悖论通常不是靠魔法实现的:你把成本降下来,效果就会变好。要是世界真这么运作,那也太不可思议了。合理的运作方式应该是:“嘿,我有这么多人工智能预算。Jev 把成本降到原来的这么多,所以这个项目现在做得成了。理想情况下,它还会运行得很可靠,因为 Jev 在自动化所需的关键维度上也更聪明。这样我就能做其他项目,或者把智能用在我以前根本不会投入智能的事情上。”
即便如此,如果你开始把智能用在以前没用过的事情上,也不代表你会增加预算。杰文斯悖论指的是预算增加。你得看到这些项目终于成功带来的巨大价值——而人工智能往往做不到这一点——让你觉得:“嘿,这真的行得通。我们继续下注,直到预算恢复到原来的水平,甚至比原来还高。”
这就是为什么智能的可靠性如此重要。我常说,按照真正重要的宏观指标——也就是实际自动化程度——Jev、Fable 和 Astra 的水平都差不多,约为 0%。是的,零零星星有一些自动化,但我们还有大量工作要做。我认为,我们正试图打造一个目前还不存在的行业:能在后台持续运行的人工智能。
而且它显然会——更大?有这个词吗?规模更大?
更大。
比——
对。
——更大,规模超过辅助软件工程师的编程智能体,比如让软件编写效率提高 20% 之类的。
你怎么看当下的编程智能体市场?目前 Cognition 排在第四,营收规模达到 16 亿美元。这个市场的纵深非常大。你现在怎么看这个市场?三年后又会是什么样子?
嗯哼。
谁排第三?
嗯,有 Claude Code,有 Codex,有 Cursor——
啊。
还有——
好,明白,明白。
——Cognition。
对。
还有 Factory。
坦白说——
对。
——我并不分析编程智能体市场。我个人希望 Jev 能应用于编程智能体,而且我觉得可以实现一些很酷的科幻场景。事实上,我认为我们离编程智能体市场越远,他们就越会继续在那儿打他们的小仗,我们也就能继续专注于自动化。
从公司的角度看,短期内要是 Jev 完全没有编程代理用户,事情可能反而会容易一点。不过现在说这个已经有点晚了,我也说不准。我没有分析那个市场的规模。我觉得那会是一个非常大的市场。这个市场会比现在大很多吗?我不知道,因为 FOMO 确实会大幅推动这类事情。
我在 AI 领域待得够久了,你肯定也是。你一定见过 AI 看起来像一条指数级向上的曲线,但实际上它经历过很多起起落落。前一次上涨中的每一波 FOMO,都会为下一次上涨添把火。但其中很多最后都跌下去了。我觉得,要是自以为这次就是那个会一路涨、涨、涨、涨的东西,那也太傲慢了。
当然。
我还记得 2015、2016 年。那时候有大约一年的时间,大家真的很狂热,出现了 Bloomsbury AI、Message.ai,还有一大堆类似的公司。情况就是那样,所以我完全理解你说的。
3. 为了找到战略盟友而融资
我们聊过泡沫般的时刻。恕我直言,你们融了真他妈一大笔钱。
当然。
跟我讲讲那轮融资吧。是不是先去一家 VC 那里拿一份条款清单,再去另一家 VC 那里再拿一份?“啊,我拿到 28 份条款清单了。”那轮融资到底是怎么谈下来的?
那段时间我们真的非常、非常困惑,简直有点疯狂。天啊,我们从那些 VC 身上学到了太多东西,因为——
你们学到了什么?
他们投资组合里的公司在技术上到底有多先进。基本上,都是投资人主动找上门。我们连路演材料都没有。我们只能跟大家说:“嘿,我们没时间做这套材料,而且看起来其他人也不需要。你们告诉我们自己看到的市场信号吧,因为现在一切都火烧眉毛,我们真没时间把这些东西整理出来给你们看。”
看到不同 VC 在最初几天和几周里的变化,真的太爽了:他们的热情如何改变,以及他们怎么告诉我们,自己投资组合里的公司正在用我们的产品。我们不会窥探他们的数据,所以实际上并不知道他们拿它来做什么。听他们说“我靠,你们真有两把刷子。你们至关重要。这就是未来”,感觉太酷了。
那是一个非常有意思的额外信号。说实话,我当时漏看了这个反映行业现状的信号;听到谁在用我们、为什么用、怎么用,简直他妈太酷了。这就是那轮融资能够谈成的原因。
你一开始就开口要 7.5 亿美元、估值 75 亿美元吗?还是后来才涨上去的?
变化挺大的。刚开始谈的时候,我们甚至还不知道这轮融资到底想要什么。最后我们想明白了:“嘿,我们其实并不——这听起来可能有点疯狂,毕竟我们确实融了很多钱,但我们意识到没必要把估值推到最高。没必要搞那种 cuck tranche 之类的东西。我们不在乎这些。其实我们也不需要他妈那么多钱。”
我们需要的是能和世界上最大的公司交手的盟友。我们要找到最合适的人加入团队。我们真正重点优化的是这个。对我来说,其他事情都只是一些小幅优化;关键是要找到“我们想要最聪明、最合适的资金,最好的盟友,以及能帮我们渡过前方险滩的人”。
是啊。
我们的优化目标和其他公司很不一样,因为我们是盈利的。我们账上的钱现在还在增加。坦白说,像我们这样之前融的钱那么少的公司,不应该打算立刻把融来的钱全花掉。
真不敢相信“cuck tranche”现在居然成了一个词,不过我们就顺着聊吧。
等等,你肯定知道这个说法吧。
我知道。这完全他妈扯淡,而且让我——对,没错。我自尊心可强了。
对,我们也碰到这种情况了。很多人都想这么做。甚至有人说:“你们要是按三倍估值融资,就算我一份。”问题是,我们现在并不需要这笔钱——
但那就是泡沫。纯属扯淡。抱歉,我真的很喜欢——对那种“YOLO,210 亿美元,随便啦”的人,我只想说:你知道吗?你得有点自尊心,因为那就像坐在一旁看着事情发生。
我们不需要这笔钱,也不需要那个估值。
你们为什么选了 Sequoia 和 Andreessen?我很喜欢他们,但你们为什么选他们?
天啊。这么说听起来像是在拍马屁,但我真的非常喜欢他们。我对技术有点着迷,是个技术乐观主义者。我觉得 a16z 就是这种理念的化身。他们在理念上和我们的契合度最高。
我觉得大多数 VC 从战略角度看都热爱技术,但他们本质上是金融机构,非常在意怎么打好手里的金融牌。而 Andreessen 不一样,这种理念深入整个公司内部;他们真的、真的、真的非常在乎这些。我和 Martin Casado、Ben Horowitz 一起录的那个播客,让我特别开心。感觉就像老朋友在掏心窝子聊天。
也许他们太厉害了,说服了我,让我相信了某些假得不能再假的东西。但我不这么认为。我觉得他们只是和我们的理念高度契合。我们走到今天这一步,我也希望以后能继续这样做,就是坦诚表达我们在乎的事,在 AI 领域走出自己的路。我很愿意按照这种方式行事,也希望他们能加入。Martin 显然非常出色。
其实对我来说,Sequoia——我就直说吧,天啊,这话怎么说?我想要的不是他们的钱,我想要的是 Sonya Wang。这就是 Sequoia 参与进来的原因。我还没有特别深入地了解 Sequoia 这家基金,但我也很喜欢 Sonya,而且我特别喜欢我们有——
那你给我讲讲吧。我想做个最好的宣传大使。Sonya 有哪些地方特别打动你,让你选择她而不是其他人?
天啊。我会说她不仅聪明,而且聪明得很特别,我觉得我们真的希望这样的人站在我们这边。她的聪明有一种独特的特质。我发现,不管我和多少顾问聊过——
嗯。
只要和 Sonya 聊一次,我就能得到一种不同而且非常有意思的视角,我觉得这应该成为我们战略筹码的一部分。我自己非常重视战略思考。我有一个有点辛辣、但不容易被误解的价值观:“慢慢做出好决策。”这很不像创业公司,但我觉得决策就该这么做;在这方面,她是一个极其宝贵的思考伙伴。
4. 为使命招贤纳士
“慢慢做出好决策。”那你快速做过的糟糕决定是什么?
我想我做决定的速度可能比大多数人都慢。我觉得商业世界里有很多人是在自动驾驶。我讨厌和传统商界人士共事。他们就是照做;如果事情做得好不好无关紧要,我也可以接受照做。但遇到重要的事情,我真的很在意背后的理由。理念是什么?框架是什么?应该怎么做?
每次和传统商界人士共事,我都觉得快被逼疯了,因为他们做事从来没有好到让我完全不用操心的程度。而我一旦操心某件事,就需要弄清楚背后的理由,然后发现:“哦,这个人只是在瞎搞。”我认为制定计划其实相当重要。很多事情我都希望能花更多时间思考。
我希望自己能多花些时间思考我们的数据和数据路线图。我想多想想产品,也想多想想怎样才能更值得信赖。我还想仔细考虑我们招聘的每一个职位,确保能为这些岗位找到最合适的人。我应该承认,所有这些事情我都没有时间去做;而思考、思考、再思考,真他妈重要。
现在招聘市场有多难?你们得把最优秀的人招进团队。到底有多难?
最难的是为我们的数据领域团队招聘。回到 Bitter Lesson:有了新任务,就会有一种新类型的数据。要让它奏效,你就需要一种新的数据形态。我们基本上有自己的小型子领域。想象一下世界上最好的实验室,但它设在一家公司的内部,专门按照我们的方式来构造数据。
我本来以为,这应该是世界上最容易招聘的岗位,因为它实在酷得不可思议。但我们招人却特别难,因为没人知道怎么进入这个领域。投简历的人总是不对路。如今最让我夜不能寐的就是这件事:我们怎样才能说服那些才华横溢、却觉得自己不是机器学习研究员就无法突破机器学习边界的人,来做这个岗位?我们有一个细分领域,他们还能得到这个领域世界顶尖专家的指导。这会非常有价值,因为你确实能让模型变得更聪明。我不知道该怎么把这一点传达给全世界,这让我很苦恼。其他一切都很好。
薪酬是不是高得离谱?我们之前听 Modal 的 Eric 说,他得为一些员工争取 2000 万美元的薪酬包,有些是极其聪明的应届毕业生。薪酬待遇是不是已经高到前所未有了?
对我们来说不是。我很高兴我们把这件事想清楚了。我们确切地知道,我们不想要唯利是图的人。我们想做得很好,但不必像那些疯狂的实验室那样。我觉得这很棒。我认为 Anthropic 最近有点过于偏重唯利是图的人,可能是因为他们——
嗯。
——显然想要的是理想主义者,但他们给出的薪酬也比任何人都高。这不仅会激励唯利是图的人加入,也会让人为了通过他们的文化面试而伪装自己。现在甚至有一整个市场,专门帮人准备 Anthropic 的文化面试。我很庆幸我们决定不这么做。我们想给员工不错的薪水,而不是史上最高的薪水;我们对目前的薪酬水平非常满意。这样既能照顾好员工,也能筛掉那些只为钱而来的人。
最后一个问题。如果你可以把——
哦,对。
——一种性格特质植入潜在员工身上,你会选什么?对我的公司来说,我会选痴迷。
嗯。
我需要有人痴迷于自己的手艺,沉迷于把它做得更好。他们晚上会因此睡不着觉,这种心态会从方方面面驱动他们。就是那种能对某件事着迷的能力。
我不知道是不是每个岗位都适用,但如果非要我选,我想不出更好的词了。这个词听起来有点色情,但我们不是那个意思:technophilia(恋科技癖)。强调一下,非色情。非色情。好了,放轻松。我们真的热爱科技。在这个小圈子里,这种热爱特别美好;而且我希望每个岗位的人都这样,这样我们午餐时或闲聊时都能聊科技。
我想和自己喜欢的人一起工作,也希望我们成为一个大团队,不断突破科幻的边界,因为这才是我们真正交付科技震撼体验的方式。再说一次,非色情。我想不出更好的词了。科技爱好者——对,对,对。先说清楚,如果你们把这段剪掉,那会让我很尴尬。
别担心。我们会保留这段,而且不会——
好。
——不会搞色情。现在我们来一轮快速问答。我说一句简短的话——
哦。
——你就说说你的第一反应。
哦,好。
第一个——
先提醒一下,我一般不做快速问答。我会试试。
过去 12 个月里,你对什么事的看法改变最大?
炒作有多重要。
炒作有多重要?
对。我觉得它远没有我原先想的那么重要。Jev 刚推出时,我心想:“我靠,炒作太重要了。”后来又有其他产品推出,它们把基准测试分数卷到了极致。可我们和真正的用户交流时,大家都说:“对,我们试过了,不行。没人关心。我们已经看得出来你们才是最好的,也最在乎这件事。”
我当时就想,哇,这也太方便了。我们只要做自己最喜欢的事就行了:降低承诺,超额交付。这简直是最好的世界。我没想到产品刚推出时会是这种情况,这对我们来说太棒了。
你最坚信、但前沿实验室里最聪明的人会反对的观点是什么?
AI 现在能做到多少,以及可靠性有多重要。
你为什么不从 OpenAI 招人?
我的感觉是,能进入 OpenAI 的人会经过某种筛选,而这种筛选在我看来算是一种反向信号。第一,我觉得你得认同某种特定的“教义”。第二,我这么说主要是指我不从 OpenAI 招研究员。
嗯。
OpenAI 的研究员按其培养路径来说,喜欢做算法,然后扩大规模。他们往往讨厌数据。在大多数实验室里,数据是很低地位的工作。显然,他们也不会去想正确的任务,因为这样的人相当少。OpenAI 可能只有三个人会思考正确的任务。我也不会招他们,不是因为他们不优秀,而是因为如果你痴迷于正确的任务,为什么会想来做我这边的正确任务?我这边的正确任务是原生于机器的 AI。
如果你痴迷于让文生图成为现实——Aditya 在 OpenAI 就做到了这一点——我靠,他开创了整个领域。这太他妈酷了。他优秀得不可思议。你没法把他调去做另一项任务。他就该继续钻研自己的科幻构想,因为一个人在某件事上那么出色,就该这么做。
所以,按这个筛选逻辑,剩下那些可能适合招聘的机器学习研究员,就都是痴迷于算法的人。在我看来,如果你想把钱扔进熔炉,那就去招这种人。
如今炒作最过头的领域是什么?
我的直觉告诉我,是机器人。不是说机器人不酷,但如果从整体的可靠性来看,我觉得它们离达到可靠还差得很远。想想还有哪些环节必须先搞定,就会发现仍有一大堆前置问题没有解决。我认为机器人离这一步最远。
哪个领域受到的关注最少?
软件研究的这个方向:人们把 AI 和软件结合起来,创造新东西,尤其是新界面。我觉得这个方向受到的关注少得不可思议,真是可惜。
最后一个问题。你现在相信什么事看起来很疯狂,但五年后会变得极其普遍?
我认为世界各地都存在大量委托代理问题。比如选民这样的委托人,由有时与其利益不一致的代理人——比如民选代表——来代表;为什么选民不能直接表达自己的意愿,让制度更像真正的民主?这只是一个刻意构造的例子,但这类情况到处都是。向你汇报的人、公司的股东和公司之间——委托代理问题多得数不清。
我认为,我们会找到好得多的解决方案来处理所有这些问题。到那时,我们会觉得,今天竟然容忍了这么大的利益错位,实在不可思议。那会是一个特别美好的世界,我们可以开始落实法律的精神,而不只是拘泥于法律条文。
而 AI 本质上就是这个。法律有点像编写软件,就像编写一个详细的算法,让人们遵循,以确保公平且可重复。过去只是缺少能够明确表达法律精神的基本构件。
我认为这会真正团结社会,因为即使是最具争议的话题,很多人也能在原则精神上达成一致。问题在于,原则精神无法被执行,所以你只能写下条文,而围绕条文又会出现大量分歧。
Diogo,你知道我觉得你有什么问题吗?你就是精力不太旺盛。
我的错,我的错。他们在 Discord 上叫我“可卡因 Labubu”是有原因的。
老兄,这次聊得太开心了。
当然!
非常感谢你这么有活力——
当然!
——也感谢你这么愿意敞开心扉。
当然!真的聊得特别特别开心。我们之后保持联系。这次聊得确实很劲爆,比我原本打算的还要劲爆。