张小珺
Hello，大家好，我是小俊。前面在福利和广密的节目中，我们深入揭示了 AI 的进化从第一幕 Chat 走向了第二幕 Agent，可以说 Agent 是 2026 年的高频词。关于 Agent，我一直希望能够深入到技术原理层，做一次有关 Agent 的技术讲解，让我们一起清晰了解技术脉络。今天我邀请的是俄亥俄州立大学计算机系教授，也是创业公司 Neo Cognition 的创始人苏煜。苏煜是少数见证过 Agent 演化史的学者，研究方向是 Language Agent。我们从更长周期复盘了 Agent 的技术演进史，尤其是最近三年 Language Agent 的快速进化。此外，苏煜也是 2025 年斯隆研究奖的得主。接下来是我们对 Agent 的技术综述。祝大家五一假期学习快乐，期待 2026 年我们和 AI 共同进步。
这一个阶段的一个很好的总结，实际上是一本书，叫作《Artificial Intelligence: A Modern Approach》。这也是 AI 整个领域非常重要的一本书，应该是很多人的 AI 入门书籍，也是我的 AI 入门书籍。ChatGPT moment 标志着 LLM 范式的变化，而 OpenClaw moment 标志着 Agent，尤其是高度自动化或 personal agent 范式的变化。这些东西都在快速 converging，最后大家想要的是一个 universal digital agent。我之所以提到这一点，是因为这些 boundary 都在消弭，这其实也和 coding 有关系。
苏老师好。最近 OpenClaw 非常火，我很想借着这个机会，聊聊 Agent 的综述。你在这个领域已经研究了很长时间，今天我们就来做一期技术话题的播客。能不能先请你做一个简单的自我介绍，并讲讲你的过往经历？
苏煜
小珺好，大家好，非常开心今天来这里跟大家聊一聊。我叫苏煜，是湖南人，本科就读于清华大学计算机系，之后来美国读了 PhD，后来去了 Ohio State，也就是 OSU，当老师，并组建了 OSU NLP Group。
对于比较关注 Agent 或 LM 的人来说，可能见过我们组比较多的工作。Agent 这边，尤其是在 computer-use agent，也就是用电脑的 Agent 上，我们做过一些比较早期的工作，比如 Mind2Web、SeeAct、LLM-Planner。在更广义的 LM 方向，我们做过 MMMU，也就是多模态大模型可能使用得最广的 benchmark。
去年我搬到了硅谷，开始了一家新的公司，叫 Neo Cognition，主要做 Agent 相关的研究。先说明一下，今天可能不可避免会讲很多中英混杂的内容，但如果知道怎么翻译，我会尽量翻译。
张小珺
在聊最近这些像 OpenClaw 这样的项目之前，我们还是想把 Agent 讲得更纵深一点。你能不能给我们讲讲整个 AI Agent 的历史？它是怎么一步步发展到现在的，又经历了一个多长的时间轴？
苏煜
1. What Makes an Agent
Agent 不是一个新的话题，它贯穿了 AI 的始终。从 AI 最开始的时候，大家其实就在讨论 Agent 的问题。
一个简单的定义可以是这样：Agent 的定义每个人都有自己的理解，也是一个争论很大的问题。但对我来说，Agent 首先应该是一个 entity，是一个实体，它有自己的 boundary，而不是一个发散的、没有边界的东西。它应该是有界的。
其次，它需要在外界环境、在某一种环境当中工作。第三，它在环境中工作，并不是在那里随机游荡，而是要进行 goal-directed activities，也就是有目的性的活动，带有目的地进行各种活动，以达成这些目的。
如果满足这三个要素，我觉得就可以称作一个 Agent。其实如果这样想，所有动物都符合这个定义，所以所有动物都是 Agent，尤其是人，可能是拥有最先进智能的 Agent。
在 AI 刚开始发展的阶段，比如 1940 年到 1960 年，AI 还处于鸿蒙时期。那个时候大家想做的，就是构建这样的人造智能，去模仿人的 Agent 行为。从最开始的时候，Agent 这个概念就一直存在，只是它没有特别成为显学，因为大家发现，要做一个完备的 Agent 是非常难的。
对于当时的技术条件来说，过度追求这样的终极目标没有太大意义，甚至对领域的发展是 counterproductive 的。于是后来 AI 领域进行了比较大的分化，分化成各种子领域，包括计算机视觉、自然语言处理、逻辑推理等。最近又出现了一个“分久必合，合久必分”的趋势，这些领域正在重新归拢，但那是后话了。
最早的 Agent，我觉得可能应该算是 logical agent，也就是基于逻辑的智能体。大概从 1950 年代到 1990 年代，逻辑 Agent 是 AI 整个领域的主旋律。大家可能还记得专家系统：你有一种逻辑语言，比如一阶谓词逻辑，然后去采访各个领域的专家，把他们的知识写成逻辑语言可以表达的形式。之后再有一个基于逻辑的 inference engine，也就是推理引擎。
有了新问题之后，你就可以基于已有知识进行逻辑推演，看能不能得到答案。这就是早年 AI 最早能够工作的 Agent，也就是基于逻辑的 Agent。
后来大家发现，这套方法有很大的局限性，直接导致了当时最大的一次 AI winter，也就是 1980 年代到 1990 年代的那一轮 AI 寒冬。专家系统无法兑现它的承诺。
张小珺
借这个引子，我们可以再谈谈 Agent 到底要做成什么样，什么样才是一个好的 Agent？
苏煜
2. Memory And Autonomy
Agent 的核心问题是，它生活在一个非常复杂的世界里。最复杂的世界就是现实世界。Agent 要学会适应并利用这个世界的复杂性，以达成自己的目的。
这个目的可以像人一样，是生存和繁衍，也可以是更局部的目的，比如怎么挣钱，或者明天怎么吃上一顿饱饭。为了达成目标，我觉得它至少需要两项广义上的能力：一项是 memory，另一项是 autonomy。
Memory，也就是记忆，包括知识的表达，也就是 knowledge representation，包括如何获取知识、更新知识和遗忘知识。这个知识也是广义上的，既包括 semantic knowledge，也就是语义知识，也包括 episodic memory，也就是日常记忆，还包括 procedural memory，也就是程序性记忆，比如我怎么学会骑自行车。
这一整块都可以叫作 memory，因为对于人来说，它们的存储方式没有本质区别，最终都存在神经突触里。人学到的东西，本质上都是 memory。
另一大块能力是 autonomy，也就是自主性和自动化。它包括 perception，你如何感知这个世界；包括 reasoning，你如何基于感知和已有知识进行推理；包括 decision-making，你如何基于推理做出决策；最后是 action，也就是如何把决策反映到外界环境中。
Autonomy 和 memory 是一体两面的关系，memory 是 autonomy 的基础。这套框架基本上可以用来讨论所有 Agent，包括 human agent。
早期的逻辑 Agent 在这两个方面都非常受限。它的 memory 只是有限级别的 logical statements，也就是一些基于逻辑的陈述。它的知识表达能力，也就是 expressiveness，被逻辑语言的表达能力限制住了。世界上绝大部分东西都无法用简单的逻辑表达。后来大家尝试了高阶逻辑、模糊逻辑、概率逻辑，但这些只解决了很少一部分问题。
它的 autonomy 也非常有限，所有能做的事情就是接收一个问题，然后用逻辑推理引擎进行推理，得到一个答案，这就是它全部的 autonomy。由于表达能力受限，它的 autonomy 也非常受限。
早期专家系统最大的问题，后来大家发现，是 knowledge acquisition bottleneck，也就是知识获取的瓶颈。当时主要依靠工程师采访领域专家，再想办法把采访内容写成逻辑语言的形式。这个过程非常痛苦、低效，最终能达到的效果也非常有限。
这就是最早期的 Agent 形态，大概从 1960 年代延续到 1990 年代。
张小珺
这个阶段有一本很好的总结性著作，是《Artificial Intelligence: A Modern Approach》。它也是 AI 领域非常重要的一本书，应该是很多人的 AI 入门书籍，也是我的 AI 入门书籍。
苏煜
对。这本书由 Stuart Russell 和 Peter Norvig 合著，第一版好像是 1995 年发布的，很好地总结了截至那个时间的 AI 发展。
Stuart Russell 曾经跟我提过，虽然大家觉得这像是一本 AI 的书，但它本质上是一本关于 Agent 的书。第一章讲的就是 intelligent agent，只是现在大家有点遗忘了这件事。所以 Stuart 会非常强调，Agent 并不是一个新概念，而是整个 AI 领域一直关心的问题。
这大概覆盖到了 1990 年代到 2000 年代。当然，1990 年代到 2000 年代，其他类型的 Agent 也开始有较大发展，比如机器人方向出现了一些重要进展，基于神经网络的机器学习方法也有了重要发展。比如 backpropagation，我记得大概是 1980 年代中期开始变得流行。
3. From Neural To Language Agents
大概到 2000 年之后，Agent 出现了一些比较实质的变化，主要分成两部分。一部分是比较 high-profile 的 neural agent，也就是基于神经网络的 Agent，尤其是在 deep reinforcement learning 的文献中，有很多代表性工作，比如 AlphaGo，以及各种用于玩游戏的 Agent。
当时大家尝试了很多 Atari 游戏，也就是类似街机的简单游戏，后来又发展到 Dota、星际争霸等。很多游戏都被 AI 解决了一遍。
如果从 memory 和 autonomy 的角度分析这些 deep RL Agent，会发现它们仍然非常受限。一般来说，它们的主体只是一个很小的神经网络，可能几十 million，最多一亿左右的参数。这个规模在当时已经很大，但按照今天的标准看非常小。
这些网络做的事情也很单一，就是玩一个游戏，或者一类游戏。输入是游戏画面，输出是在游戏中可以执行的各种动作。它需要学习和存储的东西，也只是关于这个游戏的规则，以及 perception 和 action 所需要的信息。
它的 autonomy 也很简单：接收一个画面，可能再加上一点历史信息，然后跑一个 feed-forward neural network，完成一次 forward pass，从输入变成输出，再执行这个 action，环境发生变化，重复这个过程。
里面没有太复杂的 perception，也基本没有 reasoning。或者说，它的 reasoning 是非常隐式的，发生在一次 forward pass 中。它当然做了一些推理，但这是一个隐式的、计算量非常受限的推理。无论情况多么复杂，它能使用的 compute 基本就是一次 forward pass。
人显然不是这样。面对不同复杂度的情况，我们使用的推理计算量也不同。Neural agent 在 memory 和 autonomy 上比早期的 logical agent 强了很多，但仍然相对受限。
张小珺
它的通用性相对于 logical agent 有提高吗？
苏煜
我觉得通用性的提高可能体现在两个方面。一个方面是，同一个 neural network 可以被训练去玩不同的游戏。比如 Atari 系列有几百甚至几千个不同的游戏，它可能都可以去玩。
另一方面，是使用同一套方法去玩不同游戏。比如玩 Atari 的方法、网络架构，和玩 AlphaGo 的架构可能差别也没有那么大。所以主要体现在这两个方面。
但如果你说的泛化性，是像人一样，随便把它放进一个环境里，它自己就可以学会，而且做得很好，那种泛化性就很差了。尤其是 sample efficiency，也就是样本效率，非常差。你可能需要玩几百万盘一个简单的游戏，才能学会。
张小珺
为什么这个时候大家会把游戏当作训练 Agent 的环境，或者说 boundary？
苏煜
我没有真正做过那类 Agent，所以答案可能不完整。如果让我猜，可能和 Demis Hassabis 有关。他是 Google DeepMind 的负责人，对游戏非常有兴趣，也是 Deep RL 的代表人物，所以可能有个人偏好的因素。
当然，也有很多实际原因。刚才讲到 Deep RL 的 sample inefficiency，而游戏这种高度可重复的虚拟环境，天然适合去解决，或者至少提供一个解法，就是 data abundance 的问题。
另外，游戏的输入输出高度受限且简单，也很适合当时的技术。所以 neural agent 的主要发展是在 2000 年，尤其是 2010 年之后。
另一方面，试图扩大神经 Agent 输入输出宽度的努力，叫作 semantic parsing，中文可以翻译成语义解析，主要是 NLP，也就是自然语言处理领域的人在做。
它本质上要做的，是把人说的话转化成一种 machine-readable 的语义表示，也就是机器能读懂的表达。背后可以是知识图谱、数据库或网站。用户说了一件事，希望系统能自动把它转换成相应环境中机器能够理解的形式。
Semantic parsing 可以追溯到更早，但主要发展也在 2000 年之后。它和 neural agent 其实有很强的互补关系。
Neural agent 关注的是怎么做深，如何通过大量数据，在受限环境里把一件事做好。Semantic parsing 关注的是怎么做广，如何解决 communication、语言理解和 perception 的问题，也涉及 action。如果能把语言转化成机器能读懂的形式，就可以通过语言命令机器执行各种事情。因此，semantic parsing 也在一定程度上扩大了 Agent 的 action space。
我 PhD 阶段主要做 semantic parsing，所以对这部分比较了解。当时很多后来在 LLM 和 Agent 方向发挥重要作用的人，也都是 semantic parsing 出身。比如 Stanford 的 Percy Liang，华盛顿大学的 Luke Zettlemoyer。他后来在 Meta 团队参与了 RoBERTa，此前也在 AI2 参与了 ELMo。ELMo 是 GPT 之前的语言模型，GPT 在很大程度上受到了这些工作的启发。
更年轻的一代，比如香港大学的 Tao Yu，以及我们 OSU 的孙欢老师和我，也都是做 semantic parsing 出身，但现在可能在 LLM 和 Agent 方向发挥一些作用。我觉得这两个问题之间可能确实存在很深的联系。
所以，在 2020 年以前，大概是 neural agent 和 semantic parsing 比较蓬勃发展的时期。2020 年以后，尤其是 2022 年 ChatGPT 出现之后，整个 landscape 完全不一样了。
新一代的 Agent，我个人认为应该叫 language agent，也就是语言驱动的智能体。2024 年，我们和杨迪、姚舜宇、于涛专门做了一个 tutorial，来定义这个概念，讨论为什么应该称作 language agent。
这一代 Agent 基于 LLM，最大的不同在于，它可以用 language 作为 scaffold，也就是脚手架，来完成所有事情，包括 perception，也就是语言理解。这样一来，人和 Agent 的交互形式就灵活得多了。
它也可以用 language 作为 reasoning。比如现在的 chain of thought。对于不同任务，不需要使用相同的计算量。如果任务比较复杂，就可以生成更多 token。每生成一个 token，都是一次 forward pass，也就是一定量的 compute。这样就实现了 adaptive computing，也就是自适应计算，或者有弹性的推理。
语言在这里就是脚手架、工具和手段。用脚手架来形容虽然中文听起来有点奇怪，但确实比较贴切。
同时，语言也包括 action。语言基本上是一个非常全能的行动媒介，包括 formal language、machine language 等。这样，在一些 digital world 里，就可以通过语言做各种事情。
从 autonomy 的角度来说，language model 极大扩大了 Agent 的自主性。从 memory 的角度看，大语言模型的训练过程也是塑造 memory 的过程，而且是以语言为脚手架的过程，因为训练数据主要是语言。
它通过 compression，也就是压缩，把语言的 surface form 压缩成一个内部表示，形成对世界的 representation。至少在早期，大家还没有完全理解这一点，会觉得 language model 只是所谓的 stochastic parrot，也就是随机鹦鹉，只是在模仿人类语言，做统计预测。
但现在我们越来越理解，大语言模型的训练过程其实是一个压缩过程，是从语言的表层形式压缩成对世界的内部模型。这个 representation 当然也会直接驱动刚才提到的 autonomy 的各个方面。
这就是为什么我们认为应该叫 language agent，因为 language 是它的 defining feature。
苏煜
Language agent 的发展可以说多来话长。现在 AI 正在压缩时间线，每一年甚至每一个月的发展，可能是以前十年才能达到的。这个过程和自然界的演化有微妙相似之处：地球生物经过几亿到十几亿年演化，真核细胞、哺乳动物才逐渐出现；Homo 属两百多万年前出现，Homo sapiens 的历史更短。在人类演化中，语言出现前后速度又发生了翻天覆地的变化。成系统的符号化表达大概十万年前出现，书面语言可能只有五六千年历史，但最近五六千年正是人类文明爆炸式发展的时期。语言在人类演化中起到了爆炸式加速剂的作用。2023 年我写过第一篇博客，题目叫做《Language Agents: A Critical Evolutionary Step for Artificial Intelligence》，我觉得从 evolution 的角度看，Language Agent 可能是一个非常标志性的节点。
张小珺
Language agent 的发展历史很长。现在大家经常说，AI 正在压缩时间线，可能一年甚至一个月的发展，以前需要十年才能完成。你能不能讲讲 language agent 在过去三年是怎么演化的？
苏煜
4. The Agent Timeline Accelerates
这一段历史里有意思的工作太多了，我不可能一一覆盖，而且我肯定会有偏向，因为我对自己做的 Agent 工作更了解，尤其是 computer-use agent。所以我会结合自己的经历来讲。
我觉得最早有代表性的工作，应该是 chain of thought，也就是 CoT，论文大概在 2022 年初出现。刚才我们聊过，语言可以带来 adaptive computing 和 adaptive reasoning，这是一个非常本质的不同。
然后是 ReAct，应该是 2022 年 10 月左右出现的。它实际上把 CoT 扩展到了有外部环境的、更像 Agent 的 setting。
在 ReAct 中，有一个外部环境和一个 Agent。每一步，Agent 会感知环境状态，进行 CoT 类型的 reasoning，决定下一步 action，然后执行 action，改变环境状态。ReAct 的本质就是这样，想法很简单，但影响力相当深远。
这也是 Agent 领域很多工作的特点：你看技术本身可能会觉得很简单，但在正确的时间点拥有正确的 insight，并把相应工作做出来，并不容易。
那时候我在 OSU 当老师大概是第二、三年，也是我们组从 semantic parsing 转向 Agent 的时候。我们做的第一个工作叫 LLM-Planner，也是 2022 年底发布的，和 ChatGPT 大概同一时间。它应该算是最早用 LLM 做 robot planning，也就是 embodied agent planning 的工作之一。
与此同时，我们还开始做另一个工作 Mind2Web。Mind2Web 应该是第一个基于 LLM 的 Web Agent 或 computer-use agent。ChatGPT 是 2022 年 11 月发布的，我们大概在 2022 年 10 月开始做 Mind2Web，2023 年初发布。
2022 年比较有代表性的工作，大概就是这些，机器人方向还有一个 Google 的 SayCan，应该算是公认的 LLM for robot planning 的第一个代表性工作。
到了 2023 年，2 月份有一个很重要的工作叫 Toolformer，是第一个用 LM 做 tool use 的工作。它由 Meta 做出，Luke Zettlemoyer 也是主要贡献者之一。虽然当时 Agent 还没有成为一个热门概念，但这个工作已经产生了很大影响。
我当时还在微软兼职，Toolformer 这篇论文被微软 CEO Satya Nadella 在公司内部传阅。我觉得 Satya 很敏锐地看到了，这项工作虽然看起来简单，但会产生非常强的 implications。尤其对微软这样偏 enterprise 的公司来说，当大模型开始使用各种现成工具时，意义就完全不一样了。
之后开始出现更像今天 Agent 形态的项目。2023 年 3 月，有一个很有名的开源项目 AutoGPT。我不知道现在还有多少人记得它，但当时的火爆程度和现在 OpenClaw 的火爆程度差不多，很快就冲到了 10 万 GitHub stars。现在可能有 18 万左右，和 OpenClaw 的 GitHub stars 也没有差太远。
但在那个时间，这几乎闻所未闻，是 GitHub 历史上 stars 增长最快的 repository，没有之一。它做的事情很简单，就是给 LM 包上一层 Agent 外壳，看起来好像可以做任何事情。当然，实际上它能完成的事情非常少，但和今天的 OpenClaw 也有一些相似之处。
当时还有一些类似 AutoGPT 的热门 Agent 项目，其中一个比较有代表性的叫 AI Engineer，号称是第一个全自动的 AI Engineer。它后来发展成了一家公司，叫 Lovable。现在 Web coding 领域，Lovable 也算是有代表性的公司之一。
到了 2023 年下半年，早期工作基本都是 text-based，也就是纯文本的。但到 2023 年年底，GPT-4o 开始出现，这是第一个真正具有实用能力的多模态模型，也是 Agent 全面转向多模态的时间点。
我们先发布了 Mind2Web，它是 text-only 的。GPT-4o 出来之后，我们开始做多模态和视觉 Agent。同期做了两个工作，一个是 MMMU，第一个多模态大模型 benchmark，现在也算是这一领域最标准的 benchmark 之一；另一个是 SeeAct，也就是多模态 Web Agent，基于 GPT-4o。
当时 GPT-4o 甚至还没有 API，所以我们自己做了一个工具，把它基于网页的界面包装成 API，用来进行 MMMU 和 SeeAct 的实验。
从那之后，computer-use agent 绝大部分都是 vision-based，或者至少是 hybrid。同期还有一些代表性工作，比如 CMU Graham Neubig 团队做的 WebArena，大概是 2023 年 7 月，比 Mind2Web 晚一个月左右。
WebArena 也是 Web Agent，但它更像 RL environment。它做了几个网站的 full replica，也就是完整模拟的网站，然后让 Agent 在里面执行任务。
这其实很好，因为如果在真实的 live website 上做实验，会遇到很多问题，包括网站变化和法律问题。WebArena 提供了一个更加可复现的环境，所以影响力也很大。
到了 2024 年，早期的 Agent 主要是 Web-based，之后开始出现更像 desktop 和 mobile 环境的 Agent。比如于涛他们组做的 OSWorld，就很有代表性，大概是 2024 年 3 月或 4 月发布的，主要面向 desktop。
另外一支很重要的 Agent 是 coding agent。SWE-bench 大概也是 2023 年下半年出现的，引领了整个 coding agent 的发展。我没有仔细追踪那边的时间线，所以这里讲得会少一些。
2024 年下半年，我们做了一个比较有代表性的工作叫 UGround。名字比较奇怪，但它想表达的事情是：Agent 应该 use computers like humans do，也就是像人一样使用电脑。
人的 embodiment 是什么样的，Agent 就应该是什么样的。人使用电脑时，每一步都是先做 visual perception，看当前屏幕，然后进行 reasoning，再在屏幕上采取 pixel-level action，比如点击某个地方，或者在那里输入文字。
这种 embodiment 和早期 computer-use agent 很不一样。早期 Agent 还会使用 HTML 这类 text-based representation。UGround 之后，Anthropic 的 computer use、OpenAI 的 Operator，都采用了类似 UGround 的 embodiment，也就是视觉感知加像素级动作。
包括后来 Claude Computer Use、Claude Code 开始支持 desktop computer use，以及 Claude in Chrome，基本都是这样的 embodiment。
Claude Computer Use 大概在 2024 年 10 月出现。到了 2025 年，OpenAI 开始推出 Operator 和 ChatGPT Agent。2025 年上半年，在 Cursor 的影响下，Anthropic 也开始推出 Claude Code。
到 2025 年下半年，随着基础模型 coding 能力的发展，Claude Code 开始以非常恐怖的速度爆发。尤其是在硅谷，因为我刚好那时搬到硅谷，可以明显感觉到，大概 Claude Opus 4.5 出来之后，大家对 coding 的认知和实践发生了翻天覆地的变化。
这种变化可能就在一两个月之间发生。基本上，很多人已经不自己写代码了。当然，要把这个趋势扩散到硅谷之外还需要一些时间，但速度非常恐怖。
OpenClaw 大概在 2025 年 11 月出现，真正火爆可能是今年 2 月左右。大概来说，Language Agent 的历史就是这样一个蜻蜓点水式的总结。
张小珺
之前你们把 Language Agent 分成 Web Agent、computer-use agent、coding agent，是这样划分的吗？但现在大家对 coding agent 的感知最强，火爆程度也最高。
苏煜
5. The Universal Digital Agent
我觉得是，也不是。早期确实有一些划分，但我一直认为这种划分是临时性的。
你可以分它是 browser use、desktop use 还是 mobile use；也可以分它是不是 GUI，是不是基于图形界面，是不是基于 text-based representation，或者它是不是 coding、tool use，或者 coding 加 tool use。
但 at the end of the day，这些东西都在快速 converging。最后大家想要的，就是一个 universal digital agent，也就是一个可以在数字世界里完成人能完成的所有事情，甚至做得更好的 Agent。
它是 browser、desktop 还是 mobile，是 GUI、CLI 还是 text，是 API 还是 coding，其实都只是 a means to an end，只是一种手段。而这些手段之间的 boundary 正在快速消弭。
张小珺
到今天，你觉得这些边界消弭到什么程度了？以及你怎么理解 coding？
苏煜
这两个问题确实相关。一方面，不得不佩服 Dario，也就是 Anthropic 的 CEO，他在这一点上把握得非常准。Coding 是非常 fundamental 的，至少对于 digital world 来说，它是最根本的 fabric，是 building layer，所有东西都可以用 code 表达。
另一方面，我之所以说这些 boundary 正在消弭，也和 coding 有关。我觉得 coding 会主导打破这些边界。
简单来说，无论是 GUI、text-based、CLI 还是 API，都可以用 coding 的形式把它们变成等价的东西。GUI 本身就是通过 code render 出来的。
之后如果要具体讨论 GUI 和 CLI 到底有什么区别，也可以再展开。
张小珺
你们之前做过一个 tutorial，把现在的 Agent 叫作 language agent。今天大家又叫它 coding agent，那么定义会发生变化吗？
苏煜
不会。首先，programming language 本身就是 language。Language 从来不只是自然语言，它是一切符号化的东西，包括编程语言、diagram，也就是图表化语言，以及手势。这些基本都可以看作自然语言的衍生物。
所以，language 本来就包括 coding。Coding 就是 programming language，这一点应该没有异议。
可以说，自然语言是人类的脚手架，coding 是机器的脚手架。它们的表达形式不同，但最后的目的其实一样，都是描述和操纵世界的工具，也是沟通工具。
无论是 physical world 还是 digital world，coding 都不会只局限于 digital world。Programming language 作为 formal language，当然有一些独特性质，但从 Agent 的角度来说，这些性质可能并不是特别本质的区别，所以我不会刻意区分这两个东西。
张小珺
你是怎么进入 Agent 研究领域的？之前讲到从 semantic parsing 转向 Agent，这其实也是你个人研究方向的转变。
苏煜
6. Why He Chose Agents
确实如此。可能正因为我有 semantic parsing 的背景，所以算是比较早转向 Agent 的研究团队之一，也做了一些比较早期的工作。
再往深处追究，可能和我个人的兴趣有关。为什么我会做 semantic parsing？即使在 NLP 内部，semantic parsing 当时也不算最热门的方向。那时候 computer vision 和 machine learning 更显学一些，但我在 NLP 里偏偏选择了 semantic parsing。
Semantic parsing 在当时算是一个 niche area，也就是比较小众的领域。我甚至知道一些 NLP 老师会跟学生说，做什么 topic 都可以，但不要做 semantic parsing。
因为做的人少，会带来一系列问题，比如论文更难被接受，citation 也可能比较少。但我当时还是选择做 semantic parsing，因为有一个问题一直困扰我。
我发现，人好像正在变成电脑或者数字世界的奴隶。软件和网站越来越复杂，复杂到普通人甚至需要上课才能学会使用一个软件。比如要参加 Excel 培训，花几个月学习；更复杂的系统，比如 AWS Console，有几百种功能，可以组成几千种工作流。要成为 AWS expert，可能需要花几年时间。
这好像意味着，人开始变成电脑的奴隶。但我觉得事情不应该是这样。我在 PhD defense 的时候，还有一句现在想起来有点中二的宣言：
“Let machines understand human thinking, don’t let humans think like machines.”
也就是，让机器理解人的语言和想法，而不是让人像机器一样思考。
但当时后者已经在持续发生。随着数字世界进一步高度专业化、分工化，人也必须随之变得专业化。这带来了很大的问题。
这就是我为什么做 semantic parsing，也解释了为什么在 LLM 出现之后、甚至 ChatGPT 出现之前，我开始做 language agent。本质上都是为了实现同一个目标，只是使用的技术和手段不同。
张小珺
最近 OpenClaw 非常火，它带来了新的范式变化吗？它把 Agent 往前推进了一步吗？
苏煜
7. The OpenClaw Moment
这个问题和我们刚刚聊的内容承接得很好。现在回头看，OpenClaw moment 和 ChatGPT moment 有很多相似之处。
ChatGPT moment 是怎么发生的？底层技术其实已经 ready 了。LLM 在 ChatGPT 出现之前已经发展了好几年。从 2018 年 BERT 出现，到 2019 年 ELMo，再到 GPT-1（可能也是 2019 年）、GPT-2、GPT-3，GPT-3 其实就是 ChatGPT 的前身，语言模型已经发展到比较成熟的阶段。
OpenAI 在 ChatGPT 上做的事情，是对底层模型进行 fine-tuning，让它变得更像 chatbot，然后把 chatbot 直接发布给普通用户使用。底层技术没有发生太大变化，更多是交互形式发生了变化。
但这个交互形式的变化，反而成为整个事情的导火索。大家突然发现，原来 LLM 已经这么厉害了，随便跟它说什么，它好像都能给出一个似是而非的回答，于是出现了 ChatGPT moment。
OpenAI 自己当时也很惊讶。那些做基础研究的研究员没有想到，把模型变成 chatbot 之后，大家会突然这么喜欢。
ChatGPT 的成功后来也导致了 OpenAI 内部的一些问题，比如 Ilya Sutskever 主导的 fundamental research 和偏 applied 的 ChatGPT 团队之间出现摩擦，后来甚至导致了 Sam Altman 离任又回归的事件。不过那是后话了。
OpenClaw 其实也是类似的。Agent 在 OpenClaw 之前已经有了很大发展，技术上已经 ready，包括 coding 的发展，以及各种 Agent 设计范式的发展。
大部分做 Agent 的人去看 OpenClaw 的 codebase，可能会有一种“Nothing is new here”的感觉，觉得这里没有特别新的技术。但它实际上是交互形式发生了深刻变化。
以前大家做 Agent 都比较克制，因为让 Agent 像人一样完成各种事情是危险的，它可能产生各种 harmful behavior。所以，无论是 Agent 的 scope，还是 permission，大家都会非常小心，尤其是学术界和大公司。
OpenClaw 一方面改变了交互形式，比如让用户可以在 WhatsApp 等即时通信软件里和它交互；另一方面，它有自己的独立环境，是 24 小时 always-on 的形态。
更重要的是，它不太在意 permission 和 safety，基本上把权限全部打开，让 Agent 想做什么就做什么，然后发布出去。因为它是开源的，所以这些问题相对可控一些。
大家给它各种权限之后，发现原来 Agent 已经这么厉害，可以做这么多不同事情。这就是它和 ChatGPT moment 相似的地方。我相信两年后回头看，它的影响力可能也会达到类似规模。
ChatGPT moment 标志着 LLM 范式的变化，而 OpenClaw moment 标志着 Agent，尤其是高度自动化、personal agent 的范式变化。
张小珺
它会带来什么后续反应？
苏煜
后续反应已经非常明显了。虽然它爆火也才一两个月，但已经深刻改变了很多科技公司的行为和技术路线。
Anthropic 这边，Claude Code 加入了很多和 OpenClaw 类似的 feature。不过说“抄”可能不准确，没有 OpenClaw，Claude Code 也可能自然而然地加入这些功能，只是 OpenClaw 起到了催化剂的作用。
OpenAI 也在全面转向，砍掉各种实验性项目，聚焦 Agent、productivity 和 coding。Nvidia 的黄仁勋还说，现在每个企业都要有 cloud strategy。
国内各大厂在这方面的动作也非常快，这种影响势必很快辐射到普通人。最近各种裁员新闻，也可能和大家对 Agent 能力的 perception 有很大关系。
张小珺
我有一个感觉，不知道对不对：OpenClaw 在中国的火热程度似乎比美国更高。
苏煜
我觉得这个感觉是对的。美国这边也很火，但主要限于开发者群体，或者说离技术、离 tech 比较近的人，大家还在研究怎样把它做得更深。
中国可能更加出圈，更全民化一些。街头巷尾、各地政府都开始聊 OpenClaw。这可能是两边舆论和科技扩散模式长期以来的差异。
美国目前主要还是一个开源项目的叙事，而在中国，这个叙事已经变成了时代性的产业机会，甚至是个人翻身的工具，还可能带来一种“不学就会被时代淘汰”的焦虑。
张小珺
美国没有这种焦虑吗？
苏煜
至少在 tech 圈之外，我觉得这种辐射远远没有中国这么大。当然也有人调侃说，只要我学得慢，就不用再学了。
我还听说，国内有些家庭的子女工作很忙、没有时间，家里的老人就拿着电脑去活动现场，找人帮忙安装 OpenClaw。
张小珺
确实挺有意思。
苏煜
这可能和中国的技术基因有关。除了舆论模式不同，中国一向在前端技术应用层面动作很快。
Google 前 CEO Eric Schmidt 专门聊过这一点，这是一个很有意思的洞察：美国在应用层一般慢很多。我觉得这在 AI 时代可能是一个很大的优势。
现在的情况是，基础模型的 intelligence 已经超过了一个临界点。对于很多有用的事情来说，it’s good enough。
很多事情过去没有人做，是因为摩擦太高，做起来太麻烦，经济账算不过来。但现在 AI 的能力可以极大降低摩擦，很多事情已经跨过了从“不值得做”变成“值得做”的阈值，于是有了商业价值。
现在缺的是有足够洞察和执行力的人，去发现并抓住这些价值。在这一点上，我觉得中国可能有很大优势。
当然，这个过程肯定也会有浪费。比如有人先花钱安装 OpenClaw，发现没什么用，又花钱找人卸载。但对社会整体来说，我觉得仍然是积极的发展。
不过，对于 Agent 研究者来说，从 OpenClaw moment 到它真正对社会产生深刻影响，我们还有很多工作要做。要让 Agent 真正好用、容易用。
现在使用 OpenClaw 的门槛仍然很高，大部分人很难从中找到价值。我们需要让每个有独特想法和洞察的人，都能把这些想法真正转化成有价值的 Agent。
这可能说得有点大，但我在看到最近各种裁员新闻时确实很有感触。技术进步太快了，如果 job displacement，也就是失业的速度，远超新工作机会产生的速度，社会可能会出现很大问题。
所以，作为 Agent 研究者，我们需要让 Agent 真正好用、容易用，让每个人都能把自己的想法变成实践。这样可以在一定程度上推动技术民主化，而不是让核心技术因为门槛很高，只被少数巨头垄断。
这可能就是普通人的机会，也是 AI researcher 的责任。
张小珺
你刚才说，中国一直在应用端、在技术平权上更能代表自己的技术基因。那你觉得在大模型产品上，依然需要模型公司来做产品吗？拥有模型的公司在产品端会更有优势吗？
因为今天很多做应用的公司，最后也都被模型公司收购了。
苏煜
8. Specialized Intelligence Wins
我觉得不尽然。这可能和我的个人理念有关。
如果你想做一个非常通用的东西，想成为整个 digital world，也就是整个数字世界的唯一入口，做一个超级通用的 Agent，那确实更适合模型公司来做。
但我不认为这是唯一的机会。世界非常复杂，它不是一个世界，而是由几百万个小世界组成的。每一个小世界要真正产生价值，都需要 specialization，需要成为 expert，也就是专家级 Agent。
这是大模型公司很难做的。它们天然倾向于做平台、做统一的东西，而不是做需要专业化的东西。这和它们的组织架构、商业模式都有冲突。
这不只是选择问题。即使它们选择去做，也可能做不好，因为很多东西从经济上说并不是它们有比较优势的领域。
所以，非模型厂商，甚至普通人，都还有很大机会。这也和我们 Neo Cognition 的理念和目标有关。
张小珺
说说你的创业吧。你为什么选择离开高校，开始一家新的创业公司？
苏煜
公司叫 Neo Cognition。Neo 是 N-E-O，来自 neocortex，也有“新”的意思。
我们的定位是一个 Agent research lab。所有和智能体、Agent 相关的问题，只要我们觉得有意思，或者可能和最终解决 Agent 问题有关，我们都有兴趣去做。
这是比较长期的 scope。中长期来看，我们更多关注刚刚提到的 specialization，也就是 specialized intelligence，而不是 general intelligence。
现在 AI 已经到了一个阶段，通用智能很强，尤其是在数字世界里。你给 Claude Code、Perplexity Computer 或 OpenClaw 一个问题，它可能会自己琢磨，大概有 60% 到 70% 的概率做对。
如果不是高度专业的问题，而且它拥有必要信息，现在的通用智能已经足够强。我们缺的是 specialized intelligence。当通用智能变得廉价、成为标配时，差异化就来自 specialization。
正如我之前说的，世界由几百万个小世界组成。每个职业、每个领域、每个 profession、每家公司，甚至每个软件、每个网站，都是自己的小世界。这些世界加起来的 entropy 几乎是无限的。
不可能有一个单一 Agent 或单一模型，捕捉到所有这些 entropy，所以必然存在 adaptation 和 specialization 的过程。如何更好地建模、捕捉并学会 specialization，是我们研究的重点。
张小珺
你们倾向于哪些小世界？重点会做哪些方向？
苏煜
我们比较 horizontal，不会只关注几个 vertical。但自然来说，我觉得会偏 enterprise 一些，因为 enterprise 对 Agent 能力的深度要求更高。
现在大家会讲一个词，叫 SaaS apocalypse，也就是软件末日。说 SaaS 的软件估值逻辑在发生变化，我觉得这是，也不是。
软件的估值逻辑确实在变化，margin 正在迅速压缩，这也是很多软件公司股价大跌的原因。但很多软件仍然有很大存在价值。我不认为我们真的会用 Agent 替代或重写所有软件，这件事不太会发生。
但这不代表软件作为一门生意还能保持过去那么高的 margin。一个变化是，AI-native 公司正在尝试取代 SaaS 公司；另一方面，软件公司也在积极自救。
软件本质上是 tool，是工具，而现在大家想要的是结果，是 labor，是 AI employee。所以软件公司正在尝试从 tool 转成 labor market，在自己的平台上，以软件为平台直接交付结果。
最后谁赢谁输，是 AI-native 公司和 frontier model company 赢，还是 SaaS company 赢，或者达成 equilibrium，现在还不好说，因为这件事也就是今年才开始发生。
张小珺
你们最近是不是刚完成一笔融资？融资规模多大？美国市场现在好融资吗？
苏煜
我们融的是 seed round，也就是种子轮，融资 4,000 万美元，应该算比较大的种子轮。
美国市场今年年初可能和去年年底又很不一样。以我个人有限的观察来看，融资现在呈现非常严重的两极分化，也就是马太效应。
头部公司的融资规模和估值越来越大，但平均来看，大多数公司融资越来越难。很多 new labs 一上来就能融几千万到几亿美元。到 growth stage，包括 OpenAI 和 Anthropic，它们的融资额加起来，可能占整个市场融资额的 30% 到 50%。
VC firms 其实也在两极分化。很多人都说，中间的 VC firms 现在比较 struggle。要么变成 mega fund，比如 a16z、Lightspeed，去投 growth stage；要么变成 boutique firm，在高度垂直的领域里，凭借关系和 deep knowledge 建立优势。
张小珺
好融吗？你们用了几个月？
苏煜
我们去年 7 月、8 月创立公司，到今年 3 月，刚好接近 6 个月，算是比较顺利。相较于大部分人来说，我们可能比较幸运。
因为我们在 Agent 方面做过比较多工作，所以大家相对认可。
张小珺
投资人现在看什么？看你过往的工作吗？
苏煜
过往工作是一方面，但也分不同类型。如果你在 frontier lab 有比较长时间的核心贡献，估值逻辑又不一样。
投资人也会看 thesis 是什么，因为现在这个 space 太 chaotic，太混乱了。阳光之下没有新鲜事，所有故事大家可能都听过很多遍，关键是你能不能找到 differentiation。
这个 differentiation 既要 credible，又要 feasible，要让人相信事情有可能做成，而且你的团队是 one of the best to do that。做成之后还要有很大的商业价值，并且 OpenAI 和 Anthropic 不能轻易复制。
这需要很多因素同时成立。
张小珺
很多投资人可能都会问：你做的事情为什么大厂不能做，为什么一定要由创业公司做？也就是，为什么 OpenAI 不能 copy？
苏煜
根本原因在于，你要做的事情有多难。
过去我们做了很多 benchmark。比如 GPT-5.4 发布时，他们可能用了二十多个 benchmark，其中三个可能都是我们组学生做的。
我做 benchmark 时一直强调一个概念，叫 construct validity，也叫 ecological validity。Benchmark 评估的事情，应该和你最终希望 AI system 达到的效果，也就是产生实际价值的事情，高度正相关。
如果能保证这一点，benchmark 就会有很大价值，也会有很长的生命周期。
我觉得做公司也是一样。你要选择一个赛道，如果这个问题被解决，不管是被你解决，还是被 OpenAI、Anthropic 解决，都会给人类社会带来根本性变化。它的上限非常高。
如果是这样的赛道，就不会只有一两家 player，因为这是一个几乎没有上限的 space，可以容纳更多 player。
我们现在想做的事情，比如 specialized intelligence 或 expert agent，就是希望让通用 Agent 学会一套方法，快速 specialize 成为各个领域的专家。
这个事情首先非常难，至少现在没有人能打包票说知道该怎么解决。其次，如果真的做到，对社会的影响和经济价值会非常高。
在这些前提下，竞争就不是最值得担心的事情。因为价值和潜力很高，不确定性也很高，势必会有不同技术路线，没有人能保证哪一条路线一定正确。
这有点像 robotics。机器人领域之所以有很多创业公司能融很多钱、拿到很高估值，甚至在完全没有交付的情况下也能获得融资，是因为这个 space 想象空间很大，不确定性也很高。
没人能保证做 VLA、做 world model，或者以硬件为主导的路线一定正确。所以在这两个因素驱动下，大家会做一些 crazy bets。
我们 Agent 这边也是类似情况。
张小珺
你们现在选择什么技术路线？
苏煜
现在还不能讲太多细节，但可以从比较 high level 的角度聊一聊。
9. World Models Shape Expertise
我们刚刚多次提到一个词，叫 world model。这是一个非常重要、但也非常宽泛的概念。
现在大家提到 world model，往往倾向于把它理解成 vision-based model，尤其是关于 physical world 的模型，主要做 next-frame prediction、video prediction，或者做 3D reconstruction，学习一些 latent variables，像 JEPA 这样的模型，之后用来做 planning 或其他 prediction。
总体上，大家对 world model 的理解比较 vision-focused，因为主要推动这些工作的人是 computer vision 背景。这当然是非常重要的工作，也是 LLM 明显缺少的能力，相关 bets 非常值得。
但另一方面，world model 不仅仅限于这种形式。我觉得 world model 在一定程度上是 human intelligence 最重要的概念。
我对 world model 的定义可能比大部分人都广。举个简单的例子：大学毕业后去一家公司实习，第一天完全不知道工作内容，也不知道这家公司是什么样的。但我可以很快通过 learning on the job，在工作过程中持续学习。
我会学到公司的组织架构，表面上的 org chart 和实际上的 org chart；到底谁说话管用；做什么事情要找谁批准；工作需要使用哪些软件；软件怎么用；在软件上做某件事会有什么结果；各种工作流是什么样的；以及人与人之间的 mental model，也就是所谓 theory of mind。
所有这些都是 world model 的一部分。一个公司形成了一个小世界，也就是 micro-world。我们持续学习、从 intern 变成专家的过程，就是构建 a model of this micro-world 的过程。
这个 model 显然不是 video model。视觉是其中很重要的一部分，但它还有更多内容，天然是符号化的、symbolic 的，甚至还有一些既非符号化、也非视觉的部分。
归根结底，我们持续学习学到的，就是这样一个 specialized world model。这也是现在 Agent 学习中最欠缺的部分。
所以现在使用很多 Agent，第一次用会觉得它非常强大，让它做什么都能做得似是而非，可能 60% 到 70% 的概率做对，剩下 30% 到 40% 不知道为什么失败。
但人不是这样。如果我们成为某件事情的专家，基本上可以 100% 做对。因为我们经历了 specialization，学会了这个工作、这个领域的所有 ins and outs。
成为专家之后，我们会更 reliable，成功率更高，稳定性更强；同时也会更快、更 cost-effective。
这正是现在 Agent 面临的最大挑战：既不 reliable，也不 efficient，还特别贵，要消耗 frontier model 大量 token。
所以我觉得，learning to specialize by learning the world model of work，可能是现在最大的机会之一。
张小珺
我可以粗略理解成，你们会做一个公司的 HR Agent、财务 Agent、法务 Agent，也就是在公司角色中承担不同角色的人吗？
苏煜
可以，但这些 specialized agent，或者 expert agent，本身不是我们的目标。我们的目标是研究出一套学习方法，也就是 continual learning 的方法。
给定任何 domain、任何职业、任何环境，都可以通过这套方法学出一个 expert agent。
现在的 Agent 训练方式还不足以训练出这种 expert agent。目前主要有两个训练范式。
一个是模型厂商做的，以 RL 为主，也就是 RL post-training，包括大量 synthetic environment 和 RL gym。但你想，RL 能达到的持续学习效果，和人类的持续学习显然差别很大。
无论是学习速度、准确性，还是学习的内容和范围，都不一样。
另一种学习方式，就像 OpenClaw 或 Claude Code 里的 skills，更学术一点可以叫 non-parametric learning，也就是非参数化学习。
现在主要是写 Markdown 文件，比如 SOUL.md、SKILL.md，逐渐演变成 harness。最近也有一些工作，比如 Meta 的 Harness、AutoHarness，想用这种非参数化的学习方法去重写或改进 harness。
我一直对 non-parametric learning 很有热情，相信它还有很大空间，但只靠 non-parametric learning，上限也会比较有限。
我觉得现在这两个范式都还没有很好地解决这个问题。
张小珺
最近还有一个词很热，叫 continual learning，或者 online learning。这会是你定义的新学习方式吗？
苏煜
Continual learning 是一个含义特别广的词，不同人用法很不一样。
最早大家说 continual learning 时，指的是一个比较受限的设定：模型已经学会了一些 task，现在要学习新的 task，如何在学会新任务的同时不忘记已有任务。这是机器学习里最经典的 continual learning setting。
但现在这个词的用法五花八门。Personalization 是一种 continual learning，recursive self-improvement，也就是用这一代模型更好地开发下一代模型，也是一种 continual learning。OpenClaw 这样的学习是一种，RL post-training 也是一种。
现在用法非常多样化。但对我来说，更关心的是，所谓持续学习，到底学了什么，学习目标是什么。
对我来说，当前 literature 最大的 gap 是，我认为学习目标应该是一个 world model。持续学习的目的，是更好地学会一个广义的 world model。
这可能就是把两个热词联系起来的方式：world model 和 continual learning，本质上是一件事情。
张小珺
这些概念和 human intelligence，也就是人类智能，有什么关系吗？
苏煜
有非常深的关系。
刚才我们举了 human intern 变成 expert 的例子，也可以讲得更深入一些，从神经层面、neurobiological 层面来看，这个过程到底怎么发生。
这也是我们公司名字的来源。对人类来说，学习最重要的部分是 neocortex，也就是新皮层。它大概占据大脑的 70%。
Neocortex 很有意思。从进化上看，它出现得非常晚，在哺乳动物中才出现，大概两亿多年以前。早期哺乳动物的 neocortex 非常小，直到大猩猩等动物，容量才开始急剧增大，到人类时达到了比较高的程度。
它的进化时间这么短，意味着它没有太长时间去发展非常复杂、非常高度特异化的功能。大脑其他部分，比如脑干、海马体、小脑，都经历了很长时间的进化，远在哺乳动物出现之前就已经高度特异化。
但 neocortex 不一样。它进化时间短，同时要处理的事情却非常多。所有和智能相关的东西，包括视觉、语言、听觉、逻辑推理和 planning，都会使用 neocortex。
从进化角度来看，最有效的方法可能是找到一个足够通用的 learning machinery，再用一个结构承载它，然后把这个结构重复很多遍。
这样既不需要太长的演化时间，DNA encoding 也不需要占据太大空间，因为 DNA 的容量有限。
从 neocortex 的解剖结构看，确实有这个特点。虽然功能上有很多分区，比如视觉区、听觉区、感知区，但从解剖结构上看，它们高度相似，都有一种基本单元结构，叫 cortical column，也就是皮质柱。
人脑大概有 15 万个这样的皮质柱。每个皮质柱由几层细胞组成，细胞之间有类似的连接结构，然后这个结构被重复大约 15 万次。
这样一来，剩下的问题就是：单个皮质柱到底在做什么？为什么相同结构可以特化出不同功能？它的结构和 learning machinery 到底是什么样的？
关于这一点有很多 theory。对我来说，最有意思、也最有说服力的理论之一，来自 Jeff Hawkins 的《A Thousand Brains: A New Theory of Intelligence》，中文一般译作《千脑智能》。
这是一个比较新的理论，但在这个方向上走得很远。他认为，每一个皮质柱都在学习 world model。
World model 不限于 physical world，也包括所有语言、数学系统，以及人类创造的抽象概念，比如民主、法治。这些都是 world model 的一部分。
每个皮质柱里可能有几百个小的 world model，而 15 万个皮质柱中，每个 concept 可能都在多个皮质柱里拥有多个 world model。最后，这些 world model 主导整个 perception、reasoning 和 decision-making 的过程。
我们没法在这里讲得太深，但 world model 这个概念和人的持续学习有非常深的联系。
即使不接受 Jeff Hawkins 的理论，人的持续学习形成 cognitive maps 或 conceptual frameworks，也已经是 well established 的事实。但这是现在 Agent 或 AI 的 continual learning 还远远没有解决的问题。
这就是我们为什么叫 NeoCognition，Neo 来自 neocortex。
张小珺
前段时间我和谢赛宁聊过一期 world model。他的整体观点比较接近 LLM，当然也认为需要语言，但整体上还是觉得需要更多表征。
你觉得 world model 需不需要 language？你怎么看 world model 和语言的关系？
苏煜
这是一个可以聊得非常学术的话题，可以从几个角度切入。
第一，我觉得 language 和 vision 都非常重要。Neocortex 里视觉区域是最大的，远远大于其他区域。但最后，尤其在人类社会里，要产生价值，最大的来源还是 language。
之前我们聊过，language 在人类 evolution 过程中起了很大作用。Chris Manning 最近也做了一个 podcast，聊这个问题。我和他在这方面的观点很接近。
Chris Manning 有一个说法：人和猩猩的智能、文明之间有如此巨大的差异，并不是因为人类的视觉或视觉感知比猩猩更敏锐。
我们的视力大概率不如大猩猩，也不如很多动物；听力不是最好的，感知不是最好的，运动能力也不是最好的。但我们的语言是独一无二的，这导致了人类文明和智能的根本差异。
再深入一点，有一本很有意思的书，Terrence Deacon 写的《The Symbolic Species》，虽然比较老，可能是 1990 年代的书。它讨论为什么符号，也就是 symbolic symbols，对人类、对整个 Homo genus 如此重要。
他想解释，Homo genus 的祖先是如何转变为 Homo genus 的。这个过程实际上是符号和人类大脑 co-evolution 的过程。
我们先有了符号化的抽象表达，这反过来产生了进化压力，让大脑发生相应变化，更好地服务和产生符号化表达。
这很像是自己开启了一局新的游戏。其他物种还在慢慢进化，Homo genus 突然开启了一个 symbolic 的新赛道。这个新赛道是自循环的，也产生了新的、更偏文化层面的进化压力。
假设一个部族已经积累了一些符号化知识。我作为原始人跑到很远的地方，发现那里有危险，比如有一只老虎；或者发现那里有好吃的食物。我可以回去告诉其他人，不要去那个地方，或者记住这个地方，经常去那里。
语言让信息跨越时空传递。这个时空既包括当下的空间和时间，也包括代际之间的时间。信息可以口口相传，传递给下一代。
这产生了非常强、非常快的进化压力。如果下一代不能很好适应语言环境，就没有生存优势，可能会被淘汰。
这在进化上相当于开启了一个新赛道，导致 Homo 到 Homo sapiens 的进化出现了快速通道。
所以，语言远远不只是 communication tool。以语言为代表的整个符号化表达，作用远比沟通工具复杂。
现代研究里也有一些有意思的工作。比如 MIT 的一位认知科学家（姓氏我有点不记得了，但名字首字母是 F）做过一系列研究，讨论“the dissociation of language and thought”，也就是语言和思维的分离。
我们自然会觉得语言和思维高度相关，语言是思维的载体。但通过 fMRI 等研究，发现人脑中语言区域和复杂思考并不总是同时被激活。
语言在大脑里主要有两个区域，一个是 Wernicke’s area，负责语言理解；另一个是 Broca’s area，负责语言产生，也就是一个输入、一个输出。
研究发现，当人做需要复杂 reasoning 的任务时，这些语言区域并不一定被明显点亮。于是有人据此认为，语言和 thought 可以分开。
但另一方面，对于个体思考，也就是我自己想事情，语言可能确实没有那么重要。因为人的学习过程本身就是 internalize，把最初需要语言作为脚手架的知识，内化成神经元之间的直接连接。
这也是人的学习过程中非常重要的一步。我们睡觉时做梦，以及海马体在 short-term memory 到 long-term memory 转换中发挥的作用，都和这个过程有关。
所以，language 和 thought 确实可以分开，但这不代表语言在形成内化表征的过程中不重要。语言在人的学习过程中起到脚手架作用，之后才形成内化的 representation。
另一个方面，如果跳出个体层面，考虑整个人类文明，任何尖端或非尖端的工业、行业和领域，都是符号化的。
符号化语言、diagram、programming language，是现代文明存在的根基。任何想在现代文明中产生价值的东西，都很难离开符号化表达。
我之前在 Twitter 上说过一句话，Chris Manning 高度赞同：
“Individual thought doesn’t need language, but civilization needs language.”
个体思考可能不需要语言，但文明需要语言。
所以无论从文明层面，还是从进化层面，language 和 symbolization in general 都至关重要。
张小珺
所以你依然坚定认为，语言对于大语言模型或者 world model 都很重要？
苏煜
对。这也是我们部分为什么要叫 language agent。
即使未来底层模型不是 LLM，而是某种 world model，以 language 为根本去理解世界、进行推理、和世界交互的能力，我觉得也不可能消失。
张小珺
你们现在把 Agent 定义成 language agent，是不是说明未来它就会重新叫 Agent？Language agent 可能只是一个过渡阶段？
苏煜
有可能，但过渡不代表它会消失，而是会演化到大家习以为常的阶段。
大家会接受，language 就是 Agent 应该具备的一种根本能力，于是这个词变得 redundant，最后直接叫 Agent 就可以了。
张小珺
最近有很多关于未来人机交互，以及 Agent 和 computer use 交互方式的讨论。你怎么看？
苏煜
10. The GUI Will Survive
这是我思考比较多的问题。之前聊 Language Agent history 时，我们也提到过，我们很多工作都在研究 Agent 到底应该如何和 digital world 交互。
它应该使用 text-based 表示，还是视觉为主的 GUI，或者其他方式？
这些最终也只是 a means to an end，大家想要的仍然是 universal digital agent。但我们还是可以讨论这个具体问题会怎么发展。
第一个问题是，GUI 会不会消失。我觉得答案非常明确：不会。GUI 不会消失，因为人类需要 GUI。我们整个身体和大脑都是按照视觉动物的方式进化出来的。
很多 HCI，也就是人机交互研究，会展示同一件事情如果通过视觉呈现，人脑的反应和理解速度会快零点几秒。GUI 也有其他实际好处，包括 validation、赢得信任、auditing 等。
另一个问题是，Agent 到底需不需要 GUI。GUI 会继续存在，但 Agent 本身可能不需要 GUI，它可以使用 CLI 或 API。
如果从实际角度出发，being pragmatic，GUI 短期甚至长期都不会消失，因为图形化界面是整个数字世界的 de facto interface。绝大部分数字世界里的东西，已经有 GUI 可以交互。
而且 GUI 不只是交互形式，它在设计过程中已经编码了大量相关知识、constraints 和 business logic。如果 Agent 能很好地使用 GUI，就可以 piggyback on all of this accumulated knowledge，而不是重新做一套 CLI 或 API，把这些轮子再造一遍。
如果 Agent 能做好 GUI，就可以 immediately reach all corners of human society，尤其是 long-tail 场景。软件公司可能有技术能力把自己的系统重写成 CLI，但 long tail 场景不太可能做到。
另外，对 Agent 来说，text 本身是一维表示，很多东西用一维表示并不 optimal。视觉是二维甚至更高维的表示，对于复杂对象和复杂关系，视觉往往更加高效。
最后，还要算一笔经济账和人性的账。
不知道还有多少人记得 Semantic Web 这个社会实验。Tim Berners-Lee，也就是互联网之父，在创造互联网后，很快开启了新的实验：给整个互联网赋予明确的语义，也就是 semantics。
他使用的是基于逻辑的表达，包括一整套描述逻辑，也就是 description logic，以及相应的推理方法。
一切看起来都很美好，但推进了 20 多年，最终 adoption 仍然非常低。这和人性以及社会运转方式有关。
社会不是那么理想化，不是有人提出一个新标准，说明它有很多好处，整个世界就会听从，然后把所有东西重写一遍。除非你在各个层面都有非常强的 motivation 和 incentives，否则很难在全世界范围内实现。
GUI 的 adoption 之所以成功，是因为它适合人。人需要 GUI，所以大家都采用了 GUI。
但如果现在出现一个新标准，比如 MCP，或者要求所有人重新写 CLI，然后指望所有行业在未来几年 adopt，这几乎不可能。人类社会不是这样运转的。
现在还有很多大型银行和关键基础设施，仍然基于几十年前的 COBOL 系统，这些东西不会快速变化。
还可以算一笔经济账。即使你能论证，CLI 对 Agent 来说是全局最优的，如果所有东西都 CLI 化，整体效果会更好，也不代表它对所有局部都是最优的。
很多地方已有的 solution 已经 good enough，不需要换成 CLI。所以无论是 GUI 会不会消失，Agent 要不要 GUI，还是经济和人性如何运转，我都不认为 CLI 会全面取代 GUI。
张小珺
你觉得 Agent 到今天发展到什么阶段？关键瓶颈是什么？2026 年 Agent 可能会核心解决什么问题？是 self-learning、memory，还是别的？
苏煜
如果总结我们刚才讨论的内容，会发现这些其实都是同一件事。
我们讨论 memory、self-learning、continual learning、world model、specialization，以及如何成为 expert agent。Self-learning 和 continual learning 是一回事；world model 是需要学习的内容；specialization 和 becoming expert agent 是要达到的结果。
达成之后，会带来现在 Agent 最缺乏的能力，包括 reliability、speed 和 cost-effectiveness，也就是可靠性、速度和成本效率。
所以我觉得，这是一个比较好的 summary。
张小珺
最后，条条大路通罗马。你对 2026 年 AI Agent 的发展还有什么预期？年初 OpenClaw 已经这么火了，从技术或 frontier 的角度，continual learning、self-learning 会成为主旋律吗？
苏煜
会。至于 continual learning 的方式是不是我说的、基于 world model 的 continual learning，这只是 one of the bets。
未来可能会看到很多不同的 bets，这也是有意思的地方。和 continual learning 息息相关的，是 Agent 技术能多快辐射到社会的更多角落。
刚刚提到的 reliability、speed、cost，以及整体门槛高，都是问题。现在 OpenAI、Anthropic 等公司都采用所谓的 pilot 模式，招聘很多 forward-deployed engineers，驻扎到客户那里帮助他们 build agent，本质上都是这些问题的结果。
张小珺
你觉得现在美国和中国的大厂，它们在 Agent 上的 bet 有什么不同？
苏煜
曾经不太一样，但现在高度趋同。一方面，Anthropic 目前比较突出，也给大家做了示范，所以很多公司至少在不少方面是在照着做。
这是今年和去年的很大不同。去年或者去年年底之前，大家做的 bet 还没有这么明朗，但我觉得未来仍然会出现新的 bets。
Anthropic 现在基本上什么都做，只要和 productivity 相关的都会做。OpenAI 也在往这边收束。
Google 有点看不清楚。一方面，它的模型能力很强，也拥有最好的既有 ecosystem；另一方面，它的 adoption，至少从声势上看，总觉得缺了一些东西，可能是应用不足，也可能有更深层次的问题我还没有看清楚。
还有一些有意思的 bet。比如 xAI，马斯克之前一直对 computer-use agent 很有热情。当然现在 computer-use agent 的范畴已经变了，远远不只是 GUI，CLI、tool use 也都可以被归到 computer use 范畴。
Computer-use agent 正在慢慢变成 general digital agent。马斯克之前针对 GUI Agent 这件事非常有兴趣，这可能是他的 biggest bets 之一。他专门成立了一个组织叫 Macrohard，是 Microsoft 的反义词，想做 computer-use agent，取代软件，完成所有 knowledge work。
他应该投入了很多资源。最近因为 xAI 内部的动荡，可能也会受到影响。但从技术路线来说，我觉得它可能倾向于采用类似 Tesla 的路线。
Tesla FSD 有一条 proven path：使用比较小的模型，以视觉和视频为主，直接做 end-to-end modeling。这至少是一个 different bet，能不能成功还不知道，但确实很有意思。
还有其他 bet。比如 Jeff Bezos 最近成立了一家公司，并重新回到 operator 的位置，担任 co-CEO，叫 Project Prometheus，也就是普罗米修斯。
他们比较低调，但可能融了 60 亿到 70 亿美元。他们可能会做很大一部分 computer-use agent，最终希望做的是偏 manufacturing 的事情，比如物流、基础设施和工厂，因为那是 Bezos 更擅长的领域。
国内也有很多很好的工作。比如字节跳动的 UI-TARS 系列，后来还有豆包手机。秦雨佳团队做了很多事情。
智谱做 Agent 也很早，尤其是 computer-use agent，AutoGLM 系列就开始得很早。我们之间可能还有一些渊源，因为我和唐杰老师认识很多年，之前也经常去清华做报告。
2023 年夏天左右，我们刚做完 Mind2Web，去清华讲了一下，大家很感兴趣，后来就开始了 Agent 方面的合作。当时我们还一起做了一个工作，叫 AgentBench，也是最早的 Agent benchmark 之一。
后来他们在 Agent 方向做得越来越多。现在 OpenClaw 出来之后，我觉得大家应该都有自己的 Claude strategy 了。
张小珺
现在 Agent 做任务时可靠性仍然不稳定，尤其是长程任务。怎么提高它的稳定性、可靠性，甚至安全性？
苏煜
我觉得这些归根结底都是 world modeling，或者说能力问题。
因为 Agent 对这些事情不熟，它没有学过。即使做过，也没有有效方式像人一样把它学会，成为 part of my expertise，所以才会不稳定，甚至出现安全问题。
对人来说，实习生更容易犯安全方面的错误，但老师傅不会，因为他已经学会了，知道哪些事情有安全风险，哪些事情是安全的。
Security 确实稍微不一样，它更像 worst-case scenario，需要更专门的方法。但很多 safety 问题，对 Agent 来说实际上归根结底是能力问题。
张小珺
为什么现在越来越多研究者选择创业，继续做自己的研究，而不是留在学校，也不是加入 OpenAI 这样的组织？
苏煜
当然这是我个人的观点，不代表其他老师。
我过去非常喜欢学校。之前我在微软有一份全职工作，收入可能是学校工资的三四倍，更不用说现在的差距。但我还是很果断地去了学校，因为对我来说没有什么需要犹豫的。
我是一个兴趣很多的人，可能同时有十个想做的事情。在微软、OpenAI 或其他地方，也许能做，但可能只能做一个或两个。如果我想同时做十件事，学校是最好的地方。
相比收入，我觉得同时做很多 weird ideas 更重要，所以当时没有犹豫。
从学校转向创业，本质上也是相同原因。我们这一代可能算是最早做 Agent 的一批人，经历了完整周期。
早期更像 proof of concept 阶段。很多时候，你有一个 idea，通过精巧、低成本的方式证明出来，展示给大家，就能对领域发展产生不错的作用。
但从 2025 年开始，我觉得我们已经度过了那个阶段。很多真正有意思的 Agent idea，需要更多资源，包括资金资源、GPU 资源、大量 API 资源，以及人的资源。
你需要有足够强的团队，快速试错和执行。这和学校的基因不太匹配，是很多老师在这个时间点创业的重要原因。
张小珺
你创业半年，自己感觉怎么样？
苏煜
感觉还不错。和学校的节奏、做事情的内容和方式相比，确实是根本不同。
但我比较喜欢学习新东西。刚才我们聊过 world model 或 conceptual framework，我最喜欢做的事情，就是不断 build out my conceptual framework。
我不是那种思考特别快、记忆特别好的人，但我能学习很多东西，把它们串起来，看到它们之间的联系。
创业公司给了我一个充满新 stimuli 的环境，让我可以不断扩充自己的 conceptual framework，所以我觉得还挺好。
张小珺
为什么你说学术界和创业有根本性不同？
苏煜
Neo Cognition 是 research lab 性质，所以相对来说还好。但如果是正常 startup，整个 incentive structure 会完全不一样。
你要快速做市场验证，去 please customers、please investors，找到 product-market fit，并快速 scale。它本质上是一个做深、做尖、产生 wedge 的过程。
你需要 deal with 的 population 和 persona 也完全不同。
在学术界，这些 constraints 少很多，尤其是没有太大 funding 压力、拥有足够资金做自己想做的研究时，day to day 会非常不一样。
当然，学术和创业之间有很多互通之处。教授出来做 startup，仍然可以迁移很多技能。我们经常开玩笑说，assistant professor 从第一天开始就是 manager，要管理整个 lab 的融资、招人、人员成长和工作产出。
这些事情在某种程度上，确实和管理一家 startup 类似。
张小珺
你刚才说自己是一个关联性比较强的人。这和你的成长环境、成长经历有关吗？
苏煜
我觉得有关系。
我从小不是典型的学习好孩子，甚至相当非典型。我是那种凌晨 3 点从家里偷偷溜出来去网吧玩游戏的人。那时候网吧一般还没开门，我会去敲网吧后门，也就是老板睡觉的地方，他给我开门，然后让我进去玩，玩到 7 点再去上学。
这些方面可能都没有耽误。但有一件事我一直坚持得很好，就是读书。
从小我就非常喜欢读书。家里只要有纸质的东西，我都会拿起来读。不管是历史、政治、故事会，还是言情小说，我都喜欢读。
读书本身就是一个构造世界的过程。通过文字，在脑海里构造出一个个世界，并构造出各个世界之间的联系。这件事对我影响很大。
为什么喜欢读书，我已经想不起来了，但读书对我的学习和人格养成非常重要。
可能正是因为这种比较奇特的成长经历，玩没有耽误，学习也没有耽误。从小学到高考、大学，成绩都还不错。
我高考时属于平时不一定一门心思扑在学习上，但到了需要的时候就会全力以赴。一旦知道有明确的考验，就会在我认为需要的时间点开始准备。
不管是中考，还是湖南省自主招生，当时清华自主招生应该是第一届或第二届，我的表现都还不错。
我来自一个很小的县城，教育资源算不上特别好。全校最后可能只有两个自主招生名额，和长沙那些名校差得很远。但我准备得比较充分，最后可能是全省前几名，清华给了自主招生降 30 分录取的最高档。
最后其实没有用上，但它在高考时给了我很大的心理作用，好像有一个 backstop，心态会比较好。
高考时我大概是湖南省前十，去了清华，也拿到了奖学金。这个对我很重要，因为我们家庭条件并不算特别好，奖学金提供了很大帮助。
这个过程可能养成了我的性格：一方面，有事情时可以拼；另一方面，从人性的底色来说，我可能是一个“混不吝”的人。
我不觉得很多事情有那么大的所谓，不会为了某件事吃不好、睡不好，觉得一定要得到。很多事情没有那么重要。
但另一方面，如果我真的想要一件事，I put my mind to it, I put my effort to it，大概率能够做到。
大概就是这样一种奇妙的结合。这种性格对我的研究、PhD、做老师，以及现在创业的过程，都有很深影响。
张小珺
如果创业失败了，你会做什么？
苏煜
如果创业失败了，就再去换个地方做 research。
张小珺
我听一些做 new lab 的人说，在美国创业的安全垫还挺高，退出方式也比较多，对吗？
苏煜
美国确实退出方式比较多，VC 和大厂之间也有很多关系。VC 投资你之后，可能也会想办法帮你找后路。
但这件事我不确定。做创业其实没太想后路不后路，可能也和我“混不吝”的性格有关。
我觉得这是在这个时间点应该做、也是正确的事情，那就做，不需要想太多后路。
张小珺
你纠结了多久？
苏煜
可以说从来没有纠结。我一直很清楚，自己会做 startup。
Agent 真正做到一定程度后，research 和 production 是分不开的。比如我们刚刚提到的 continual learning 和 specialization，背后的逻辑是，我相信接下来最大的 learning signal 来自 continue learning from deployment。
你需要在真实环境里持续学习。但前提是要有 deployment，才有 learning。而在学校很难做这样的 deployment。
所以我一直知道，开始做 Agent research 之后，早晚会创业。这只是时间点和技术方向的选择。
我们做 Agent 比较早，几年前就可以出来做 startup，可能会成为最早的 Agent startup 之一。但我没有选择那个时间点。
这不是纠结，而是一直在思考：什么时候做，到底做什么。
我之前一直觉得还没有 ready，整个大环境和技术基础没有 ready，我自己对 Agent 的理解也没有 ready。
直到 2025 年年初或年中，我终于看到底层技术开始 ready，包括 LLM、tool use、coding 能力的提升、多模态能力等。我对 Agent 的现状、瓶颈，也有了更深刻的认知，所以就出来做了这件事。
张小珺
基于你这么长时间的 Agent 研究历史，你能不能对 Agent 未来的发展提出几个预测？
苏煜
你问的是技术预测，还是对社会影响的预测？
张小珺
都可以。先说技术上的。
苏煜
技术上，我相信 continual learning 会在未来几年被解决。这会导致 Agent 非常广泛地应用，渗透到社会各个角落，根本性地改变很多行业的生产关系。
这种改变最终是可控还是不可控，实际上是我们每个人，尤其是 AI researcher 的责任。
现在很多人担心 existential risk，也就是 AI 会不会达到 singularity，快速自我迭代，远超人类智能，然后消灭或取代人类。
在可预见的未来，我看不到这种可能性。因为这很大程度上不只是 intelligence 问题，而是更高层面的能力缺失，尤其是 innate goals、intention，以及生存压力的缺失。
至少现在，我没有看到把这些原生目标、原生意图注入 AI 的可行方式。它们现在所有目的都是人类赋予的。
但 AI 确实会带来很大的现实社会影响，其中最大的问题之一可能就是 job displacement，也就是生产力结构变化。
如果 AI Agent 大规模取代人类，尤其是 knowledge worker 的工作，而社会一方面不能产生足够多的新岗位承载 displaced workforce，另一方面又没有好的收益分配和再分配机制，无法给社会兜底，而大部分收益都被少数头部公司或资本获得，就会产生极大影响。
这是我认为真正的 concern。
对 AI researcher 来说，每个人都有责任思考如何尽到自己的力量，防止这件事发生，或者减少它的影响。
至少从我的角度来说，一件很重要的事情，是 democratize access to frontier agent capabilities。
也就是让 Agent，尤其是 powerful 的 expert-level Agent，不再是只有头部公司的资本和资源才能做的事情，而是每个人只要有好的想法、独特的洞察，就可以通过 accessible 的技术手段，把它迅速转化成对应的 Agent，并且 make money out of it。
推动这样的技术民主化，是我们需要努力的方向。
张小珺
最后还有几个快问快答。一个全球范围内你喜欢的食物。
苏煜
火锅。
张小珺
基于你读过的所有书，推荐两本必读书。
苏煜
一本很明确，是《A Brief History of Intelligence》。现在它可能已经变成大家经常提到的书了。
这本书刚出版时，大概 2023 年，我马上买来读完，然后推荐给实验室所有学生，说大家都应该读。这是把 AI、evolution 和 neuroscience 结合得最好、同时又最通俗易懂的书之一。
我自己的一些研究也直接受到了它的影响。比如书里有一章叫 “Mice in the Imaginarium”，还有一章讲 “Learning by Trial and Error”。
“Mice in the Imaginarium” 讨论老鼠如何用想象力对世界建模，并指导自己的决策。后来我们写过一篇论文，叫 “LLMs in the Imaginarium”，副标题是 “Tool Learning through Simulated Trial and Error”，就是直接受到其中一些观点的影响。
第二本是《A Thousand Brains》。我最近很喜欢这本书，因为它提出了一个关于人脑如何工作的非常大胆的理论。
虽然其中的证据还比较早期、粗浅，但我很喜欢生物，也很喜欢读相关内容。基于我现在的阅读，我觉得这本书的 theory 非常 make sense。
张小珺
你心目中影响 AI 进程的论文有哪些？是主要说最近十年的，还是整个历史？
苏煜
如果说整个历史，第一篇是 1940 年代关于 neuron 的论文。当时神经科学已经开始理解单个 neuron 的工作机制，研究者尝试用 computational model 捕捉这个过程。
它直接导致了之后 neural network，以及整个 biologically inspired AI 的发展，所以非常根本。
当然，图灵的工作也不用多说。Backpropagation 方面，Hinton 等人的工作虽然不一定是最早的 formulation，但毫无疑问是把它 popularized 的工作，影响非常深。
然后是 AlexNet。2012 年的 AlexNet 标志着整个 neural network 的文艺复兴。
2013 年的 Word2Vec，重新把 neural network 引入 language processing。在此之前，整个 NLP 领域对 neural network 可以说是嗤之以鼻。2013 年也是我读 PhD、开始做 AI 相关工作的时候，所以对我个人影响很深。
2018 年的 BERT 也有深远影响。现在因为 GPT 的发展，很多年轻人可能不知道 BERT，但它是真正第一个大规模 work 的 language foundation model，引领了整个 language processing 工作范式的变化。
2017 年的 Transformer 当然所有人都知道。但 Transformer 不是凭空出现的，里面的主要机制都来自之前的论文。
比如 2014 年的 attention，也就是 selective attention，有两篇相关论文：一篇是 sequence-to-sequence modeling，另一篇是纽约大学团队关于 machine translation 的工作。后来 Transformer 把它发展成 full self-attention。
Transformer 里的 shortcut connection、residual connection，则来自 ResNet，ResNet 又和更早的 highway network 等工作有关。所有这些工作都是相互连接的。
然后是 GPT 系列，以及 ChatGPT。它们对整个领域、甚至 AI 之外的世界都产生了深远影响，也导致了产业格局的变化。
当然，还有 Chain of Thought、Toolformer 等工作，各自也有重要影响。这些是我现在一下子想到的。
张小珺
基于你当下的认知，一个关键的重要 bet 是什么？
苏煜
All the way continual learning, all the way world modeling.
张小珺
你听过我的播客没有？你听过哪些？
苏煜
听过挺多的。以前时间更多一点的时候，经常听；最近时间更少一点了。创业之前，最近谢赛宁的也听过一部分。对，7个小时确实有点长，听了两次，还是没有听完。之前记得有杨植麟的，对吧？然后有姚顺雨的。
张小珺
然后还有一些更偏创业相关的。我们的工作室叫做“语言及世界工作室”。当你第一次听到这个名字的时候，你会想些什么呀？
苏煜
我想，这就是“that's the truth”。你能看出来，我对于语言、对于世界，这就是我的信念。对，that's my belief。所以，你这个名字起得非常好。
不知道这一段你要不要录进去？就是我个人的经历，完全没有对大家，尤其对小朋友有不良引导的意思。这种玩游戏、翘课什么的，或者这种高强度地玩游戏，并不是一件值得提倡的事情。好了，今天的节目就是这样。这里是商业访谈录，是一档由语言及世界工作室出品的深度访谈节目。你可以到公众号关注我们的工作室，获取更多的信息。我们的公众号是语言及世界 language is world。我们希望和你一起从这里探索新的世界。