欢迎收听十字路口,我们关注新一代AI技术浪潮带来的行业新变化和创业新机会。十字路口是乔布斯对苹果公司的一个比喻,形容它站在科技与人文的十字路口,伟大的产品往往诞生在这里。AI正在给各行各业带来改变,我们寻找、访谈和凝聚新一代AI创业者和AI时代的积极行动者,和他们一起探索、拥抱新变化,新的可能性。
Koji
我是十字路口的 Koji,科技联合创办了街旁、新世相和糖岛,发起了 AI Hacker House 这个新一代 AI 创业者的社群空间。我相信科技,尤其是 AI,是我们这一代人最大的价值创造机遇。欢迎大家找我聊天,碰撞想法,链接下一个可能性。
Ronghui
我在美元 VC 工作过,也做过五年的硅谷驻站记者,关注科技发展和商业故事,也欢迎大家找我聊天和我交流。
2025年是 Agent 的元年。我们最近聊到的 10 个创业者里,感觉有 8 个在做各种各样的 Agent。
过去几个月,十字路口也做了大量相关访谈与评测。我们发现,决定 Agent 能力上限的,除了模型本身、工程和用户体验上的打磨之外,还有非常重要的基础设施,也就是 Agent infra。
从记忆、工具使用、任务规划,到 runtime 或沙箱,再进一步到多 Agent 协作,甚至安全和隐私机制,这些环节缺一不可。就像一个新员工入职之后,我们要给他配电脑、配网线,给他装飞书、装钉钉,他才能开始工作。如果基础设施搭不好,一个 Agent 和一个新员工都没有办法真正投入工作。
但有挑战的地方往往也意味着机会。因此,不论是创业公司还是大厂,最近都在纷纷加码 Agent infra。今天我们非常开心邀请到阿里云无影事业部总裁旭卿,以及 AgentBay 产品负责人安陈,来十字路口和我们一起聊一聊 Agent infra 的过去、现在和未来。
阿里云无影团队推出的 AgentBay,是一个非常新的尝试,会为 Agent 提供从云端沙箱、算力到工具链等一系列完整的运行环境。我们今天准备了 20 个问题,会从技术原理到行业格局,从创业机会到职业建议,帮助大家在信息过载的时代建立起一套清晰的 Agent infra 思维框架。
我们觉得,Agent infra 不只是旭卿或者安陈这样的技术大佬的事情。我也相信,它会像云计算一样影响到我们每个人的工作和生活,也会成为每一个人的创业机会所在。
我们还是先从一个轻松的问题开始。想请问二位,你们日常用得最多的 Agent 产品是什么?用它来做什么?
安陈
1. Agents People Actually Use
我用得最多的那个叫 Onlook,它是一个帮助设计师快速设计前端应用的 Agent 工具。本质上,我用 Onlook 可以通过自然语言一键生成一个前端交互设计。
另外一个可能是我们集团内部自研的 Agent,是淘宝团队做的,叫星流。这个 Agent 核心帮我处理的能力,是快速阅读一些外文论文。
那旭卿呢?
旭卿
我用得比较多的也是我们集团内部的 One Day。One Day 是面向阿里内部所有员工开放的 Agent 平台。外部的话,比如 Cursor 也非常好用。
旭卿,你是学计算机的,对不对?
旭卿
是。
所以你刚入职场的时候,还是会自己写代码的?
旭卿
我在阿里还写了好几年代码。
你最后一次写代码是哪一年?
旭卿
大概是 2017 年、2018 年。
因为有很多技术管理者,包括我们聊到的 CTO 或者技术一号位,大家做管理之后,可能就开始思考战略或者架构,不会再有那么多一线的代码工作。但是 Cursor 出现之后,很多人感觉又重新找回了那种写代码的快乐。
旭卿
是的。前两天我也去拜访了达摩院院长张建锋,他也在用 Cursor 写很多代码。
我也很好奇,达摩院院长在用 Cursor 写什么。
旭卿
那天他给我演示了一个游戏。Windows 里面不是有一个扫雷程序吗?
哦,扫雷。
好,我们接下来开始聊 Agent infra。第一个问题,想请二位给大家科普一下什么是 Agent infra,尤其是它和传统 AI infra 有什么关系,差异点又在哪里?
旭卿
2. From Model Service To Agent Infra
我先回答后半部分。AI infra 可能大家更耳熟能详一点。
过去几年,大家都在卷大模型的时候,会关注什么?会关注 token 的吞吐、首 token 延时,以及大规模分布式训练和推理的效率,还有成本。这些问题的背后,本质上是 AI infra:怎样通过一个足够好的计算集群去实现训练、推理,甚至实现模型的部署,或者发布训练和推理任务的平台。
我们怎样把 GPU 的效率榨干、提升起来?那个时候我们会更关注这部分 infra。它不完全是 IaaS,可能会包含 PaaS。因为模型还会被很多企业拿去做 fine-tune,比如现在的很多开源模型。我们应该统称为 AI infra。
那个时候,它最后聚焦到的是实现一个 model service。到了今年,大家开始关注上层应用的搭建。在 Agent infra 时代,过去的 model service 都变成 Agent infra 的一部分。为了把一个 Agent 应用搭建起来,除了 Agent infra,还有很多其他组件,比如刚才提到的 tool use、memory 等等,它们都是 Agent infra 的重要组成部分。
安陈
我觉得 Agent infra 这个词能够被整个业界共识,也是因为它和我们传统意义上的 infra 有一定相通的理念。
比如在算力层面,Agent 要做一些执行性的动作,比如执行代码,或者浏览网页,这些都需要算力,算力的提供非常关键。
还有存储。存储类似于我们在 AI 领域经常提到的上下文长期记忆,这些能力也都需要提供。
网络在 Agent infra 里面,我认为它连接了更多各种各样的能力。比如我们经常提到的 MCP,通过 MCP 可以连接更多工具,让 Agent 能够通过这些工具去做以前做不了的工作。以前大模型可能只聚焦于思考,现在通过这些工具,它可以真正付诸行动,完成具体工作。
3. Why Agent Infra Took Off
Agent infra 为什么在今年、在这个时间点成为了大家的共识?去年的世界人工智能大会上,大家讨论得更多的还是大模型,或者模型的聊天能力。春节之后,Manus 爆火,整个业界开始讨论通用 Agent 应该怎么构建。
安陈
在这个时间点,我和另外一个同事受邀参加了美国英伟达的 GTC 大会,也看到美国那边做 Agent 的公司越来越多,甚至英伟达投资的公司几乎都在讲自己的 Agent。
但我们觉得,我们应该去赋能像 Manus 这样的公司。我们应该做一层 Agent infra,让这些公司在构建自己的 Agent 时更加高效。
所以我们基本上连夜开了一个会,调整了产品方向。结合阿里云在计算、存储、网络基础设施方面的能力,我们确定了 AgentBay 这样的研发方向。
经过过去四五个月团队的共同努力,我们上周也在世界人工智能大会期间发布了这个产品,内外部反响都非常好。
我们待会儿会展开聊无影。因为无影是一个非常成熟的事业部,有一个增长很好、收入和利润都很好的主要业务。在这样的情况下,还能够一夜之间开会、连夜转型,做一个很大的转弯,所以我们待会儿想展开聊一聊其中管理上的决策和战略上的思考。
但我们还是先回到 Agent infra。能不能请二位再给大家科普一下,当我们聊 Agent infra 的时候,里面一般有哪些主要组成部分?它们对于一个 Agent 来说,分别意味着什么样的价值?
旭卿
4. The Six Layers Of Agent Infra
当我们讨论一个 Agent 的设计或者部署时,有一些名词听起来会有似曾相识的感觉。大模型很像以前的 CPU,长期记忆和短期记忆,是不是比较像以前的内存和存储?一个是临时缓存,一个是长期存储。
7 月份很火的一个概念叫 context engineering。记忆管理、任务编排,包括沙箱、多 Agent 架构、工具使用和协议等等,这些东西以前并没有一个人站出来说它就是这样,但大家默默地、不约而同地走向了这些方向。这些赛道上也逐渐出现了一些玩家,逐渐成为行业标准和范式。
我们刚才提到的赛道,来盘点一下。第一是记忆,第二是工具使用,第三是任务规划,第四是沙箱,第五是多 Agent 之间的协作,第六是安全和隐私。我们逐个展开一下。
先说记忆。在记忆这个 Agent infra 赛道,二位关注比较多的公司和产品,可以分享一下吗?
安陈
基于这个领域,像 Mem0 这家公司,以及 MemGPT,我觉得做得比较有特色,也是这个领域里相对做得比较深的。
Tool use 方面,算力部分我们看到的有 E2B,还有 Browserbase 这些公司。类似 Computer Use 和 Browser Use 这样的领域,我觉得它们做得比较好。
任务规划更多还是取决于模型在这个领域的自动化程度,也结合提示词工程等方面的能力。这个领域其实各家都在做,很难说哪一家做得特别好、特别深入。
多 Agent 协作,我理解更多是编排和协议。现在大家看到的 Agent 基本都是 Multi-Agent 架构,那么怎么定义 Multi-Agent 之间协作的工作流?业界有一些比较常用的框架,比如 LangGraph,也可以使用 OpenAI Agents SDK。我们自己其实也有,只是还没有放出来,是纯自研的一套 Agent 协作框架。
另外,Google 的 A2A,本质上也是想定义一种 Agent 协作范式,不过它在实现上会更激进一些。
安全领域,我觉得某种意义上,我们现在做的产品也算是一个安全相关的产品。因为代码执行需要一个云端隔离环境,还涉及多租户之间的安全隔离,以及对本地的零侵入。
业界也有一些公司在做代码安全围栏,包括国内一些针对敏感信息的保护方案。
这个领域还有一点比较值得关注,就是身份管理。比如在 Computer Use 阶段,当 Agent 操作电脑、访问不同网站时,这些网站怎样通过身份管理做到自动认证?这些领域非常值得研究,我们也在布局。
前面提到的这么多 Agent infra 细分赛道,你们认为其中哪一环最重要?
安陈
5. Why Developers Buy Infrastructure
其实都很重要。对于 Agent 开发者来说,你会发现每个组件都是刚需。
比如沙箱对于用户来说,尤其是 coding 沙箱,很多用户可能感知不到。Memory 则是所有 Agent 工作都会遇到的挑战,因为上下文窗口有限,用户又会对效果和 Agent 任务成功率提出要求,所以大家都会不约而同地寻找 memory 组件。
我理解这里面可能没有优先级的先后,但是大家在感知和实现上,确实会有一个先后的次序。
你们观察到,今天的 Agent 开发者在使用这些 Agent infra 组件时,绝大多数会选择自研,还是几乎都会考虑使用第三方服务?
安陈
在 Agent infra 这个概念形成之前,各家做 Agent 时,可能都想把所有事情垂直地做完。但你会发现这其实很难。
就像刚才开头讲的,如果一个员工进入一家公司后,从桌椅板凳、网线到电脑都要自己操持,效率其实很低。这也是制约 Agent 快速爆发的一个问题。
所以,如果我们能够提供一个非常好用的 Agent infra,把里面各个组件的能力系统化、高效地提供给 Agent 厂商,那么他们在开发 Agent 时就会容易很多。
明白,就是又要跑步又要修路,是很难的。
你们接触的这些 Agent 客户,在选择 Agent infra 服务时,最看重的是什么?
安陈
既然每个环节都重要,每家公司的关注点确实不太一样。
国内某大模型厂商也在打造自己的 Agent。最早他们自己构建虚拟代码执行环境,或者做 Browser Use、Mobile Use。但做到一半之后,当他们发现比如我们有 engine 的 base,或者说有这样一个好用的 engine 的 infer 时,就会马上切过来。
因为他们需要的是怎样提供 20 万级甚至 40 万级别的虚拟机并发。对于一家模型公司来说,它的核心能力并不在这里。
我们也看到,有些汽车公司在打造智能体时,需要记住司机以前询问过的各种问题,所以在长期记忆方面有很强的诉求。我们也可以基于向量数据库,帮他们搭建长期记忆系统,让用户在使用智能体时具备长期记忆能力。
所以你们定制化的能力很强。
安陈
其实我们提供的是通用能力,但是每家公司在做自己的 Agent 时,最关注的点可能不太一样。
刚才提到的这些模块里,有没有哪个模块长期非常重要,但是今天很容易被 Agent 开发者忽视?
旭卿
刚才提到的两点,一个是身份管理,另一个是安全。
早期做任何事情时,有很多公司在搭建系统,可能不会把安全和身份管理当成最重要的事情,大家更聚焦于效率是不是最高。
但是云厂商是被训练出来的。在数据隐私保护方面,这对我们来说是天然的,是我们的基因。做任何一个服务,都需要重点考虑这些问题。
这某种程度上是做云服务的肌肉记忆。
旭卿
是的。如果一旦出问题,带来的后果可能是灾难性的。
好,我们再来聊阿里云做 AgentBay 这件事。我们知道,Agent 元年带来了一系列和 Agent infra 相关的创业机会。你们是怎么想到要做 AgentBay 的?
旭卿
6. AgentBay Bets On Platforms
随着大模型和 Agent 的发展,我们也看到,Agent 需要一些趁手的工具。就像人使用电脑和浏览器可以获得更多信息、提升效率一样,当给大模型或者智能体配上电脑、浏览器这些能力时,它能够获得的能力会更强。
最早我们打造了 Computer Use、Mobile Use 和 Browser Use 这些比较基础的能力。但随着做得深入,我们发现客户对于这些基础能力有需求,却远远不够。
客户对长期记忆、身份管理和安全的需求都存在。所以把这些能力规划出来、做出来,成为我们第二阶段更加聚焦的事情。
我们知道 E2B、Browserbase、LangGraph,基本上都是各自做一个垂直领域。好像只有 AWS 的 AgentCore 和咱们的 AgentBay,会比较系统化地规划这件事。
这有点像十项全能,每个都要做。你们有没有感觉到注意力被稀释,可能没有办法在某些垂直领域和专门的创业公司竞争?你们怎么看这个问题?
旭卿
我们一直觉得,To B 业务是一个长期赛道。所谓长期赛道,就是在各个领域都需要相对长期的投入,很难在很短时间内把每个领域都做得非常好。
但是我们要做的是能力相对均衡,每一个领域可能都处于中等偏上,加到一起,整体能力会非常强。而且这些组件之间,我们希望它是一个系统化的东西,而不是完全割裂的。
如果拿我们做的沙箱和 E2B 比较,我们的沙箱有哪些差异或者优势?
旭卿
如果要回答这个问题,我先回答您上一个问题。现在业界在垂直领域做得比较好的创业公司,更多面向的是头部开发者。
相当于那些很厉害的 AI 公司或者 Agent 公司,有能力自己拼凑不同积木,搭成复杂的应用系统。但是云计算厂商本身想做的是普惠的生意,希望把这些复杂组件最后变成低代码平台,让中小型创业公司也能够很容易地搭建起来。
这就是我们和它们定位上的差距。
回到您刚才的问题,第一,我觉得易用性会更好一些,因为我们面向很多中小开发者。所以你会看到,我们的产品一上来先支持了 MCP。
第二,我们产品的完整性会更强。我们的沙箱除了纯代码环境,还有 Mobile 环境和 Browser 环境,上层有 Agent Service,底下有统一的持久化系统,未来可能还会有 memory、context 等能力。
它相对来说是完整的。对于客户来说,它本质上可能就不是一个垂直产品,而是一个平台,或者说 Agent 运行平台。
第三,我们可能会更关注 Agent 长远发展方向上的组件。
当前一些头部开发者希望你给他一个原子化沙箱,至于怎么感知和控制这个沙箱,交给他自己来做。比如我是 Manus,你给我一个云上的环境就好了。
但是未来大家会发现,随着接触的 SMB 开发者越来越多,他们会希望,虽然我是一个 Multi-Agent 架构,但我不想管理你沙箱里的 Agent 层。这就要求你把 Agent 层再往上抽象一层,由 Service Provider 自己提供环境的感知和控制能力,所以我们还需要再往应用层走一走。
举个例子,我现在给您一个 Browser 容器,您自己来调度。最简单的方式,是安装一个开源的 provider,通过 DOM tree 等方式进行可视化操控。
但是在浏览器环境里,不是通过 DOM tree 就能拿到所有内容。比如现在嵌入的是一个 iframe 或者视频,对于模型来说,如果只有文本输入,它就抓瞎了,不知道当前画面发生了什么。
所以作为提供 Browser Use 的 Service Provider,我们必须结合多模态模型,才能把 Agent Service 提供给你。我们要自己研发、组装一个模型,感知当前浏览器画面正在发生什么;要有多模态输入,也要有多模态输出,才能帮助客户把整个环境的驱动和感知完整地做出来。
所以从战略上来说,你们更强调普惠,更看重 SMB 客户。
旭卿
是的。所有能力我们都以 API 的形式对外开放,开发者通过简单的 API 调用,就可以获得相应的能力。
很符合阿里的风格,让天下没有难做的 Agent。
我们知道 AWS 也推出了 AgentCore。怎么看 AgentCore 和 AgentBay 的定位,以及一开始优先级的选择?可以给大家讲讲它们的相同和不同吗?
安陈
AWS 发布 AgentCore 之后,我们其实也做了一些分析。
我们大概在 4 月 7 日的峰会上发布了 AgentBay,但那个阶段更多还是概念性的内容,以及产品设计相关的东西,也只是做了一些基础能力给外部客户使用。
到世界人工智能大会期间,我们发布了商用版本,让中小型开发者可以通过官网使用正式产品。同期我们也看到 AWS 发布了 AgentCore。
分析之后我们发现,云服务厂商对于 Agent infrastructure 的看法还是比较一致的。从产品能力、对应接口的定义,到整个产品布局,几乎相似度都非常高。
你们有没有感觉到,AWS、火山引擎或者其他云服务厂商,谁在 Agent infra 上投入的力量最大?比如资金、团队规模,或者一号位的决心,有没有这样的感知?
旭卿
Agent 对业界来说是 AI 的一个重要应用方向,各家公司在这个领域都会非常重视。
在阿里云内部,吴泳铭其实非常关注 Agent 和 Agent infra。尤其在今年年初的全员启动会上,他重点提到了 Agent infra。
上周,在产品发布之前,我们也和吴泳铭进行了新一轮汇报。他对 AgentBay 当前的进展还是非常满意的。
这周我们也看到,在这个领域老板还是很舍得投入的,又给你们加人、加钱、加资源。
旭卿
我觉得在这个领域,阿里云内部从一号位到各个事业部,再到具体执行的同学,大家都非常看重,也认可这是一个正确的方向。
为什么这么看重?你们觉得这是一个防守策略,还是进攻策略?
旭卿
我相信从一号位的视角来看,这可能还不是把它看成一门生意,而更多是认为,今天 AI 在应用过程中遇到的这些问题,如果云服务厂商有资源、有资金、有人力,却不去构建这些能力,其实会影响 AI 的整个进程。
安陈
我补充一点。老板虽然给我们加了这么多人、这么多资源,但从来没有给我们提过“你们要营收多少”,而是问有多少客户在使用这件事情。
这很有意思。因为我们下一个问题正想问,又加钱、又加人、又加资源,那 OKR 有没有加?KPI 有没有加?
安陈
这个确实没有。老实讲,没有加。
因为在这个阶段,我们对于 AI 的判断还处于相对早期,还是需要更多像阿里云这样的公司一起参与,把整个生态能力构建起来。
所以你们现在主要看的数字或者指标,是不是有更多人在使用你们的服务?
安陈
是,而不是在这个时候为服务付了多少费用。
钱目前不是主要考虑因素?
安陈
钱目前肯定也不是主要考虑因素。
我想象一下,你们可能也不需要帮阿里云卖云服务,对吧?这也不是一个指标。
安陈
肯定没有,也没有这方面的指标。
那 AgentBay 在阿里云整个 AI 战略里面处于什么位置?
旭卿
过去两年,大家都在卷模型。但是 AI 怎样才能真正用好,Agent 是一个很重要的方向。
所以在整个 AI 大图里,我们是承上启下的。一方面,要通过 Agent infra 把模型能力对外开放;另一方面,上面可能还会构建 Agent 开发框架,让更多用户在开发 Agent 时变得更加简单。
上周我们参加了一个直播,周鸿祎在直播中发布了一个新产品,叫纳米 AI 智能体蜂群。里面提到,他们在做 Agent 时没有选择云端沙箱,而是选择本地。
他提到一个非常重要的点:云端沙箱不安全。用户如果把自己的密码、个人身份认证信息放到云端,可能会出大事,所以他们选择了本地。这听起来像一个做安全的老兵非常坚定的路线选择。
AgentBay 的沙箱是云端的。你们刚才也提到,无论阿里云还是你们过去的从业经历,都把安全放在最高优先级。这里能不能讲一讲,如何让开发者相信,AgentBay 的云端沙箱是非常安全的?
旭卿
7. Cloud Sandboxes Win On Safety
本质上就是云能不能提供一个更加安全的环境。
我大概从 2005 年开始做云计算相关技术研究,2014 年加入阿里云。最早我对云、对 cloud infra 的认知,也觉得把自己的数据放在自建数据中心里,可能会更安全。
加入阿里云之后,第二年我的认知就发生了一些改变。当时我遇到一些客户和问题:在自己的线下数据中心里,他们开发了一个新游戏,今天发布,可能竞争对手用当时的比特币,甚至不需要多少成本,买 5 G 流量就能把自建数据中心打垮。
但是在阿里云上,抗 DDoS 的能力非常强。在这种情况下,很多游戏厂商都把基础设施迁移到了云上。
公共云和线下自建基础设施最大的不同,就是它在不断迭代。只要是软件、系统,就可能存在漏洞,但云厂商有几千人的安全团队,实时守护这些数据的安全。
如果一家企业自建数据中心,你会发现它可能招不到这么优秀的安全工程师,成本也会极高。为了保护一个线下数据中心,需要投入巨大的资源。
所以,您刚刚提到的那个案例,我不是特别认同。真正做了十几年云计算之后,我深刻感受到,公共云能够提供比一家企业自身强得多的安全能力。
我理解,这里面的不同在于,云端沙箱和本地沙箱中的“本地”,并不是本地云,而是用户自己的电脑。
旭卿
我觉得首先要从能力上来看。前几天 Manus 创始人肖弘讲到,他们可以同时调度 100 个 Agent 做 wide research。这样的工作很难在本地电脑上完成,只有靠云。
从能力上来说,随着 Agent 技术发展,全部运行在本地其实不太现实。
另外,如果运行在云端,我们能提供哪些安全能力?从沙箱的整体设计,到 Agent infra 层面的安全架构,我们提供的是端到端的数据保护能力。
就像把钱放在自己家里,还是放在银行里,哪个更安全一样。对云厂商来说,数据安全就是生命线。云厂商都会投入大量人力和安全资源,确保数据不会泄露,不会被别人看到。
这也可以说是一种路线选择。有些人觉得放在本地还有一个好处,就是不用登录,不需要让用户提供新的用户名和密码,因为自己的浏览器里本来就存着 Cookie。
你们现在会怎么说服开发者?我相信在这件事上,开发者还是会有路线选择的。
旭卿
像您刚才提到的浏览器,里面可能保留了很多 Cookie、用户名和密码。其实在这种情况下,你选择相信的是操作系统厂商和浏览器厂商,因为操作系统厂商和浏览器厂商肯定可以拿到这些数据。
但是为什么我们可以相信微软或者谷歌不会动你的东西,不能选择相信一家云厂商呢?
你觉得数据存在本地更安全,但本地电脑上可能有木马、病毒,更容易造成泄露。今天把这些数据托管到第三方的安全保险库里,那个环境相对来说更加单一、纯粹。
还有一个说法是,用云端沙箱的话,不管在上面跑什么代码、跑崩了,都是云端的事儿,本地是安全的。
有一个段子说,模型在本地沙箱里主动删除了一个目录。我以前一直以为是段子,前几天才知道这是真的。模型完成任务时发了一条命令,把电脑上的一个目录真正删掉了。
旭卿
但这在沙箱里就没有问题。云端沙箱删掉之后,沙箱可以恢复,或者它本身就是虚拟的,不会伤害到你本地的个人文件和隐私信息。
刚才我们也说到了 Manus 上周发布的 Wide Research。现在有一个趋势:去年大家还觉得 token 消耗是不是快到头了,英伟达的卡要卖不动了,确实也看到价格在下降。
但今年 Agent 一出来,大家发现不是这样。能力变强之后,token 消耗是 10 倍、甚至 100 倍地增加。
你们看到客户对高并发能力的要求,现在最强的客户要求达到什么级别?
安陈
8. Agent Scale Changes The Math
像我刚才提到的国内一家 Agent 厂商,给我们的要求是,日常白天大概要做到 20 万并发,也就是 session 做到 20 万并发。
这个数字还是挺让人惊讶的。
安陈
我们仔细分析之后,觉得它其实非常合理。因为如果它是一个 App 或者应用程序,用户数量决定了并发上限。
这 20 万是 20 万个用户同时发出 Agent 任务,还是背后可能只有 1 万个 Agent 任务,但每个任务会再发出 20 个子任务?
安陈
是并发的子任务。
那确实会飞速增加。Manus 的 Wide Research 案例里,一个主任务会一下子开枝散叶,产生 100 个、200 个子任务。我们也相信,这是未来通用 AI Agent 发展的重要方向。
但这样感觉上也挺赚钱的。
安陈
确实如刚才所讲,我们还没有考虑赚钱。现在更重要的是怎样把产品功能做好,更好地满足 Manus 这类企业的需求。
所以现在还没有非常明确的收费模式?
安陈
我们也观察了这个领域。构建产品的当前阶段,还是先把产品能力做出来,满足 Agent 开发的需求。
长期来看,我相信它肯定还是一个商业行为。
未来这个领域可能会出现什么新的商业模式?以前的收费方式,和未来会有什么不同?
旭卿
我们做云计算公司,不能说是路径依赖,反正从计费设计上还是以算力为主的售卖模式。
说白了,就是你买我多少资源。比如你是 Manus,要给我开 100 个并发,我就收 100 个沙箱的钱。
但我理解,未来可能会走向应用层收费。举个例子,当需求过来时,我提供的不只是一个算力环境,还会配套其他模块,比如多模态模型推理的成本,或者这 100 个并发沙箱里状态一致性管理的成本。
这些东西加起来之后,算力可能只是一个很小的成本。这个时候,我们可能会采用服务化的收费模式。
你们现在感受到的客户需求,增长曲线大概是什么样子?
安陈
非常指数级。你可以看到它在不断倍增,每天都会有很多用户进来,并发数也会快速上升。
今天早上来之前我们还开了一个会,讨论怎样实现全球资源调度。
听十字路口播客的朋友,很多都是创业者或投资人。听到这里,大家可能都会想问:除了通用 Agent 之外,在垂直领域,不管 To B 还是 To C,有哪些增长非常快的 Agent?
对大家来说,这意味着投资机会或者创业机会。
安陈
卖水的公司肯定感受得非常明显。
旭卿
我们以前做云计算有一个说法:你可以非常清晰地看到整个业界各个行业的变化。
安陈
现在首当其冲的是通用 Agent 和 Coding Agent,大家作为消费者也能感受到。
Coding Agent 的商业化和商业模式相对成熟,适用范围也最广。通用 Agent 则是在 Manus 发布之后,所有厂商都在做改造的方向。这两个领域大家都能感受到。
其次,基于这些 Agent 通用框架,或者说整个 infra 逐渐成熟之后,我们能看到很多传统应用也在做 Agent 化改造。这些目前更多发生在企业内部,消费者可能感受不到。
比如一些电商企业,传统业务里有大量自动化工作,过去可能用 RPA。假设你是运营,要做多平台比价、产品上架、主图设计等等,很多以前重复性的工作流,现在都用 Agent 改造了。
我们现在接触的很多大客户,并不是把 Agent 集成进去,为外部提供服务,而是更多做内部 OA 自动化,或者重复性工作的自动化。
它可能体现在自动化运营、财务重复性工作,以及内部客服等方面。这是一个大企业内部潜移默化的提效过程,而不是面向客户的产品。
旭卿
面向客户的,大家可能能够接触到的,有一些 HR Agent,也就是人力资源相关的 Agent。
另外是金融领域,比如投资建议相关的 Agent,很多人在做。这个领域非常多人做,因为它离钱近,而且投资很容易形成闭环,数据也都是数字。
安陈
我自己前段时间也做了一个,帮你炒股、做投资的 Agent。
现在大家都知道消息面很重要,所以怎样广泛获取数据,再让 AI 帮你分析,很多人在做。大家也知道,量化是离钱最近的地方,所以投资建议相关的应用会非常多。
另外还有民生、医疗相关的应用。美国现在医疗科技指数发展得也很好,很大程度上就是因为大模型能够给这个领域创造更多价值。
我们播客之前聊过很多创业者,但很少有大厂高管来上节目。所以我自己也有很多关于在大厂做业务、做管理的问题,希望今天可以请教一下旭卿。
我知道无影事业部是做云电脑的,而且之前和二位交流时,我们也了解到,无影增长非常快,盈利也不错。在这样的情况下,要做转型,我理解是需要决心的,也有很大的机会成本。
因为新的转型方向可能需要很长时间、很多耕耘,才能慢慢看到回报,不会像原来的业务那样,再做一做或者再做一轮全球化,很快就能看到增长数字。到年底汇报时,原来的业务可能更容易出业绩。
所以想请问,你们是怎么做出这样一个重大决定的?
旭卿
9. The Ten Year Platform Bet
我对 To B 业务的看法是,任何 To B 业务相对来说都是长期的。它不像卖手机,设计得好、受到用户欢迎,马上就可以卖爆。
To B 业务永远是长周期投入,见效相对比较慢。我记得很清楚,2016 年春节之前,马老师到阿里云给我们讲过一件事:在阿里做任何一个 To B 业务,投资周期都是 10 年。
比如淘宝,2003 年、2004 年开始做,到 2014 年上市。当时他也举了支付宝的例子,支付宝可能从 2006 年开始做,到 2016 年才相对成熟。当然,阿里云是 2009 年开始做的,当时的预测可能到 2019 年才会做得比较好。
这件事说明,阿里在 To B 业务上的投资,10 年之内基本不会要求你一定做到什么程度,或者一定赚多少钱,而是看你怎样在这个赛道里深耕,做出价值,尤其是长期价值。
所以我做任何事情,基本上也都是以 10 年为单位。
去年吴泳铭来了之后,把无影升级成了一级事业部。我们把无影和大模型视为阿里云、云智能集团最重要的两个战略性产品。
那你今年把去年认为非常重要的云电脑赛道做了调整?
旭卿
这可能是大家对这件事的一些误解。整个无影这几年的增长速度还是非常高的,我们也保持着三位数的高速增长。
从业务层面来看,我们一直在往前增长。这也是为什么去年我们把它作为终端云计算里最重要的战略性产品来推进。
在这个过程中,大模型、AI 和智能体也在发展。我们就在思考,无影怎样和 Agent、AI 更好地融合,为无影长期发展提供更大的能量。
我们希望让云电脑在大模型时代,为 AI、Agent 和大模型提供一个非常好用的电脑、手机,或者代码执行环境。
我们是在这样的思考下开始布局这个方向的。真正下定决心,还是在 GTC 之后。
想清楚之后,你可以把 AgentBay 和无影理解为兄弟关系,或者说 AgentBay 是无影产品能力、技术能力上的扩展。
说起来简单,但真正做这件事时,首先要有资源、有人,要把更多人力投入进来。
旭卿
过去半年我其实蛮纠结的。一方面要保证无影这边的业务高速增长,另一方面又要保证在新赛道上不踏空,及时、高效地把这件事做起来。
这挺不容易的。
旭卿
确实挺不容易。内部协调时,你会发现有些同学非常想做 AI,会主动报名,说一定要加入;也有些同学觉得现在做得挺好,手上还有很重要的工作,你却要把他调过来。
这里面有很多权衡,也有很多沟通。
我理解这里面有一个很难的点:AgentBay 好像是一个未来非常光明的机会,会不会有些还在做无影的同事觉得失落,觉得自己没有被调到 AgentBay?
旭卿
这也是领导的艺术。我相信肯定会有,但总体上两边都是战略业务。
只不过 AgentBay 可能更长期一些,而无影今天已经落地,并且保持着非常好的增长势头。我相信做两边都还是很有成就感的。
老板,我来发表一个暴论。
老板可能觉得不太方便讲,我稍微激进一点。我觉得无影做云电脑这件事,一直以来也是比较超前的。过去我们的概念叫“端侧算力上云”,因为我们认为,个人用户对算力的要求一定是传统 PC 无法满足的。
过去无影服务了很多特定行业。比如这两年有很多个人设计师使用 Stable Diffusion、FLUX,还有一些做仿真的人,需要高弹性、高 GPU 资源的算力,就会跑到云上使用云电脑。当然还有一些对安全有要求的客户。
过去这些事情,普罗大众可能没有感知。但今年不一样了,电脑这个概念可能会被重构。今年是什么?是超级个体的一年,是个人云计算的一年。
个人对算力的要求,不是传统拿一台电脑就能完成的。比如我现在有一个任务要跑 100 个环境,本地完全满足不了。
所以在这个时代,云电脑会真正把端侧商业场景实现出来。未来我们认为,普罗大众都需要用到云电脑,这也是无影过去几年一直在做的事情。
同时,AgentBay 在服务 To B 客户时,其实也在服务云电脑。我们现在打造的是一台逻辑上的云电脑。
第一,它可以持久化,状态和数据都在上面。其次,它具有高并发、高弹性,在有大规模任务调度时,可以在云上镜像出 100 台,运行大规模并发任务。
第三,它可以随处漫游,是多端的。今天可以在手机上用,明天在平板上用,后天拿电脑来用。我们也有自研硬件。
最后,它可以通过自然语言驱动。这些都是很多传统电脑现在做不到的。
AgentBay 做的事情,本来就是让 AI 使用一台电脑。我们认为,未来电脑第一是基于云的,第二是高并发,最后是上到 80 岁老人、下到 7 岁小孩,都可以通过自然语言驱动一台电脑。
所以我们觉得,云电脑真正迎来了它的历史使命。传统业务的同学,现在依然有相当多在为这项业务的升级改造奋斗。
旭卿
本质上,它还是一台由 Agent 驱动的电脑。无论我们在睡觉,还是大家在聊天时,Agent 驱动的那台云电脑都可以帮你完成一些事情。
我们也提到过数字员工的概念。我们希望一个员工除了自己,还拥有一个数字分身。它可以在云上利用智能提升能力和云电脑能力,在你休息或者任何时间,并行帮你完成很多复杂任务。
前几天我们还提到一个概念,叫“硅碳共生”。更多是说,云上的数字人是硅基的,它和真实的人之间能够进行很多协调和互动。
我理解,二位从参加工作以来,应该经常参加各种展会和技术峰会。但听起来,这次 GTC 给你们带来了非常强烈的震撼,震撼到当天晚上就要连夜决定未来好几年的战略规划。
在之前的职业生涯中,有过类似的感受吗?
旭卿
2016 年、2017 年我去美国参加过一个展会,具体名字有点忘了。那一年容器在会上非常火,各家公司都在谈容器,也有很多容器相关的创业公司。
但容器真正运行在物理机或者虚拟机上时,性能都会受损。从文件系统层面看,它使用了 overlayfs,虽然很方便,但性能会下降。
网络也是一样,使用的是最原始的虚拟网络,用软件去做虚拟化。这些都会严重影响容器的大规模应用。
所以回来之后,我们布局了一个新产品,后来的神龙服务器。2017 年正式发布,后来整个业界都跟随我们的标准做 DPU、裸金属和虚拟化。
我们之前跟一个朋友说,旭卿要来上十字路口。朋友说,这是弹性计算的神级大佬。
当时我有另一个想法:神级大佬现在是不是要转型了?
最近我们刚发了一期节目,讨论 AI 时代的程序员站在十字路口。因为美国最近有一个数据,今年毕业的本科计算机专业学生失业率是 6.2%,艺术专业学生只有 3%。也就是说,今天学计算机的学生,失业率是艺术生的两倍。
所以当我看到弹性计算的神级大佬时,一方面非常开心能够迎来这样一位重量级嘉宾;另一方面也会想,今天不只是应届毕业生,很多人到了职场中间阶段,突然面对 AI 这么大的冲击,会不会心慌?
好不容易成为某个领域的神级大佬,突然又来了一场巨大的技术浪潮,可能改变一切。你有过这样的时刻吗?你是怎么理解和面对的?
旭卿
10. Building For The Next Wave
回顾我这十几年、二十年的职业生涯,我觉得自己是一个比较善于思考,或者说勤于思考的人。
在来阿里之前,我在英特尔工作了 9 年,3 年实习、6 年工作,从 2008 年到 2014 年。实习 3 年,我应该是英特尔为数不多的几个实习 3 年的学生。
当时全世界都在讨论云计算到底是什么,或者云计算应该往哪个方向发展。我很幸运地加入了英特尔的系统虚拟化团队,主要做开源技术,比如后来被用到云计算里的 Xen、KVM 等开源项目。
当时和我一起去的还有另外一个同学,他可能不是特别看好,认为这个东西使用人数太少了。
那时全世界研究虚拟化技术的地方,其实也只有 VMware、微软、剑桥大学和斯坦福大学等少数机构。整个领域的技术人员加起来可能不超过 100 人。
有些人会认为这是一个小众赛道,毕业之后可能都不一定好找工作。但我不这么认为。
我觉得这项技术的本质很有吸引力,因为我原来就向往 CPU、操作系统和底层技术。进去之后我发现,可以研究的领域和技术深度又往下探了很多层。
在那个阶段,大家对云计算以及云计算需要什么技术,都没有太多概念。但我觉得它是一个足够深的技术,未来一定会有重要的应用方向。
还没等我毕业,2006 年、2007 年,AWS 做云就已经初露锋芒。那之后,全世界的人都到我们团队去挖人。
我们团队总共 27、28 个人,大概有近 10 个被挖到美国公司,拿到美国 offer 后直接迁移去了美国。因为全世界熟悉云计算核心技术的人,当时可能不超过 50 个。现在想想,可能也不会超过 100 个。
听起来很像今天做大模型研究的那一批人。
旭卿
所以在那个时间点,我觉得自己很幸运,参与了云计算浪潮。
大概 2014 年我去了阿里。当时我跟 leader 讲,我们怎样能够打造一个服务千万级客户的计算平台?那个时候大家都觉得可能是天方夜谭。
但我们很坚定:哪些技术架构不利于向千万级客户拓展,就要废掉,重新来过。
我觉得 2014 年这个时间点我们选对了。2015 年移动互联网爆发,各种 App 爆发之后,客户大量上来,而我们的产品已经准备好了。
到 2016 年,我们把虚拟机性能优化到和物理机相比只有 3% 到 5% 的差距。大家都觉得这是业界极限,3% 到 5% 已经是业界标杆。
但我当时就在想,我们需要为未来思考。如果要牺牲一些 CPU 资源把性能提上去,这绝对不是正确方向。
2016 年我每天都在思考这些问题。参加那个展会时,我看到容器等新技术。容器看似性能无损,但底层还有很多性能损耗。
那我们应该怎样在软件协同、芯片设计等领域提升计算性能?所以 2016 年我们布局了神龙,一举成为业界标杆性产品。
几乎所有业界云计算公司现在使用的底层技术架构,都和神龙没有太大差别。因为发布之后,全世界都在跟随。
AI 领域也是一样。大概在 2015 年,我就开始布局今天所谓的 AI 基础设施。
当时阿里巴巴集团内部使用的是英伟达的 K2 卡。现在看来,K2 的计算力非常有限。我们用它做机器学习,做了一个叫“拍立淘”的产品,用户拍一张图片,系统识别之后,把相似的东西推荐出来。
看到这个方向之后,我觉得阿里有这样的需求,外部公司也会有。于是 2015 年我们开始布局 AI 基础设施,到 2016 年底,产品已经做出来了。
非常巧的是,2016 年底,上一轮以深度学习为主、以计算机视觉和语音为主的 AI 浪潮爆发了。
在上一波浪潮中,中国超过 80% 的科技公司的 AI 算力需求都在阿里云上。因为我们在 2015 年就布局了这个产品,只是那个时间点 AI 还没有爆发。
2017 年做出神龙之后,我们又开始思考,面向未来大规模参数的 AI 基础设施到底是什么样子,于是布局了 GPU 超级计算集群。
过去这么多年看下来,总体来说,我觉得需要为未来思考。尤其做技术管理之后,你要为未来两三年可能发生的事情做预判和准备,而不是等浪潮到了再去防御。那时就晚了。
现在再看 AgentBay 为未来做的这些事情,有没有哪一件会让你担心,觉得可能赌错?
旭卿
我们做的这些东西,我倒不担心哪一件会赌错。我更担心的是,在整体布局里,有哪一块是我没有想到的。
这是我每天在思考的问题。
就是不知道自己不知道什么。
旭卿
对,这是最可怕的。
现在一个大趋势是,很多人都说要什么都懂一点,尤其是一人公司,一个人可以做很多事情。
你会建议一个初阶工程师,或者工作了几年的工程师,在自己的领域增强能力,还是顺应大趋势,什么都学一点?
旭卿
我觉得要看不同阶段。
如果是刚入职场的工程师,真正重要的还是聚焦在某一个领域,把它做深。知识面当然也重要,但如果在某个领域没有很强的知识深度积累,未来整体发展还是会受到限制。
原因不在于你知道多少,因为现在大模型什么都知道。你问什么问题,它都能讲得非常深入。
但如果让它做非常专业的事情,尤其是在某些技术领域需要深度钻研的事情,今天的大模型可能还没有那么擅长。或者说,这些事情需要结合人的大脑思维活动,并不是大模型知道得足够宽泛就能解决。
所以对工程师来说,我的建议还是像我当年一样,把虚拟化技术研究深入。之后再看怎样结合今天从事的业务,把它的价值充分发挥出来。
这样,你就要把周边技术融会贯通。只有这样做出来的产品才有竞争力,业务才会有更好的增长。
对人的要求还是越来越高了。
其实我比较好奇,听起来旭卿不管是在实习的时候,还是 2015 年、2016 年的时候,一开始看到云计算,后来看到弹性计算,包括现在看到 AI infra,往前看的很多预判都被验证了。
你预判到了科技世界最大的潮流。你有没有抽象总结过,自己为什么可以做出这样的预判?这背后需要哪些素质、工作习惯或者思维方式?
旭卿
我觉得,对未来会发生什么,要从今天发生的事情里寻找蛛丝马迹。
比如 2016 年,那是我们的双十一总结会。当时我们的 CTO,也就是现在的达摩院院长张建锋,提出说,虚拟化技术今年做得很好,只有 3% 到 5% 的性能损失,但是能不能做到没有性能损失?
如果我不参加那个双十一会议,或者他讲了这句话我忽略掉,觉得“这怎么可能,3% 到 5% 已经是极致了”,那就不会有进步。
我当时觉得,自己是这个领域的技术一号位。老板提了一个看似不可能的需求,我们能不能换一个思路,看看未来它会不会发生?
之后我参加了一些展会,发现很多相关技术都在如火如荼地发展。把这些错综复杂的因素和线索放在一起,我就觉得可能有一件事要发生了:软硬件协同设计,或者软硬件深度协同优化。
我们能不能通过软硬件协同设计和优化,带来革命性的技术变革?
我每天不断思考,如果要完成这个预设目标,哪些技术今天还不够,哪些芯片和系统软件技术今天还做不到?是不是要布局一颗芯片?是不是要布局某项系统技术的研发?
当这些东西都想明白之后,我觉得可能需要布局一颗芯片,于是我们开始做神龙芯片。
然后我去说服管理层,投入资源做这样一颗芯片。阿里以前没有做过芯片,所以当时需要说服管理层。
如果看到了机会,却没有说服管理层投资,三五年之后被验证了,可能不只是被打脸,而是公司错过了一个非常重要的战略转型机会。
所以我基本上都是从今天发生的事情里寻找线索,或者从今天遇到的困难里思考:看似解决不了的问题,未来有没有解决的可能?
我们都很喜欢的一篇文章,是 Paul Graham 写的《如何成就伟大事业》。里面讲到,你要找到那种自己做起来毫不费力,但别人觉得很难的事情,而那件事很可能就是你做出别人做不到的事情的起点。
你会有这种感觉吗?一路以来,在外人看来,你做的很多事情都很难,困难程度很高、挑战也巨大,但你自己做起来好像挺快乐、挺得心应手,找到了所谓“自己做起来没那么费力,但别人看起来很难”的事情。
旭卿
恰恰相反。
加入阿里之后,在那个团队里,我看到周边的技术大牛们,真正的感受是,他们一开会,说的每一句话都不是英文,都是中文,每个字面意思我都听得懂,但完全不知道他们在讨论什么。
我当时就觉得,我需要用半年的时间听懂他们在做什么、讨论什么。
听不懂,恰恰说明我的成长和进步空间在这里。如果因为听不懂就放弃,我觉得那不是我的个性。
你觉得这样的性格,或者这种学习欲望和习惯,是怎么形成的?
旭卿
从小就是好学生。
我觉得这可能和个性有关,个性可能是与生俱来的。你说是要强也好,或者其他什么个性也好,总体来说,我喜欢看到困难的事情,不喜欢一件很简单的事情,轻轻松松就搞定。
我更喜欢有挑战性的东西。
就是明知山有虎,越是这样的山越喜欢。
你觉得今天做 Agent infra 面对的挑战,和过去曾经面对的挑战相比,是一个什么级别的难度?
旭卿
做整个 Agent infra 布局,就像你刚才问的,其实对我来说需要学习很多新的东西。
我经常找产品经理和技术研发 leader 讨论各种各样的事情,因为它可能和我以前学到的、熟悉的东西不太一样。
对我个人来说,这是一个很有挑战性的事情。我需要把它搞懂,才能和他们进行平等交流。不然他们把我忽悠了,我也不知道。
所以我觉得,这件事的挑战性还是蛮大的。
刚刚说到,当你看到一个未来方向,希望公司投入发展,但它可能是未知的东西,需要说服老板。你是怎么说服老板的?
旭卿
这个很有意思。
比如我要做神龙,我们内部可能叫“帽子卡”,业界现在一般把它叫 DPU。
说实在的,2016 年我加入阿里才两年。但在此之前,我做过很多决策,大家还比较信服,因为无论是救火,还是长期架构决策,基本都被验证了。
但是到了 2016 年,突然跟老板说要做一块芯片,对任何老板来说都是很大的挑战。
我当时的 leader 是阿里云政企事业部总裁李津。我几乎每天早上都去公司,他到公司我就到公司,反复跟他讲这件事有多重要。
大概讲了半个月,终于把他说服了。
后来这件事也被验证是正确的。2017 年云栖大会发布神龙时,全世界云计算公司都觉得,原来还可以这么做。
以前大家觉得虚拟机的上限是物理机,现在变成了虚拟机的上限没有上限。当这个理念被认可时,团队的成就感就来了。
我觉得这是职场里很容易出现的一种现象:一线的人未必看不到未来,也未必不知道公司应该投入什么,但对他来说,挑战是怎样说服老板投入资源。
所以我还是希望团队成员遇到困难时,能够迎难而上,来劝服我,让我相信应该在这些方向进行投资。
刚才旭卿提到,你们今年拿到了更多的人,也拿到了更多资金和资源。现在要不要在这里招聘一下?
安陈
当然。我们非常希望更多真正认同这个方向的人加入。无论是刚毕业的大学生,还是在 AI 领域有丰富经验的资深开发人员,都可以加入我们,一起共筑未来的 Agent infra 平台,让更多企业开发自己的 Agent 时更加高效。
好,今天谢谢二位。
旭卿
谢谢。
安陈
谢谢,谢谢。