[BidClub_]
十字路口Crossing · · 67 min

“让天下没有难做的 Agent” | 对谈旭卿(阿里云无影事业部总裁)、安陈(AgentBay 产品负责人)

张献涛(旭卿)屈立威(安陈)

Podcast
TL;DR
  • Agent Infra 的竞争焦点,正从“把模型跑起来”转向“让 Agent 真正完成任务”。 旭卿把传统 AI Infra 概括为 token 吞吐、首 token 延时、分布式训练推理效率与成本;Agent Infra 则把 model service 降为一个组件,再补上 memory、tool use、任务规划、sandbox、multi-agent、安全与身份。“任何一个组件都是刚需”,短板最终会反映在任务成功率上。

  • AgentBay 选择做完整平台,而不是在某个垂直组件上争夺单项第一。 团队希望各模块达到“中等偏上”,再靠 code、browser、mobile 环境、持久化、MCP、未来的 memory/context 和更高层 agent service 形成系统能力;目标客户也从能自行拼积木的头部开发者,下沉到需要低代码、API 化能力的 SMB。AWS AgentCore 后续展现出的产品布局和接口,与其判断“相似度非常高”。

  • 最强烈的需求信号来自并发:一家国内 Agent 厂商提出白天约 20 万个并发子任务;另一家国内大模型厂商需要 20 万乃至 40 万级虚拟机并发。 前者不是 20 万用户各发一个任务,而可能是少量主任务像 Manus Wide Research 一样,各自“开枝散叶”出 100—200 个子任务;主持人据此判断,Agent 让 token 和算力消耗从此前担忧见顶,转为十倍乃至百倍增长。团队称需求曲线“非常指数”,已经开始考虑全球资源调度。

  • AgentBay 当前更看采用量而非收入,但长期计费可能从卖沙箱转向卖完整服务。 安陈明确表示当前还没有非常明确的收费模式,现阶段重点是把产品能力做出来;旭卿则提到,长期可以从按算力、沙箱资源计费,扩展到覆盖多模态推理、浏览器感知、上百个沙箱的状态一致性等成本,届时“算力可能在里面就是个很 minor 的成本”。更值得投资者注意的是,阿里云增加了人、钱和资源,却没有追加营收 KPI,管理层追问的是“有多少客户在用这件事情”。

  • 云端与本地沙箱之争,本质上同时涉及信任、隔离和并发能力,而不只是数据存放位置。 面对“密码和身份信息上云可能出大事”的质疑,旭卿以公共云持续迭代、几千人的安全团队和抗 DDoS 能力反驳,并用“钱放在自己家里还是放在银行”作比;主持人则保留了本地浏览器已有 cookie、无需重新登录的便利。云端更直接的优势是失败可丢弃:模型误删目录在本机是真损失,在隔离沙箱里可以重建,也不会触碰个人文件。

  • 可见的 Agent 商业化首先发生在 Coding Agent 和通用 Agent,规模更大的改造可能藏在企业内部。 安陈观察到电商比价、商品上架、主图设计,以及运营、财务、OA、内部客服等传统 RPA 工作流正在 Agent 化;面向外部用户的机会则集中在 HR、金融投资建议和医疗。金融之所以拥挤,是因为“离钱近”、数据以数字为主且容易形成反馈闭环,但节目没有给出具体收入或渗透率预测。

  • AgentBay 并非无影云电脑的替代品,而是把后者扩展为可被 AI 驱动的弹性执行环境。 无影仍保持“三位数”增长,二者被定义为兄弟关系;主持人把 2025 年称为“超级个体的一年”“个人云计算的一年”,新一代逻辑云电脑则要同时具备持久化、可瞬时复制 100 份、多端漫游和自然语言驱动,最终形态涉及人和持续在线的数字分身“硅碳共生”。

  • 旭卿的组织下注方式,是从当下异常信号推演两三年后的基础设施,而最大风险不是某项做错,而是漏掉未曾想到的模块。 2016 年从虚拟化仍有 3%—5%损耗的问题出发,他推动软硬件协同和神龙服务器;2015 年又在 K2 支撑拍立淘的需求中提前布局 AI Infra。此次 GTC 后连夜转向 Agent Infra 延续了同一方法,而他的核心提醒是:“不知道自己不知道什么,这个是最可怕的。”

Digest · the substance, structured for research

1. Agent 已先把技术管理者重新拉回代码现场

  • 安陈日常使用 Onlook,以自然语言快速生成前端交互设计;另一项高频工具是淘宝团队内部的“星流”,用来快速阅读外文论文。这两类需求分别对应可执行的产品设计与高密度信息处理。

  • 旭卿更多使用阿里内部的 One Day,也认可 Cursor。他上一次持续亲手写代码大约在 2017—2018 年,但 Coding Agent 让已经转向战略和架构的技术管理者,再次获得“写代码的快乐”。

  • 这一变化并不限于一线工程师:旭卿提到达摩院院长张建锋也用 Cursor 写代码,并给他演示过一个 Windows 扫雷游戏。Agent 的早期渗透路径,正是先把自然语言变成可运行成果。

2. Agent Infra 把 model service 从终点变成了底座

  • 旭卿对传统 AI Infra 的定义很明确:优化 token 吞吐、首 token 延时、大规模分布式训练和推理效率,以及成本,“怎么能够把 GPU 的效率榨干”。最终交付物是训练、部署与推理所需的 model service。

  • 到 Agent 阶段,model service 只是基础组件。应用要真正完成工作,还需要工具调用、长期和短期记忆、任务规划、执行环境、多 Agent 协作以及安全机制,基础设施的评价标准也从单次推理效率转向端到端任务成功率。

  • 旭卿用传统计算机比喻:大模型像 CPU,短期与长期记忆像内存和存储。安陈补充,代码执行、网页操作需要算力,存储对应长期记忆;网络则连接更多能力,MCP 使模型从“聚焦于思考”走到“真正付诸行动”。

3. 六类组件已经构成事实上的 Agent 技术栈

  • 两位嘉宾归纳的核心模块包括 memory、tool use、任务规划、sandbox、multi-agent 协作,以及安全与隐私;context engineering、记忆管理和任务编排贯穿其中。没有谁正式规定标准答案,但开发者“默默地、不约而同”走向了相似架构。

  • 在 memory 方向,安陈点到 Mem0 和 MemGPT,认为它们做得有特色、相对较深;执行环境与工具方向则包括 E2B、Browserbase,以及 computer use、browser use 等产品形态。

  • task planning 暂时很难说哪家明显领先,因为能力仍高度依赖模型、提示词和自动化程度;multi-agent 编排已有 LangGraph、OpenAI Agents SDK 等框架,阿里内部也使用纯自研协作框架,但尚未对外发布。

  • 协作协议层面,Google A2A 试图定义 Agent 之间的交互范式,做法被安陈形容为“更激进一点”。安全层则覆盖代码围栏、敏感信息保护、多租户隔离和本地零侵入,身份认证又构成另一条独立链路。

4. 所有模块都是刚需,但采购发生在最疼的瓶颈

  • 面对“哪一环最重要”的追问,安陈没有给出排序:“其实都很重要”,并认为每个组件都是刚需。coding sandbox 可能对终端用户不可见,memory 却几乎必然暴露问题,因为上下文窗口有限,而用户又要求更高的任务成功率。

  • 在 Agent Infra 概念形成前,开发者通常试图垂直做完整技术栈;结果就像新员工入职后还要自己准备桌椅、网线和电脑。“又要跑步又要修路”拖慢了应用爆发,也为第三方组件和平台化服务留下空间。

  • 一家国内大模型厂商起初自建虚拟代码环境、browser use 和 mobile use,看到 AgentBay 后很快切换,因为它真正需要的是 20 万乃至 40 万级虚拟机并发,而这不是模型公司的核心能力。

  • 一些汽车公司关心的不是极端并发,而是让智能体长期记住司机过去问过的问题;团队可以基于向量数据库帮助搭建长期记忆。旭卿强调,这不是逐客定制,而是通用能力在不同客户处暴露出不同优先级。

5. 身份与安全是最容易被效率目标掩盖的长期模块

  • 安陈特别补充了身份管理:当 computer use Agent 访问多个网站时,怎样自动完成认证、处理不同网站的身份授权,又不让凭证在工作流里失控,是实现自动操作必须解决的问题,团队已经开始布局。

  • 早期很多团队更容易追求执行效率,把身份和安全放到后面;云厂商则被长期训练出不同的“肌肉记忆”。旭卿的判断是,一旦数据隐私或权限边界失守,后果可能是灾难性的,因此它们不能只是上线后的补丁。

6. AgentBay 源自 Manus 爆发与 GTC 之后的一次连夜转向

  • 2025 年春节后,Manus 让行业讨论从大模型和聊天能力转向通用 Agent。随后团队参加英伟达 GTC,看到美国 Agent 公司快速增多,甚至英伟达投资的公司“几乎都在讲自己的 Agent”。

  • 安陈由此确定,团队不应再做一个 Manus 的竞争者,而应“赋能像 Manus 这样的公司”。他们连夜开会调整方向,把阿里云已有的计算、存储和网络能力重新组织为 AgentBay。

  • 从决策到世界人工智能大会期间发布,团队用了约四五个月。早期产品先提供 computer use、mobile use、browser use 等执行能力,做深后才发现客户还需要长期记忆、身份管理和安全,这些成为第二阶段重点。

7. 完整平台的价值来自更高层抽象,而非单项冠军

  • 主持人的挑战是:同时做十项能力,会不会稀释注意力,导致沙箱等单项打不过专门的 startup?旭卿的回答是 To B 本来就是长期赛道,目标不是短期每项第一,而是各模块“能力比较均衡”“中等偏上”,组合后整体更强。

  • 旭卿进一步区分了定位:垂直 startup 更多服务头部 AI 开发者,后者有能力自行拼装复杂积木;云厂商做的是普惠生意,要让中小创业公司通过低代码和简单 API,也能搭建 Agent 应用。

  • 因此 AgentBay 首先支持 MCP,并以 API 开放能力;底层同时覆盖 code、mobile、browser 环境,上层提供 Agent Service,下面接统一持久化,未来再加入 memory 和 context。它最终更像 Agent 建设平台,而非一个原子沙箱。

  • 抽象还要继续向应用层延伸:DOM tree 无法完整识别 iframe、视频等画面,纯文本输入会让模型“抓瞎”。服务方必须组装多模态模型,同时提供视觉感知与动作输出,客户才不必自行管理沙箱里的 Agent 层。

8. 云厂商正在同一张 Agent Infra 产品图上收敛

  • AgentBay 大概在 4 月 7 日的峰会上先发布概念和初步能力,到世界人工智能大会期间正式商用;AWS AgentCore 随后发布后,团队对其分析发现,从能力、接口定义到整体布局“相似度还是非常高的”。

  • 旭卿没有评价哪家云厂商投入最大,只判断 Agent 是 AI 的一个重要应用方向,各家都会高度重视。阿里云内部,吴泳铭在今年年初的全员启动会上重点提到 Agent 和 Agent Infra,商用发布前又听取了新一轮汇报。

  • 团队继续获得人、钱和资源。安陈补充,管理层从未要求“营收多少”,而是追问“有多少客户在用这件事情”;现阶段也没有替阿里云卖更多云资源的指标。

  • AgentBay 在阿里云 AI 战略中的位置被定义为“承上启下”:通过 Agent Infra 把模型能力对外开放,向上再支持 Agent 开发框架及应用。旭卿甚至认为,一号位眼下未必把它首先视为生意,而是云厂商应补齐的行业能力。

9. 本地与云端沙箱之争,首先是一场信任路线之争

  • 主持人引用周鸿祎发布“纳米 AI 智能体蜂群”时的路线选择:把沙箱放在本地,因为用户密码、身份认证信息上云“可能出大事”。这一质疑也抓住了云端 Agent 最敏感的采用门槛。

  • 旭卿承认自己早年也认为自建数据中心更安全,但加入阿里云后改变了看法。他举例称,当年攻击者甚至不需要多少成本,用当时的比特币买 5 G 流量,就可能打垮游戏公司的自建中心;公共云的抗 DDoS 能力则持续迭代。

  • 他的核心反驳是规模经济:阿里云有几千人的安全团队实时守护系统,一般企业既难招到同等级工程师,也无法承担同等投入。“把钱放在自己家里面还是放在银行里面安全”,是他对云端托管的类比。

  • 主持人的推回值得保留:本地浏览器已有 cookie,无需用户重新交出账号密码。旭卿回应,使用本地系统其实同样是在信任微软或谷歌等操作系统、浏览器厂商,而且本机木马与病毒可能让环境更混杂;为什么不能同样信任云厂商,是路线选择而非“本地天然可信”。

10. 云端隔离让失败环境可丢弃,也让大规模执行成为可能

  • 从能力边界看,旭卿引用 Manus 创始人肖弘关于同时调度 100 个 Agent 做 Wide Research 的说法:这类负载很难在个人电脑完成。随着任务越来越并行,“运行在本地其实不太现实”,计算和调度最终仍要依靠云。

  • 云端沙箱还隔离了 Agent 的破坏性动作。旭卿原以为“模型执行命令误删目录”只是段子,后来才知道“这是真的”;如果命令作用于个人电脑,真实文件会消失,作用于沙箱则只需恢复或重建环境。

  • AgentBay 因而把代码执行、多租户隔离、本地零侵入和端到端数据保护放在一起设计。它提供的是把权限、数据和故障限制在一个相对单一、可回收环境中的能力,而不是软件绝无漏洞。

11. 并发扩张正在把算力需求从用户数放大到子任务数

  • 主持人观察到,市场此前担心 token 消耗接近顶部、GPU 需求可能降温;Agent 能力增强后,单次任务的计算量却可能增加十倍甚至百倍。关键变量不再只是活跃用户,而是每个主任务会派生多少执行分支。

  • 安陈给出的客户要求是:一家国内 Agent 厂商在日间需要约 20 万并发 session。进一步确认后,这个数字指并发子任务,而非 20 万用户同时各发一个任务;此前另一类客户的虚拟机并发诉求还出现过 20 万—40 万级别。

  • Manus Wide Research 展示了这种乘数效应:一个主任务可以“开枝散叶”出 100—200 个子任务。即使前台只有一万个任务,每个任务再拆出 20 路执行,底层并发也会迅速到达 20 万。

  • 安陈明确表示当前还没有非常明确的收费模式,现阶段重点是把产品能力做出来,钱不是主要考虑因素。长期计费思路仍可能沿用云计算的算力和资源模式,例如客户启动 100 个沙箱,就按相应资源收费;未来再把多模态推理、状态一致性和环境控制等纳入服务化计费。团队称需求是“非常指数的一个曲线”,录制当天还在讨论全球资源调度。

12. Coding 与通用 Agent 最先兑现,企业内部改造更隐蔽

  • 安陈观察到,最先增长的是通用 Agent 和 Coding Agent。后者覆盖面广、商业模式相对成熟;前者则在 Manus 发布后成为大量厂商集中改造的方向,消费者已经可以直接感知。

  • 更广泛但不显眼的需求来自传统应用 Agent 化。以电商为例,运营人员原本要做多平台比价、商品上架和主图设计,这些重复性的 RPA 工作流正逐步交给 Agent。

  • 大客户接入 AgentBay,很多并不是为了立即推出一个面向消费者的新产品,而是处理企业内部 OA、运营、财务和客服的自动化。“潜移默化”的提效可能先进入成本项,而不是形成独立产品收入。

  • 面向客户的案例集中在 HR、金融和民生医疗。金融投资建议尤其拥挤,因为“离钱近”,很多人希望广泛获取消息面数据再让 AI 分析,数据也以数字为主、容易形成反馈闭环;医疗则被认为能从大模型获得更多价值,但嘉宾没有给出具体落地规模。

13. AgentBay 没有取代无影,组织真正承受的是双线投入

  • 旭卿用“十年”定义 To B:2016 年春节前,马云曾以淘宝从 2003—2004 年起步到 2014 年上市、支付宝约从 2006 年发展到 2016 年、阿里云从 2009 年走向 2019 年为例,强调长期投入。“我做任何事情,基本上也都是以十年为单位。”

  • 他纠正了主持人的“转型”表述:无影并未被放弃,仍以“三位数”增速增长;升级为一级事业部后,无影和大模型还被列为阿里云、云智能集团最重要的两个战略产品。AgentBay 是其能力扩展,也是“兄弟关系”。

  • 真正的压力是既要保证成熟业务高速增长,又不能在新赛道踏空。GTC 后方向虽已想清楚,人力却必须重新配置:有人主动举手加入 AI,也有人认为原工作同样重要,不愿被直接调走。

  • 对“留在无影的同学会不会失落”的追问,旭卿承认“肯定是有的”,但强调两边都是战略业务:无影已经落地并高速增长,AgentBay 则更长期。管理难点不是选一边,而是让两条曲线同时成立。

14. 个人云计算正在把“一台电脑”改写为可复制的长期环境

  • 主持人的“暴论”是,无影过去推动端侧算力上云,主要服务设计师使用 Stable Diffusion、FLUX,或仿真用户临时调用高弹性 GPU 等特殊需求;普通消费者此前未必能感知云电脑的必要性。

  • Agent 改变了这个前提:个人任务可能一次需要 100 个环境,本地 PC 无法满足。主持人因此把 2025 年称作“超级个体的一年”“个人云计算的一年”,认为云电脑可能真正进入普罗大众的工作流。

  • 团队设想的逻辑云电脑有四个特征:状态与数据可以持久化;大任务到来时可镜像成 100 台并发执行;可以在手机、平板、电脑和自研硬件间漫游;最后,它能够由自然语言直接驱动。

  • AgentBay 做的正是“让 AI 使用一台电脑”。从七岁孩子到八十岁老人都可能用自然语言操作,而人的数字分身可以在休息和交谈时继续完成任务;旭卿用“数字员工”和“硅碳共生”描述人与云端 Agent 的关系。

15. 神龙与早期 AI Infra 展示了同一种提前下注模式

  • 旭卿早期在英特尔从事系统虚拟化,按其口述包括三年实习、六年正式工作。彼时全球研究虚拟化的人可能不到 100 名,其团队约 27—28 人,后来接近 10 人被美国公司直接挖走;Xen、KVM 等技术后来被云计算采用。

  • 2014 年加入阿里后,他提出建设服务千万级客户的计算平台,把不利于扩展的旧架构废掉重来。团队在 2015 年移动互联网应用爆发前完成准备,印证了他“浪来了再防御就晚了”的判断。

  • 2016 年虚拟化性能损失已降至 3%—5%,张建锋仍要求做到零损失。同年展会上的容器热潮,以及 overlayfs、软件虚拟网络的性能问题,让旭卿押注软硬件协同;神龙服务器于 2017 年发布,后来整个业界跟随其标准做 DPU、裸金属和虚拟化。

  • AI Infra 的下注更早:2015 年,他从集团用英伟达 K2 做机器学习、支撑拍立淘识图的需求里看到外部市场,2016 年底产品已经就绪。随后计算机视觉和语音浪潮爆发,旭卿称中国超过 80%科技公司的 AI 算力需求在阿里云上;2017 年又开始布局 GPU 超级计算集群。

16. 真正的职业杠杆是技术深度、未知意识与持续说服

  • 旭卿把预测方法概括为从今天的困难里寻找“蛛丝马迹”,尤其不能把老板看似不可能的要求当成“不懂技术”。技术管理者要为两三年后的需求提前布局;至于 Agent Infra,他担心的不是已规划模块做错,而是“哪一块我没有想到”。

  • 对主持人“是否找到了自己毫不费力、别人觉得很难的事”的浪漫化提问,他直接反驳:“恰恰相反。”刚进虚拟化团队时,同事说的都是中文,他听得懂字面,却不知道大家在讨论什么;他的目标是用半年时间真正听懂。

  • 给年轻工程师的建议同样不是“什么都懂一点”:大模型已经足够博学,人更需要在一个领域建立深度,再把周边技术与业务融会贯通。若没有专业积累,只扩展知识面,长期发展反而可能受限。

  • 推动神龙芯片时,他几乎每天早上向时任 leader 李津讲其重要性,连续约半个月才争取到投入。这个经历也定义了他对团队的期待:“遇到这些困难的时候,能够迎难而上,能够来说服我”;AgentBay 团队则继续面向毕业生和资深 AI 开发者招聘。

欢迎收听十字路口,我们关注新一代AI技术浪潮带来的行业新变化和创业新机会。十字路口是乔布斯对苹果公司的一个比喻,形容它站在科技与人文的十字路口,伟大的产品往往诞生在这里。AI正在给各行各业带来改变,我们寻找、访谈和凝聚新一代AI创业者和AI时代的积极行动者,和他们一起探索、拥抱新变化,新的可能性。

Koji

我是十字路口的 Koji,科技联合创办了街旁、新世相和糖岛,发起了 AI Hacker House 这个新一代 AI 创业者的社群空间。我相信科技,尤其是 AI,是我们这一代人最大的价值创造机遇。欢迎大家找我聊天,碰撞想法,链接下一个可能性。

Ronghui

我在美元 VC 工作过,也做过五年的硅谷驻站记者,关注科技发展和商业故事,也欢迎大家找我聊天和我交流。

2025年是 Agent 的元年。我们最近聊到的 10 个创业者里,感觉有 8 个在做各种各样的 Agent。

过去几个月,十字路口也做了大量相关访谈与评测。我们发现,决定 Agent 能力上限的,除了模型本身、工程和用户体验上的打磨之外,还有非常重要的基础设施,也就是 Agent infra。

从记忆、工具使用、任务规划,到 runtime 或沙箱,再进一步到多 Agent 协作,甚至安全和隐私机制,这些环节缺一不可。就像一个新员工入职之后,我们要给他配电脑、配网线,给他装飞书、装钉钉,他才能开始工作。如果基础设施搭不好,一个 Agent 和一个新员工都没有办法真正投入工作。

但有挑战的地方往往也意味着机会。因此,不论是创业公司还是大厂,最近都在纷纷加码 Agent infra。今天我们非常开心邀请到阿里云无影事业部总裁旭卿,以及 AgentBay 产品负责人安陈,来十字路口和我们一起聊一聊 Agent infra 的过去、现在和未来。

阿里云无影团队推出的 AgentBay,是一个非常新的尝试,会为 Agent 提供从云端沙箱、算力到工具链等一系列完整的运行环境。我们今天准备了 20 个问题,会从技术原理到行业格局,从创业机会到职业建议,帮助大家在信息过载的时代建立起一套清晰的 Agent infra 思维框架。

我们觉得,Agent infra 不只是旭卿或者安陈这样的技术大佬的事情。我也相信,它会像云计算一样影响到我们每个人的工作和生活,也会成为每一个人的创业机会所在。

我们还是先从一个轻松的问题开始。想请问二位,你们日常用得最多的 Agent 产品是什么?用它来做什么?

安陈

1. Agents People Actually Use

我用得最多的那个叫 Onlook,它是一个帮助设计师快速设计前端应用的 Agent 工具。本质上,我用 Onlook 可以通过自然语言一键生成一个前端交互设计。

另外一个可能是我们集团内部自研的 Agent,是淘宝团队做的,叫星流。这个 Agent 核心帮我处理的能力,是快速阅读一些外文论文。

那旭卿呢?

旭卿

我用得比较多的也是我们集团内部的 One Day。One Day 是面向阿里内部所有员工开放的 Agent 平台。外部的话,比如 Cursor 也非常好用。

旭卿,你是学计算机的,对不对?

旭卿

是。

所以你刚入职场的时候,还是会自己写代码的?

旭卿

我在阿里还写了好几年代码。

你最后一次写代码是哪一年?

旭卿

大概是 2017 年、2018 年。

因为有很多技术管理者,包括我们聊到的 CTO 或者技术一号位,大家做管理之后,可能就开始思考战略或者架构,不会再有那么多一线的代码工作。但是 Cursor 出现之后,很多人感觉又重新找回了那种写代码的快乐。

旭卿

是的。前两天我也去拜访了达摩院院长张建锋,他也在用 Cursor 写很多代码。

我也很好奇,达摩院院长在用 Cursor 写什么。

旭卿

那天他给我演示了一个游戏。Windows 里面不是有一个扫雷程序吗?

哦,扫雷。

好,我们接下来开始聊 Agent infra。第一个问题,想请二位给大家科普一下什么是 Agent infra,尤其是它和传统 AI infra 有什么关系,差异点又在哪里?

旭卿

2. From Model Service To Agent Infra

我先回答后半部分。AI infra 可能大家更耳熟能详一点。

过去几年,大家都在卷大模型的时候,会关注什么?会关注 token 的吞吐、首 token 延时,以及大规模分布式训练和推理的效率,还有成本。这些问题的背后,本质上是 AI infra:怎样通过一个足够好的计算集群去实现训练、推理,甚至实现模型的部署,或者发布训练和推理任务的平台。

我们怎样把 GPU 的效率榨干、提升起来?那个时候我们会更关注这部分 infra。它不完全是 IaaS,可能会包含 PaaS。因为模型还会被很多企业拿去做 fine-tune,比如现在的很多开源模型。我们应该统称为 AI infra。

那个时候,它最后聚焦到的是实现一个 model service。到了今年,大家开始关注上层应用的搭建。在 Agent infra 时代,过去的 model service 都变成 Agent infra 的一部分。为了把一个 Agent 应用搭建起来,除了 Agent infra,还有很多其他组件,比如刚才提到的 tool use、memory 等等,它们都是 Agent infra 的重要组成部分。

安陈

我觉得 Agent infra 这个词能够被整个业界共识,也是因为它和我们传统意义上的 infra 有一定相通的理念。

比如在算力层面,Agent 要做一些执行性的动作,比如执行代码,或者浏览网页,这些都需要算力,算力的提供非常关键。

还有存储。存储类似于我们在 AI 领域经常提到的上下文长期记忆,这些能力也都需要提供。

网络在 Agent infra 里面,我认为它连接了更多各种各样的能力。比如我们经常提到的 MCP,通过 MCP 可以连接更多工具,让 Agent 能够通过这些工具去做以前做不了的工作。以前大模型可能只聚焦于思考,现在通过这些工具,它可以真正付诸行动,完成具体工作。

3. Why Agent Infra Took Off

Agent infra 为什么在今年、在这个时间点成为了大家的共识?去年的世界人工智能大会上,大家讨论得更多的还是大模型,或者模型的聊天能力。春节之后,Manus 爆火,整个业界开始讨论通用 Agent 应该怎么构建。

安陈

在这个时间点,我和另外一个同事受邀参加了美国英伟达的 GTC 大会,也看到美国那边做 Agent 的公司越来越多,甚至英伟达投资的公司几乎都在讲自己的 Agent。

但我们觉得,我们应该去赋能像 Manus 这样的公司。我们应该做一层 Agent infra,让这些公司在构建自己的 Agent 时更加高效。

所以我们基本上连夜开了一个会,调整了产品方向。结合阿里云在计算、存储、网络基础设施方面的能力,我们确定了 AgentBay 这样的研发方向。

经过过去四五个月团队的共同努力,我们上周也在世界人工智能大会期间发布了这个产品,内外部反响都非常好。

我们待会儿会展开聊无影。因为无影是一个非常成熟的事业部,有一个增长很好、收入和利润都很好的主要业务。在这样的情况下,还能够一夜之间开会、连夜转型,做一个很大的转弯,所以我们待会儿想展开聊一聊其中管理上的决策和战略上的思考。

但我们还是先回到 Agent infra。能不能请二位再给大家科普一下,当我们聊 Agent infra 的时候,里面一般有哪些主要组成部分?它们对于一个 Agent 来说,分别意味着什么样的价值?

旭卿

4. The Six Layers Of Agent Infra

当我们讨论一个 Agent 的设计或者部署时,有一些名词听起来会有似曾相识的感觉。大模型很像以前的 CPU,长期记忆和短期记忆,是不是比较像以前的内存和存储?一个是临时缓存,一个是长期存储。

7 月份很火的一个概念叫 context engineering。记忆管理、任务编排,包括沙箱、多 Agent 架构、工具使用和协议等等,这些东西以前并没有一个人站出来说它就是这样,但大家默默地、不约而同地走向了这些方向。这些赛道上也逐渐出现了一些玩家,逐渐成为行业标准和范式。

我们刚才提到的赛道,来盘点一下。第一是记忆,第二是工具使用,第三是任务规划,第四是沙箱,第五是多 Agent 之间的协作,第六是安全和隐私。我们逐个展开一下。

先说记忆。在记忆这个 Agent infra 赛道,二位关注比较多的公司和产品,可以分享一下吗?

安陈

基于这个领域,像 Mem0 这家公司,以及 MemGPT,我觉得做得比较有特色,也是这个领域里相对做得比较深的。

Tool use 方面,算力部分我们看到的有 E2B,还有 Browserbase 这些公司。类似 Computer Use 和 Browser Use 这样的领域,我觉得它们做得比较好。

任务规划更多还是取决于模型在这个领域的自动化程度,也结合提示词工程等方面的能力。这个领域其实各家都在做,很难说哪一家做得特别好、特别深入。

多 Agent 协作,我理解更多是编排和协议。现在大家看到的 Agent 基本都是 Multi-Agent 架构,那么怎么定义 Multi-Agent 之间协作的工作流?业界有一些比较常用的框架,比如 LangGraph,也可以使用 OpenAI Agents SDK。我们自己其实也有,只是还没有放出来,是纯自研的一套 Agent 协作框架。

另外,Google 的 A2A,本质上也是想定义一种 Agent 协作范式,不过它在实现上会更激进一些。

安全领域,我觉得某种意义上,我们现在做的产品也算是一个安全相关的产品。因为代码执行需要一个云端隔离环境,还涉及多租户之间的安全隔离,以及对本地的零侵入。

业界也有一些公司在做代码安全围栏,包括国内一些针对敏感信息的保护方案。

这个领域还有一点比较值得关注,就是身份管理。比如在 Computer Use 阶段,当 Agent 操作电脑、访问不同网站时,这些网站怎样通过身份管理做到自动认证?这些领域非常值得研究,我们也在布局。

前面提到的这么多 Agent infra 细分赛道,你们认为其中哪一环最重要?

安陈

5. Why Developers Buy Infrastructure

其实都很重要。对于 Agent 开发者来说,你会发现每个组件都是刚需。

比如沙箱对于用户来说,尤其是 coding 沙箱,很多用户可能感知不到。Memory 则是所有 Agent 工作都会遇到的挑战,因为上下文窗口有限,用户又会对效果和 Agent 任务成功率提出要求,所以大家都会不约而同地寻找 memory 组件。

我理解这里面可能没有优先级的先后,但是大家在感知和实现上,确实会有一个先后的次序。

你们观察到,今天的 Agent 开发者在使用这些 Agent infra 组件时,绝大多数会选择自研,还是几乎都会考虑使用第三方服务?

安陈

在 Agent infra 这个概念形成之前,各家做 Agent 时,可能都想把所有事情垂直地做完。但你会发现这其实很难。

就像刚才开头讲的,如果一个员工进入一家公司后,从桌椅板凳、网线到电脑都要自己操持,效率其实很低。这也是制约 Agent 快速爆发的一个问题。

所以,如果我们能够提供一个非常好用的 Agent infra,把里面各个组件的能力系统化、高效地提供给 Agent 厂商,那么他们在开发 Agent 时就会容易很多。

明白,就是又要跑步又要修路,是很难的。

你们接触的这些 Agent 客户,在选择 Agent infra 服务时,最看重的是什么?

安陈

既然每个环节都重要,每家公司的关注点确实不太一样。

国内某大模型厂商也在打造自己的 Agent。最早他们自己构建虚拟代码执行环境,或者做 Browser Use、Mobile Use。但做到一半之后,当他们发现比如我们有 engine 的 base,或者说有这样一个好用的 engine 的 infer 时,就会马上切过来。

因为他们需要的是怎样提供 20 万级甚至 40 万级别的虚拟机并发。对于一家模型公司来说,它的核心能力并不在这里。

我们也看到,有些汽车公司在打造智能体时,需要记住司机以前询问过的各种问题,所以在长期记忆方面有很强的诉求。我们也可以基于向量数据库,帮他们搭建长期记忆系统,让用户在使用智能体时具备长期记忆能力。

所以你们定制化的能力很强。

安陈

其实我们提供的是通用能力,但是每家公司在做自己的 Agent 时,最关注的点可能不太一样。

刚才提到的这些模块里,有没有哪个模块长期非常重要,但是今天很容易被 Agent 开发者忽视?

旭卿

刚才提到的两点,一个是身份管理,另一个是安全。

早期做任何事情时,有很多公司在搭建系统,可能不会把安全和身份管理当成最重要的事情,大家更聚焦于效率是不是最高。

但是云厂商是被训练出来的。在数据隐私保护方面,这对我们来说是天然的,是我们的基因。做任何一个服务,都需要重点考虑这些问题。

这某种程度上是做云服务的肌肉记忆。

旭卿

是的。如果一旦出问题,带来的后果可能是灾难性的。

好,我们再来聊阿里云做 AgentBay 这件事。我们知道,Agent 元年带来了一系列和 Agent infra 相关的创业机会。你们是怎么想到要做 AgentBay 的?

旭卿

6. AgentBay Bets On Platforms

随着大模型和 Agent 的发展,我们也看到,Agent 需要一些趁手的工具。就像人使用电脑和浏览器可以获得更多信息、提升效率一样,当给大模型或者智能体配上电脑、浏览器这些能力时,它能够获得的能力会更强。

最早我们打造了 Computer Use、Mobile Use 和 Browser Use 这些比较基础的能力。但随着做得深入,我们发现客户对于这些基础能力有需求,却远远不够。

客户对长期记忆、身份管理和安全的需求都存在。所以把这些能力规划出来、做出来,成为我们第二阶段更加聚焦的事情。

我们知道 E2B、Browserbase、LangGraph,基本上都是各自做一个垂直领域。好像只有 AWS 的 AgentCore 和咱们的 AgentBay,会比较系统化地规划这件事。

这有点像十项全能,每个都要做。你们有没有感觉到注意力被稀释,可能没有办法在某些垂直领域和专门的创业公司竞争?你们怎么看这个问题?

旭卿

我们一直觉得,To B 业务是一个长期赛道。所谓长期赛道,就是在各个领域都需要相对长期的投入,很难在很短时间内把每个领域都做得非常好。

但是我们要做的是能力相对均衡,每一个领域可能都处于中等偏上,加到一起,整体能力会非常强。而且这些组件之间,我们希望它是一个系统化的东西,而不是完全割裂的。

如果拿我们做的沙箱和 E2B 比较,我们的沙箱有哪些差异或者优势?

旭卿

如果要回答这个问题,我先回答您上一个问题。现在业界在垂直领域做得比较好的创业公司,更多面向的是头部开发者。

相当于那些很厉害的 AI 公司或者 Agent 公司,有能力自己拼凑不同积木,搭成复杂的应用系统。但是云计算厂商本身想做的是普惠的生意,希望把这些复杂组件最后变成低代码平台,让中小型创业公司也能够很容易地搭建起来。

这就是我们和它们定位上的差距。

回到您刚才的问题,第一,我觉得易用性会更好一些,因为我们面向很多中小开发者。所以你会看到,我们的产品一上来先支持了 MCP。

第二,我们产品的完整性会更强。我们的沙箱除了纯代码环境,还有 Mobile 环境和 Browser 环境,上层有 Agent Service,底下有统一的持久化系统,未来可能还会有 memory、context 等能力。

它相对来说是完整的。对于客户来说,它本质上可能就不是一个垂直产品,而是一个平台,或者说 Agent 运行平台。

第三,我们可能会更关注 Agent 长远发展方向上的组件。

当前一些头部开发者希望你给他一个原子化沙箱,至于怎么感知和控制这个沙箱,交给他自己来做。比如我是 Manus,你给我一个云上的环境就好了。

但是未来大家会发现,随着接触的 SMB 开发者越来越多,他们会希望,虽然我是一个 Multi-Agent 架构,但我不想管理你沙箱里的 Agent 层。这就要求你把 Agent 层再往上抽象一层,由 Service Provider 自己提供环境的感知和控制能力,所以我们还需要再往应用层走一走。

举个例子,我现在给您一个 Browser 容器,您自己来调度。最简单的方式,是安装一个开源的 provider,通过 DOM tree 等方式进行可视化操控。

但是在浏览器环境里,不是通过 DOM tree 就能拿到所有内容。比如现在嵌入的是一个 iframe 或者视频,对于模型来说,如果只有文本输入,它就抓瞎了,不知道当前画面发生了什么。

所以作为提供 Browser Use 的 Service Provider,我们必须结合多模态模型,才能把 Agent Service 提供给你。我们要自己研发、组装一个模型,感知当前浏览器画面正在发生什么;要有多模态输入,也要有多模态输出,才能帮助客户把整个环境的驱动和感知完整地做出来。

所以从战略上来说,你们更强调普惠,更看重 SMB 客户。

旭卿

是的。所有能力我们都以 API 的形式对外开放,开发者通过简单的 API 调用,就可以获得相应的能力。

很符合阿里的风格,让天下没有难做的 Agent。

我们知道 AWS 也推出了 AgentCore。怎么看 AgentCore 和 AgentBay 的定位,以及一开始优先级的选择?可以给大家讲讲它们的相同和不同吗?

安陈

AWS 发布 AgentCore 之后,我们其实也做了一些分析。

我们大概在 4 月 7 日的峰会上发布了 AgentBay,但那个阶段更多还是概念性的内容,以及产品设计相关的东西,也只是做了一些基础能力给外部客户使用。

到世界人工智能大会期间,我们发布了商用版本,让中小型开发者可以通过官网使用正式产品。同期我们也看到 AWS 发布了 AgentCore。

分析之后我们发现,云服务厂商对于 Agent infrastructure 的看法还是比较一致的。从产品能力、对应接口的定义,到整个产品布局,几乎相似度都非常高。

你们有没有感觉到,AWS、火山引擎或者其他云服务厂商,谁在 Agent infra 上投入的力量最大?比如资金、团队规模,或者一号位的决心,有没有这样的感知?

旭卿

Agent 对业界来说是 AI 的一个重要应用方向,各家公司在这个领域都会非常重视。

在阿里云内部,吴泳铭其实非常关注 Agent 和 Agent infra。尤其在今年年初的全员启动会上,他重点提到了 Agent infra。

上周,在产品发布之前,我们也和吴泳铭进行了新一轮汇报。他对 AgentBay 当前的进展还是非常满意的。

这周我们也看到,在这个领域老板还是很舍得投入的,又给你们加人、加钱、加资源。

旭卿

我觉得在这个领域,阿里云内部从一号位到各个事业部,再到具体执行的同学,大家都非常看重,也认可这是一个正确的方向。

为什么这么看重?你们觉得这是一个防守策略,还是进攻策略?

旭卿

我相信从一号位的视角来看,这可能还不是把它看成一门生意,而更多是认为,今天 AI 在应用过程中遇到的这些问题,如果云服务厂商有资源、有资金、有人力,却不去构建这些能力,其实会影响 AI 的整个进程。

安陈

我补充一点。老板虽然给我们加了这么多人、这么多资源,但从来没有给我们提过“你们要营收多少”,而是问有多少客户在使用这件事情。

这很有意思。因为我们下一个问题正想问,又加钱、又加人、又加资源,那 OKR 有没有加?KPI 有没有加?

安陈

这个确实没有。老实讲,没有加。

因为在这个阶段,我们对于 AI 的判断还处于相对早期,还是需要更多像阿里云这样的公司一起参与,把整个生态能力构建起来。

所以你们现在主要看的数字或者指标,是不是有更多人在使用你们的服务?

安陈

是,而不是在这个时候为服务付了多少费用。

钱目前不是主要考虑因素?

安陈

钱目前肯定也不是主要考虑因素。

我想象一下,你们可能也不需要帮阿里云卖云服务,对吧?这也不是一个指标。

安陈

肯定没有,也没有这方面的指标。

那 AgentBay 在阿里云整个 AI 战略里面处于什么位置?

旭卿

过去两年,大家都在卷模型。但是 AI 怎样才能真正用好,Agent 是一个很重要的方向。

所以在整个 AI 大图里,我们是承上启下的。一方面,要通过 Agent infra 把模型能力对外开放;另一方面,上面可能还会构建 Agent 开发框架,让更多用户在开发 Agent 时变得更加简单。

上周我们参加了一个直播,周鸿祎在直播中发布了一个新产品,叫纳米 AI 智能体蜂群。里面提到,他们在做 Agent 时没有选择云端沙箱,而是选择本地。

他提到一个非常重要的点:云端沙箱不安全。用户如果把自己的密码、个人身份认证信息放到云端,可能会出大事,所以他们选择了本地。这听起来像一个做安全的老兵非常坚定的路线选择。

AgentBay 的沙箱是云端的。你们刚才也提到,无论阿里云还是你们过去的从业经历,都把安全放在最高优先级。这里能不能讲一讲,如何让开发者相信,AgentBay 的云端沙箱是非常安全的?

旭卿

7. Cloud Sandboxes Win On Safety

本质上就是云能不能提供一个更加安全的环境。

我大概从 2005 年开始做云计算相关技术研究,2014 年加入阿里云。最早我对云、对 cloud infra 的认知,也觉得把自己的数据放在自建数据中心里,可能会更安全。

加入阿里云之后,第二年我的认知就发生了一些改变。当时我遇到一些客户和问题:在自己的线下数据中心里,他们开发了一个新游戏,今天发布,可能竞争对手用当时的比特币,甚至不需要多少成本,买 5 G 流量就能把自建数据中心打垮。

但是在阿里云上,抗 DDoS 的能力非常强。在这种情况下,很多游戏厂商都把基础设施迁移到了云上。

公共云和线下自建基础设施最大的不同,就是它在不断迭代。只要是软件、系统,就可能存在漏洞,但云厂商有几千人的安全团队,实时守护这些数据的安全。

如果一家企业自建数据中心,你会发现它可能招不到这么优秀的安全工程师,成本也会极高。为了保护一个线下数据中心,需要投入巨大的资源。

所以,您刚刚提到的那个案例,我不是特别认同。真正做了十几年云计算之后,我深刻感受到,公共云能够提供比一家企业自身强得多的安全能力。

我理解,这里面的不同在于,云端沙箱和本地沙箱中的“本地”,并不是本地云,而是用户自己的电脑。

旭卿

我觉得首先要从能力上来看。前几天 Manus 创始人肖弘讲到,他们可以同时调度 100 个 Agent 做 wide research。这样的工作很难在本地电脑上完成,只有靠云。

从能力上来说,随着 Agent 技术发展,全部运行在本地其实不太现实。

另外,如果运行在云端,我们能提供哪些安全能力?从沙箱的整体设计,到 Agent infra 层面的安全架构,我们提供的是端到端的数据保护能力。

就像把钱放在自己家里,还是放在银行里,哪个更安全一样。对云厂商来说,数据安全就是生命线。云厂商都会投入大量人力和安全资源,确保数据不会泄露,不会被别人看到。

这也可以说是一种路线选择。有些人觉得放在本地还有一个好处,就是不用登录,不需要让用户提供新的用户名和密码,因为自己的浏览器里本来就存着 Cookie。

你们现在会怎么说服开发者?我相信在这件事上,开发者还是会有路线选择的。

旭卿

像您刚才提到的浏览器,里面可能保留了很多 Cookie、用户名和密码。其实在这种情况下,你选择相信的是操作系统厂商和浏览器厂商,因为操作系统厂商和浏览器厂商肯定可以拿到这些数据。

但是为什么我们可以相信微软或者谷歌不会动你的东西,不能选择相信一家云厂商呢?

你觉得数据存在本地更安全,但本地电脑上可能有木马、病毒,更容易造成泄露。今天把这些数据托管到第三方的安全保险库里,那个环境相对来说更加单一、纯粹。

还有一个说法是,用云端沙箱的话,不管在上面跑什么代码、跑崩了,都是云端的事儿,本地是安全的。

有一个段子说,模型在本地沙箱里主动删除了一个目录。我以前一直以为是段子,前几天才知道这是真的。模型完成任务时发了一条命令,把电脑上的一个目录真正删掉了。

旭卿

但这在沙箱里就没有问题。云端沙箱删掉之后,沙箱可以恢复,或者它本身就是虚拟的,不会伤害到你本地的个人文件和隐私信息。

刚才我们也说到了 Manus 上周发布的 Wide Research。现在有一个趋势:去年大家还觉得 token 消耗是不是快到头了,英伟达的卡要卖不动了,确实也看到价格在下降。

但今年 Agent 一出来,大家发现不是这样。能力变强之后,token 消耗是 10 倍、甚至 100 倍地增加。

你们看到客户对高并发能力的要求,现在最强的客户要求达到什么级别?

安陈

8. Agent Scale Changes The Math

像我刚才提到的国内一家 Agent 厂商,给我们的要求是,日常白天大概要做到 20 万并发,也就是 session 做到 20 万并发。

这个数字还是挺让人惊讶的。

安陈

我们仔细分析之后,觉得它其实非常合理。因为如果它是一个 App 或者应用程序,用户数量决定了并发上限。

这 20 万是 20 万个用户同时发出 Agent 任务,还是背后可能只有 1 万个 Agent 任务,但每个任务会再发出 20 个子任务?

安陈

是并发的子任务。

那确实会飞速增加。Manus 的 Wide Research 案例里,一个主任务会一下子开枝散叶,产生 100 个、200 个子任务。我们也相信,这是未来通用 AI Agent 发展的重要方向。

但这样感觉上也挺赚钱的。

安陈

确实如刚才所讲,我们还没有考虑赚钱。现在更重要的是怎样把产品功能做好,更好地满足 Manus 这类企业的需求。

所以现在还没有非常明确的收费模式?

安陈

我们也观察了这个领域。构建产品的当前阶段,还是先把产品能力做出来,满足 Agent 开发的需求。

长期来看,我相信它肯定还是一个商业行为。

未来这个领域可能会出现什么新的商业模式?以前的收费方式,和未来会有什么不同?

旭卿

我们做云计算公司,不能说是路径依赖,反正从计费设计上还是以算力为主的售卖模式。

说白了,就是你买我多少资源。比如你是 Manus,要给我开 100 个并发,我就收 100 个沙箱的钱。

但我理解,未来可能会走向应用层收费。举个例子,当需求过来时,我提供的不只是一个算力环境,还会配套其他模块,比如多模态模型推理的成本,或者这 100 个并发沙箱里状态一致性管理的成本。

这些东西加起来之后,算力可能只是一个很小的成本。这个时候,我们可能会采用服务化的收费模式。

你们现在感受到的客户需求,增长曲线大概是什么样子?

安陈

非常指数级。你可以看到它在不断倍增,每天都会有很多用户进来,并发数也会快速上升。

今天早上来之前我们还开了一个会,讨论怎样实现全球资源调度。

听十字路口播客的朋友,很多都是创业者或投资人。听到这里,大家可能都会想问:除了通用 Agent 之外,在垂直领域,不管 To B 还是 To C,有哪些增长非常快的 Agent?

对大家来说,这意味着投资机会或者创业机会。

安陈

卖水的公司肯定感受得非常明显。

旭卿

我们以前做云计算有一个说法:你可以非常清晰地看到整个业界各个行业的变化。

安陈

现在首当其冲的是通用 Agent 和 Coding Agent,大家作为消费者也能感受到。

Coding Agent 的商业化和商业模式相对成熟,适用范围也最广。通用 Agent 则是在 Manus 发布之后,所有厂商都在做改造的方向。这两个领域大家都能感受到。

其次,基于这些 Agent 通用框架,或者说整个 infra 逐渐成熟之后,我们能看到很多传统应用也在做 Agent 化改造。这些目前更多发生在企业内部,消费者可能感受不到。

比如一些电商企业,传统业务里有大量自动化工作,过去可能用 RPA。假设你是运营,要做多平台比价、产品上架、主图设计等等,很多以前重复性的工作流,现在都用 Agent 改造了。

我们现在接触的很多大客户,并不是把 Agent 集成进去,为外部提供服务,而是更多做内部 OA 自动化,或者重复性工作的自动化。

它可能体现在自动化运营、财务重复性工作,以及内部客服等方面。这是一个大企业内部潜移默化的提效过程,而不是面向客户的产品。

旭卿

面向客户的,大家可能能够接触到的,有一些 HR Agent,也就是人力资源相关的 Agent。

另外是金融领域,比如投资建议相关的 Agent,很多人在做。这个领域非常多人做,因为它离钱近,而且投资很容易形成闭环,数据也都是数字。

安陈

我自己前段时间也做了一个,帮你炒股、做投资的 Agent。

现在大家都知道消息面很重要,所以怎样广泛获取数据,再让 AI 帮你分析,很多人在做。大家也知道,量化是离钱最近的地方,所以投资建议相关的应用会非常多。

另外还有民生、医疗相关的应用。美国现在医疗科技指数发展得也很好,很大程度上就是因为大模型能够给这个领域创造更多价值。

我们播客之前聊过很多创业者,但很少有大厂高管来上节目。所以我自己也有很多关于在大厂做业务、做管理的问题,希望今天可以请教一下旭卿。

我知道无影事业部是做云电脑的,而且之前和二位交流时,我们也了解到,无影增长非常快,盈利也不错。在这样的情况下,要做转型,我理解是需要决心的,也有很大的机会成本。

因为新的转型方向可能需要很长时间、很多耕耘,才能慢慢看到回报,不会像原来的业务那样,再做一做或者再做一轮全球化,很快就能看到增长数字。到年底汇报时,原来的业务可能更容易出业绩。

所以想请问,你们是怎么做出这样一个重大决定的?

旭卿

9. The Ten Year Platform Bet

我对 To B 业务的看法是,任何 To B 业务相对来说都是长期的。它不像卖手机,设计得好、受到用户欢迎,马上就可以卖爆。

To B 业务永远是长周期投入,见效相对比较慢。我记得很清楚,2016 年春节之前,马老师到阿里云给我们讲过一件事:在阿里做任何一个 To B 业务,投资周期都是 10 年。

比如淘宝,2003 年、2004 年开始做,到 2014 年上市。当时他也举了支付宝的例子,支付宝可能从 2006 年开始做,到 2016 年才相对成熟。当然,阿里云是 2009 年开始做的,当时的预测可能到 2019 年才会做得比较好。

这件事说明,阿里在 To B 业务上的投资,10 年之内基本不会要求你一定做到什么程度,或者一定赚多少钱,而是看你怎样在这个赛道里深耕,做出价值,尤其是长期价值。

所以我做任何事情,基本上也都是以 10 年为单位。

去年吴泳铭来了之后,把无影升级成了一级事业部。我们把无影和大模型视为阿里云、云智能集团最重要的两个战略性产品。

那你今年把去年认为非常重要的云电脑赛道做了调整?

旭卿

这可能是大家对这件事的一些误解。整个无影这几年的增长速度还是非常高的,我们也保持着三位数的高速增长。

从业务层面来看,我们一直在往前增长。这也是为什么去年我们把它作为终端云计算里最重要的战略性产品来推进。

在这个过程中,大模型、AI 和智能体也在发展。我们就在思考,无影怎样和 Agent、AI 更好地融合,为无影长期发展提供更大的能量。

我们希望让云电脑在大模型时代,为 AI、Agent 和大模型提供一个非常好用的电脑、手机,或者代码执行环境。

我们是在这样的思考下开始布局这个方向的。真正下定决心,还是在 GTC 之后。

想清楚之后,你可以把 AgentBay 和无影理解为兄弟关系,或者说 AgentBay 是无影产品能力、技术能力上的扩展。

说起来简单,但真正做这件事时,首先要有资源、有人,要把更多人力投入进来。

旭卿

过去半年我其实蛮纠结的。一方面要保证无影这边的业务高速增长,另一方面又要保证在新赛道上不踏空,及时、高效地把这件事做起来。

这挺不容易的。

旭卿

确实挺不容易。内部协调时,你会发现有些同学非常想做 AI,会主动报名,说一定要加入;也有些同学觉得现在做得挺好,手上还有很重要的工作,你却要把他调过来。

这里面有很多权衡,也有很多沟通。

我理解这里面有一个很难的点:AgentBay 好像是一个未来非常光明的机会,会不会有些还在做无影的同事觉得失落,觉得自己没有被调到 AgentBay?

旭卿

这也是领导的艺术。我相信肯定会有,但总体上两边都是战略业务。

只不过 AgentBay 可能更长期一些,而无影今天已经落地,并且保持着非常好的增长势头。我相信做两边都还是很有成就感的。

老板,我来发表一个暴论。

老板可能觉得不太方便讲,我稍微激进一点。我觉得无影做云电脑这件事,一直以来也是比较超前的。过去我们的概念叫“端侧算力上云”,因为我们认为,个人用户对算力的要求一定是传统 PC 无法满足的。

过去无影服务了很多特定行业。比如这两年有很多个人设计师使用 Stable Diffusion、FLUX,还有一些做仿真的人,需要高弹性、高 GPU 资源的算力,就会跑到云上使用云电脑。当然还有一些对安全有要求的客户。

过去这些事情,普罗大众可能没有感知。但今年不一样了,电脑这个概念可能会被重构。今年是什么?是超级个体的一年,是个人云计算的一年。

个人对算力的要求,不是传统拿一台电脑就能完成的。比如我现在有一个任务要跑 100 个环境,本地完全满足不了。

所以在这个时代,云电脑会真正把端侧商业场景实现出来。未来我们认为,普罗大众都需要用到云电脑,这也是无影过去几年一直在做的事情。

同时,AgentBay 在服务 To B 客户时,其实也在服务云电脑。我们现在打造的是一台逻辑上的云电脑。

第一,它可以持久化,状态和数据都在上面。其次,它具有高并发、高弹性,在有大规模任务调度时,可以在云上镜像出 100 台,运行大规模并发任务。

第三,它可以随处漫游,是多端的。今天可以在手机上用,明天在平板上用,后天拿电脑来用。我们也有自研硬件。

最后,它可以通过自然语言驱动。这些都是很多传统电脑现在做不到的。

AgentBay 做的事情,本来就是让 AI 使用一台电脑。我们认为,未来电脑第一是基于云的,第二是高并发,最后是上到 80 岁老人、下到 7 岁小孩,都可以通过自然语言驱动一台电脑。

所以我们觉得,云电脑真正迎来了它的历史使命。传统业务的同学,现在依然有相当多在为这项业务的升级改造奋斗。

旭卿

本质上,它还是一台由 Agent 驱动的电脑。无论我们在睡觉,还是大家在聊天时,Agent 驱动的那台云电脑都可以帮你完成一些事情。

我们也提到过数字员工的概念。我们希望一个员工除了自己,还拥有一个数字分身。它可以在云上利用智能提升能力和云电脑能力,在你休息或者任何时间,并行帮你完成很多复杂任务。

前几天我们还提到一个概念,叫“硅碳共生”。更多是说,云上的数字人是硅基的,它和真实的人之间能够进行很多协调和互动。

我理解,二位从参加工作以来,应该经常参加各种展会和技术峰会。但听起来,这次 GTC 给你们带来了非常强烈的震撼,震撼到当天晚上就要连夜决定未来好几年的战略规划。

在之前的职业生涯中,有过类似的感受吗?

旭卿

2016 年、2017 年我去美国参加过一个展会,具体名字有点忘了。那一年容器在会上非常火,各家公司都在谈容器,也有很多容器相关的创业公司。

但容器真正运行在物理机或者虚拟机上时,性能都会受损。从文件系统层面看,它使用了 overlayfs,虽然很方便,但性能会下降。

网络也是一样,使用的是最原始的虚拟网络,用软件去做虚拟化。这些都会严重影响容器的大规模应用。

所以回来之后,我们布局了一个新产品,后来的神龙服务器。2017 年正式发布,后来整个业界都跟随我们的标准做 DPU、裸金属和虚拟化。

我们之前跟一个朋友说,旭卿要来上十字路口。朋友说,这是弹性计算的神级大佬。

当时我有另一个想法:神级大佬现在是不是要转型了?

最近我们刚发了一期节目,讨论 AI 时代的程序员站在十字路口。因为美国最近有一个数据,今年毕业的本科计算机专业学生失业率是 6.2%,艺术专业学生只有 3%。也就是说,今天学计算机的学生,失业率是艺术生的两倍。

所以当我看到弹性计算的神级大佬时,一方面非常开心能够迎来这样一位重量级嘉宾;另一方面也会想,今天不只是应届毕业生,很多人到了职场中间阶段,突然面对 AI 这么大的冲击,会不会心慌?

好不容易成为某个领域的神级大佬,突然又来了一场巨大的技术浪潮,可能改变一切。你有过这样的时刻吗?你是怎么理解和面对的?

旭卿

10. Building For The Next Wave

回顾我这十几年、二十年的职业生涯,我觉得自己是一个比较善于思考,或者说勤于思考的人。

在来阿里之前,我在英特尔工作了 9 年,3 年实习、6 年工作,从 2008 年到 2014 年。实习 3 年,我应该是英特尔为数不多的几个实习 3 年的学生。

当时全世界都在讨论云计算到底是什么,或者云计算应该往哪个方向发展。我很幸运地加入了英特尔的系统虚拟化团队,主要做开源技术,比如后来被用到云计算里的 Xen、KVM 等开源项目。

当时和我一起去的还有另外一个同学,他可能不是特别看好,认为这个东西使用人数太少了。

那时全世界研究虚拟化技术的地方,其实也只有 VMware、微软、剑桥大学和斯坦福大学等少数机构。整个领域的技术人员加起来可能不超过 100 人。

有些人会认为这是一个小众赛道,毕业之后可能都不一定好找工作。但我不这么认为。

我觉得这项技术的本质很有吸引力,因为我原来就向往 CPU、操作系统和底层技术。进去之后我发现,可以研究的领域和技术深度又往下探了很多层。

在那个阶段,大家对云计算以及云计算需要什么技术,都没有太多概念。但我觉得它是一个足够深的技术,未来一定会有重要的应用方向。

还没等我毕业,2006 年、2007 年,AWS 做云就已经初露锋芒。那之后,全世界的人都到我们团队去挖人。

我们团队总共 27、28 个人,大概有近 10 个被挖到美国公司,拿到美国 offer 后直接迁移去了美国。因为全世界熟悉云计算核心技术的人,当时可能不超过 50 个。现在想想,可能也不会超过 100 个。

听起来很像今天做大模型研究的那一批人。

旭卿

所以在那个时间点,我觉得自己很幸运,参与了云计算浪潮。

大概 2014 年我去了阿里。当时我跟 leader 讲,我们怎样能够打造一个服务千万级客户的计算平台?那个时候大家都觉得可能是天方夜谭。

但我们很坚定:哪些技术架构不利于向千万级客户拓展,就要废掉,重新来过。

我觉得 2014 年这个时间点我们选对了。2015 年移动互联网爆发,各种 App 爆发之后,客户大量上来,而我们的产品已经准备好了。

到 2016 年,我们把虚拟机性能优化到和物理机相比只有 3% 到 5% 的差距。大家都觉得这是业界极限,3% 到 5% 已经是业界标杆。

但我当时就在想,我们需要为未来思考。如果要牺牲一些 CPU 资源把性能提上去,这绝对不是正确方向。

2016 年我每天都在思考这些问题。参加那个展会时,我看到容器等新技术。容器看似性能无损,但底层还有很多性能损耗。

那我们应该怎样在软件协同、芯片设计等领域提升计算性能?所以 2016 年我们布局了神龙,一举成为业界标杆性产品。

几乎所有业界云计算公司现在使用的底层技术架构,都和神龙没有太大差别。因为发布之后,全世界都在跟随。

AI 领域也是一样。大概在 2015 年,我就开始布局今天所谓的 AI 基础设施。

当时阿里巴巴集团内部使用的是英伟达的 K2 卡。现在看来,K2 的计算力非常有限。我们用它做机器学习,做了一个叫“拍立淘”的产品,用户拍一张图片,系统识别之后,把相似的东西推荐出来。

看到这个方向之后,我觉得阿里有这样的需求,外部公司也会有。于是 2015 年我们开始布局 AI 基础设施,到 2016 年底,产品已经做出来了。

非常巧的是,2016 年底,上一轮以深度学习为主、以计算机视觉和语音为主的 AI 浪潮爆发了。

在上一波浪潮中,中国超过 80% 的科技公司的 AI 算力需求都在阿里云上。因为我们在 2015 年就布局了这个产品,只是那个时间点 AI 还没有爆发。

2017 年做出神龙之后,我们又开始思考,面向未来大规模参数的 AI 基础设施到底是什么样子,于是布局了 GPU 超级计算集群。

过去这么多年看下来,总体来说,我觉得需要为未来思考。尤其做技术管理之后,你要为未来两三年可能发生的事情做预判和准备,而不是等浪潮到了再去防御。那时就晚了。

现在再看 AgentBay 为未来做的这些事情,有没有哪一件会让你担心,觉得可能赌错?

旭卿

我们做的这些东西,我倒不担心哪一件会赌错。我更担心的是,在整体布局里,有哪一块是我没有想到的。

这是我每天在思考的问题。

就是不知道自己不知道什么。

旭卿

对,这是最可怕的。

现在一个大趋势是,很多人都说要什么都懂一点,尤其是一人公司,一个人可以做很多事情。

你会建议一个初阶工程师,或者工作了几年的工程师,在自己的领域增强能力,还是顺应大趋势,什么都学一点?

旭卿

我觉得要看不同阶段。

如果是刚入职场的工程师,真正重要的还是聚焦在某一个领域,把它做深。知识面当然也重要,但如果在某个领域没有很强的知识深度积累,未来整体发展还是会受到限制。

原因不在于你知道多少,因为现在大模型什么都知道。你问什么问题,它都能讲得非常深入。

但如果让它做非常专业的事情,尤其是在某些技术领域需要深度钻研的事情,今天的大模型可能还没有那么擅长。或者说,这些事情需要结合人的大脑思维活动,并不是大模型知道得足够宽泛就能解决。

所以对工程师来说,我的建议还是像我当年一样,把虚拟化技术研究深入。之后再看怎样结合今天从事的业务,把它的价值充分发挥出来。

这样,你就要把周边技术融会贯通。只有这样做出来的产品才有竞争力,业务才会有更好的增长。

对人的要求还是越来越高了。

其实我比较好奇,听起来旭卿不管是在实习的时候,还是 2015 年、2016 年的时候,一开始看到云计算,后来看到弹性计算,包括现在看到 AI infra,往前看的很多预判都被验证了。

你预判到了科技世界最大的潮流。你有没有抽象总结过,自己为什么可以做出这样的预判?这背后需要哪些素质、工作习惯或者思维方式?

旭卿

我觉得,对未来会发生什么,要从今天发生的事情里寻找蛛丝马迹。

比如 2016 年,那是我们的双十一总结会。当时我们的 CTO,也就是现在的达摩院院长张建锋,提出说,虚拟化技术今年做得很好,只有 3% 到 5% 的性能损失,但是能不能做到没有性能损失?

如果我不参加那个双十一会议,或者他讲了这句话我忽略掉,觉得“这怎么可能,3% 到 5% 已经是极致了”,那就不会有进步。

我当时觉得,自己是这个领域的技术一号位。老板提了一个看似不可能的需求,我们能不能换一个思路,看看未来它会不会发生?

之后我参加了一些展会,发现很多相关技术都在如火如荼地发展。把这些错综复杂的因素和线索放在一起,我就觉得可能有一件事要发生了:软硬件协同设计,或者软硬件深度协同优化。

我们能不能通过软硬件协同设计和优化,带来革命性的技术变革?

我每天不断思考,如果要完成这个预设目标,哪些技术今天还不够,哪些芯片和系统软件技术今天还做不到?是不是要布局一颗芯片?是不是要布局某项系统技术的研发?

当这些东西都想明白之后,我觉得可能需要布局一颗芯片,于是我们开始做神龙芯片。

然后我去说服管理层,投入资源做这样一颗芯片。阿里以前没有做过芯片,所以当时需要说服管理层。

如果看到了机会,却没有说服管理层投资,三五年之后被验证了,可能不只是被打脸,而是公司错过了一个非常重要的战略转型机会。

所以我基本上都是从今天发生的事情里寻找线索,或者从今天遇到的困难里思考:看似解决不了的问题,未来有没有解决的可能?

我们都很喜欢的一篇文章,是 Paul Graham 写的《如何成就伟大事业》。里面讲到,你要找到那种自己做起来毫不费力,但别人觉得很难的事情,而那件事很可能就是你做出别人做不到的事情的起点。

你会有这种感觉吗?一路以来,在外人看来,你做的很多事情都很难,困难程度很高、挑战也巨大,但你自己做起来好像挺快乐、挺得心应手,找到了所谓“自己做起来没那么费力,但别人看起来很难”的事情。

旭卿

恰恰相反。

加入阿里之后,在那个团队里,我看到周边的技术大牛们,真正的感受是,他们一开会,说的每一句话都不是英文,都是中文,每个字面意思我都听得懂,但完全不知道他们在讨论什么。

我当时就觉得,我需要用半年的时间听懂他们在做什么、讨论什么。

听不懂,恰恰说明我的成长和进步空间在这里。如果因为听不懂就放弃,我觉得那不是我的个性。

你觉得这样的性格,或者这种学习欲望和习惯,是怎么形成的?

旭卿

从小就是好学生。

我觉得这可能和个性有关,个性可能是与生俱来的。你说是要强也好,或者其他什么个性也好,总体来说,我喜欢看到困难的事情,不喜欢一件很简单的事情,轻轻松松就搞定。

我更喜欢有挑战性的东西。

就是明知山有虎,越是这样的山越喜欢。

你觉得今天做 Agent infra 面对的挑战,和过去曾经面对的挑战相比,是一个什么级别的难度?

旭卿

做整个 Agent infra 布局,就像你刚才问的,其实对我来说需要学习很多新的东西。

我经常找产品经理和技术研发 leader 讨论各种各样的事情,因为它可能和我以前学到的、熟悉的东西不太一样。

对我个人来说,这是一个很有挑战性的事情。我需要把它搞懂,才能和他们进行平等交流。不然他们把我忽悠了,我也不知道。

所以我觉得,这件事的挑战性还是蛮大的。

刚刚说到,当你看到一个未来方向,希望公司投入发展,但它可能是未知的东西,需要说服老板。你是怎么说服老板的?

旭卿

这个很有意思。

比如我要做神龙,我们内部可能叫“帽子卡”,业界现在一般把它叫 DPU。

说实在的,2016 年我加入阿里才两年。但在此之前,我做过很多决策,大家还比较信服,因为无论是救火,还是长期架构决策,基本都被验证了。

但是到了 2016 年,突然跟老板说要做一块芯片,对任何老板来说都是很大的挑战。

我当时的 leader 是阿里云政企事业部总裁李津。我几乎每天早上都去公司,他到公司我就到公司,反复跟他讲这件事有多重要。

大概讲了半个月,终于把他说服了。

后来这件事也被验证是正确的。2017 年云栖大会发布神龙时,全世界云计算公司都觉得,原来还可以这么做。

以前大家觉得虚拟机的上限是物理机,现在变成了虚拟机的上限没有上限。当这个理念被认可时,团队的成就感就来了。

我觉得这是职场里很容易出现的一种现象:一线的人未必看不到未来,也未必不知道公司应该投入什么,但对他来说,挑战是怎样说服老板投入资源。

所以我还是希望团队成员遇到困难时,能够迎难而上,来劝服我,让我相信应该在这些方向进行投资。

刚才旭卿提到,你们今年拿到了更多的人,也拿到了更多资金和资源。现在要不要在这里招聘一下?

安陈

当然。我们非常希望更多真正认同这个方向的人加入。无论是刚毕业的大学生,还是在 AI 领域有丰富经验的资深开发人员,都可以加入我们,一起共筑未来的 Agent infra 平台,让更多企业开发自己的 Agent 时更加高效。

好,今天谢谢二位。

旭卿

谢谢。

安陈

谢谢,谢谢。

“让天下没有难做的 Agent” | 对谈旭卿(阿里云无影事业部总裁)、安陈(AgentBay 产品负责人) | BidClub