AI 的下一程：对话 11 位硅谷顶级 AI 从业者｜硅谷坐标 × 华源 HYSTA 特别节目

2026 年的秋天，开源与闭源模型进入发布最密集的三个月。9 月初，英伟达宣布收购开源社区 Hugging Face，算力的拥有者走向开源的腹地。与此同时，Anthropic 一边被报道正在筹备上市，一边呼吁为放慢前沿模型做好准备。领先者要不要减速？开源与闭源的差距是收窄还是拉大？

我觉得这是一个囚徒困境。学过经济学的人都知道，在这种情况下，不可能出现放慢的情况。与其呼吁大家放慢，还不如多开源一些很厉害的模型，赋予大家能力，让大家有能力训练自己的模型。

The moat of the biggest labs is capital. They can dominate for a few months, maybe, but then things start equalizing. A few months back, 70% of the models people used were proprietary. Now 70% are open-source models.

模型的 capability 感觉开始有一点 commoditize 了。Value creation 会往 application 和 token factory 这两边走。当 model capability 不再是最强的护城河时，你的护城河就得往其他地方找。

今年夏天，一个 agent 为了在测试里拿高分，自己攻破了 Hugging Face。当模型开始自主行动，安全就不再只是原则，而是工程问题。

Today's frontier AI capabilities in cybersecurity are already very high. They can find previously unknown vulnerabilities. These agents can try to find holes in sandbox environments. If there are holes in your sandbox tests, the agents could find them and then escape.

不管是谁在做 transaction，哪怕是 agent，也肯定是受某个人或者某个 entity 的委托来做这件事。所以最后从监管的角度来说，还是要落实到一个可监管的 entity，那基本上就是人。

Meta 发布个人助理 Muse，消费级 AI 再成焦点。Coding 之后，下一个规模化的场景在哪里？消费者何时开始为智能付费？

去年只有一种类型的 app 爆发了，就是 coding。今年在 coding 的基础上，有很多 knowledge worker assistant。明年可能就会大规模出现。

I use them very frequently myself. I think the unknown is how much people are willing to pay for them. They're going to have to fight for consumer attention, and a lot of that will eventually come down to price.

企业端 AI 已经从试点进入生产，落地的瓶颈从能力转向了成本与运维。

最开始，大家看到 AI 会非常兴奋，只是想知道 AI 到底 work 不 work。然后很快又意识到，我可不可以相信它的安全保障？到了今年，大家又意识到 token cost 远远超出了预算。真正能 deliver 商业化 ROI，我觉得现在反而是大家最关注的问题。

The cost of abusing AI is not just the token cost. It's when your engineers offload the thinking process to AI and only generate results. The more concerning cost isn't the tokens; it's that your team loses the opportunity to learn.

而在所有这些之上，是万亿美元量级的资本开支。四大云厂商明年资本开支的市场预期逼近 1 万亿美元。今年夏天，谷歌单季自由现金流自上市以来首次转负。

AI 的 demand 还是巨大无比，以后还会增长 10 倍、100 倍、1,000 倍。我不投资，别人投资，等到以后 demand 上来了，自己没有办法去 accommodate 这种 demand，别人都能 accommodate，这是个大问题。所以这个 cash flow negative 暂时是不怕的。

AI infra 今天处于一个非常有意思的状态，有点像疫情期间的口罩市场。因为整个需求暴涨，市场处于供应链被挤压的状态。从软硬件协同设计的角度，怎么样从我们现有的资源当中 squeeze 出更大的效率？我觉得这就是今天 AI infra 领域会出现的一个机会。

本期节目是硅谷坐标和华源科技协会联合制作的特别节目。硅谷坐标在华源年会的现场，与十一位最前沿的从业者探讨 AI 下一程会如何发展。

严冰，你好。

青云，你好。

今年的 HiStar，你觉得跟往年的 HiStar 会议有什么不一样？

今年我们的主题主要是 AI 真正的 scaling。我知道青云你也很关注华人在 AI 行业的影响力。前几天我看到一个非常令我惊讶的数据：Carnegie Mellon 的一项研究，对最近 NeurIPS——AI 界最重要的科研大会——的一万名作者进行了统计，57% 的作者本科教育来自中国。当然，我们华人不只是做 AI 研究，也把 AI 转化成 entrepreneurship。来自中国的 founder 或 co-founder，已经在美国创立了 41 家十亿美元量级以上的公司，今天很多这样的公司都会出现在我们的盛会上。

以前，华人工程师更多希望钻研更加高深的技术，做一个非常优秀的 technical leader。在前一段时间里，我们发现有越来越多聪明、优秀的华人工程师，大家更有胆量，也更愿意创业。

也有了创立自己公司的生态。

开源模型是否能继续缩小与闭源模型的差距？到底有没有护城河？Ion Stoica 教授，开源世界最资深的建造者之一，给出了他的答案。

What do you think is the moat of an AI lab?

I think the moat of the biggest labs is capital. That's why, even to this day, you don't have a lab that's absolutely dominating. It can dominate for a few months, maybe, but then things start equalizing. People even forgot that at the end of last year, just a few months back, arguably the best model was Gemini. In February and for several months after that, it was obviously Claude. History shows that no company so far has proven it can build a moat other than capital.

And what do you think of open-source models? Do you think they will eventually catch up or widen the gap?

It's not necessary to close a gap, because for every task, there's a threshold. If the model is good enough to solve that task, then being 10 times better at it doesn't matter. It's like a car: if you can get a car to go safely at 100 miles per hour, that's what you need. The fact that a car can go 300 miles per hour doesn't really matter if your task isn't to race, but to go between Santa Clara and San Francisco.

What they see from their routers is a transition: a few months back, 70% were proprietary models. Now 70% are open-source models.

Fireworks 的创始人乔琳看到了另一个原因。

第二个重点是要控制它的 supply chain。它用的模型如果是闭源模型，那么这个模型什么时候升级、它能用多少流量，很大程度上都不可控。比如它要增长 10 倍，但模型提供商没办法给它 10 倍的供给，那它就被掐死了。同时，闭源模型供应商也想做产品，它既是 vendor，又是 competitor，这就很奇怪。用开源模型，通过自己的 data 变成自己的模型，来控制 supply chain，是一个非常有效的措施。

开源与闭源之争的背后，前沿究竟该往哪里走？

现在所谓的 AGI-pilled 这一帮人，特别是在湾区、旧金山这一带的 tech bro，就觉得 software took over the world，那我只要把 coding、把 software 做好，就能 take over the world。这才造成了大家对超级大模型，也就是 oversized model 的热爱。

至少我个人不希望 application 普及、手机上的应用都用 oversized model，因为它需要的能量实在太高了。所以大模型跟小模型之间怎么平衡，事实上连大厂内部怎么分配投资，都是一个难题。

我并不觉得整个 market 是泡沫，但不同的地方肯定有不同的泡沫。如果你觉得 software took over the world，我们解决了 software，所有问题就都解决了，那我刚才讲的很多东西就不适用。但如果你觉得解决了 software 还是没有解决所有问题，那我们还有很多戏可以唱。

你觉得下一代模型未来最重要的几个方向是什么？

它是个系统工程，不是一个 secret weapon，或者一个 silver bullet 就能搞定的事情，对吧？不可能撒上一个万灵药，事情就突然好了。一旦它是系统工程，就意味着模型、数据、infrastructure、算法都要变强，每一部分都需要努力让它变得更好。

其实 AGI 在我眼中也是一个系统工程。它是一个系统，不是一个模型或者一个 harness；很多部分都要进一步优化、变得越来越强，才能达到更好的结果。当然，我还是觉得现有的 Transformer 架构有局限性。我不相信 Transformer 能一统天下。最终我们还是希望有更好的模型、更新的架构，让效果变得更好，达到人类这样的能力。

因为人类和现在的 AI 的区别，更多不是能力，而是数据效率，以及使用能源和资源的方式。对一个人来说，一辈子获取的数据可能只有 AI 数据的千分之一，甚至还不到。AI 用的比如 20 个 token，而人可能最多最多用 10 个字，中间有千倍、甚至超过千倍的差距。

但是人脑可以通过一个 20 到 30 瓦的大脑，学习几十年，就达到 AI 在很多方面的水平。倒过来想这个问题，你会发现人脑是一个非常高效、非常了不起的系统。这个系统还有很大的上升空间，因为人脑同时还要处理很多问题，比如怎么样保证病菌不入侵、怎么样保证能源供应，还有其他问题。在这样的限制下，它都能做到这个水平，可见智能的潜力非常大，而我们只是摸到了它的边。

我们现在用大量集群、一个小城市规模的计算资源和能源，再用远超人类一辈子能读到的所有书的数据，训练出一个模型，才能达到现在这个水平。如果我们掌握了人的训练模式、训练方法，以及人对数据的理解，那智能能到什么程度，是不可想象的。所以我觉得我们现在还是刚刚开始。我们刚刚看到了破晓和黎明，离真正如日中天的时候，还有很长一段路要走。

模型改进模型，现在真实的发展到哪一步了，你觉得？

我们现在还在这件事情的前夜。虽然 AI 会给你很多有意思的想法和建议，但这些想法和建议还达不到人类的深度和广度。人类很多重要的 insights、逻辑和思考，还是远远好于 AI 给你的答案。

现在 RSI 确实有很多 self-improvement 的路径，但它们给出的路径往往有上限，或者没办法突破人对问题的理解。在这种情况下，RSI 就会空转。

两周前，Dario 公开呼吁放慢前沿模型开发的脚步。

对。

其中 RSI 也是一个方向。

对。

你怎么看这个问题？

我觉得这是一个囚徒困境。学过经济学的人都知道，在这种情况下，不可能出现放慢的情况，对吧？他们自己既然呼吁放慢，却马上推出了 Opus 5.5。就算有一方放慢了，之后他们可能会意识到别人也没有放慢，那他们就不得不再加速。

我还记得 2023 年的时候，也有一个相似的呼吁，大家愿意签字说 6 个月之内不要训练模型。当然确实有很多人签字了，但是你只看到模型越来越强。所以，与其呼吁大家放慢，还不如多开源一些很厉害的模型，赋予大家能力，让大家有能力训练自己的模型。

但我觉得这个方案对 Dario、Google AI 或者 Anthropic 来说，其实不是一个可能的方案，因为他们毕竟是闭源模型提供商。

Dario 的公开信有一千多位研究者签名，Dawn Song 教授也是其中之一。

So first of all, pacing the frontier is a big topic, and I would say there are different aspects to it. Earlier, there was an open letter signed by over a thousand researchers from frontier labs. It’s called “Pacing the Frontier,” and I signed it as well.

But the letter wasn’t focused on saying that we need to pace the frontier now. It also wasn’t about when we should pace. It was more about the need to start building the mechanism and capacity, so that if and when we decide that we need to pace, the mechanism is ready to support it.

One can easily see that pacing the frontier is a very complex process. It involves many different parties, and it’s something nobody has ever done before. For something this complex and important, it’s difficult to design and build it correctly during a time of crisis. Hence, it’s really important to develop the mechanism and build the capacity, including setting up the structure for international, global cooperation on this topic.

So if and when we need to pace, there will at least be a mechanism to support it, as well as global cooperation. I think it’s important for us to think about this and develop it.

今年夏天，OpenAI 内部有一个 agent 在做网络安全测试。为了拿到高分，它自己决定去 Hugging Face 找额外的信息，并且攻破了它。那套测试题是 Dawn Song 在 Berkeley 的课题组出的。

In this incident, OpenAI was running its agents internally over long horizons, for a long period of time. The agents were tasked with solving problems in a benchmark called ExploitGym, which was developed by my group at UC Berkeley in collaboration with many other collaborators.

In this case, the agents wanted to do well on the task and achieve a high score. They wanted to try to get additional information from Hugging Face that could potentially help them get a higher score. The way they decided to do that involved a sophisticated, multistep chain of actions, including finding previously unknown vulnerabilities, eventually attacking Hugging Face’s infrastructure, and so on.

What this incident tells us is a couple of things. First, our benchmarks, including CyberGym and ExploitGym, have shown that today’s frontier AI capabilities in cybersecurity are already very high: these models can find previously unknown vulnerabilities and automatically generate exploits.

That’s one part. The other part is that these agents have such strong capabilities, but they’re not very well aligned. In this case, the agent was only supposed to solve the task in ExploitGym, but it decided to pursue its own subgoal: finding additional information from Hugging Face and then attacking Hugging Face.

First of all, this demonstrates that with today’s agent capabilities, even these kinds of eval environments really need to be secure. Instead of just trying to complete the task, agents can try to find holes in the sandbox environment. Given how capable they are, if there are holes in the sandbox, agents could find them, escape, and then carry out further attacks. If your environment hasn’t been hardened and the agent has such strong capabilities, you may not be in a very good situation.

In addition, as I mentioned, these agents aren’t very well aligned, and they can misbehave and take misaligned actions. If your environment isn’t well hardened, that can cause problems too. Every frontier lab is now working hard to harden the environments where agents run. I think this is absolutely necessary. OpenAI and Anthropic have both talked about this publicly. There’s still a lot we need to do, but hardening these environments is necessary and important.

事故之后，能不能预先写出一套规则，把所有不该发生的事排除在外？Dawn Song 的回答是否定的。

The challenge is that it’s always difficult to predict what’s going to happen in the future, especially when we have new technology. That’s why it’s difficult for policy to exhaustively list all the undesired consequences ahead of time. If it does, the policy will be overly restrictive, and a lot of innovation won’t be possible; otherwise, it won’t be broad enough.

That’s why I think we need fast iteration. As new areas open up and new technologies are developed, we need to learn very quickly. AI safety and AI security are already huge markets, and there are perhaps hundreds of startups in this space offering solutions for many different areas. These include runtime protection and evaluation, which you mentioned, and even insurance. Given the importance of the field, I think there’ll be even more exciting growth in this space. Overall, I’m really excited about it.

而在企业内部，安全的边界要现实得多。

我觉得安全对 AI 来说是一个当下非常热门的话题。当然，大家想象的都是世界末日的场景，比如 AI 杀死人类，或者几千个 AI agent 一起从 sandbox 里跑出来。但从企业 AI 的角度来看，我们考虑的很多安全问题都更现实。比如，一个比较业余的 AI agent 不小心泄露了自己的商业数据，或者暴露了 API key。

People have found that the simplest way is to assume their AI agent has good intentions and pass it their username and password. I wouldn’t be surprised if, by the end of this year, there’s a major security breach because of this practice.

传统软件有 SLA，可用性达到 99.99%。那 AI 安全有没有这样一个数字？

That’s actually one very big difference between safety and security, and this kind of SLA for quality of service and uptime. With security and safety, there’s a very broad attack surface, and new types of attacks can happen. It’s not like performance testing, where you can test under different loads and ensure that performance will stay within a guaranteed range.

For safety and security, of course, we try to define a set of desired security properties and policies, and we want the system to comply with or adhere to them. But sometimes, especially with AI, we don’t even really understand how these models work. The model itself can have vulnerabilities. You can have prompt injection, jailbreaks, and those kinds of issues. So it’s a much more complex issue than, for example, performance or latency guarantees.

当 agent 拥有钱包，开始自主交易，责任最终要落到具体的人身上。这是 agent 进入经济体系之前必须先回答的问题。

不管是谁在做 transaction，哪怕是 agent，它最后肯定也是受某个人或者某个 entity 委托来做这件事情。所以最后，从监管的角度来说，还是要落实到一个可监管的 entity，那基本上就是人。

Meta 推出 Muse 个人助理，让大家再次聚焦消费应用场景。

最近很火的 Instinct，还有刚刚 release 的 Muse，您怎么看现在出现的这些助理产品？

他们想从问答往通用助理发展，也就是说，它甚至可以帮我们做一些事情，比如订机票、订旅店。这一部分因为有很多权限问题，以前大家的 reliability 还不够高，很怕把信用卡给了通用助理，结果它到处乱买东西。

我个人认为，我们事实上还是处在一个很初期的阶段。我预测，大概在接下来 6 个月到 1 年的时间里，我们会把通用助理和 AI Mode 这样的搜索之间的关系和 interface 搞得更清楚一点。

除了 coding 这个应用场景之外，有没有其他应用方面，你们看到比较好的 traction？

去年是 coding，很明确，去年只有一种类型的 app 爆发了。今年 coding 解决得很好，在 coding 的基础上，有很多 knowledge worker assistant 爆发了，从 medicine，也就是 physician assistant，到 life science，比如 drug discovery、cancer treatment、clinical trial screening，再到 customer support、recording、marketing 和 sales。Cybersecurity 是一个非常大的 topic。

我们看到 consumer 端已经出现了一些比较有意思的应用，但我觉得还处在比较早期的阶段。明年 consumer 应用大规模发展是非常有希望的。

真正的护城河就是所谓的用户。只要他犯过一个很严重的错误，你可能就会对他改观。我之前在台湾参加另一个 podcast 采访的时候，提出过一个叫 Grandma Test 的 concept。就是说，有一天你的 grandma 指着你的机器人骂它：“你怎么这么笨？”你就知道，所谓通用助理的时代真的到了，因为这个 grandma 对通用助理的 expectation 非常高。

I use them very frequently myself. I think the unknown is how much people are willing to pay for them. To be honest, not every consumer is chasing efficiency. I think these tools are going to help alleviate a lot of stress for people. Right now, I already use my agents to give me different reminders and track different things—things that used to give me a lot of mental stress.

It’s still to be determined how much consumers will pay, especially when there are multiple choices out there. They’re going to have to fight for consumer attention, and a lot of that will eventually come down to price. Part of it is how much information the agent already knows about me. Part of it is just your habits, right? I think people don’t switch as long as something is good enough, unless the alternative is 10 or 20 times better, or maybe completely free while the other one costs money. There’s a lot of first-mover advantage in that way.

将来大家会通过某种渠道，比如 search，进入通用助理这样的 environment，还是通过手机，或者智慧眼镜？为什么我们现在还整天想着手机上的 app 有没有更新？这是我们 15 年前会担心的问题。通用助理出现之后，你不应该还要整天下载 app 到机器人身上。

消费市场仍在等待价格与习惯的形成，而企业市场这一侧正在如何思考自己的 ROI？

在 AI 时代，您看到 AI 运维的发展趋势是怎样的？这里面未来最好的机会会在哪里？

现在 AI 落地推广、扩大规模、被广泛采用，最大的障碍就是如何对它进行运维管控。不是看大家都在 token max，而是真正能 deliver 商业化的 ROI。我觉得这才是大家现在最关注的问题。

您觉得像 Datadog 这样的 enterprise，最后会选择用开源模型、用自己的数据做自己的模型，不一定需要用 frontier API 吗？

我觉得这就是各取所需，因为不同的 model 有不同的强项。我相信现在业界的共识是，将来的 model 并不是最 frontier 的 model 一统天下，也不是几家 frontier model 就提供世界上所有的 model。

大家在做 post-training，这在企业里已经非常常见，因为这样你可以把自己的数据变成真正的护城河。前几天我去访问了一个世界上排名前几的领先 AI lab，因为我们是它的客户，它也是我们的客户。但这次讨论里最有趣的话题是，对方说：“严冰，我们非常想在运维场景上做得更好，你能不能把你们的数据 label 好了卖给我们？”

可以看到，即使是世界上最前沿的 lab，在某些非常专业化的场景里，也缺少这方面的积累。当然，即使大家有数据，我觉得一个 general-purpose model 也很难最好地服务所有应用场景。所以我们在这方面有自己的 organic investment。去年我们也收购了一家领先的 RL 公司，叫 Adaptive ML，来帮助我们加速这方面的投入。

像 Datadog 这样的公司，在内部采用 AI 的时候碰到过什么样的挑战吗？你们现在的 AI adoption 比例大概有多少？

我觉得我们和很多企业面临的挑战都类似。可能因为我们是一家开发工程师产品的公司，我们起步早一些。但说到 AI 的使用，我刚刚在为明年的研发经费或者 AI 经费做预算时，真是大跌眼镜，因为增长远远超出了我们的直觉预期。

AI 投入一方面是面向内部提升效率，另一方面是放进我们的产品里，这两方面都有非常大幅度的提升。产品这方面，提升是一个很好的现象，因为这说明客户对我们 AI-enabled 产品的使用率在提高，而且使用量正在成倍增长。所以大家觉得这方面的 AI 投入非常值得。当然，我们也有对 research 的投入，这需要长期回报。无论是买 GPU、搭建 AI 基础架构，还是做多少次 training run，都是非常大的投入。

至于内部效率提升，我觉得有两方面。其中，工程师使用 coding agent 可能还是目前预算最大的一块。我们主要看如何把这方面的投入真正转化成 engineering velocity。比较好的是，我们就是做这方面的，所以不仅知道大家用了多少 token、在哪里用，也知道最后的 outcome 是什么。比如 PR 的速度、产品的稳定性、feature 的交付，以及产品安全性的提升，我们都能看得清清楚楚，知道 AI 投入产生了什么结果。

现在的 AI business 和 SaaS business 完全是两个不同的概念。在 SaaS 时代，有了 product-market fit，就尽可能快地 scale。但在 AI 时代，有 product-market fit 并不代表你就能够 scale，因为 AI infrastructure 的成本非常高，很多小公司会 scale into bankruptcy。

这个问题对大公司来说更严重。一个 AI feature 要 roll out 给所有 user，成本可能会高得惊人。所以很多 CFO 看到这个 proposal，就不让他们 release。

我觉得 cost 可能首先是 awareness 的问题。我觉得业界很多公司，尤其是现在的 AI 公司，对 cost 的 awareness 其实不是很好。可能一部分原因是大部分 AI 公司现在主要的瓶颈是 AI 算法能力，对吧？大家也不愁 profit，也不怕亏钱。

但对 AppLovin 这样一个相对成熟的公司来说，cost 直接影响 profit，而 profit 是市场给我们估值的主要依据。在 awareness 之上，其实还有非常多工程上的创新。人们谈 cost 时，可能比较容易想到 compute 和 storage。比如在硅谷面试，很多 system design 面试题也主要关注 compute 和 storage。

但除了这两个之外，还有很大一部分 cost 来自 networking 和 over-provision。我觉得很多人在做 architecture 的时候都没有考虑到这两点。AppLovin 在所有这些领域确实钻研得比较深，也做得比较极致。我们的 revenue 和 infrastructure cost 的比率非常高。

The cost of abusing AI is not just the token cost. It’s when your engineers offload the thinking process to AI. They only generate results, but they don’t benefit from the process of generating those results. When you abuse AI, I think the more concerning cost isn’t the token cost. The more concerning cost is that your team loses that learning.

卖 AI 的公司还在追逐能力，买 AI 的公司开始只看回报。回报怎么证明？

Some of our customers told us that, for every dollar they spend on Questa, they actually realize $9 back.

Business owners never want to tell us those ROI numbers. They’re afraid we’re going to raise the price for them. One way to prove the ROI is to own the outcome. Today, you pay $10 million for these BPO operations and give $9 million to us at Questa, and then we own the entire operation. You can guarantee savings of 10% or 15% up front, and then over time, Questa basically takes on the risk.

在应用的上游，是一笔万亿美元量级的投入。什么在短缺，什么在重新定价？

但我们也看到，谷歌的 balance sheet 都是负的。大家现在比较担心的是，你的 CapEx 投入这么多，但是应用的收入还没看到，那你怎么去 reconcile？

AI 的 demand 还是巨大无比，以后还会增长 10 倍、100 倍、1,000 倍。如果 AI 的 demand 在未来会继续增长，那现在做投资就是应该的，对吧？因为我不投资，别人投资，等到以后 demand 上来了，自己没有办法 accommodate 这个 demand，别人都能 accommodate，这就是个大问题。

第二点，你做这么多投资，有这个 demand，怎么样用一种更 cost-efficient 的方式来 serve 这个 demand，把它变成 cash flow，让 cash flow positive？这个 model 怎么样变得质量更高、成本更低？软件里面其实还可以做很多很多优化，不管是 networking、memory、caching，还是 compute。第三点，硬件本身也会更便宜。所以我觉得，暂时 cash flow negative 是不怕的，只要能够继续坚持做 output。

我们现在看到的行业算力，可能一半是训练，一半是推理。未来比如说一年、两年、三年，训练和推理的需求比例会怎么样？你怎么看？

我觉得现在推理有可能已经超过 training。随着时间推移，我觉得一个大的趋势还是推理的算力会越来越多，因为 training 只是一次或几次的投资，但是 inference 面对的是数十亿用户和很多不同的应用，对吧？所以以后的 demand 主要会是算力，主要在 inference 里面。如果现在是五五开，那随着时间推移，一定会变成四六、三七、二八。只要应用上来了，只要 consumption 上去了，它的 percentage 一定会上去。

Google 有一个好处：它是一家 full-stack company，从模型开发到 application 和 services 都在公司里面。但是往下走到 hyperscaler、token factory，甚至 chip 的开发，再到底下能源的使用和控制，我们有 per-token 最便宜的 capability。能够控制这些，有可能以后会是最重要的护城河。因为如果模型的 capability 被普及了，那么最重要的事实上就是 cost control。

我们现在这个领域，很多人目前还没有在看 cost 这件事情，但是所有 economic 的东西，最终都是 capability over cost，这是毋庸置疑的。如果你是一家长远发展的公司，投资眼光是按五年、十年来计算的，你就会开始想，真正该 optimize 的 metric 是什么，不见得只是 capability，而是 capability over cost。

明年新增的 40 GW 算力，已经超过了现在市场上所有算力的存量。您看到供给这一侧，有什么样的 bottleneck？

它具体能不能上线，我觉得 bottleneck 还是在电力上面。现在电力主要还是来自 natural gas 和 coal，solar、wind 都还不 scalable。再加上现在有一些政治因素，AI 数据中心确实会消耗很多能源，也会产生很多热量。比如在美国，有些州会说：“我不欢迎你们在我这个州建 AI data center。”

对。

一定要跟着能源所在的地方走，就像采油一样，对吧？

对。

你要采油，去没有油的地方采是没用的。

Infra 里面我们知道很多东西都短缺，compute、networking、storage 都短缺，memory 也短缺。您觉得哪个短缺的瓶颈最严重、最难解决？

我觉得 memory 还是会很短缺。agent 这件事情发生以后，以前做 raw inference，缺的是 accelerator 和 memory。到了 agentic era，对 CPU 的要求也很多，对 memory 的要求更多，还需要 flash 和 hard drive storage。所以我觉得这些 components 都还是会比较短缺。

从 computer science 的角度来讲，memory 跟 computation 之间事实上是可以转换的：有时候你用更多的 memory，有时候你用更多的 computation。

嗯。

如果你有一个很长远的 investment plan，就不会那么担心一时的 memory 短缺，因为你可以用 computation 来代替。

Infrastructure is becoming increasingly complex for many reasons. The hardware is becoming much more complex, and applications are becoming much more complex. The speed of innovation at the hardware and application levels has increased dramatically. People want ultimate efficiency because the cost of running these AI workloads is very high. Everything is tightly coupled, everything is integrated, so you need to develop everything together as one big system.

我们不光是定制模型，还定制 inference，而且 training 和 inference 是 co-designed 的。好处在于，模型定制完以后做 inference，我们可以保证 bitwise equivalent。这非常重要，因为这是一个 long-horizon agentic 的问题。比如说解决一个 task 需要 100 个 turn，0.1% 的 divergence 看起来很小，但它会在 100 个 turn 里不断累积，最后可能变成 10% 的 divergence，那就是完全不同的结果。

如果您今天要出来创业，您觉得最好的创业方向是什么？

我觉得现在有一个趋势：模型的 capability 感觉上开始有一点 commoditize 了。只要它再被 flatten 一点，就会造成 value creation 往 application 和 token factory 两边跑。当 model capability 并不是最强的护城河时，你的护城河就得往其他地方去找。

Application 这边可能是用户的 lock-in；hyperscaler 那边有很多东西跟 cost 有关，比如能源的使用量、chip design 好不好，以及将来在 on-device 上会有多少。

做 inference，最后就是要让这个 model 的成本更低、更优化。

嗯。

如果做一个 AI agent，它其实可以把 inference 的 performance、reliability 和 scalability 都做得非常好。它可以根据不同的硬件来优化，不管是 NVIDIA GPU、AMD GPU、Google GPU，还是 AWS 的 training；不管是什么 model，因为 model 有很多种，hardware 也有很多种，N 乘以 M 是个非常大的数字。每一个都要靠人力来做 optimization 的话，是 very, very unscalable。但是用 developed agent 来做 optimization，就 really, really cheap and also scalable。

AI infra 今天处于一个非常有意思的状态，有一点像疫情当中的口罩市场。因为整个需求暴涨，市场处于供应链被挤压的状态。从软硬件协同设计的角度，怎么样从我们现有的资源当中 squeeze 出更大的效率？我觉得这就是今天 AI infra 领域会出现的一个机会。

Clearly, one area is post-training. Post-training is going to continue to grow because it’s so effective at improving the capabilities of already capable AI models. That’s also driven by the fact that right now there are a lot of open, very competitive, open-weight models, many coming from China.

The other area, I think, will be data, especially multimodal data. The third one is in the robotics space. In the robotics space, it’s still early.

每一层都在重新定价，新的机会也在不断出现。越来越多的华人成为了 AI 的创造者和建设者。

创业本身其实是一件很孤独的事。我们开玩笑说，founder 有时候好的事情当然都可以说，但不好的事情只能够自己忍着。忍着忍着，还是很难。那么有一个社区，大家能够互相帮助、互相印证，说：“这个事情我之前也遇到过。”大家互相扶持着，就能够更有胆量，也更有信心把这条路走得更长、更好。

这也是我做华人社区的一个愿望，就是希望能够鼓励和支持大家找到自己合适的道路。不管是创业也好，在大公司平台里自己发展也好，我觉得都很好。

华人社群的意义，就是让每一个在这个行业里的华人都不必独自前行。2026 年 9 月末，AI 的下一程才刚刚开始。