# 有 PMF 也会破产：AI 生意和 SaaS 完全不同｜对话 Fireworks AI CEO 乔琳 硅谷坐标 Silicon Valley Vector · 2026-10-19 · 15 min · https://www.xiaoyuzhoufm.com/episode/6ad5aaa6641ef406308dc823 ## 逐字稿 曹卿云 Qingyun Cao 现在做 AI，即使有 product-market fit，也不代表就能够 scale。整个 AI infrastructure 的成本非常高，很多小公司会 scale into bankruptcy，最后没钱了。我们现在做 Specialized Intelligence Index，目的是把每个公司的独特私有 benchmark 汇总起来，建立一个领域的 index。 ### Scaling Without Losing Velocity 我现在想得最多、考虑得最多的，就是怎么样 scale the company。我们现在看到的 demand 是 superlinear demand，怎么样 scale company，才能 catch superlinear demand？ 乔琳 曹琳今天非常高兴能跟你交谈。刚刚在大会上，你主要分享了哪些信息？ 曹卿云 Qingyun Cao 我主要讲了为什么我们认为，AI 今后的发展会主要侧重于我们所说的 specialized intelligence。Specialized intelligence 和通用智能是平行的概念。就全球数据而言，绝大多数数据并没有被 foundation model 吸收，因为绝大多数数据都存在于某个应用、产品或者企业内部，不会跟别人分享。 在这个基础上，我们觉得很有意思：intelligence 的 frontier 实际上在应用和企业内部。他们应该把自己的私有数据转化成独有的智能体，这是 Fireworks 一直在追求的目标。 乔琳 我们看到 Fireworks 刚发布了 Specialized Intelligence Index，作为真实环境下的 benchmark；23 号你们又发布了自己的模型。这是怎样的战略考虑？ 曹卿云 Qingyun Cao 我们的产品有 3 块。在介绍产品之前，我想先解释一下：我们的战略一直是 specialized intelligence。Specialized intelligence 最注重的一点，就是独特性。每个公司存在的意义，在于它解决了一个非常独特的问题，用一种非常特别的方式把问题解决得很好。这 3 点都要并存，才构成一家公司存在的意义；否则，公司就没有存在的意义。这种解释方式很残酷，但事实就是这样。 在这个前提下，我们希望把每个公司的独特性展现出来，这才叫 specialized intelligence。每个公司的独特性其实跟产品有关，每家公司的产品都不一样。产品的独特性体现在它独特的 evaluation 上。 市面上有很多 public benchmark，但它们都已经被训练饱和了。所谓训练饱和，就是模型拿 benchmark 的数据来训练，结果当然会很好，但这没有意义。我们做 Specialized Intelligence Index，目的是汇总每个公司的独特私有 benchmark，建立一个领域的 index，给大家一个参考。 每次有新模型出来，不管是闭源的 OpenAI、Anthropic、Google，还是开源模型，我们都需要经常把模型质量反映到 Specialized Intelligence Index 上。这对整个工业界都有很大帮助，大家可以真正看到新模型的出现，对自己钻研的领域有多大的推动作用。这就是我们要建立这个 index 的原因。 我们自己推出的模型，和 Specialized Intelligence Index 发布的时间差不多，但两者没有直接联系。比如，我们的模型是从另一个角度出发的：specialization 有两个原因，其中一个就是把成本降下来。 曹卿云 Qingyun Cao 它的运营成本。现在做 AI application 的成本非常高。AI business 和 SaaS business 是完全不同的两个概念。在 SaaS 时代，product-market fit 和 durable business 是一回事。只要 hit product-market fit，就可以尽可能快地 scale。成本主要是人力、存储和 CPU；存储和 CPU 都很便宜，已经 commoditized 了，所以这本身不是问题。 但现在做 AI，有 product-market fit 并不表示就能够 scale，因为 AI infrastructure 的成本非常高。很多小公司如果增长很快，就会 scale into bankruptcy；如果融不到下一轮钱，就会没钱了。 这个问题对大公司来说更严重。比如，十年前的小公司在某个领域赢得了 consumer 或 developer 的信任，所以流量非常大。它要是 build 一个 AI feature，再 roll out 给所有用户，付出的成本就会非常高，甚至是天价。 乔琳 嗯。 曹卿云 Qingyun Cao 很多 CFO 看了这个 proposal，就不允许他们 release。这样一来，他们不能创新，也会有很大的问题。所以，降低成本是一个非常关键的问题。我们做 specialization，就是看到成本有一个重大问题需要解决。我们的客户可以把成本降低 5 到 10 倍，这是一个 order-of-magnitude difference，对企业来说影响很大。 第二个重点是控制 supply chain。控制 supply chain 是什么意思呢？如果用的是闭源模型，那么模型什么时候升级、什么时候能提供多少流量，很大程度上都不可控。如果公司要增长 10 倍，而模型提供商没办法支持它增长 10 倍，它就会被卡住。 这就是 supply chain 的问题。闭源模型供应商也想做产品，因为做产品利润更高，所以他们和客户之间很可能会互相竞争，处于一种很奇怪的关系：既是 vendor，又是 competitor。这就带来了更大的 supply chain 问题。 使用开源模型，再通过自己的 data 把它变成自己的模型，是控制 supply chain 非常有效的方式。主要就是基于这两点。 乔琳 可以再介绍一下 Amber One 这个模型吗？ 曹卿云 Qingyun Cao Amber One 这个模型之所以要 release，是因为我们想在开源模型降低成本的基础上，同时让模型变得更聪明。模型解决问题时会思考，思考的每一步都要花成本；思考链越长，成本越高。让模型变聪明的一种方式，就是缩短思考链，让它更快找到答案。 乔琳 嗯。 曹卿云 Qingyun Cao 这样降成本的效果就非常明显。Amber One 的思考链可以缩短到原来的一半。 乔琳 嗯。 曹卿云 Qingyun Cao 这样的话，Token 用量就能减少一半，成本也就降低一半。 乔琳 对，思维链变短，效果还—— 曹卿云 Qingyun Cao 是的。 乔琳 对，效果是一样的。 曹卿云 Qingyun Cao 因为我们是 platform company，要给广大的客户提供服务，所以会看到很多共同需求。比如，我们发现大家都希望模型的 context window 变得更长。 乔琳 嗯。 曹卿云 Qingyun Cao 因为越来越多的 agent 是 long-horizon agent，解决问题时的 turn 会变得非常多，几百甚至上千个。它需要很长的 context，否则就会忘记你。 第二个需求是 being concise，也就是更快地解决问题。速度快，既能省成本，也能缩短时间。还有很多其他需求，我们都会把这些共同需求推到模型层面，一起解决。 乔琳 嗯。 曹卿云 Qingyun Cao 我们是在其他开源模型的基础上迭代的。 乔琳 嗯。 曹卿云 Qingyun Cao 开源社区需要互相迭代，才能产生最大的影响力。如果开源社区不让别人迭代，那开源还有什么意义呢？ 乔琳 嗯。 曹卿云 Qingyun Cao 对。 乔琳 在你们的平台上，大家有没有看到一些新的趋势？我们知道个人助理现在开始变得很火，包括 Instinct、Muse 的发布。不知道你们的平台上有没有看到相同的趋势？除了 coding 这个应用场景之外，还有没有其他应用方面看到比较好的 token 趋势？ 曹卿云 Qingyun Cao 去年 coding 的趋势非常明确。去年只有一种类型的 app 爆发了，就是 coding。今年，因为 coding 已经解决得很好，在 coding 的基础上，很多 knowledge worker assistant 开始爆发。 Knowledge worker 本身是一个非常广的范围，有各种各样不同的类型。所以今年的应用非常多元化，我们看到各种各样的应用：medicine 方面的 physician assistant 或 patient assistant，用来解决医疗问题；life science 方面，比如 drug discovery、cancer treatment，以及 clinical trial shortage reduction，这可以让迭代速度非常快；还有各种 customer support agent、recruiting agent，以及 marketing 和 sales。 Cybersecurity 也是一个非常大的领域。现在有非常多的公司在投入，希望把 cybersecurity 从 detection 到 defense 都实现自动化。所以今年我看到应用层出现了非常广泛的爆发。 我们现在看到已经有一些比较有意思的 consumer 应用出来了，但我觉得还处于比较早期的阶段，很多 consumer 应用还没有完全起来。明年 consumer 应用大规模起来的希望很大。 乔琳 为什么觉得时间点会是明年？ 曹卿云 Qingyun Cao 我觉得今年有很多 consumer 应用的试验，要验证产品是否符合用户需求、能不能解决他们的问题。即使能解决问题，是否有 product-market fit、能不能 scale、能不能变成一门生意，也都需要经过很多试验。 今年我们已经看到几个例子发展起来了，所以明年可能会有更多应用起来。 乔琳 你们怎么看自己的竞争格局？ 曹卿云 Qingyun Cao 我们只想把自己想解决的问题解决得最好。我们不光定制模型，也定制 inference，而且 training 和 inference 是 co-design、co-optimized 的。 这样做的好处是，模型定制完成之后，我们做 inference 可以 guarantee bitwise equivalent，也就是不会损失任何精度。这一点非常重要，因为 long-horizon agentic 问题可能需要 100 个 turn 才能解决一个 task。如果每个 turn 的数值误差都不好，比如有 0.1% 的 divergence，看起来很小，但累积 100 个 turn 之后，可能就会变成 10% 的 divergence，结果完全不可行。 乔琳 嗯。 曹卿云 Qingyun Cao 我们可以做到连 0.1% 的 divergence 都没有，完全没有 divergence。所以我们对 quality 的追求贯穿 training 和 inference。同时，在 training 的时候，我们也可以做很多 inference optimization。 乔琳 嗯。 曹卿云 Qingyun Cao 所以我们是一个 end-to-end platform。在 training 和 inference platform 之上，我们还有一个叫 Nexus 的 smart router。它解决的问题是，大家需要用很多不同的模型，却不知道该怎么用。不管是 closed model、off-the-shelf open model，还是自己定制的模型，什么时候该选哪一个、用来解决什么问题，都有很多组合。 乔琳 嗯。 曹卿云 Qingyun Cao 有了这个 router，客户就不用考虑这些复杂性，我们会自动把请求路由到最合适的模型上。 乔琳 嗯。 曹卿云 Qingyun Cao 根据客户的需要来路由。所以这 3 个是我们最主要的产品。 乔琳 接下来的 18 个月，你们觉得 Fireworks 现在最大的挑战是什么？ 曹卿云 Qingyun Cao 我现在想得最多、考虑得最多的，就是怎么样 scale the company。我们现在看到的 demand 是 superlinear demand，怎么 scale company 才能 catch superlinear demand？同时，在高速增长的过程中，我们不能丢失 velocity，不能变慢。 乔琳 嗯。 曹卿云 Qingyun Cao 这是我经常思考的问题。怎么样 scale，才能继续跟上市场应用的爆发，serve 这样的一个 market？这是 company scale 的问题。 乔琳 嗯。 曹卿云 Qingyun Cao 就是怎么样 scale company as fast as possible while keeping the highest velocity。这也是一个组织架构的问题：要从组织架构上重新考量。以前的组织架构我觉得是 work 的，所以我们要从第一性原理重新思考。 我们的层级很少，没有一件事、没有一个 goal 是一个组单独做完就可以的，一定要端到端负责。怎么样让大家能够端到端负责，虽然事情会跨好几个组，同时又保持效率？公司小的时候，这个问题比较容易解决；公司大了以后，也还是要非常有效率。这是我们经常要思考的问题。 乔琳 好的，非常感谢今天的分享。