嗯。欢迎收听晚点聊，我是曼琪。今天我们一次发了两期节目，嘉宾都是密塔创始人闵可锐。一次访谈发生在二零二三年年初，另一次是在最近。本期是二零二三年三月中旬的那一次访谈，那是中国大模型热潮的开端，王慧文刚自己投资五千万美元成立光年之外，月之暗面还在组建，六小龄童的名号还没有兴起，DeepSeek还没有正式成立，字节等大公司也没有充分展现对AI的志在必得和激进投入。密塔当时已经是一家成立近五年的公司，推出了法律翻译、密塔写作猫等多款AI应用，现在更为人熟知的密塔搜索则还没有上线。行业变化快速，回顾这次发生在热潮开端的讨论，恍若隔世，也有很多先见之明。那时可锐就有一些犀利的观察和观点，包括中国VC可能会集体错过一位最有雄心的中国大模型创业者。
我对这个事儿有一个判断，现在肯定所有人会认为我是胡说八道，但是这不重要。我会觉得，在这一轮的所谓大模型的这个热潮里面，很有可能，尤其是投中国的这批投资人会集体 miss 掉。
在基础大模型的创业中，传统的组织人才方式不 work，预训练很重要是范式转变，而具体到 Transformer 架构其实没那么重要。未来各公司的密集模型竞争不可持续，拿不到正反馈的团队将很快退场，速生速死。而 AI 应用领域的创业会是战国时代，是个人开发者、创业公司和大公司之间所有人 PK 所有人的状态。
其实在密塔刚成立的二零一八年，闵可锐就写过一篇文章叫《关于机器学习的前尘往事》，我也会贴在 show notes 里。这篇文章已经提到了当时 Anthropic 创始人 Dario 在百度工作期间发现的 scaling loss 的雏形。这篇文章开头是模仿《百年孤独》经典开篇的一个 AI 小故事，其中提到了一百零八期节目中马毅老师也聊到的五十年代 AI 热潮中的感知机。可锐是马老师在伊利诺伊大学任职时的博士研究生，后肄业创业。此前他获得了复旦计算机学士学位和牛津大学数学硕士学位。这期节目我们完整聊了可锐的职业经历、秘塔创业故事，他在二零二三年年初对大模型格局的思考。而今天发的另一期节目是最近秘塔发布新产品“今天学点啥”之后的访谈，我们从这个产品切入聊了这两年的变化。下面就正式进入本期节目吧。
程曼祺 Manqi Cheng
准确来说的话，你觉得你们现在的重心是大模型，还是应用？
闵可锐
我们肯定会以应用驱动。
因为我会觉得，恰恰是很多人所谓在做大模型，我看起来就是啥也没做好。没有一个明确的应用侧重时，其实容易做成“我好像什么都懂，但是每个都只做到一个基本不太可用的阶段”。这就是我觉得很多厂家，包括我们知道的一些号称巨头的公司，在那儿乱加数据加出来的。
程曼祺 Manqi Cheng
你可以自我介绍一下，包括之前的经历和你现在在做的事情。
1. 闵可锐开启 AI 创业
闵可锐
我们其实一直在干跟 AI 相关的事情，而且干了挺长时间。我们基本上是从中学开始，就参加算法竞赛，所以最初阶段就是接触算法、接触相关的数据处理，这些其实都在很早的时候开始了。
后来我保送到复旦大学，读了计算机本科。毕业以后又保送到牛津大学读数学硕士，然后再到 UIC 读博士。正好在读博士期间有一个机会，就回国创业了，所以其实是博士学位没拿到，就提前回国创业的状态。
第一家公司也是在做 AI 相关的事情，大概是 2012 年、2013 年。
程曼祺 Manqi Cheng
对，那个是一个数据公司，玻森数据。
闵可锐
对。我们说这个还挺好玩的，因为玻森这个名字，刚好跟这次李沐创业用的名字一模一样，也叫玻森。
程曼祺 Manqi Cheng
所以你们的名字是一样的？
闵可锐
其实不是。是“玻色子”的那个“玻森”，它是科学领域的名字，并不是人工智能领域，属于物理学。
程曼祺 Manqi Cheng
对，不是在人工智能领域，是物理领域的玻森。
闵可锐
包括他这次创业，我看拿的那个域名 boson.ai，应该是当时我们买过的一个域名。
程曼祺 Manqi Cheng
所以你们的域名流转到了李沐那里？
闵可锐
是。然后我们 2018 年开始做的秘塔，Meta，又跟 Facebook 撞上了。
程曼祺 Manqi Cheng
所以你们还是很会起名字的，起名小天才。
闵可锐
是。基本上就是 2013 年回国创立玻森。玻森差不多做了 4 到 5 年，产品上其实也有一些进展。最后一个产品是在金融领域做落地，当时蚂蚁看上了，觉得这是他们见过的少有的真正做产品、做 AI，并且还能把产品卖给金融公司的团队。
后来其实就谈了一个收购。但因为我不希望被蚂蚁绑定掉，所以我就提前出来了。我在 2017 年收购期间，去了猎豹。
程曼祺 Manqi Cheng
猎豹。
闵可锐
对，2017 年到 2018 年，在猎豹待了差不多 1 年，带猎豹的 AI 团队。
当时猎豹也正好处在一个转型期间，老的业务已经能看到瓶颈了。所以副总在 2016 年、2017 年的时候就已经在着手准备。一方面是内容加 AI，其实看的是更多类似头条的机会；另外一块是他在做机器人，也就是猎户星空。
所以当时我们在这两块都参与得比较深，包括推荐系统的搭建，以及猎户星空那边。当时核心在做小爱音箱，相当于是猎豹、猎户和喜马拉雅的合作。
程曼祺 Manqi Cheng
算是国内比较早做音箱的团队了。
闵可锐
对。后来音箱这个事情就被打成一片红海，开始价格战，价格从上千块钱打到几十块钱，50 多块钱就几乎是半买半送。
程曼祺 Manqi Cheng
59 元。我记得当时天猫、百度好像都有几十块钱的产品，还有那种满多少直接送一个。
闵可锐
对，反正就是以这种方式铺量。所以我们还是比较直接地经历了整个过程。
2. 预训练开启大模型时代
但我之所以 2018 年就从猎豹出来，其实没有待太长时间，一个比较重要的原因是，我们觉得看到了新一代 AI 技术的一个比较大的机会，而这个机会当时可能没有那么多人相信。
程曼祺 Manqi Cheng
我觉得这就进入到我们这次想聊的主题了。你之前和我说，你是 2017 年看到 Transformer 那篇论文的，是 2017 年年底，对吧？
这对你的创业算是有直接影响和关系吗？
闵可锐
现在有些人会来讲这件事，但我不这么认为。
我觉得我们看到的机会在于，不管是在 2017 年还是 2018 年，不管是 Transformer 还是非 Transformer，实际上通过深度学习加大规模预训练，这件事开始 work 了。在 BERT 出来之前，我们对这件事就有一个基本判断：它应该能 work。
只不过后来 Transformer 这件事，我觉得是从工程上很好地解决了大规模并行训练、得到有效训练结果的问题。
原来大家训练很多时候用的是 RNN。RNN 有两个问题：第一，在单节点上跑，或者在比较小的规模上跑是没问题的；但是在大规模上跑，时间先后依赖这些问题会导致大规模并行很难做。当然，后来也有一些架构试图解决这个问题。
程曼祺 Manqi Cheng
你的意思是，大规模预训练这个想法是在 Transformer 之前就出现了？
追溯一下源头，学界是什么时候开始看到这是一种非常有潜力的方法的？
闵可锐
在 Transformer 之前，我有点忘了是 OpenAI 还是谁，也有一些相关工作，比如 ELMo。其实在 BERT 之前，已经有人通过 RNN 的方式做预训练，而且在很多任务上达到了不错的效果。
我们看到的是，2017 年我们做翻译任务的时候，清楚地知道上一代技术，也就是深度学习之前的统计机器翻译，天花板在哪里。
统计机器翻译很多时候就是短语和短语之间的翻译，再通过一些语法规则交换短语顺序，得到翻译结果。这样的机械化翻译可以做到基本看懂，但凡是一个词实际上想表达另一个意思，或者几个词单独表达的意思都很清楚，拼在一起以后产生很大变化，比如俗语，这些情况在原来的架构上都很难解决。
程曼祺 Manqi Cheng
你可以解释一下，预训练这种想法和之前的训练有什么区别吗？
闵可锐
以前相当于所有任务都要独立解决。比如我要解决 A 任务，就去收集 A 任务相关的数据和标签。要做情感分析，就去找亚马逊的评论，找 1 万条，然后雇人给每条评论标注，是正面、中性，还是负面。
每个任务对于模型来说都是独立的，每次都是从零开始：我要做 A 任务，就去为 A 任务准备数据，再做训练。
预训练相当于说，我先把语言学会。它依赖的其实是大量文本。说“无标注”也不太合适，因为人写下一段话的过程，本身就是人对内容的一种输出，更像是自监督的过程。
你可以找大量中文、英文，或者其他语言写成的文本，先让模型尽可能学会生成这些文本，或者猜出这些文本。Transformer 做的事情就是这样。BERT 做的是在中间挖一些空，让你尽可能把它还原出来；GPT 做的是给你一个前缀，比如前面 10 个词，让你猜下一个词。
本质上，为了解决情感分析这个问题，我先用其他任务把语言这件事学会，再来解决新的任务。
程曼祺 Manqi Cheng
所以预训练的作用，就是先解决语言理解和生成，再解决具体任务。
闵可锐
对。新的范式被证明有两个明显好处。
第一，标注量显著降低。原来可能需要 1 万条数据，才能达到 70 分的效果；在新的范式下，可能只需要 1,000 条，就能做到 85 分，显著降低了整个工程落地的成本。
第二，有些难度比较高的语言结构，原来 1 万条数据也根本覆盖不了，解决它的概率就是 0。过去大家说“有多少人工就有多少智能”：这句话我没见过，那我就不会。
但是现在的预训练范式下，即使一句话你没见过，也许你还是会，因为整个互联网上可能出现过 10 次类似的表达，所以它有可能迁移到新的任务上。
它既带来了效率，让以前更难的事情变简单，也能做到以前做不到的事情。
程曼祺 Manqi Cheng
新的范式下，需要标注的数据主要是后面微调的部分了。
闵可锐
对。你会发现，它只需要微调很小的一部分。
以前大家为什么经常对智能感到绝望？因为每一个看起来像智能的东西，背后可能都对应一条人工规则。你写 1 万条规则，让它假装智能，这件事看起来很不 fancy。而且真正实现这 1 万条规则时，你会发现更大的问题：你做不到一致性。
今天的规则和明天的规则，A 写的规则和 B 写的规则，一定会冲突。冲突之后到底怎么解决？
包括 Google 也投入了很多钱做知识图谱，试图把大量数据符号化，最后都被证明很难 scale。即使 Google 投入很多钱、很多人，要维持数据的实时更新、有效性，以及覆盖各行各业的所有领域，基本上也是不可能的。
程曼祺 Manqi Cheng
那回到 2018 年你们创业的时候，你们已经看到预训练和微调结合起来可以 work 了。当时你们做了什么？
3. 秘塔从法律翻译切入
闵可锐
我们第一个落地的设想是：有多少资源办多少事。
我们看到 AGI 的时候，觉得这件事当时看起来还很远。但是如果给我一个特定领域，这个领域和人认为简单还是困难，甚至都没有太大关系。有时候人认为任务很困难，但我们觉得它背后的 reasoning 逻辑，即使是多步 reasoning，只要有逻辑、有规则可循，就有可能被机器做到很好的程度。
所以我们当时选择的第一个切入点是法律翻译。
传统上，法律人认为法律翻译不容易，因为往往既需要懂法律，又需要懂语言，最好还有一些实务经验，知道专业术语应该怎么处理。这里面有比较复杂的逻辑关系。
但我们当时的判断是：有复杂的逻辑没问题，关键是得有逻辑。只要有逻辑，就有可能通过数据驱动的方式解决。
所以我们当时认为，找到高价值的场景，用户有付费意愿，然后通过 AI 做人工替代，这件事具有很高的可行性。
程曼祺 Manqi Cheng
所以你们基本上就沿着这条路径推进。
闵可锐
对。只是到去年年底，出现了一个更像是“基础假设和我的想法类似，但做法完全不同”的方向。
它说，我也不要一个一个任务去推进了，干脆把 1,000 个常见任务一起做；我也不在 1,000 个模型上分别做，而是把它们集成到一个模型里。于是就变成了现在 ChatGPT 这种通用能力的方向。
程曼祺 Manqi Cheng
你刚才提到了两个关键点。一个是大家对 AGI 的认知到底是什么，另一个是你说的“有多少资源做多少事”。
OpenAI 可能把 AGI 作为目标，而且很相信这件事可以做到，同时它的资源也很多。
闵可锐
对。有时候大家会把最大的一些大厂和 OpenAI 比，但在我们看起来，OpenAI 首先是一个资源豪华到其他创业团队很难想象的创业公司。甚至和现在国内一些大厂的投入相比，我觉得它砸的钱也一点都不逊色。
这些大厂可能花几十亿元人民币，OpenAI 现在的投入并不比它们少。
程曼祺 Manqi Cheng
你刚才说了你们选择场景的逻辑。那在技术上，你们当时做了哪些事情？
闵可锐
创业初期我们会觉得，在 ChatGPT 之前，这个行业没有秘密。
什么意思？不管今天微软做了什么应用，还是 Google 做了什么应用，只要把效果拿给我看，我就可以给你报价，也可以算出需要几个月、几百万元，然后把这个事情做出来。
我们不觉得 Google 或者微软做的任何应用 tricky 到无法逆向工程的程度。
直到真正工业化生产的 GPT-4 这种东西出来，我们才发现，这件事好像真的有难度。
程曼祺 Manqi Cheng
你的意思是，你们创业之初在技术上就是按常规方式去做，根据应用需要什么能力，就去做什么？
闵可锐
是。而且不止一次，我们在做的过程中会看到，比如为了解决翻译问题，我们设计了一些算法优化的 trick，做了一些工程改进。可能一年以后你看 Google 的 publication，会发现它的研究员也找到了同样的 trick，来解决同样的问题。
程曼祺 Manqi Cheng
所以只是你们没有发论文？
闵可锐
对，我们只是懒得发，觉得这不重要。
程曼祺 Manqi Cheng
你们创业之初就是基于 Transformer 架构做底层模型的吗？
4. 模型架构不决定智能
闵可锐
我觉得中国人“听到风就是雨”的逻辑非常严重。其实没有太大必要去神化某一个架构。
最近也有一系列工作，基于 RNN 做到了接近 Transformer，或者和 Transformer 基本持平的效果。在我们看来，数据、算力和工程化落地差不多到了一个节点。我相信哪怕没有 Transformer，GPT 可能会晚两年，但最多也就是晚两年，它仍然会发生。
我个人认为，架构本身的设计没有重要到这个程度。更核心的是预训练这个想法。
至于采用 Transformer 做预训练，还是采用后续改进的 RNN 做预训练，我觉得是技术细节的问题，一定会有人争论 BERT 怎么样、GPT 怎么样。但我们看到这件事没有那么极端，完全可以既用 BERT，也用 GPT，谁好用就用谁。
我不认为应该对某一种特殊网络架构产生信仰。
GPT-3 的论文没有用什么新东西。换句话说，比起有些为了优化速度而做过很多架构工作的模型，GPT-3 基本上可以认为使用的还是 2017 年的版本，除了 attention 的一些细节。
程曼祺 Manqi Cheng
只是它的规模扩大了。
闵可锐
对，它唯一做的事情就是把规模扩大了，扩大到很多人完全不会考虑的程度。
我很清楚地记得，2020 年左右，工业界在想什么。BERT 应该是 2018 年下半年出来的，已经在各种分类问题、判别类问题上刷榜了。
之后很多工业界公司，包括我们当时做音箱，实际上都在考虑把 BERT 这样的架构集成到工业应用里，做分类。比如你给一个语音指令，我要识别你到底是什么意图。
但 BERT Base 是 1 亿参数，对吧？大量工业界的人认为它的消耗太大，不可应用。之前包括华为诺亚实验室在内，国内有一大批工作是在研究怎么压缩它：怎么把 1 亿参数的模型压缩到 300 万、500 万参数，怎么让推理成本尽可能低，怎么量化、怎么压缩。
所以当时工业界的普遍认知是，1 亿参数的模型就是大模型；1 亿参数对于落地应用来说已经很难接受。
在这样的理解基础上，GPT-3 在 2020 年做到 1,000 多亿参数，我觉得绝大多数人的看法就是：他们真的很有钱，做了一个很有意思的 scientific exploration，但这有 application 吗？不可能有 application。
因为它比工业界认为已经很大的 1 亿参数模型贵了 1,000 倍。很难相信它能真正落地到产品级。
程曼祺 Manqi Cheng
所以当时是学术界更关注 GPT-3，而你们已经在做应用、做公司了，反而没有觉得这个东西是可用的。
闵可锐
对。我们觉得它挺好玩，但不觉得它能实际落地到产品级。
程曼祺 Manqi Cheng
2017 年 Google 发的 Transformer，实际上是两个部分：Encoder 和 Decoder。
闵可锐
对。最早那篇论文是完整的 Encoder 加 Decoder 架构。后来把 Encoder 抽出来单独做预训练，就是 BERT；GPT 是把 Decoder 单独抽出来，根据前面 n 个词预测第 n+1 个词。
最早那篇论文其实两者都有，没有说到底 A 重要还是 B 重要。我们一直觉得，为什么大家要争这个？它们根本不可比，不是这么比较的。
程曼祺 Manqi Cheng
你的意思是，它们是不同的工具，要看具体任务场景？
闵可锐
对。就像红色圆珠笔和蓝色圆珠笔，你一定要说谁好，这重要吗？该用蓝色的地方用蓝色，该用红色的地方用红色。
你要根据任务场景去设计最合适的架构。工具层面没有必要对这件事产生信仰。我觉得这件事非常诡异，本质上它们还是同一类东西。
程曼祺 Manqi Cheng
但现在大家也不一定是在信仰 GPT。你会看到，GPT 在很多任务、很多类型的任务上展现出的通用性更强，而且在很多任务上的单项表现也很强。
闵可锐
我觉得这件事可笑的地方在于，从来没有一次大规模、公平的比较。
程曼祺 Manqi Cheng
你是说，现在的比较太主观了？
闵可锐
对。你拿 1,000 亿参数的模型和 100 亿参数的模型相比，说 1,000 亿参数的 Decoder，也就是 GPT 模型更强，这样的比较没有意义。
你没有拿同样 1,000 亿参数的 Encoder-Decoder 模型，和同样 1,000 亿参数的 Decoder-only 模型比较。
程曼祺 Manqi Cheng
但也可以从发展的角度看。GPT 一直在迭代，到了 3.5、4 的时候才有非常惊人的表现。Google 做 BERT 以后其实没有一直沿着这个方向迭代，后面也做了其他模型。
Google 现在其实有 Encoder-Decoder，也就是两个一起用的模型，叫 T5。
闵可锐
对。T5 后来还加了 instruction，表现出来很不错。至少在同等规模上，我们看到的结果基本上是和 GPT 互有胜负：有的任务你好一些，有的任务我好一些。
之所以 2019 年、2020 年大家使用 GPT 的 Decoder-only 模型，其实有一个最基本的猜测：这是纯工程化的问题。这个架构更简单、更好优化，也更容易上规模。
纯粹是因为它能够更大限度地利用 GPU 的运行能力。Encoder-Decoder 要把 GPU 用满，事情会显著复杂，因为要考虑两个不同的序列。有时候这个序列负载高一点，有时候另一个高一点，有时 A 在等 B，有时 B 在等 A。
所以我认为，本质上是程序上更简单，导致 Decoder-only 模型后来，尤其是在 OpenAI 的使用中，被更广泛地采用。它的吞吐量可能高 20% 到 30%，这是机器成本的考量。
程曼祺 Manqi Cheng
这个视角也挺有意思。因为 Ilya 也有一些自己的表达，他会强调 predicting next token 这件事的认知意义，或者说哲学意义。
你能预测下一个词，可能就意味着一种逻辑能力。比如看完一本侦探小说，最后能预测杀人者是谁，里面其实有推理能力。
闵可锐
我觉得这从理论计算机的角度来说，是一个比较 trivial 的结论。
不管是原来的 RNN，还是 Transformer 的 sequence-to-sequence 模型，一个 sequence 进来，一个 sequence 出去，它的理论极限在哪里？没有上限。任何可计算的函数，理论上都可以这么建模。
你就是一个图灵机，读入 input，中间进行计算，最后输出结果。所以理论上，这种架构可以模拟任何运算，序列到序列可以模拟任何计算。
本质上，所有程序都是一个东西作为输入，一个东西作为输出。
程曼祺 Manqi Cheng
这个事情的难点，是不是在于把真实物理世界的各种信息映射成序列？
闵可锐
不一定。现在大家逐渐演化的技术，就是尽可能把原始信号直接放进来。
以前做 AI 的人，做语音、做 NLP、做图像，完全使用不同的 skill，都是各自发展出一套特征抽取、信号处理，以及后续 prediction 的方法。
但这两年你会发现，大家使用的 skill 越来越通用，越来越多地利用计算，而不是利用 domain knowledge。
最典型的例子是特斯拉做自动驾驶，用一个巨大的 Transformer 预测各种信号。把 lidar、摄像头和其他传感器的信号全部放进去，让模型自己交互，最后输出你想要的 prediction，比如被预测物体的位置。
不就是把问题全部转化成一个 sequence-to-sequence 的问题吗？
程曼祺 Manqi Cheng
那这个序列会特别长吗？
闵可锐
有可能特别长。原来 Transformer 可能不太好解决的一些问题，比如它最早用在语音上可能就比较困难。
文本可能是 500 字、1,000 字，1,000 个 token，长度至少还是以千为单位。但如果换成 pixel，一张 1,000×1,000 的图，随便用手机拍一张可能都不止这个像素数。如果拉成 pixel-wise，就是上百万个元素。
处理上百万长度的序列，不能简单使用 Transformer 的 n² 算法，那在效率上完全不可接受。
但现在大家也设计了一些很简单的方法，比如切片。一个 pixel 一个 pixel 地算可能很难，但我把 32×32 的区域作为一个大的 pixel，1,000 个 pixel 变成一个大的 pixel，放进 Transformer。原来长度为 100 万的序列，瞬间变成长度为 1,000 的序列，就可以使用标准 Transformer 的 n² 结构进行后续计算。
最近几年影响力很大的 Vision Transformer，基本就是这么做的。
程曼祺 Manqi Cheng
所以你不会认为这是一个天才想到的事情？
闵可锐
对。本质上是一个工程师想到这个方法，做完实验，发现确实有效。它当然有价值，但你不会认为这个人特别牛，解决了一个非常难的问题。
包括后面一些改进，在我们看来也属于这个范畴。它把实验完整做完，证明有效，这是有价值的；但你不会觉得是一个天才式的想法。
5. 天才想法往往远离媒体
程曼祺 Manqi Cheng
我想知道，你最近看过的论文里，有没有什么让你真的觉得是天才想法的？
闵可锐
有天才想法的东西，恰恰往往是媒体关注最少的，因为很多东西距离应用可能比较远。
比如两年前，有人在网络流、最大流问题上做了工作。传统上，大家可能 30 到 40 年都认为，这类算法没有 n² 或 n³ 是解决不了的，但他们能够在准线性时间复杂度下解决。
这种问题在业内研究了 40 多年。过去 40 多年大家认为只能用 n²、n³ 的算法，突然有人说，我可以用线性复杂度解决。他可能花 50 页论证，证明这个问题真的可以被解决。
这才是我说的天才级想法。你看完以后会觉得非常强，而且这类想法的理解成本很高。
我刚才说 Vision Transformer，是因为我一句话就可以讲清楚它的 idea：把 1,000 个 pixel 粘在一起作为一个大的 pixel，后续计算都一样。
但刚才说的那类论文，我在复旦读本科时参加过一些算法讨论。理解它的 idea 之前，大概需要先上 20 节课的 lecture notes，把整个学期的知识学完。到最后一节课，才开始理解它的想法。
你需要对问题有这样的理解，才能走到那一步。
程曼祺 Manqi Cheng
最后理解的那一刻是什么感觉？
闵可锐
会觉得它其实也有非常精简、非常简单的一面。你会觉得很多技巧很强，但这种强是建立在前面的所有工具都准备完之后的。到最后那一步，仍然是一个 non-trivial 的过程。
所以之前大家炒张益唐，我觉得也类似。大家只能去讲他的传奇经历，但真正有几个人看过他的论文，然后说这个论文的想法真的很好？
程曼祺 Manqi Cheng
我觉得这也不能叫炒。他的经历确实是普通人能够共情和理解的部分。
闵可锐
对。能解释这篇论文的人很少，能看懂的人也很少。但他本人的经历对很多人有激励和启发，而且很有故事性，所以非常适合传播。
换句话说，如果另一个很强的人不具备故事性，大家可能完全不了解他。哪怕他在重要问题上做出了重大突破，也可能没人知道。
张益唐这样的人非常难得、非常强，但也可能有一些很强的人，大家对他一无所知。
程曼祺 Manqi Cheng
从中学开始参加算法竞赛，到现在研究 NLP，已经有很多年了，差不多 20 年，对吧？
你怎么看 NLP 的突破来自原本研究计算机视觉的人？比如 Ilya 他们，最开始的成果可能是在 ImageNet 这些领域。
闵可锐
这恰恰就是我说的，最近 10 年深度学习的发展，把这些门槛模糊掉了。
Transformer 原本不是为了解决所有问题，它最初是以翻译作为核心任务、作为 motivating example 来设计的。后来这个架构被用于图像、音频、视频处理，我觉得这是一个大一统的过程。
它不太像是一群做视觉的人把 NLP 怎么样了。他们在做视觉时设计的这套架构，对当时做视觉的人来说也是新东西，闻所未闻，很多人还觉得有些东西不应该 work。
当年的 Hinton 他们也是做了很多年的“冷板凳”，一直在做这些别人不太看好的东西。
程曼祺 Manqi Cheng
所以，整个深度学习范式，是对更早之前专家系统范式的一种革新。
闵可锐
是。2000 年代，我在微软亚洲研究院的时候，机器学习的研究核心还主要是图模型，也就是 graphical model。
我觉得包括深度学习在内，直到一两年前，仍然有不少真正偏理论的学者对它持比较大的质疑态度，这也可以理解。它的可解释性比上一代技术显著更差。
现在大家实际的 concern 是，原来的 concern 是：它不可解释，而且我也不认为你 work 得多好。现在变成了：你不太可解释，而且竟然 work 得非常好。
于是它就需要更高程度的监管，因为它的危害性可能更大。
程曼祺 Manqi Cheng
因为它变得更强大了。
闵可锐
对，强大到超出原来对它预期的上限。
程曼祺 Manqi Cheng
昨天 Altman 参加听证会时说了一点，我觉得挺对。他说，如果 GPT 这项技术会犯错，它可能会犯一个很大的错，带来比较严重的后果，因为它现在的实际能力越来越强。
闵可锐
对，就是这个问题。
程曼祺 Manqi Cheng
回到你们具体在做的事情。你刚才提到，秘塔是非常应用驱动的，甚至是不得不应用驱动。
6. 秘塔必须应用驱动
闵可锐
我觉得不得不应用驱动。你要么能讲一个很大的故事，会有很多钱；要么就先把现在手头能够付钱的用户和消费者照顾好。
本质上无非就是这个逻辑。第一点我们不擅长，也做不到，所以必须做第二点。
程曼祺 Manqi Cheng
我看了一下你们的产品时间线。你们 2018 年成立，2019 年做了一个翻译产品，用在法律领域。后来又做了秘塔写作猫，最开始是纠错功能，类似 Grammarly 改语法的应用。
再后来，去年 11 月写作猫升级，加入了生成式功能，类似 Jasper；今年 2 月又有了对话功能，也就是类似 ChatGPT。
你可以讲讲，在你们产品不断更新的过程中，具体用了哪些技术吗？你刚才也说，什么好用就用什么。大概是一个什么样的技术组合在支持这些产品？
闵可锐
像我说的，什么好用就用什么。所以不一定是一个大模型解决所有问题，尤其是 2019 年、2020 年落地的时候，我会更多考虑成本。
如果有大量用户在线，现有的运算力能不能跟上？本质上，技术方案要和成本、用户量一起考虑。
程曼祺 Manqi Cheng
我想讨论的是，大模型在这个组合里面到底占多少角色。你们已经做了很多年，现在很多人新来做这件事，可能会高估它的哪些能力？
闵可锐
要看是谁。
有些人对它的认知可能极其不清楚；有些人脑子一热，决定 all in；还有一些人可能算过成本，发现不 work，但觉得股价能涨也无所谓，先吹了再说。
不同的人对这件事的理解完全不一样。
前段时间我看了 360 的一个采访。360 当时说在做这个事情，内部有一定进展以后，他们讨论了成本问题。我看他好像在电话会上算过一笔账：生成 200 字大概是 4 分钱，这是按平均回答长度算的。
如果把这个费用 scale 到 360 现在的每个搜索 query，都用 GPT 的技术来生成，每天成本大概是 4,000 万元，一年算下来就是 100 多亿元。
360 一年广告收入大概是 80 亿元。只要有小学数学的逻辑，就知道直接把它 scale 到搜索上，在当前成本阶段是不 work 的，账完全算不过来。
程曼祺 Manqi Cheng
除非有新的商业模式。
闵可锐
对。本质上，Jasper 在这里做的一个很大贡献，是找到一个切入点：机器虽然贵，但是人更贵。
我们 2019 年做法律翻译的逻辑也是一样。机器虽然要用 GPU，但人的成本比机器高 3 个数量级还不止。
在一些好的律所，人工翻译收费超过 1 元钱一个字。现在 GPT 再贵，也没有贵到那个程度。
有些工作大家认为价值很高，有些工作价值相对低。对于高价值工作，算力换人力的容忍度非常高，因为人的费用已经极其昂贵了。哪怕你愿意花钱，有时候也雇不到足够专业的人来解决问题。
一个资深律师可能和你聊 1 小时，就收你 5,000 元。这时候每个月几十美元，甚至几百美元的机器费用，对你来说可能都很容易接受。
程曼祺 Manqi Cheng
但为什么你们做法律翻译的时候，没有做新闻翻译？
闵可锐
因为我们认为新闻翻译可以比 Google 做得好，但收不上来钱。
谁会愿意为了新闻翻译得更有文采一点而付钱？大家看懂意思就行了。哪怕我比 Google 翻译得好一点，你愿意每个月花 50 元来订阅吗？这个问题我们解决不了。
程曼祺 Manqi Cheng
你们后来做的写作猫，目标人群是什么？
闵可锐
当然希望但凡是在电脑上高频写作的人，都能从中找到价值。
我们觉得，本质上它像一个一直坐在你旁边、辅助你写字的人。最开始做生成之前，我们做的是检查：指出你写的内容里有哪些潜在问题，并提供修改意见。
而且我们不只是告诉你应该把 A 改成 B，还会告诉你为什么、错在哪里。就像你雇了一个专业老师坐在旁边，对你的每一行内容不厌其烦地检查，实时给你反馈。
现在大家把 ChatGPT 定位成 personal assistant，我们做的事情有点类似，只不过是在一个 domain 上实现这个效果。
程曼祺 Manqi Cheng
法律是一个很明确的领域，你刚才说的成本也是非常明确的人工替代成本。但现在做写作猫，成本或者付费需求好像没有那么明确。
闵可锐
还是要看你抓住哪群人。
如果一个人一个月只写 500 字，可能确实就是免费版本的用户。我们会给他一些检查意见，对他有一定帮助，但可能没有那么重要。
但如果是重度写作的人，这个产品确实可能帮他节省非常显著的时间。包括融媒体从业者，以及很多公务员，都是我们的用户。
他们会发现，我们实质上能帮他们降低文章的错误率，找到一些肉眼看了 3 遍、花了很多时间仍然找不出来的问题。
程曼祺 Manqi Cheng
你方便透露一下秘塔翻译和写作猫的用户情况，以及付费比例吗？
闵可锐
翻译不太一样，翻译基本都是付费的。它是一个 B 端产品，不太是 C 端产品。
程曼祺 Manqi Cheng
你们不是针对个人律师推广，而是针对律所、律师工作室或者合伙人团队？
闵可锐
对，因为这和律师的职业方式有关。律师通常是合伙人带着一些人做，很多是合伙人的工作方式。
而且推也没用。中国能够接到涉外业务的律师就那么多，是一个能数得出来的群体。超出这个群体之外，其他用户本质上也不存在付费可能。
在这个小群体里面，秘塔现在应该已经渗透了 30% 到 50%。
程曼祺 Manqi Cheng
他们使用频次高吗？
闵可锐
这是个很有意思的问题。律师绝不会没事打开产品来玩，他 100% 是因为接到了涉外业务的案子。
所以使用频次非常取决于他在职业过程中有多少相关案件。比如去年，涉及海外业务的并购大量减少，他就一定会受到影响。
至少从去年看，相比前一年有明显降低。2022 年是比较明显的低谷。
程曼祺 Manqi Cheng
这个产品的问题是，天花板可能非常有限。
闵可锐
我觉得很多问题和它的优势其实是一件事。它的天花板有限，所以你也很难预期会有另一个人花很大精力来把它做好，竞争环境反而会好一点。
从 2019 年开始卖给很多律所以后，你会发现这些律所的选择很有限。比如公司法务，要么使用免费产品；如果想要更高质量的付费产品，其实也没有太多其他选择。
程曼祺 Manqi Cheng
你们有把产品卖给国外的律师吗？
闵可锐
有。包括和中国有业务的英国所、美国所，很多都是我们的客户。
程曼祺 Manqi Cheng
你们直接卖到他们总部吗？
闵可锐
很多是他们亚太区的办公室。不过这也会受到贸易战的影响。
贸易战以来，美国对中国软件的 IT 审查会非常严格。我们进入一些美国律所，时间是以年为单位计算的。以前会容易一些；已经进入的，可能还会因为这个原因重新考核。
程曼祺 Manqi Cheng
那写作猫的付费比例大概是多少？
闵可锐
2% 到 5% 之间。
程曼祺 Manqi Cheng
这个比例超出你们的预期，还是低于预期？
闵可锐
在目前的情况下，我们认为这是一个合理数字，而且我们没有太激进地想快速提高这个比例。
你无非是在平衡很多变量。比如我们允许大量用户每天使用 8,000 字的免费检查额度，这就意味着我们容忍低频用户持续免费使用。
如果想提高付费率很简单，把这部分权益全部降到 0，中间有一部分人会转化，另一部分人不转化，那就再见。单纯优化一个数字，有很多激进的方法可以做到。
程曼祺 Manqi Cheng
其实我也想问总用户数，只是觉得你可能不方便说。
闵可锐
还好。我们现在注册用户超过 700 万。
程曼祺 Manqi Cheng
秘塔写作猫总用户数是 700 万，所有用户都算在里面？
闵可锐
对。纠错、生成、对话其实都是一个产品，所以没有办法分开统计。
程曼祺 Manqi Cheng
你们有没有统计，在大升级之后带来的新用户情况？
我理解，第一次比较大的升级是去年加入生成式功能；最近一次大升级是今年加入对话功能。
闵可锐
你是问新增用户吗？
程曼祺 Manqi Cheng
对。
闵可锐
我们看到，现在很多新增用户里，有几十个百分点把生成式功能的免费额度至少用光了。
从体验角度来说，大家还是有充分动力去尝试、去交互，因为对很多用户来说，这是一种新的交互模式。
程曼祺 Manqi Cheng
有一种观点认为，在中国做 To C 订阅非常难，因为用户没有付费习惯。你怎么看？
闵可锐
要看和谁比。
如果和海外用户的付费习惯相比，可能会觉得中国更难。但我觉得问题不在于和海外比，而在于你的公司能不能生存下去，产品收益能不能真正赚起来。
程曼祺 Manqi Cheng
所以你觉得中国比海外更难？
闵可锐
对，这直接能看到。单个客户带来的收入，可能也比海外有明显差异。
为什么 Jasper 能快速做到 1 亿美元 ARR？它在中国做得再好，我相信也很难快速做到这个订阅规模。
国内做到 1 亿美元订阅规模的产品，能数得出来几个？把腾讯这类订阅收入去掉，再往下看，可能找不到几家。至少是差了一个汇率。做到 1 亿元人民币，相对来说可能还有机会；做到 1 亿美元以上的 ARR，挑战很大。
但换句话说，在中国做 To B 也不容易。
程曼祺 Manqi Cheng
你们最开始的产品更偏 To B，或者说面向专业人士；后面的产品更偏 To C。这个转变是基于看到了什么变化，或者公司战略发生了什么变化？
7. 产品必须寻找更大市场
闵可锐
第一款产品在做的时候，我们就已经预判到它的天花板在那里。
因为使用群体就这么大，而且它不会因为产品做得特别好，就疯狂使用。那只是他的工作场景：这个 case 做完了就做完了，不会因为用了你的产品，就突然接到 3 倍订单。
程曼祺 Manqi Cheng
你是提升效率，而不是帮他赚钱。
闵可锐
对。所以我们对这件事有充分理解。
当它做起来以后，我们一直在看：哪些场景是 AI 能解决好，而在当下又没有人把它解决好。
顺着这个视角，可以做别的专业场景；也可以做非常不一样的 To C 应用。
程曼祺 Manqi Cheng
但写作猫不管是对话、生成还是纠错，都已经有一些其他产品了。你们为什么选择这个方向？
闵可锐
这里面当然有创始人个人的偏好，也有我们对这个领域的看法。
中国的 B 端可能分成两类。我们做翻译走的是相对轻 B 端的路线，本质上是提供一个价值比较清晰的产品，拿着标准化产品去卖给 B 端。
它和卖 C 端产品的区别，可能只是商务成本更高一些。
但国内很多所谓 B 端销售，实际是在卖定制化服务。中国很多 B 端客户有很强的欲望，把一个标准产品做成定制化产品。
程曼祺 Manqi Cheng
你的意思是，哪怕没有必要，客户也会说：“我一定得提点需求？”
闵可锐
对。比如甲方让你改稿，改了半天最后又回到第一稿。没关系，他要的是这个过程：你得给我改到第 10 稿，然后我返回第一稿，这是我的选择。
但你直接交给我第一稿，然后说不能改，我就不满意。
所以如果做很重的商业模式，难度在于它会稀释你的核心竞争力。我们认为我们的强项是把产品、AI 和模型效果做好。
但一旦其他链条上的权重过重，这部分就变成附带的事情。技术只是长链条中的一环。
程曼祺 Manqi Cheng
所以这条路你们不选，也是能力问题。
闵可锐
对。有些大项目，和客户谈完以后，对方说有 3 亿元的项目，你说好，可以做。
但在中国，很多时候和客户谈半年，最后谈出来的是 20 万元的项目。这个事情就 work 不了。
一年能同时谈多少个 B 端项目？谈 100 个，最后能转换成销售收入的有多少？
程曼祺 Manqi Cheng
那为什么不去其他领域复制这种轻量化的标准产品？
闵可锐
我们还没有找到特别合适的。
而且如果有一个事情一年能带来 100 万元收入，再去找两个也带来 100 万元收入的事情，意义其实比较有限。
我们当然希望找到下一个机会点，至少能在原有机会的基础上 scale 一个数量级，能 scale 两个数量级当然最好。
程曼祺 Manqi Cheng
所以你们现在选对话机器人和生成文案，是觉得这是一个特别大的市场，虽然竞争者也很多。
那你们的差异化是什么？
闵可锐
这就像之前广为流传的一篇文章说的：Google 没有壁垒，OpenAI 也没有壁垒。
尤其在现在这个时间节点，我们越来越不愿意谈这个问题。我觉得只能说，走着瞧。
很多东西的差异，不太可能用一两个词、几句话概括。抽象来看，你在很多方面确实得做得比别人好，不管是技术层面，还是对交互的理解层面；你对用户的理解可能也要更深入。
在这个过程中，你会发现哪些东西值得优化。我觉得这是一个动态判断的过程。
程曼祺 Manqi Cheng
可能一开始就是没有壁垒，做着做着才有壁垒，或者才有不一样的东西。
闵可锐
对。而且这个过程对用户判断很多事情的方式也很残酷。
他可能用完 GPT-4 以后说，你没有 GPT-4 好。当然，背后的成本有很大差异，但他不 care 这一点。
所以你要在最通用、最全面的战场里，和世界上既有能力又有资源的人竞争，确实很有挑战。
但在这个过程中，能不能发现一些边缘阵地，先把它占下来？别人现在不关注这个场景。
很多事情做到一年 1 亿元人民币，对巨头来说可能都不重要，因为只占它收入的 0.1% 以内。它下一个 milestone 不会是增加 0.1% 的收入。
这种场景对创业公司来说仍然有机会。你可以全力投入，把它做好，先把这 1 亿元拿到再说。对巨头而言，它未必会投入最大的兵力来和你竞争。
程曼祺 Manqi Cheng
你们现在看到的场景，是帮助写作者更好地写作吗？
闵可锐
而且还要细分。不同写作场景、不同人群，对这件事的需求完全不一样。
程曼祺 Manqi Cheng
可以举一些具体例子吗？
闵可锐
公务员的写作需求，和电商文案的写作需求，本质上是两个完全不同的场景。
它们背后可能不是一个大模型就能解决，还需要配合知识图谱等其他东西。
程曼祺 Manqi Cheng
Jasper 最开始主打营销文案撰写，和欧美习惯用邮件营销的体系有关。一个是邮件，另一个是 Google SEO，这应该占了 Jasper 很大的场景。
它还把另一家第三方公司 Surfer SEO 直接集成到产品里，提供一站式服务。
秘塔写作猫现在看起来没有那么收束，写作范围比较广。你们接下来会怎么发展和设计这个产品？
闵可锐
还是走着瞧。
我们会有一个或几个进一步探索的方向。第一，需要做落地，看我们提供了什么，以及用户会给予什么反馈。
另外，像你提到的，本质上这是一个竞争性场景。我们也会考虑现有资源。如果有一家资源非常多的公司，在某个方向上说我要 all in，把这个方向做深，那我们是不是要在这个方向上和它死磕到底？
我们觉得未必需要。所以这是一个动态调整的过程。
程曼祺 Manqi Cheng
你们接下来对商业模式怎么想？现在主要是订阅，未来可能会有其他商业模式吗？
闵可锐
我们一直比较开放。订阅只是因为相对容易操作，也比较容易形成规模化。
有人问我们要不要做更重的部署，我们觉得无非是投入产出比能不能算过来。
包括刚才说的中国 To B 的挑战，很多有 VC 支持的中国创业公司，最大的问题是从对外产生收入开始，投入产出比就没有转过来，从来没有算过来。
于是它需要不断拿资本去填，填到收入做到可以上市的量级，然后交给下一棒，由二级市场来买单。
但这两年挑战可能会更大，资本市场的顾虑也会更多。你会看到一些很好的团队，用精兵强将，花半年时间去做几十万元的小项目。
这很容易在中国做成双输局面。客户交了 50 万元，觉得自己是大客户，有资格对你指手画脚、提各种意见。服务公司这边，50 万元根本不足以覆盖人力成本，可能还差得很远。
但它愿意花精力支持这个客户，是因为想拿客户的 logo，在下一轮讲一个更好的故事。
相互伤害。客户觉得自己交了 50 万元，吃了亏；服务公司也觉得拿 50 万元做这个项目，自己亏了。中国很多 To B 最后就是这个样子。
程曼祺 Manqi Cheng
To C 除了订阅，还有什么商业模式？
闵可锐
首先，订阅本身已经是一个很宏观的模式了。要么按次付费，要么持续订阅。
我觉得不在于它是不是订阅，或者是不是一次付费，而在于你究竟提供了什么价值，以及这个价值是不是不容易被新入局的人马上做到。
我之前和同事说过，这非常像战国时代。
现在很多应用的问题是，任何一个 junior 开发者、新入局的开发者，甚至一个 part-time 开发者，拿着 OpenAI 的 API，花 3 天时间开发上线的东西，可能就能直接和大厂做了很久的功能竞争。
它尴尬的地方就在这里。
所有人都觉得，拿着这个东西可以做 A，也可以做 B。如果我是个人开发者，试错成本还很低，大不了花几天开发，往上一丢又怎么样？万一效果还不错呢？
甚至有人会想：这不就是套了一个 OpenAI API 吗？我自己也做一个，可能还做得更好。
现在不管是个人开发者和大厂之间，还是大厂之间，都进入到一个“所有人 PK 所有人”的状态。它还没有到收敛的时候，所以也还没到商业模式非常清楚的时候。
程曼祺 Manqi Cheng
你们应该一直跟踪过去几个月的发展，所以很熟悉。你会发现，不管是从业人员还是投资人，几乎一天一个样。
闵可锐
因为这个世界也是一天一个样。
2 月份的时候，大家说一定要投大模型，接着一批开源模型出来，很多投资人对这个事情开始知难而退：既然已经有这么多 open source，如果我砸几千万美元支持一个团队，它还干不过 open source，那它的价值约等于零。
它烧钱烧出来什么呢？还不如原来的计算方式：即使做不到前三名，做到第四名，也可能圈出自己的客户群，产生一定价值。
所以这件事非常动态。现在不存在一个绝妙的商业模式，能保证不管世界怎么 evolve，都一定行。
程曼祺 Manqi Cheng
回到产品形态。现在很多人讲应用，会讲一个概念叫 AI native。
这个概念你们去年上线时就在讲，现在越来越多人在讲。你可以讲讲你版本的 AI native 是什么吗？
8. AI 原生重做交互
闵可锐
我的版本就是字面意思，AI native。
本质上，技术上比较大的突破，往往会伴随传统用户交互方式的巨大变化。我觉得主要还是交互。
为什么传统厂商做产品迁移时会面临很大挑战？因为很多人过去 10 年已经适应了原来的交互模式。你一旦转换，势必会得罪一群人。
只要是一个长期产品，不管你认为自己做了很好的向上迭代，一定会有一群人不满意。你改了交互，适应老交互的人就会说：“我希望用原来的版本，我不希望用新的版本，我不适应。”
这就像现在还有人说自己不用智能手机，本质上是一回事。只不过这类人越来越变成一小撮人。
智能手机推出第一代、第二代的时候还不够完善，很多软件产品迭代时，甚至是强行把原来的手机收走，塞给用户一个新的，说你只能用新的。他当然会不满意。
所以我觉得，大厂创新也会面临这种包袱。
程曼祺 Manqi Cheng
我理解的 AI native，是有了新的 AI 技术之后，才能做到以前做不到的事情。
比如移动互联网相比 PC 互联网，不一样的地方是设备可以移动，有位置信息，大家可以随时拍摄，这些都是以前做不到的。
那现在有什么以前做不到的事情？基于这些事情，可能会出现什么新的应用？
闵可锐
我理解你的说法，但我看到的恰恰是 AI 的另一个层面。
它从来不是一个“做不到到做得到”的从零到一转变，而是“做不好和做得更好”的区别，是一个更灰度的 spectrum。
上一代技术做人脸识别，是不是做不到？不是，只是做得很痛苦，成本显著更高。很多问题其实是这样。
程曼祺 Manqi Cheng
但多轮对话，或者让用户体验非常好的多轮对话，之前确实做不到吧？
闵可锐
如果限定在一个种类，原来的专家系统本质上也在模拟多轮对话。
程曼祺 Manqi Cheng
只是成本很高，然后转化率很低。
闵可锐
对。比如模拟一个医生，只给你看感冒，这件事 20 年前就能做到比较好的多轮对话效果。
但 IBM 的沃森系统也失败了，因为它试图解决更通用的问题。
程曼祺 Manqi Cheng
我觉得 IBM 这件事太综合，而且我也不是局内人，可能没有太多 insight。
闵可锐
我的猜测是，其中一个重要原因是医疗是一件壁垒非常强、监管非常强的事情。
很多时候不是技术做得好不好。就像刚才说 To B 一样，如果技术价值只占 10%，你得先把前面 90% 解决，别人才能说要不要用你的技术。
而且医疗对错误不能容忍，后果会很严重。
自动驾驶也类似。2018 年车已经可以在路上跑了，不需要司机开。但如果要让 1,000 万辆车同时在路上跑，这才真正吓人。
所以我甚至觉得，医疗的问题，包括 IBM、Google，Google Health 也不太成功，核心可能不在单点技术做不到，而在于强监管等其他因素。
我们和一些做医疗的创业者沟通过。医生，尤其是好的医生，和医院之间本身没有那么强的依附关系。
我是一个著名的外科医生，这家医院让我不爽了，我去其他医院可能照样能找到机会。
你要通过这些医生搜集数据，他们还有各种各样的 concern。比如晋升可能和论文发表有关。你让我说，今天看到了一个特别离奇、特别古怪的病例，我就把它录入你的系统？至少得等我发表论文以后，我可能才有动力把这个问题放进去。
因为前面那是我的 private data，我为什么要 share 给你？
医院里不同科室之间可能还有竞争关系，我不想让你看到我的数据。这些都不是简单下一个行政命令，说你必须把数据录入系统，就能解决的问题。
程曼祺 Manqi Cheng
这已经到了社会工程的层面。
闵可锐
对。这甚至不仅是系统问题。
你说一个系统非常智能，那它智能了要干什么？要做决策。现在做决策的人是我，你要帮我做决策，你是在教我做事。
那我录入完数据，过几年你说我不用干了，我凭什么要配合你做这件事？
所以本质上是一个 conflict。不是技术好，就能说我帮你解决了这个问题。
程曼祺 Manqi Cheng
你刚才说差异化是“走着瞧”。我想到一个你们和一般应用公司不太一样的地方：你们自己在自研大模型。
你可以讲讲自研大模型是怎么做的吗？
现在有不同方式：可以从头训练，自己搭架构、收集数据；也可以基于开源模型做微调和定制；还可以直接用 API，做提示工程。
你们属于哪一种？
9. 自研模型换来更强控制
闵可锐
这三个方案的投入是从大到小，但可控性也是从大到小。
越往源头做，对模型的可控性越好。利用别人的模型，架构、数据、预训练的一系列 setup 都受制于人，但仍然有一定发挥空间。
到了 prompting，基本完全依赖别人训练模型的能力。它有这个能力，你能通过提示词把它展现出来，就做；不能做，就先不做。
所以，像我们寻找专业场景一样，当然希望找到既有高价值、又能解决的问题。
如果用第三档做不到，用第二档效果不好，那就只能回到自研模型，从源头设计数据、设计架构，把它解决漂亮。
前提是首先要 identify 出这是一个重要问题，而不是花很多钱、很多精力解决了一个没人关注的问题。
程曼祺 Manqi Cheng
你们是先选一个场景，这个场景最好必须通过大模型来解决；还是倒过来，你们有自主研发和落地的能力，如果简单通过小数据 fine-tune 就能解决，就在自己的模型里快速解决？
闵可锐
我们会倒过来理解。
既然我们有自主研发和落地的能力，如果通过小数据 fine-tune 或者其他方式就能解决，那就在自己的模型里解决。
后两个方案解决不了的问题，我们会放到下一个大版本迭代里，去考虑可能需要解决什么新问题。
程曼祺 Manqi Cheng
更直接地说，秘塔就是从头自己设计大模型架构、收集数据，然后训练一个模型？
闵可锐
对。对于某些我们认为后面解决不了的问题，只能往前追溯，从源头开始做。
程曼祺 Manqi Cheng
这是你们一开始就这样，还是产品推进到某个阶段后才开始做？
闵可锐
我们一直是这么做的。
2018 年以前也没有太多开源模型供你选择。比如我们做翻译，就是从头训练，因为没有谁开源一个已经预训练得不错的翻译模型。
程曼祺 Manqi Cheng
但你们做的是相对小参数的模型。
闵可锐
参数要看你了解什么问题。
很多人是为了“大”，把参数做得很大。但大不是能力，大首先是成本。
程曼祺 Manqi Cheng
所以你们最开始做法律翻译，就是因为选了这个场景，觉得有必要自研模型，于是就做了。
闵可锐
可以这么认为。
换句话说，在此之前我带团队就做过翻译，所以知道这是一套相对通用的架构。我们只是在翻译上进一步落地。
至于纠错等功能，我们其实一直在对这套架构做调整和改进。
程曼祺 Manqi Cheng
你们模型比较大的升级是什么时候？
闵可锐
我们一直在做。
程曼祺 Manqi Cheng
我是指大版本升级，小的优化可能一直都在发生。
闵可锐
平均大概每 2 到 3 个月迭代一个新版本，解决上一版本没有处理好的一部分用户问题。
程曼祺 Manqi Cheng
现在翻译和写作猫背后是一个模型，还是两个模型？
闵可锐
是不同的模型。翻译是翻译模型，写作猫是另一个模型。
程曼祺 Manqi Cheng
第一个应该是翻译模型，后来是写作猫。你们当时大概投入了多少资源？
闵可锐
这也是我觉得不太好回答的问题。
很长一段时间，我们对 GPU 的投入相当有限。
程曼祺 Manqi Cheng
你们是自己买了一部分，还是主要用云厂商提供的训练集群？
闵可锐
之前几乎都是自己买，而且是非工业级的消费级显卡，基本上是游戏显卡做训练。
程曼祺 Manqi Cheng
你说“之前”，指的是什么时候之前？
闵可锐
去年年底，也就是 ChatGPT 前后。
当时我们的理解是，在偏写作场景，有必要上更大规模的参数；但解决其他更特定领域的问题时，参数太大本质上是负担，因为它是成本。
程曼祺 Manqi Cheng
所以决定上更大参数之后，你们开始用云服务商提供的算力。
闵可锐
对，但规模也比较有限。
很多时候我们告诉别人用了多少 GPU、多少算力，人家都表示不相信。
程曼祺 Manqi Cheng
他们觉得你们算力太小了？
闵可锐
对，觉得我们在胡说八道。
程曼祺 Manqi Cheng
有没有人觉得，用这么小的算力也能做出来很厉害，想问问你们是怎么做的？
闵可锐
这里本质上是一系列工程问题，没办法用一句话解释成“这是一个绝妙想法，原来这么做就能做到”。
它其实是一个无法简单验证的问题。
如果 ChatGPT、GPT-4 没有出来，你拉着 OpenAI 的高管随便聊，他也一定会说自己能做出来。你可能不相信，会觉得是在吹牛：AGI 吹了多少年了，你们到底做了什么？
程曼祺 Manqi Cheng
你们决定上更大参数时，有去融资吗？
闵可锐
没有。因为我们需要的成本比较小，足够在自己的营收里面 cover。GPU 就是这个级别的投入，所以不可能因为租十几块 GPU 就去融一轮资。
程曼祺 Manqi Cheng
你们之前自己买的 GPU，还没有到十几块的量级？
闵可锐
我们自己买了几十块，但很多消费级显卡单张不超过 2 万元，所以是非常 manageable 的成本。
程曼祺 Manqi Cheng
你们去年租 GPU 是几月份？
闵可锐
去年年中或者年终。大概六七月份开始，去年年终时也在租。
程曼祺 Manqi Cheng
那个时候中国云厂商的 GPU 价格是什么情况？
闵可锐
单个 A100，应该是每个月 1 万元以内。现在最便宜的厂商也能拿到这个价格。
程曼祺 Manqi Cheng
但现在的问题是租不到了。
闵可锐
对。如果新下单，可能租不到。
现在是各种人冲进来，有些土豪先拿 1,000 张再说。
但以我们现在需要的算力规模，我觉得哪里都能解决。我们不是要 1 万张，1 万张在中国可能很难找；但如果要 50 张，还是有各种渠道可以匀出来。
程曼祺 Manqi Cheng
你们现在的算力方案变了吗？还是在用云厂商，还是想自己采购？
闵可锐
现在采购其实并不划算，因为单张卡已经涨到 10 万元左右。
程曼祺 Manqi Cheng
你们去年租的云厂商算力够用吗？
闵可锐
我们现在还可以 scale，稍微多拿一些，100 张以内应该没问题。
在中国找 A100 可能不好找，但找 A800 还是很好找，能够找到。这个量级能解决。
程曼祺 Manqi Cheng
我听说现在很难做到，你们是怎么做到的？
闵可锐
之前已经买的，云厂商可能会让你继续用。再往下，因为大云厂商内部也要用这些算力，所以我觉得还好。
云厂商也会有很多供应商主动联系你，他们知道你在做这块。头部的腾讯云、火山引擎等，都会主动说自己能提供。
程曼祺 Manqi Cheng
你们现在用火山还是腾讯？
闵可锐
其实都不是，我们都会用一点。阿里的租过，金山的也租过。
现在还有一些更小的第三方供应商，比如 UCloud 这类企业，甚至有些名字你可能没听过，比如 EasyStack。各地我们都会用一点。
以我们需要的算力规模，不会成为瓶颈。真正的瓶颈可能是想拿四位数的卡，而且还要求机房有 IB 网络做互联。
这对原来设计的机房是很大挑战。我们自己买机器去托管，就知道很多中国云厂商的机房还是按 10 年以前的逻辑设计的。
一台游戏显卡机器可能占 4U，一个机柜至少按 32U 设计，有的达到 40U。机器占机柜空间的十分之一，却可能把整个机柜的电力用满，这是机房设计上非常不合理的。
新版 H 的卡 对很多云 IDC 机房的挑战是，一台机器进去，一个机柜的电都不够，需要特殊设置才能解决。
所以从头到尾，基础设施都有问题。政府主导了很多超算中心，但现在问下来，很多也没有真正使用。市场上有很多人要算力，地方政府组织建设的超算中心却有不少闲置，运转不起来。
程曼祺 Manqi Cheng
基础设施更新之后，是不是就可以用起来？
闵可锐
不至于需要全部重建，但需要动的基础设施非常大。我不是这方面的专家，不过看起来改造量很大。
这也是为什么 GPT-4 传言中 OpenAI 在清楚自身需求之后，找到微软 Azure Cloud 上最懂这件事的专家，从头打造一个超算。
他们清楚自己的需求，真正有落地设计能力；微软也有资金，砸 10 亿美元把事情做完。
中国很多政府主导的超算，软件和基础设施脱节，完全不清楚市场需求在哪里，先造了再说，造完发现一进去就用不了。
程曼祺 Manqi Cheng
你刚才也提到开源模型。你们最开始自己做模型时，没有太多开源模型可供选择；现在市场上出现了很多开源大模型，这会对你们有什么影响？
10. 开源模型改变创新速度
闵可锐
首先，市场上其实没有那么多真正的大型开源模型。
之所以看起来很热闹，是因为里面有一大堆“饭圈模型”，都是基于开源模型做的。今天拿一份数据，明天拿另一份数据改一改，快速产生大量开源 release。
但真正公开出来、能叫大语言模型的，Meta 原来的 OPT 算一个，BLOOM 算一个，后来的 LLaMA 算一个。到这个级别的模型没几个。
千亿级别的模型其实不算多，而且大量开源模型还是以应用为主。这是一个很大的问题。
程曼祺 Manqi Cheng
中国这边其实也有一些，比如华为发布过几百亿、上千亿规模的模型。
闵可锐
有，但训练得非常有限。
程曼祺 Manqi Cheng
你们试过吗？它们的表现在哪些地方不好用？
闵可锐
不好用。
为什么 Meta 公布 OPT 以后，最近几个月还要训练 LLaMA？因为它非常清楚，OPT 虽然也是 1,000 多亿参数，参数规模相同，但 performance 比起 2020 年 GPT-3 论文报告的结果，仍然有显著差异。
这里有一系列工程化问题：怎么投入算力，同样参数下投入什么样的算力是合理的，以及到什么程度才认为模型收敛。
这些都是一系列子问题，很多只会把模型跑起来的人，实际上没有考虑，甚至没有想清楚。
比如 loss 稍微下降一点，从总体模型质量来看可能区别很小，但对长尾问题来说，那一点提升可能意味着出现一种新能力：从原来随机，变成显著提升。
这不是一个简单转化的问题。
程曼祺 Manqi Cheng
虽然现在好用的开源大模型并没有那么多，但可以预见，开源会是一个更加繁荣的生态。随着这个趋势变化，对你们这样的应用驱动公司，或者自己也做大模型的公司，会有什么影响？
闵可锐
核心还是持续找到最重要、最关键的场景，把它做好。
有些事情适合用开源模型解决，也很难说一定不适合。我们可能会去尝试，但不是非黑即白。
做应用的公司使用开源模型，而开源模型因为有更多人贡献，可能迭代得比单个公司自己做的东西更快。
但语言模型比较复杂，因为这涉及传统软件和 AI 软件很大的区别：开源的意义不一样，开源的东西也不一样。
传统软件中，产品经理写下需求时，定义通常非常清晰。比如我要做一个功能：打开文件，支持 PDF 高亮显示。这是一个明确诉求。
但语言模型里，你甚至不容易定义自己到底在优化什么。你说在优化 AGI，首先什么是 AGI，这就已经是一个学术问题了。
所以它的模糊性很高。你可能优化了 A 任务，但 B 任务的 performance 下降了。因为你不关心 B，可能没发现它们之间存在冲突。
程曼祺 Manqi Cheng
你觉得开源模型和闭源模型，之后谁会表现得更好？
闵可锐
如果存在类似 OpenAI 这样的玩家，持续用市场上其他创业公司 100 倍的投入，把资源撑到接近人类极限的程度，那没有什么好说的，闭源模型一定可能做到最好。
因为有一些事情是它看得到、别人看不到的。
如果我们自己训练模型，一天能训练一次，我可能创新更快，因为我能每天看到下一版反馈，继续做下一次迭代。
其他人可能 3 个月、6 个月才看到一次反馈。如果你真的要把模型 scale 到那个程度，我一天看到一个反馈，然后你再和我竞争，肯定会吃亏。
程曼祺 Manqi Cheng
看到反馈的速度，和模型规模有关，还是和用户规模有关？
闵可锐
核心和模型、算力有关。你得很快把模型训练到一个足够好的程度，才会得到有意义的观察。
我们训练一个两三百亿规模的模型，如果只用单台机器，至少要跑 1 年，那就不用想了，反馈周期太长，黄花菜都凉了。
程曼祺 Manqi Cheng
你可以解释一下，模型开源和以前软件开源的区别吗？
闵可锐
传统软件和 AI 软件，在定义任务时不太一样。
传统软件开源的是代码，代码的输入和输出非常明确。当用户发现 bug 时，可以很快提交 patch，把 bug 修掉。
模型或者 AI 软件开源，也会开源代码，但更重要的是开源参数，也就是权重。
对于真正想进入这个领域的公司来说，代码不是产品，权重才是开源的核心。
程曼祺 Manqi Cheng
开源参数和权重之后，还是不能保证复现它的效果，对吗？
闵可锐
主要和数据有关。
不过你可能不需要复现它的效果，因为它的权重已经展现了当前训练好的效果。很多人是基于这个效果继续 fine-tune。
程曼祺 Manqi Cheng
那开源模型是使用开源模型的 API，然后 fine-tune，还是怎样？
闵可锐
因为你拥有代码。最完整的开源，应该包括训练代码、inference 代码和参数。
理论上，如果你要直接使用训练好的 LLaMA 版本，可以直接用。如果你觉得它在医疗问答上做得不够好，手里有 1 万条医疗数据，就可以基于它做微调。
你自己修改的代价会低很多。
如果只有 10 张卡，训练一个 200 亿参数模型可能要 1 年；但在开源模型上微调，可能 3 天就能完成。
你是在别人已经训练了 1 年的基础上继续做创新，速度就能大幅提高，让更多人可以 access 这件事。
程曼祺 Manqi Cheng
但你微调的时候，也需要自己的数据和算力。
闵可锐
对，不过相对来说可能少两个数量级。
程曼祺 Manqi Cheng
你觉得这次 AI 热潮、大模型热潮，给你们公司带来了什么变化？
11. 大模型热潮重塑投资市场
闵可锐
坦白讲，我觉得不算什么好事。
我们去年 release AI 写作时，时间点是在 ChatGPT 出来前大概 1 到 2 周，11 月底。
在上线前，我们的一些小程序已经在收集用户反馈。虽然大家讲 AI 写作已经讲了很多年，但我们 release 产品和小程序时发现，绝大多数中国人其实没有见过这个东西。
你写一个标题，它就能生成一篇逻辑完整、800 字、1,000 字甚至 2,000 字的文章，还能读得通。不仔细看，甚至不觉得是机器写的。
这种直观感受，在那个时间点绝大多数人没有体验过。
所以如果我们有半年的时间，先于 ChatGPT 发布，可能会让我们的业内用户增长和口碑都有显著帮助。
程曼祺 Manqi Cheng
因为你们发布和 ChatGPT 发布的时间非常接近，你觉得它实际带来的结果是什么？
闵可锐
ChatGPT 的发布以及两三个月内的爆红，好处是它把这个技术给全民普及了一遍。
原来 95% 甚至更多的中国人，都不认为技术可以做到这种程度。我们原来做到这种程度，对他们来说是一个很大的 surprise。过去他们可能只是在比较“我们是不是比 Siri 聪明”，觉得这是巨大进步。
现在我们要 PK 的对象变成 ChatGPT。你可能没有用过 ChatGPT，但一定听过。对标对象已经从上一代技术变成这一代技术最强的竞争对手。
程曼祺 Manqi Cheng
我爸爸都知道 ChatGPT，因为他炒股。A 股把这个概念炒得特别厉害，涨得很高。
闵可锐
所以挑战也在这里。现在不管哪家 BAT 出来发布一个模型，大家自然会问：你比 OpenAI 怎么样？你比 GPT-4 怎么样？
短期来看，这让你面对一个非常强劲、而且短时间内无法挑战的对手。
程曼祺 Manqi Cheng
那有没有其他好处？比如会不会有更多资源和投资？
闵可锐
我们的感受是，财务投资人在这一轮爆炒的热情里，其实基本缺席。
程曼祺 Manqi Cheng
你说的财务投资人，是指什么类型的机构？
闵可锐
无论什么机构，财务投资人对大模型投资都没有完全缺席，但我看到的确实很少。
如果和当年的 O2O、Web3 相比，把总金额算上，我认为至少少了一个数量级。
总额可能只能说最头部的机构没有缺席，比如红杉、源码、IDG、真格，都还比较活跃。
但你看它们投的是谁？也就是那么几个已经被证明过的连续创业者，而且是最头部的项目。
单笔金额已经不像以前那样，给你 100 万、200 万美元试试。现在不拿几千万美元，好像就干不了这个事情。
程曼祺 Manqi Cheng
我观察到一个现象，应用的投资相对少，出手也少。可能投资人看起来觉得大模型也很热，但实际上只是少数有光环的项目，让整个景象显得热闹。
闵可锐
你掰着手指能数出 10 个吗？O2O 的时候能数出多少？
当然，创业门槛是不一样的。能做 O2O 的人本来就很多。
我对这件事有一个判断。现在所有人肯定会认为我是胡说八道，但这不重要。
我觉得，在这一轮所谓大模型热潮里面，尤其是投资中国项目的这批投资人，很有可能会集体 miss 掉。
程曼祺 Manqi Cheng
被他们 miss 掉的项目可能是什么画像？
闵可锐
应用端如果投一点小钱，最后应用涨得不错，可能还有机会。但大模型这件事，我非常怀疑。
程曼祺 Manqi Cheng
你说 miss 掉，是指中国没有这样的项目长出来，还是有，但现在没有被注意到？可能是投资人的刻板偏向，也可能是他们看不懂。
闵可锐
我觉得可能是看不懂的东西。
开源本质上就是另外一股力量。这个事情有意思的地方在于，如果倒过来看 OpenAI，它吸纳了哪些人，究竟是以什么样的态度把这个事情做出来的。
再看中国现在的创业团队，他们是什么姿态入局，由哪些人来做，你会发现显著不一样。
中国的投资仍然沿着传统思路走，但 OpenAI 不是传统思路。
程曼祺 Manqi Cheng
你说的传统思路具体指什么？
闵可锐
大佬站台，资深院士或者成功人士来领衔。
我认为 OpenAI 不是这样。它真正最能打的人，都在最一线工作。它的 CTO、工程师，都是要写代码的。
程曼祺 Manqi Cheng
有没有一种可能，追赶者和原创者本来就不一样，所需要的能力组合也不一样？
OpenAI 已经在最前面趟出一条路，证明大致方向可行。后面的人可能更需要资源和资源整合能力。
闵可锐
这是一个假设，但现在没有太好的办法验证。
因为在这个阶段，我认为 OpenAI 还有很多 know-how 没有公布。它所谓趟出来的那条路并不清晰。
所以大佬站台、背书，拿几千万美元做项目，很多重要的事情还是得从头摸索。
而且即使是成功的 AI 创业者，也会被问未来怎么挣钱。这非常难回答，因为很长时间里，你可能只能讲中国故事，没有全球竞争力，只能把中国故事讲好。
程曼祺 Manqi Cheng
有一种观点认为，现在模型层的竞争焦点，是看中国谁能先做到 GPT-3.5 的水平。
闵可锐
你一定会在未来几个月，甚至 1 年内看到一个现象：每个人、每一家都会 claim 自己已经完成了这件事。
他们会拿出自己的评测报告，或者貌似第三方的评价来佐证。PR 发完以后，你会发现实际 90% 的用户还在用 ChatGPT。
我觉得未来 6 到 12 个月会发生这种情况。claim 完以后，又回到中国特色的商业模式：也许可以 convince 政府，拿到这方面的钱，但真正的 C 端用户不会为这件事买单。
程曼祺 Manqi Cheng
现在市场上少数拿到很多钱的大模型项目，有可能碾压应用项目吗？比如最后把你们收购过来？
闵可锐
问题是，它们的钱也没有多到那个程度。
它会处在上下两端的中间：往下，可以直接做应用，把应用先做好；往上，可以直接和 OpenAI PK，做到能和它一战的效果。
但它很容易卡在中间。做到中间以后，想往下打，会发现下面的市场可能不是它擅长的，因为那也是一个需要花时间和用户交互的新战场。
程曼祺 Manqi Cheng
现在王慧文和王小川的想法都是双轮驱动。换句话说，我倒过来揣测，他们不得不这么讲。
因为如果你说我要赢大模型，哪怕投资人很信任你，他真的会有那么大信心吗？
闵可锐
我觉得他们也确实相信这件事，因为本质上你还是在模仿 OpenAI。
OpenAI 之前做了那么多工作，并没有引起这么大的关注，ChatGPT 以应用形态出现以后，才引起这么大的关注。这里面有意外成分。
我觉得他们应该确实是这么想的。
但你会发现，他们最早发言时不是这么说的。最早站出来不会提双轮驱动，可能就是振臂一呼：“我要做中国的 OpenAI。”那时也没有什么具体内容。
我觉得这是局势发展到这个阶段以后才出现的说法。
否则你很难对投资人说：先给我 2 亿美元，应用我不卖，未来 5 年肯定亏钱，每年可能还亏 2 亿美元。
中国有多少投资人真正敢这么想？“我就是要做中国的 OpenAI，不说为人类 AI 事业做贡献，做什么应用我不 care，license 给下游做应用，我自己不碰应用。”谁敢这么说？
程曼祺 Manqi Cheng
我觉得他们可能确实不是这么想的，还是很有自知之明的。
闵可锐
但这就是问题。是不是中国投资人在这里会集体 miss 掉真正能干这件事的人？
中国可能有野心更大的人，只是还没有进入大家的视野。因为如果不是一个已经被证明过的项目，它不会进入投资人的视野。
程曼祺 Manqi Cheng
其实也有一些没有那么被证明过的项目。现在资本市场追捧的几个项目里，还有 MiniMax。MiniMax 的创始人是商汤之前的 VP，也不算特别典型的连续创业成功者。
还有一个比较受追捧的是杨植麟做的月之暗面。新的项目我不太了解，但这些明星项目的热度和实际出手情况，似乎也不完全一样。
闵可锐
对。哪怕是这些明星项目，在全民和投资圈里看起来很热，但实际大家愿意出手的金额和频次，我觉得并不成比例。
程曼祺 Manqi Cheng
我上周也和曲凯录了一期播客。42章经在做 FA，服务了很多应用项目，大概十几个。他说舆论层面非常热，但实际出手没有那么多，因为大家都看不清。
闵可锐
如果你的想法在最近 3 个月变了 3 次，你怎么保证现在出手，1 个月以后不会反悔？
本质上就是这个问题。
程曼祺 Manqi Cheng
但风险投资本来就是这样。
闵可锐
对，但现在局势的问题是，即使是风险投资，也觉得这个风险对它来说是未知数。
过去它们愿意讨论终局：这件事的终局是什么？我本来准备问终局，但我觉得现在确实很难回答。
我反而觉得，这件事的终局可能不在行业内部，而在于它把其他行业全都破坏一遍。
你赚不赚钱不知道，但其他行业会因为它的出现，受到毁灭性打击，或者说足够大的变革，有些行业甚至可能消失。
程曼祺 Manqi Cheng
比如前段时间美股讨论在线教育。你倒过来看，现在所谓一对一教育，可能是一对一机器人教育。
我可以比老师做得更好。小班可以缩小到极限，你问什么我答什么。我掌握所有课本和课本延伸知识。
你想练口语，也可以 24 小时陪着你练。几十美元，甚至每月二三十美元，这个应用就摆在那里，但整个行业还没有怎么做。
闵可锐
所以未来终局可能取决于它对其他行业造成多大冲击。它一定会对其他行业造成巨大冲击，至于这个行业内部谁赚到钱，不知道。
程曼祺 Manqi Cheng
这个假设基于现在 AI 有非常强的能力。
2016 年 AlphaGo 之后，人们也对 AI 有很高期待，认为它可以进入很多行业，甚至造成大规模失业。
当时有一张很出名的杂志封面：一个机器人走在路上，向一个人类乞丐丢下一个硬币。大家有很多畅想，但最后并没有发生。
你觉得这次和上一次有什么不一样？
闵可锐
那一次更多是畅想。
这一代技术，回到我们 2018 年做秘塔时的预期，就是它能做到在专业场景上足够强。
如果回到 2018 年，我们说它能在很多行业做到专业级效果，很多人可能还不相信。有人会部分相信，比如把医疗中一个特定场景做好，可能是可行的。
但现在由于 ChatGPT、GPT-4 的普及，很多人已经相信了这件事。
不过相信和实际发生是两个事情，中间可能有落差。
程曼祺 Manqi Cheng
你觉得这一次有被高估吗？
闵可锐
有一部分东西被高估，但这件事一定会发生，而且发生时间比没有 OpenAI 更早。
本质上，这是一个把全行业提速的过程。
原来像我们这样的公司，只能按照自己的能力，今天挣 5 元，花 3 元，把事情做得更好一点。一个领域做到接近极限，再去做下一个领域。
但现在的舆论讨论、公众关注，包括资本市场的热度，会吸引更多人投入，把事情进一步推进。
尤其是做纯应用的人，可能已经发现，即使每天投入很小的成本，扮演一个好的英语老师，也足够做到非常好，已经能替代原来的一对一老师。
现在缺的可能是好的产品设计，把东西封装得足够好用、易用；也可能是正向商业模式，把钱真正收回来；还要解决如何面对竞争。
如果你接 GPT，他也接 GPT，你卖每月 20 美元，觉得已经很便宜，新的竞争者说我卖得更便宜，你怎么解决？
但本质上，solution 已经摆在那里。这个钱不一定由你赚，但一定有人会把产品做到足够落地、足够好，以深刻改变原来行业的工作模式。
程曼祺 Manqi Cheng
也就是说，从工业界或者产品公司的角度，你会觉得这是一个连续变化的过程。只是公众和舆论会因为一些标志性事件，突然出现信心爆棚，但技术一直在往前走。
闵可锐
对。而且所谓互联网厂商对这件事的投入，不一定都有持续性。
现在很多公司出来 announce，半年到 1 年之后未必还在。
当然，很多互联网公司有超级应用，至少可以把模型放进自己的超级应用里。
我觉得，真正有能力把模型调教到很好程度的工程师团队，至少在现在还没有那么多。
所以在最近两三个月里，有些公司投入了不菲成本，可能只能撑 6 个月。
一方面，机器、数据和雇人都在持续花钱；另一方面，市场上又出现新的开源版本。你测下来，发现它的效果好像不弱于自己花几亿元、孵化了很久的内部团队。
如果再加上第三个变量：主营业务因为某种原因受到影响，收入和利润都在下滑，那时候你会怎么判断？
我觉得很可能过一段时间，市场上反而会多出一大堆二手 A100。
你养着这些卡，本质上是纯粹烧钱。
程曼祺 Manqi Cheng
我最近也和人交流过这个问题。现在算力很紧张，但可能过一段时间又宽松了。
就像矿卡，挖矿时非常紧张，价格炒爆；一旦被禁止，大量矿卡流出，显卡的一手价格和成本就会下去。
你说 OpenAI 给整个行业加速，那你们公司自己准备怎么加速？多买几张卡？
闵可锐
对，而且我们也必须加速，环境在推着我们走。
本质上还是见招拆招。我们要更好地服务这批用户，形成正向循环，有更大的资源投入研发和算力，做更快、更好的迭代。
这是一个常态。
比较可惜的是，我们少了半年的缓冲期。如果有那半年，事情可能会做得更顺一些。
程曼祺 Manqi Cheng
你们现在有在开新的融资吗？
闵可锐
我们的感受是，战略投资可能反而更积极，财务投资会非常谨慎。
程曼祺 Manqi Cheng
战略投资是有企业主动联系你们吗？
闵可锐
联系肯定不少。
程曼祺 Manqi Cheng
你说联系，是指想投资？
闵可锐
对。号称想投的肯定不少，但我们会自己判断。
程曼祺 Manqi Cheng
你说的战略投资方，是什么类型的企业？
闵可锐
可能是足够大级别的互联网公司。
程曼祺 Manqi Cheng
在这个阶段，你们想拿战略投资吗？
闵可锐
如果想拿钱，我们可能已经找不到第二选择了。
程曼祺 Manqi Cheng
那你想拿战略投资吗？顾虑是什么？
闵可锐
如果能相对自由地发展，我觉得还好。
顾虑是对方可能会管理你、限制一些事情。如果它有一项核心业务，要求你必须配合，那就是另外一个逻辑。
本质上是它想要什么，以及这个价格你卖不卖的问题。
程曼祺 Manqi Cheng
你们肯定不考虑阿里，对吧？上一次蚂蚁收购时，你不是提前跑了吗？
闵可锐
战投和收购不一样。
另外，阿里在战投以后，干预相对比较多。但我觉得这件事也可以谈、可以聊。
有些被认为阿里干预多的案例，可能是因为你的业务和它的核心业务有结合。如果你在一个它总办看不到的地方，可能就还没到那个级别。
程曼祺 Manqi Cheng
所以有可能是阿里吗？有没有接触过？
闵可锐
最大的几家都在接触。
程曼祺 Manqi Cheng
那就没有几家了，可能就是 BAT。
字节战投的人听说已经基本解散，分到不同业务的战略部门去了。
闵可锐
字节可能现在不太投资了，所以还没有直接接触。但我估计字节内部不会 miss 掉这件事，它自己会做，而且投入还挺大。
它投入大是必然的。当你能挣到它那个量级的钱时，这种投入完全可以被 justify。
程曼祺 Manqi Cheng
你最看好中国哪家大厂做大模型？
闵可锐
首先有几家还没有出牌，究竟准备做什么、做到什么程度，还没有明确动作。有人说它们做得不错，但现在都比较模糊，所以很难评估。
程曼祺 Manqi Cheng
但它们肯定都在做大模型。
闵可锐
都到了那个影响力级别，年收入几千亿元的公司，你说里面没有团队做这个事情，不可能。
我想知道的是，它们具体在做什么。
比如朱文佳在做大模型。最近他的汇报线有一些变化，可能是为了做大模型，获得了一些新的权限，或者接手了一些事情，原来负责的事情暂时不管了。
字节 AI Lab 的负责人李航，原来向马维英汇报，后来改向朱文佳汇报；杨振原那边也有一些变化。
程曼祺 Manqi Cheng
马维英以前在微软亚洲研究院，对吗？
闵可锐
对，应该做到副院长。
程曼祺 Manqi Cheng
你之前因为他离职的事情去见过他？
闵可锐
不是。那是在我创业之前，曾经找过我是不是加入字节 AI Lab。
程曼祺 Manqi Cheng
那时你还没创业，但已经准备创业了。
闵可锐
对。
程曼祺 Manqi Cheng
你和他聊完以后，当时是什么感觉？
闵可锐
那是 2017 年左右。我觉得 AI Lab 还有很浓重的微软亚洲研究院的感觉，偏高校氛围。
我觉得它不是那种“我们要 set up 一些东西，然后真正把事情做出来”的方式。
我 2009 年在微软亚洲研究院时，就觉得虽然亚研有上千名 researcher，有各种创新，但本质上还是手工作坊的做法。
包括高校，这么多年在计算机领域仍然是手工业者、作坊式创新。
这次被 OpenAI 狠狠教育了一把。
程曼祺 Manqi Cheng
Google DeepMind 和 Google Brain，你了解它们的情况吗？它们是偏手工业，还是更偏工业化？
闵可锐
它们已经在原来的基础上迈了一大步。
像 AlphaGo、AlphaFold 这种级别的创新，以我对亚研这类机构的了解，很难做到那个级别的投入。
它需要倾斜非常多的资源，把事情设置成公司年度最重要的目标之一，才有机会做到这样的投入和效果。
过去很多 research lab，最核心的事情就是发论文。你今年发 5 篇顶会，我发 7 篇，对吧？你改一个地方，我改一个地方，优化一下就能发顶会。
所以顶会也没有那么难。顶会论文里 95% 以上的东西，都是改一改就发。
程曼祺 Manqi Cheng
那顶会的最佳论文会比较难吗？
闵可锐
年度最佳论文比较难。最佳论文里可能 50% 确实很好，另外 50% 有很强随机性，差不多一半一半。
如果只是入围顶会论文，就有很多水分。
想想现在计算机系的学生，更不要说我当年读本科时，本科也能发几篇。那在同学中也算少数，但不是特别难。
程曼祺 Manqi Cheng
所以你觉得，入围顶会没有那么难，也不一定有那么创新？
闵可锐
第一，它没有那么难；第二，很多研究人员 overfit 了这条路径，整个职业生涯都在研究怎么发顶会。
所以他们 miss 掉了方向。
不是说这些 research lab 哪个不比 OpenAI 大，它们都可能大 10 倍以上。那为什么真正把事情做出来的是 OpenAI？
优化方向完全不一样。
程曼祺 Manqi Cheng
所以你比较早的时候觉得，很多人做的事情很没劲。这也是你想进工业界、做具体产品的原因？
闵可锐
可以这么说。
我觉得有两件事是能对过去交代的。
第一，做出真正最牛的研究创新。就像我刚才说的，有些问题别人需要先补一学期课，最后才理解它是怎么解决的。这样的研究目标是一个路径。
第二，真正做出一个足够好、用户基础足够广的产品。
你要么做应用，要么做理论，要么在真正的研究方向上做到最好，好歹占一个。两个都占很困难。
但现在很多指导方向有问题。第一条路径没有做到最好，只是做到数量多的人被 reward 了。
给你 50 个博士生，一年发 20 篇论文，这算什么？你根本不用 motivate 他们。博士生有毕业压力，自己就会把这件事做完。
在一个比较好的学校，你招来的博士生也不是傻子，自然能拿到很多 publication。
程曼祺 Manqi Cheng
你说的是实验室 leader 的问题。
闵可锐
对。博士生自己会写，这些人是全国很高比例的人才，不是傻子，难道发不了吗？
像我们这种本科生，稍微勤奋一点，也能发一些 publication。现在学界非常看重一个实验室发表论文的数量。
程曼祺 Manqi Cheng
引用数量能反映质量吗？
闵可锐
至少能部分反映，但不完全。
引用数量是一个非常容易被操纵的指标。
很多 researcher 愿意发表 dataset 论文，因为你付出苦力就能发。发了以后，后面的人只要使用这个数据集，就会引用你。
这是一条 shortcut：我做几个数据集，这个也做一个，那个也做一个。有时候只要拿到还不错的数据集就行。
从 scientific contribution 来讲，不能说没有贡献，但它本质上 reward 了劳动力，因为为这个领域提供了工具和基础。
就是你干得很辛苦，我把清扫费用给你减了，但不代表这件事是别人做不到的。
OpenAI 找到的最一线的人，是真正在这个领域一手看到现象、一手做工程落地，及时得到反馈，知道钱花在哪里，而且本身也聪明。
很多 researcher 面临的问题是：看到同样的现象，笨一点的人可能有 10 个方向可以继续试错；聪明一点的人可能会说，这 7 个方向不会，也许是在剩下 3 个里面。
然后你花的钱和他花的钱肯定不一样。灵光一闪之后再验证一下，如果是真的，就可能得到很好的结果。
而且这件事很难量化。到底是一个一流还是二流的 research？
很多公司会说自己重视研发、研发投入多，但我觉得研发投入甚至比广告投入更难衡量。
有人说广告投入一半是浪费的，我觉得研发投入 95% 是浪费的。
程曼祺 Manqi Cheng
而且你不知道哪 95% 是浪费的。
闵可锐
对。研发就是有这种特性。
但很多人忽略了一个问题：真的很强的人，研发效率可能比普通人高 10 倍。同样的钱，他的能力就是能比你好 10 倍。
但对一个特别大的组织来说，很难甄选出这样的人。
这就是 OpenAI 做得非常重要的一件事：找到真正会花钱的人，然后给他很多钱，让他做出效果。
其他机构的总投入可能也不少。亚研这些机构的总投入也很大，但它是平均给每个 researcher 花一些钱，最后就产生了现在这样的效果。
程曼祺 Manqi Cheng
刚才这个总结挺好：找到会花钱的人，给他们很多钱。
但找到会花钱的人，你看 OpenAI 找的几个最核心的人，他们多少岁？三十多岁，可能刚到 30 岁。
现在国内的情况是，钱花在什么人身上？这就是我说可能会集体 miss 掉的地方，花钱的逻辑完全不一样。
杨植麟还比较年轻，MiniMax 的创始人也比较年轻。
闵可锐
核心还是这批人的重点时间到底在做什么，是在最一线，还是在做资本运作。
CEO 很难一直在最一线，因为他本来就应该做其他事情。但在这个时间节点，中国很多想做大的团队，很容易把钱花得极其没有效率。
然后就进入我刚才说的负反馈：投入了半天，还干不过开源模型。
你会想，我养这帮人、投了这么久，到底在干什么？我还不如一个个人开发者在 Hugging Face 上拉个模型下来跑，效果也不比我差。
程曼祺 Manqi Cheng
此时此刻，在 AI 领域，有什么大家都同意、但你不相信的事情？又有什么大家还没有相信、但你相信的事情？
闵可锐
包括刚才说的这些，我不知道大家是不是同意。
我觉得可能很多人不愿意承认，现在花钱的方式和模式，压在这批人身上，可能已经偏离了事情本身，被太多其他因素干扰了。
那帮人纯粹，这就是可怕的地方。
程曼祺 Manqi Cheng
但这个环境能够找到既纯粹、又能拿到足够资源，而且会使用资源的人吗？
你说他们纯粹，也要看怎么定义“纯粹”。
OpenAI 做的是一整套完整的工作，它的目标非常明确：通向 AGI，并且普及到很多人，让大家能感知到。
闵可锐
我甚至认为，把目标设成“我要做中国的 OpenAI”，已经不够纯粹了。
程曼祺 Manqi Cheng
现在也没有人真的这么想。
闵可锐
有人这么说，或者两个月前这么说过。
哪怕你这么说、也这么想，我觉得你已经比人家低了一个身位，但至少还算真诚。
有些人早期可能确实这么想，但过了一段时间以后也看清了：第一，很难；第二，可能也没有必要。他也就不这么想了。
那问题更大：你做这件事到底想干什么？想挣钱吗？
这完全是另一种游戏玩法。
我以前和同事开玩笑说，但凡你在这件事上有一个重要目标是挣钱，对不起，你可能已经输了。
程曼祺 Manqi Cheng
想挣钱也没问题。比如想通过产品挣钱，不是骗钱，那当然没问题。
闵可锐
想挣钱的问题在于，可能很长时间里，你会发现死磕研发、探索这条路径，和挣钱是一个相反目标。
程曼祺 Manqi Cheng
挣钱也分长期和短期。你是说要延迟满足？
闵可锐
但我看到的现象是，你以为能平衡，实际上平衡不了。
但凡你滑入“我有长期理想，但短期要解决挣钱问题”，这件事就解决不了。
程曼祺 Manqi Cheng
你们现在怎么平衡？
闵可锐
我们还好。首先我们没有对外界预期有那么多资源，所以一直把它平衡到一个比较好的状态：公司能基本养活自己。
程曼祺 Manqi Cheng
你们现在的收入可以基本养活自己吗？
闵可锐
可以。
程曼祺 Manqi Cheng
所以写作猫收入还挺多？
闵可锐
还行。我们也就几十个人。
程曼祺 Manqi Cheng
你们 40 个人，一年怎么也有几千万元人民币吧？
闵可锐
有，2,000 万元不到。
程曼祺 Manqi Cheng
总成本可能会到几千万元，但人力成本不到。
闵可锐
对，总成本是几千万元，不会只有几百万元。
程曼祺 Manqi Cheng
那写作猫的收入确实还可以，算是有一定收入。为什么这个收入对财务投资人来说不足为谈？
闵可锐
这个问题很有意思。
本质上，他们是被吓到了。什么叫被吓到？他们看到我们其实是在和最一线的大厂直接竞争。
财务投资人面临的判断是：上千亿元市值的大厂，是不是马上就要过来打这个市场？
程曼祺 Manqi Cheng
所以没有 ChatGPT 的话，你们反而可能获得财务投资人？
闵可锐
因为我们拥有行业里最好的数据，不管是用户还是收入，都没有问题。
唯一的问题是，上千亿元市值的大厂是不是马上来打这个市场。
程曼祺 Manqi Cheng
所以热潮对你们的短期影响，至少对于融资来说，不算特别正面。
闵可锐
对。不是热潮来了，你只要在这个领域就能获益。
现在为什么有些偏离主赛道的应用反而容易拿到钱？因为投资人判断，大厂不会直接来做。
但历史也验证了，偏离主赛道的战场如果选得太小，不足以支撑公司长期发展。
程曼祺 Manqi Cheng
风险投资押中的项目绝大多数也是失败的，所以这也合理。
你们的数据最初是怎么来的？后来怎么循环起来？
闵可锐
很多数据都是从公开渠道抓取和整理出来的。
核心数据一定非常重要。但公开渠道能拿到的数据，其实已经有相当大的量级。
程曼祺 Manqi Cheng
你们当时做法律翻译时，有一些网上找不到的特殊数据吗？
闵可锐
会有一些没人关注、但我们关注到的半公开数据。
如果你真的把一个抖音账号做得非常深，还是能看到很多东西。标准的“全网扫一遍、爬虫全部拿到”，有时反而会 miss 掉重要数据。
程曼祺 Manqi Cheng
写作猫上线后，应该是 2019 年年底。到现在已经 3 年了。这个过程中，用户数据能帮助你们进步吗？
闵可锐
会。用户直接说这个不准、那个忽略，或者添加相关查找规则，这些数据我们会拿来用。
但用户的隐私数据我们不碰。
程曼祺 Manqi Cheng
用户行为相当于给你们做人工标注。
闵可锐
对，会是有用的数据，但不能直接使用，还需要提纯。
因为用户可能按照自己的逻辑反馈。这个反馈也许你认为是对的，但另外 9 个人认为是错的。
程曼祺 Manqi Cheng
还有什么和你们公司、和你们现在处境相关的重要问题，是我没问到、但你想说的吗？
闵可锐
现在看起来这波很热闹，但我有一点怀疑：等最热的热潮真正过去以后，肯定会迎来一波真正的落地。
但这波落地里，现在站在台上、受到高度关注的人，到底有多少会留下来？我觉得大多数可能都不是。
我们希望哪怕不在最主要的赛道上，至少在自己真正花精力优化的方向上做到最好。
至少别人提到这个方向时，可以说我们的产品是做得最好的。
程曼祺 Manqi Cheng
你们现在主要花精力优化的还是法律？
闵可锐
对。我们觉得法律有机会被做得非常好。
我们判断很多领域时，会看它有没有机会做到真正超过这个领域 99% 的人。我们觉得法律领域有这个机会。
程曼祺 Manqi Cheng
未来可能不局限于法律翻译。
闵可锐
对。法律领域还有很多其他空间和市场可以做。
而且在这个领域里，照搬国外商业模式也不太 work。
程曼祺 Manqi Cheng
OpenAI 也和一家法律公司深度合作。是 Harvey，对吗？他们还投了钱？
闵可锐
对，投了钱。那家公司成立时间比较久，本身就是做法律软件的。
但美国律师和中国律师的平均收入差距太大，所以有时候你会发现，辅助律师降本增效本身就是巨大挑战。
人家雇一个实习律师，一个月可能 2,000 美元；你帮他降什么本、增什么效？那是时薪 2,000 美元，你这里是月薪 2,000 元，大家对降本增效的理解完全不一样。
程曼祺 Manqi Cheng
那你们可以出海。你们不是已经有一些出海业务吗？
闵可锐
翻译本身比较 universal，因为就是语言之间切换。但不同法系非常不一样。
这恰恰也是一个机会：GPT 能不能顺手把中国法律掌握到完美？这件事本质上很困难。
你不能不立足于中国。所有法律法规每天都有新的产生，也每天有旧的过期。你怎么应对这一系列问题？
如果你拿一个 10 年以前已经过期的判例、法律引用，到今天还拿来用，就会有问题。
程曼祺 Manqi Cheng
说到实质性，可能法律文书撰写才会涉及这些。
闵可锐
不一定。法律问题的判定也可能涉及。
程曼祺 Manqi Cheng
但你们现在做的翻译不太涉及，对吗？
闵可锐
翻译还好，不太涉及；写作就会涉及。
比如很多公务员会给我们反馈：你都已经到二十大了，却引用十九大的内容，那已经过时了，更不要说引用十七大、十八大的提法。这些都有实时性。
程曼祺 Manqi Cheng
公务员使用你的产品有风险吗？未来政府会不会要求公务员不要使用 AIGC？
闵可锐
我们本质上提供的是 AI 辅助写作平台。你是要生成，还是让我帮你查错？我提供的是一个工具套件。
而且你不用我，用什么？用 Word 吗？这还涉及数据出境，是另外一个问题。
程曼祺 Manqi Cheng
也可以不用。政府可以要求公务员不要用 AIGC。
闵可锐
学校也可以要求学生不准用，但你怎么禁止？
程曼祺 Manqi Cheng
可以通过办公电脑禁止。
闵可锐
那我不在办公电脑上写。当然你可以制定一系列规则，可能会降低效率。
程曼祺 Manqi Cheng
目的可能不是反效率，而是出于安全考虑。
闵可锐
对。有些政府不一定理解这个东西怎么运转，可能出于安全考虑。
但如果是安全问题，我完全可以让数据可控，把模型部署在你的内网，数据不外流，我也看不到你的数据。
有时候部署 AI 可能有更大风险，而且对方不一定配合。但这也是国内大模型厂商看到的机会：我不一定要打过 OpenAI 才能挣钱，打过国内的竞争者可能就够了。
程曼祺 Manqi Cheng
还有几个和我们最近关注的现象相关的问题。
你说去年租 A100 是每月一万元左右，今年租金有变化吗？
闵可锐
还好。我们是续租，没有重新谈，所以没有涨价。
程曼祺 Manqi Cheng
如果重新谈，可能会涨多少，你们也不清楚？
闵可锐
对。
程曼祺 Manqi Cheng
你们有做 A800 或 H800 吗？
闵可锐
你是说 A800 还是 H800？H800 应该很少，除了腾讯发过 PR 稿。
程曼祺 Manqi Cheng
腾讯宣布自己是中国大陆首发 H800 的公司。
闵可锐
还没有直接聊过。
程曼祺 Manqi Cheng
他们说已经到了？
闵可锐
他们说了以后，应该还要等到货，而且要等多久也不确定。
对模型迭代来说，这其实有不确定性。你说 1 个月以后到货，到了以后还要做一堆 CR。新版显卡的潜在风险是，软件可能需要重新适配，不一定直接能跑。
所以你们已经用 A100 训练过，可能不会马上换成 A800 或 H800。
如果经济账足够合算，我们不介意尝试。
我们可以租一台，花半个月把流程跑通，看看能不能搭起来，以及搭起来以后收益到底是多少。
在有一定人力、且人力投入不高的基础上，我们不介意做这个测试，但优先级不是特别高。
程曼祺 Manqi Cheng
你们做大模型的人来自哪里？他们是怎么培养出这种能力的？
闵可锐
有些人跟着我们做了很多年，很多从 Day One 就和我们一起做。
程曼祺 Manqi Cheng
他们之前是什么工作背景？
闵可锐
可能不是你想象中最豪华的背景，但能把活干好。
有些同事已经写了很多年代码，PHD、硕士都有。这个团队本来也不大，整个模型相关团队可能不到 10 个人。
程曼祺 Manqi Cheng
你觉得他们是会用钱的人吗？
闵可锐
我是会用钱的人，所以就够了。
到现在很多事情我还是要介入判断，我觉得这是核心差异。
程曼祺 Manqi Cheng
所以你仍然非常在意钱，至少现在这个时间点，钱的使用仍然非常关键。
你自己的精力怎么分配？
闵可锐
至少一半时间花在研发和产品上。
程曼祺 Manqi Cheng
融资的事情是一维在负责吗？
闵可锐
一般我也会谈。但前一段会阶段性地跑一跑。
对我们来说，融资现在反而是锦上添花。
程曼祺 Manqi Cheng
如果现在多给你 3,000 万到 5,000 万元，你会大规模扩张团队、大规模采购算力吗？
闵可锐
都不可能。
程曼祺 Manqi Cheng
是因为找不到算力、找不到人，还是没有明确的投入目标？
闵可锐
投入是分级的。
以我们现在保产品、持续迭代优化的方式，是一种成长路径。这条路径上，投入和产出可以匹配。
如果拿到更多资源，也只能沿着这条路径走。提前花 1,000 万元，可能也就是这样。
不能随便招人，还是要看人是否靠谱，不能用 3 倍溢价招人。GPU 也不能大规模采购。
所以花钱的模式只是当前模式的线性延伸，不能延伸太远。我不希望把公司做成一年亏 3,000 万、5,000 万的程度，先融一笔钱再一年烧光。
而且现在没有新的事情要花钱，就更难讲。投资人会问，你为什么要做新的事情？为什么不做原来的事情？你要用什么数据支撑这笔投入？
我们觉得原来的坑还有大量可以填。
现在市面上很多人开发布会，我觉得有一个非常奇怪的点：太多人喜欢讲自己是 full stack，A、B、C、E、F、G 什么都会，拥有 30 个行业的大模型。
有些人的 BP 也很夸张，说已经在 20 个行业落地。翻到最后一页，却写着“本次希望融资 1,000 万元人民币”。
这不是很荒谬吗？我还以为是一个 200 亿元的项目，结果只融资 1,000 万元。
太多人讲这件事时，难道不觉得逻辑不自洽吗？
Midjourney 只说自己把一件事做好，做到 1 亿美元收入。你为什么要做 20 件事，而且总收入加起来还不如别人一件事？
这又回到发论文的逻辑：你是觉得自己做不好一篇好论文吗？否则为什么选择做 20 篇三流论文？
程曼祺 Manqi Cheng
所以沿着你们现在的路线和产品，资源需求是线性增长，不是突然需要很多钱。
如果做一个新事情，你觉得没有必要，也不是你们做事的方法。
闵可锐
如果有一笔钱，我们可以投入到现在的事情上，把它显著加速。
我觉得现在这个天花板足够容纳 1,000 万美元。把产品做得显著更好，市场也足够广。
程曼祺 Manqi Cheng
你估算，产品显著加速需要的资源是 1,000 万美元左右？
闵可锐
有 1,000 万美元，肯定可以显著加速。
程曼祺 Manqi Cheng
这一轮融资目标就是这个金额？
闵可锐
差不多是这个级别。
程曼祺 Manqi Cheng
你们现在自己谈，还是有机构、投行或者 FA 帮你们谈？
闵可锐
前一段其实看了一圈。
所有财务机构最终都有一个问题：我现在还会在一线做研发和产品，所以我的角色不是花 50% 以上时间去找钱。
而找钱这件事没有正反馈，这是最大的问题。
程曼祺 Manqi Cheng
你说没有正反馈，是因为心里不满足、不喜欢做，还是觉得没有成就感？
闵可锐
我不会认为这件事对我有成就感。
第二，投资人很多时候都是后见之明。以后他们可以说：“你当时告诉我那个事情……”
投资人和你谈时，确实有 99% 的人都在胡说八道。所以你是在各种噪音里找信号。
程曼祺 Manqi Cheng
投资人收到的垃圾信息太多了。
闵可锐
对。我看到 BP 转给我的，都是“20 个行业已经成功落地，已经深入到……”然后融资 1,000 万元。
全是这些乱七八糟的信息。
在这个行业里，实话实说反而有问题。不管你报什么数字，比如今年收入预测，投资人都会给你打折扣。
我们本着“我能做到，所以给你报这个数”的态度。但这个数字被打折以后，项目就显得没那么有吸引力。
所以可能有些财务机构给的估值达不到预期。
另外，我们还是想做到一个能够自给自足的状态。
程曼祺 Manqi Cheng
如果这一轮拿了大公司的战投，接下来财务机构会跟进。
闵可锐
对。但这也说明中国一级市场就是这么运转的：需要一个人拍板，说我领头，然后其他机构再跟一点。
机构可能有判断，但没资源；有资源的，可能没判断。这始终是一个资源错配。
我相信最后市场会让资源流动和平衡。最一线的机构还是有自己的判断。
比如国山这一轮还是投了很多项目，它钱也多，可能发愁的是钱怎么投出去。但它投的项目仍然反映了自己的判断。
到这种大的节点，我觉得不管企业还是投资机构，本质上都是一个洗牌过程。
程曼祺 Manqi Cheng
你现在对行业、对自己要做的事情，还有什么困惑？
闵可锐
我们自己做的事情还好，就是把手上的事情做好。
有时问题在于，一部分人希望你预期一个 5 年的未来。但能够预测，意味着你做的事情本身偏线性，所以才比较容易预测。
如果很多投入需要冒一定风险去尝试，拿到反馈后再调整，再进一步投入，那有时就不能准确预测。
我们现在就处在一个很难准确预测 5 年的节点。
程曼祺 Manqi Cheng
会有投资人说你应该更 aggressive，或者比较缺乏野心吗？
闵可锐
还好。
如果觉得我缺乏野心，那你现在掏 2 亿美元出来。
本质上，这件事只给 2,000 万元人民币，还说我缺乏野心，就没有基础。
程曼祺 Manqi Cheng
但你们确实也没有找他们要更多钱。
闵可锐
因为我们没有疯到认为有必要尝试。
你需要对方有多大的判断力，以及多么敢于对你做这样的判断、下这样的注。
我觉得没有必要期待这个事情。把事情做好，每年往上推一步就够了。
程曼祺 Manqi Cheng
了解。今天特别感谢你的时间。
本期点点呈现分享三个和其他期节目的呼应。一是开源的力量，这是二零二四年底以来被更多人关注和感知到的现象，而在二零二三年年初，这一次我们就聊到了好用的开源大模型并没有那么多，但是可以预见到开源会是一个更加繁荣的生态。在幺零二期节目 DeepSeek 启动开源周中，我们有详细聊过大模型开源的分层，到底是在开源和分享什么部分。那期的嘉宾，美国西北大学博士生、DeepSeek 前实习生王子涵有一个很有意思的总结，他说野心最大的开源是想成为一种标准。
二是关于具体技术路线的探讨，闵可锐提到预训练本身是一个比较重要的范式变化，而具体用什么架构来实现，是不是 Transformer 其实没那么重要。这个观点其实和晚点最近发布的对阿里云 CTO 周靖人的访谈相似，周靖人在访谈中也提到，他觉得推理模型本身，也就是 O 一和 R 一这样的模型，可能谈不上一个范式变化，因为范式是很大的一个词，很大的变化才能称之为范式。它也是回到了这一次大模型变革的开端，认为预训练这种思路和方法本身是一个重要的技术转折。在一百零四期我们与 MiniMax 高级研究总监钟怡然的节目中，我们讨论了线性注意力趋势，这也是目前对 Transformer 的架构一个比较大的改动，或者也可以说是非 Transformer 本质上是 RNN 回归的一个探索方向。一度大热的 Mamba 等架构也是这方面的尝试，这反映了在整个技术社区里，对 Transformer 的改进甚至是新架构的提出也在不断地发生。
三是如今被频繁讨论的大公司和创业大模型公司的竞争格局变化，虽然我们这次聊时 DeepSeek 还没有成立，但回头听我也有点吃惊，就是当时可锐就在想，比较传统的风口投资思路，大佬站台融数千万美元快速模仿 OpenAI，也许根本行不通，中国 VC 可能会集体 miss 掉一个最有雄心的大模型创业公司，因为他们不会按传统思路出牌，他们也不是已经证明过自己会出现在投资机构视野里的人。更多有关这两年变化的今昔对比，可以听今天发的另一期节目，是和闵可锐二零二五年的访谈。本期节目就到这里，感谢收听。如果你对今天聊的话题有观察、好奇或疑问，欢迎在评论区分享想法，这也会成为我们节目的一部分，让整个讨论更完整。你也可以把我们的节目分享给对这个话题感兴趣的朋友，推荐更多你想听的主题和嘉宾。你可以从小宇宙、苹果 Podcast 等渠道关注“晚点聊 Late Talk”，也欢迎关注我们的公众号“晚点 Late Post”。下期再见。