程曼祺 Manqi Cheng
你们今天发布新模型之后,收到的反馈里,有哪些让你觉得比较有意思、印象比较深?
闫俊杰
我发现海外和国内好像不太一样。我们昨天晚上先更新到了 Twitter,随后有很多海外网友给我们发邮件,也在 Twitter 上留言。海外网友的第一个问题是:你们其他模态的模型什么时候更新?
这反映了一个现象:对很多海外用户来说,我们更出名的是其他模态的模型,比如声音、视频和音乐。这对我们来说是好事,我们会继续提升那些模型。但这也反映了一个问题:我们的文本模型在海外用户里面其实并不知名,之前没有建立起海外的技术品牌,这是我们需要提升的地方。
当然,也有很多海外用户会提到,这次的架构做了很多创新,支持的上下文长度很长,希望之后有更多开发者可以基于它做一些更激进的尝试。
国内的反馈,我感觉大概分成两类。一类是做技术的同学。很多人是第一次真正面对一件事:做一个很大的模型,不一定只用 Transformer,在架构层面也可以做很多创新。之前学术界虽然有一些小的创新,但很少有人真正把它做到比较大的规模。我们这次确实是第一次做到这样的规模,我猜这对很多学术界和算法领域的同学还是挺有启发的。
第二类反馈来自一些非算法背景的人,可能是合作伙伴或者朋友。很多人告诉我们,觉得我们这次好像有点“上道”了,因为我们开始意识到要做技术品牌。
这应该是我们第一次真正做这件事。以前我们很多时候都是闷头做技术和产品,对技术品牌没有很深的认知。我觉得今天算是第一次意识到这件事的重要性。
程曼祺 Manqi Cheng
你们这次有一个很大的变化:这是你们第一次开源模型。它和你刚才说的做技术品牌有关吗?还是说开源有更大的意义?为什么要开源?
闫俊杰
本质上只有两个原因。
第一个原因是,过去两年技术发展的速度非常快。我们相信,至少未来两年的技术进步速度可能也会这么快。既然如此,真正有价值的事情就不只是看你当前做得怎么样,更重要的是看你的进步速度怎么样。这是最核心的一件事。
开源在一定程度上当然可能会对外部的人有所贡献,但对我们来说,最大的驱动力是希望让自己的进步速度变得更快。你把做的事情都开放出来,做得好的地方可能会受到鼓励,做得不好的地方也会受到很多批评,所有事情都是公开的。这样一来,反馈链路的效率,甚至可能比把一个私有模型放在产品里,让一些用户来反馈更高。
通过开源,我们希望提升研发效率,因为问题会更快暴露。这是一个比较重要的原因。
第二个原因是,我觉得过去两三年我们做得特别不好的一件事,可能是因为第一次创业,我们对技术品牌没有很深的认知,直到最近才意识到这是一件很重要的事情。
本质上,我们意识到这个行业最大的驱动力还是技术进步。技术进步的核心,是你能不能保持足够快的技术进步速度。这当然需要一些硬件条件,比如有多少算力、多少数据、多少钱,但还有一个软性的东西,就是足够好的人。
我觉得开源是我们开始做这件事的一个起点。
程曼祺 Manqi Cheng
最近让你意识到技术品牌更重要,和 DeepSeek 特别火有关吗?你们开源是在追这个方向吗?
闫俊杰
其实我们意识到这件事的时候,DeepSeek 还没有开源他们的 V3。
我和梁文锋很早就认识了,大概是在他们成立 DeepSeek 之前,应该是 2024 年年初左右。具体时间我记不太清了。
我觉得他有两件事对我很有启发,但这和我们现在做的事情不完全相关。最有启发的一点是,他对品牌的理解非常强。幻方做得很成功,他们可能是口碑最好的那一两家量化公司之一。我觉得他们很早就意识到了品牌的价值,这件事对我很有启发。
另外,他们一开始没有产品,可以把精力变得更聚焦。但这件事不同的人有不同的选择。我觉得这两点他们做得比较好。
程曼祺 Manqi Cheng
MiniMax-01 系列开源之后,会更多支持外部开发者,还是你们自己的产品也会换成这个开源版本?
闫俊杰
我们自己内部已经用了很多次。
程曼祺 Manqi Cheng
你们会不会还有其他更强的版本自己留着?
闫俊杰
没有。我们会用这个开源版本。当然,开源之后,基于开源版本肯定还需要改一些东西,但我们并不希望一定要藏着一个更好的版本,因为这件事没有意义。所有模型一年之后都会落后,现在模型的保鲜期很短,藏着一个更好的版本其实没什么意义。
程曼祺 Manqi Cheng
你们为什么没有更早开源?
闫俊杰
这是第一次创业,需要具备的技能还是很多。如果可以重新选择,我觉得更早开源会比较合理。
程曼祺 Manqi Cheng
更早是早到什么时候?
闫俊杰
我觉得第一天。
开源反而可以让很多事情的包袱变小。比如和客户合作时,如果你是闭源的,就要花很多精力考虑怎样保证模型安全,也要花很多时间处理这些事情。如果是开源的,就不需要考虑那么多。
从客户价值来说,开源也最容易满足客户的需求。坦白说,如果我是 OpenAI,我也应该开源。
程曼祺 Manqi Cheng
你说 OpenAI 真正的核心能力,是因为 GPT-4o 比 Claude 3.5 好吗?
闫俊杰
我觉得其实不是。
程曼祺 Manqi Cheng
你觉得是什么?
闫俊杰
我觉得是 ChatGPT 的品牌和用户心智。至少两年前,它的模型确实可能更好,但现在我觉得不一定了。
程曼祺 Manqi Cheng
但它会是大家都认为的全球第一,对吧?
闫俊杰
对,而且即使发布差不多的模型,OpenAI 也会成为潮流,其他公司发布的模型可能就不会获得同样大的关注。
程曼祺 Manqi Cheng
你们之前一直讲模型和应用一起做,而 DeepSeek 的梁文锋说,现阶段他们不做应用和产品,只做模型。你觉得这件事可以复制吗?
闫俊杰
首先,我觉得实际情况不是这样。DeepSeek 也有一些产品,最近也有 App,所以不能简单地说他们只做模型。
但反过来,我觉得大多数中国公司的一个认知是错的:如果目标是做出更高的智能水平,其实没有那么依赖很多用户。
这个事情想一下就知道。比如 ChatGPT 的 DAU 可能是 Claude 的 50 倍到 100 倍,应该是这个量级。但你说 ChatGPT 的模型比 Claude 好 50 倍吗?显然没有。两个模型的能力是接近的,这只反映了一件事:如果你追求的是 AI 的智能水平,它和你有多少用户没有关联。
中国也是一样。比如通义和豆包,情况其实类似。过去一两年,中国人工智能产业一直有一个巨大误区:用户越多,模型智能水平提升得越快。为了获得更多用户,就把公司的大部分钱花在买流量上,这个逻辑是非常错误的。
程曼祺 Manqi Cheng
你去年就说过这个观点:不是用户越多,模型能力就提升越大。
闫俊杰
对。但去年说的时候,可能还没有那么多人相信。
我想把这件事分成两个方面来看。
第一个方面是,整个行业能有什么样的产品。比如今年出现了很多 AI Coding 产品,也出现了很多视频产品,这些产品去年还没有。为什么今年有了?因为今年的模型比去年更强,所以模型能力的提升是一个驱动力。
第二个方面是,为什么会有这些模型。比如,为什么 Claude 3.5 Sonnet 的编程能力做得很好,为什么现在的视频模型可以这么强?并不是因为之前已经有一个视频生成产品,用户觉得不好,于是通过用户数据迭代模型,最后变好了。
而是一开始先定了一个目标:我要做出一个编程 Agent,有一个 benchmark,比如 SWE-bench;或者我要生成什么样的视频。先定下目标,然后从一开始就朝着这个目标去做。这并不是和用户一起迭代出来的。
我觉得这才是 AGI 真正进步的动力。
它的底层原理是,模型已经比大部分用户在日常使用中更聪明了。大部分用户的 query,其实没有模型自己模拟得好。所以过去一年多,中国大部分创业公司和大厂,仍然在延续用推荐系统的方法来做大模型产品。
用传统推荐系统的方法论做大模型产品,从根本上就是错误的。
程曼祺 Manqi Cheng
你怎么总结“用推荐系统的方法论来做大模型产品”?
闫俊杰
传统方法的意思是,对一个内容型产品来说,你没有办法非常明确地知道什么叫对、什么叫错。
比如在小红书上发一个内容,你没有办法提前知道它会不会火,所以只能发很多内容,再测试出来。模型应该怎么改进,很多时候也不知道为什么某个改进会有效。不同研究员尝试不同算法,堆叠不同 feature,做大量实验,最后找出 A/B 指标更好的方案,然后不断累加。
为什么会这样?因为做推荐时,你不知道对错,所以这样做是最高效的。
把这个逻辑放到大模型里,基本就变成分析各种各样的 case,比如把用户使用场景分成 100 类,每一类怎么补数据、怎么迭代、怎么做 A/B test。最后就变成这样一种方式。
但我觉得这不是做 AGI 的方式。做 AGI 的方式,应该是非常清晰地定义模型的能力如何分级,每一代模型的能力对应什么新的能力,需要什么底层训练数据,需要怎样的推理过程,需要设计多复杂的 reasoning。先定义出来,再通过很多技术手段去逼近这个指标。
你可以看到,基本上所有公司都会遇到一个挑战:一开始突然推出一个很好的模型,模型获得了一些用户;但开始考虑这些用户的需求之后,模型迭代就变慢了。然后可能又有新的模型出来,打败前面的模型。
过去一年多基本上都是这样。这并不是用户越多,模型水平就越好的过程。
程曼祺 Manqi Cheng
你是什么时候特别想清楚这个逻辑的?
闫俊杰
我在 2024 年 3 月、4 月就想清楚了。
程曼祺 Manqi Cheng
这个逻辑和你们这次 MiniMax-01 系列的更新是什么关系?
闫俊杰
想清楚之后,我们做了几件事。
第一,技术仍然是这个行业最核心的驱动力,但不应该把技术和产品混为一谈。做技术的事情,是不停提高能力的上限。这里有两个假设:第一,能力确实可以提升;第二,能力提升之后,有可能让原来的产品发生根本性变化,或者带来新的产品。这是做技术的假设和逻辑。
做产品的逻辑是,不要认为有了产品之后模型就能变好。产品的目的不是让模型变好,产品就是产品;对商业化公司来说,它就是一个商业化产品。
这算是对“模型和应用一起做”或者“模型应用一体”的反思。一个模型可能会导致一个产品出现,但不一定会让这个产品持续变好。产品持续增长,和产品本身相关,和产品的可持续性相关。
意识到这件事之后,我们做了几件事。
第一,我们认为追求技术领先,不应该只是在当前这一代能力范围内提升几个点。做技术应该思考,怎样让能力一代一代往上提升。这是核心,包括智能水平的提升,以及支持更多模态。
比如我们为什么要做视频模型?这是增加模态。为什么这次一定要用全新的架构?本质上是因为我们认为上下文很重要。怎样支持非常长的上下文,怎样有效训练和推理,这就成了我们要解决的问题。接下来基本也是这个思路,这就是做技术的逻辑。
产品的逻辑也很简单。提升模型能力,不需要依赖产品,研究团队和整个业界一起就可以提升。产品真正需要思考的是:它为用户满足了什么需求,对公司来说是一种什么商业化行为,以及怎样把这两件事结合起来。
过去 10 个月,我们的决策基本上都是从这两件事推导出来的。
程曼祺 Manqi Cheng
对你们来说,到底是技术更重要,还是产品更重要?你会把自己定义成技术驱动的公司,还是产品驱动的公司?
闫俊杰
我们非常明确自己是一家技术驱动的公司。这不是一个口号,它的实质是:当遇到冲突时,谁说了算。因为冲突总会发生。
举个例子,一旦一个东西上线,一定会有人觉得它好,也会有人觉得它不好,不管这个人是用户还是客户。但精力和时间都是有限的,这时有两种选择。
一种是把这些简单的 case 都修掉,但这样可能就没法做更大的事情,或者没法让能力发生本质变化,不能跨过那个台阶。
另一种是选择跨过那个台阶,代价是小的事情暂时没法修。
这时候应该怎么选?按照我们的逻辑,就是选择跨过大的台阶。这实际上就是我们的底层逻辑。
程曼祺 Manqi Cheng
你们去年实际发生过这样的事情吗?
闫俊杰
发生过很多次。
比如海螺视频,按照访问量来说,它应该已经是全球最大的视频生成产品了。但它的页面很粗糙,刚上线时甚至没有英文页面,只有中文页面。
可当时有很多海外用户,一上线就发现有很多事情要做。用户会提出各种问题:为什么 Runway 支持某个功能,你们没有?为什么可灵有 App,你们没有?
但一旦去解决这些问题,模型进步速度一定会变慢,因为精力会被分散。这时我们的选择很简单:听算法的。
算法团队的实质判断是,一旦技术不领先,产品可能就没有了。我们唯一应该做的事情,就是把精力花在让算法能力跨到下一个台阶上。不管是算法、产品还是运营,最重要的精力都应该帮助算法能力提升。
星野也是类似的产品。虽然它看起来非常娱乐化,但里面的算法一点也不比做通用模型简单。
当产品刚上线,需要做一个比较大的算法变化,但这个变化会影响很多用户数据时,你怎么选择?坦白说,2023 年我们有时还会纠结,但 2024 年基本不太纠结了。
再举一个例子,海螺文本是我们过去一年没有做起来的产品。当时有两个选择:大家都在疯狂投放、疯狂加码,而且很多人认为这个产品最能代表智能水平,现在也有人这么认为。
但我们的决定是,提升技术和用户数没有特别强的关联;产品应该被当成一个业务来思考。所以我们的决定就是不投放,本质上就是这样。
程曼祺 Manqi Cheng
你的描述里,逻辑其实非常一以贯之。
这次采访前,我也收集了一些问题。有一位 AI 投资人观察你们,觉得 MiniMax 2021 年底就开始融资,最初讲做虚拟人,后来 Glow、星野是在摸索类似 Character.AI 的方向;Kimi 火了之后,你们好像又重启了生产力工具海螺;Sora 出现之后,你们投入更多资源做视频生成;现在又开始做开源。
所以他会觉得,你们技术能力很强,但好像一直在跟随热点而动。
闫俊杰
我猜这个人可能对我们有很多误解。
我们一开始想做的事情,在上次技术发布时已经写得很清楚了。他从来不是一个投资人,只是在我们最开始创业、三年前的时候,那个时候根本还没有“大模型”的概念。很多真正不了解这个行业的人,会把他误认为是投资人。
你可以看一下我们第一天写的东西,这是第一点。
第二,Glow、星野、海螺视频这些产品,并不是在追随 Character.AI,因为我们做的时候还没有 Character.AI。
你们其实是差不多时间上线的,只差一个月。但在移动端,我们更早,这是实际情况。
海螺其实两年前就推出了,只是前一年多没有做起来。当大家真正知道这个行业有这样一个赛道时,Kimi 的表现比我们好,所以大家就以为我们是在重启。但它其实很早就有了,也是我们一开始写下的路径。
我认为通用人工智能或者大模型出现之后,会有两代应用:第一代是偏休闲娱乐类的,第二代是更高效率的。我们第一天就是这么写的。
再说视频。我们最开始做 Talkie 的时候,一直有一个想法,就是让里面的角色动起来,所以当时就立项做了这件事。只是 Sora 出现之后,我们意识到这件事比想象中更大,于是把它做得更加通用。
至于为什么开源,本质是因为我们开始意识到要加强技术品牌。我们认为技术会快速进步,过去几年已经出现了很多新技术。这些新技术可能会让产品发生变化,也可能带来新的产品,这就是我们的逻辑。
程曼祺 Manqi Cheng
他真正好奇的问题,是想知道你的 AI 信仰到底是什么。因为看起来你们做过很多事情。
闫俊杰
我觉得现在没有人有能力定义什么叫 AGI。
真正能够定义的是,智能水平会不停进步。我们自己没有定义 AGI 是什么,只定义了墙上写的“Intelligence with everyone”。
我们需要让智能水平不停提升,但这显然不是一蹴而就的,需要分阶段、一步一步来做。
我一直以来的逻辑是:每个阶段应该做什么事情?在这个阶段积累的能力、技术、产品和各种数据,能不能让我们到下一个阶段?
这有点像长征。你可能不知道最终目的地具体在哪里,但知道更高的智能水平大概率是一件有意义的事。
创业也是一件很艰难的事情。不是说所有人都看到一个机会,这个机会就属于你,你就是天选之子,然后在大家注视下拿到这个机会。
它的实质是,这件事很难,但价值也很大。很多人都看到了它,但每个人有不同的理解,也有不同的路径。
对一家创业公司来说,第一,创业的前提是你有独特的理解。第二,你的资源肯定不是最多的,甚至可能非常少。我指的是和海外公司、和中国最好的大厂相比,你的资源非常少。
在这种情况下,你的路径是什么?你能不能走到那个点上?这才是关键。
这不是一开始就能规划好所有行程,然后照着走、所有道路都已经铺好的事情。它更像是每一步都要不断争取、不断提升的过程。
程曼祺 Manqi Cheng
你刚才说,能够确定的是技术会不断进步。关于技术如何进步,行业相信的东西变化也很快。比如李开复上周告诉我们,整个行业从相信 scaling law 到怀疑 scaling law,可能只用了一年时间。
他觉得,AI 2.0 相比商汤、旷视那个时代是在加速的。你怎么看这种变化为什么会这么快?
闫俊杰
坦白说,我不太认同这种看法。
经营一家公司,想让公司变好 10 倍,或者做一项技术把它做好 10 倍,本来就很难,不会自然发生,需要做很多创新。对创业公司来说更是如此。
如果你是字节跳动,可以把所有方向都做一遍,最后通过赛马跑出一个好的结果。但创业公司犯错的机会很少,各方面资源也没有那么充足。
但我觉得这其实是好事。资源有限会逼着你做真正的创新。
如果我们的资源也非常多,就不需要创新了。但如果创业公司不去做技术、产品和业务上的创新,那这个世界为什么还需要创业公司?
程曼祺 Manqi Cheng
你刚才说“不太认同”,具体指什么?
闫俊杰
作为真正的创业者,这时候不应该想“scaling law 撞墙了,我就放弃”。应该想的是:我要做什么事情,才能让 scaling law 延续?这里面需要做哪些创新?
不管是算法、组织、业务,还是方向层面的创新,怎样取舍?我觉得这才是一个真正的创业企业应该追求的事情。
更直接地说,如果你要做一家创业公司,就得想办法让技术继续提升。你把这个方法叫 scaling law,或者叫别的名字,都可以。
我们不应该抱怨它很难,而应该寻找方法。当然,也有可能找不到方法。如果找不到,我确实应该关闭。但至少在还有机会的时候,我们应该努力找到这些方法。
程曼祺 Manqi Cheng
AI 行业很有特点的一点,是大家总在讨论“技术信仰”。你觉得“信仰”是一个合适的词吗?有没有更合适的词?
闫俊杰
一年前最喜欢谈信仰的那些人,现在信仰都兑现了吗?
程曼祺 Manqi Cheng
你指谁?
闫俊杰
我指行业里最喜欢谈信仰的人,不管是中国还是海外。
但信仰是一年就能兑现的事情吗?信仰不应该是长期的事情吗?
程曼祺 Manqi Cheng
那要看在做什么。它可以是长期的事情,但至少应该是在朝那个方向努力。信仰是直线到达的吗?中间不能走弯路吗?
闫俊杰
相反,你觉得什么事情和信仰是相反的?
程曼祺 Manqi Cheng
比如投放。如果你信仰技术重要,那就应该客观看待一个情况:美国的 AI 公司其实不会把公司的钱花在大规模投放上。比较好的公司,比如 OpenAI 和 Anthropic,你可以看它们的钱是怎么花的,最主要可能是算力,其次是人才,市场营销费用占比很低。
闫俊杰
我觉得真正应该相信的事情是,第一,我相信的不是 AI 的终点在哪里,而是技术可以不停提升。这是我们比较底层的一个信念。
第二,不管你有多少资源、处在什么环境里,资源都是有限的。在有限的环境里,怎样做才能对技术提升起到自己的贡献,在这个浪潮中推动它发展,这是我个人对“信仰”的理解。
程曼祺 Manqi Cheng
如果换一个词,你觉得什么更合适?
闫俊杰
我觉得叫“信念”吧。
程曼祺 Manqi Cheng
这次 MiniMax-01 系列更新还有一个关键词,就是“新架构开启 Agent 时代”。我们可以详细展开聊一下:一个是新架构,一个是 Agent 时代。先讲讲为什么你们觉得 Agent 是一个重要的目标和方向。
闫俊杰
核心来自两个层面。
一个层面是 AI 能力应该如何提升。AI 变得更强之后,应该朝哪个方向继续变强?这是第一条思考路径。
第二条思考路径是,假设 AI 变得更强之后,它能给人类社会带来哪些有益变化?
什么叫更好的智能水平?很显然,它应该能够处理更复杂的任务。处理复杂任务的一个标志,就是能够完成很多步。这个“多步”可以像 o1 一样,单次直接输出;也可以是通过一个 Agent 把任务拆成多步。按照 SRP 的定义,这叫 workflow,是一个预先定义好的 workflow,只是拆成了多步。
也可能是更复杂的任务,需要多个 Agent 协同。它的实质是,我们应该做这样一个假设:当前 AI 模型的能力,加上一些算法和算力的发展,意味着 AI 在接下来一段时间里能够处理非常复杂的任务。
当 AI 能够处理复杂任务之后,它会给社会带来什么变化?我觉得很显然的一件事是,交互形态会发生变化,不会完全是现在这种 chatbot 的形式。
现在你和它聊天,它会立刻给你反馈。之后它可能会执行更长时间。
简单理解就是:以前 AI 做的事情,好像你妈妈交给你一个任务,你聊天时立刻回复她。另一种形式是,你可能想了两天、准备了很多东西之后,再告诉她结果。显然后一种形式的价值更大。
我觉得这就是下一代 AI 应该解决的场景。
程曼祺 Manqi Cheng
简单来说,你对 Agent 的定义就是,它能处理一个比较复杂的任务。
闫俊杰
对。那什么叫复杂任务?我的理解是,在专业领域能够达到专业人士的水平。
程曼祺 Manqi Cheng
你们主要还是专注于虚拟世界,也就是比特世界,对吧?它是否和物理世界联动,有关系吗?
闫俊杰
目前还没有,但不意味着它不应该和物理世界联动,只是我目前还没有能力进入这个领域。
程曼祺 Manqi Cheng
去年我们聊的时候,你说 Agent 在 2023 年已经很火,但当时没有任何公司真正做成功过。本质原因是模型能力不够强。
现在你们认为 MiniMax-01 可以说是开启 Agent 时代了,它到底在哪些方面变强了?
闫俊杰
分成两个层面。
一个是架构层面能不能支持这件事,第二个是能力本身能不能支撑这件事。
在架构层面,我们已经做到这件事了。它可以处理非常长的上下文。单个 Agent 需要很长的记忆和很长的上下文输入;在多 Agent 系统里,不同 Agent 之间也需要交互很多信息。前提都是能够进行非常长的上下文计算。
在架构层面,我觉得我们已经实现了这一点,应该也是目前全球唯一能够这样做的架构。
第二个是能力层面,这方面我们还有很多可以提升的地方。比如 Agent 需要使用工具、进行规划等能力,我们的模型还没有优化得特别好。
但好处是,这些能力都有很多标准 benchmark。只要把这些 benchmark 做好,同时保证能力可以泛化,我觉得就可以逐步实现。
程曼祺 Manqi Cheng
你刚才提到,你们的架构是 Transformer 的创新,对吧?
闫俊杰
标准 Transformer 里面有几个模块。我们把其中一个叫 attention 的模块,从 softmax attention 变成了 linear attention。可以认为,我们对 Transformer 里最重要的模块做了变化。
程曼祺 Manqi Cheng
所以它是 Transformer 的一个比较大变体,可以这么说吗?
闫俊杰
可以这么理解。
程曼祺 Manqi Cheng
这也是你去年讲过的方向:从非线性注意力机制到线性注意力机制,你觉得这是一个非常值得做的方向。你当时还说,Google 的 Gemini 已经实现了线性注意力机制。
闫俊杰
Google 比较强的一点是,我认为它在未来一年可能会比现在更强,因为它的硬件和算法可以很好地协同。TPU、训练框架和算法都是自己的,基本上是一体的,所以做这件事相对简单。
但对我们来说,挑战在于我们不能自己定制 TPU,只能使用标准硬件。在标准硬件上实现这件事,会复杂很多。
我们做了大量工作,解决的问题是:在现阶段硬件不能改变的情况下,只能改算法和软件,那应该怎么做?这是我们现在做的事情,也是我们和 Google 的区别。
程曼祺 Manqi Cheng
除了实现难度更高,你们的线性注意力机制和 Google 的有什么区别?
闫俊杰
首先,我们是开源的,Google 是闭源的,所以我不知道它具体是怎么做的。
但我猜,它们应该用了 sliding-window attention,也就是滑动窗口。开始时记忆可能没有那么长,但可以分成很多段,用滑动窗口不断往前推进。
我们不是滑动窗口。我们还是把内容都算进去,只是找了一些近似算法,让计算变得更快。
程曼祺 Manqi Cheng
你刚才说,这个架构解决的是长文本的高效、快速、低成本处理。
闫俊杰
我觉得比“长文本”更好的定义是“长上下文”。
在单个智能体里,当你和 AI 对话时,有一个很本质的区别:人能够感受到时间的流逝和变化,但 AI 感受不到。实质上,问题是怎样处理越来越长的记忆。
即使对人来说,这也很难。可以假设一条时间轴,人是在时间轴上不断向前滑动的过程:不断有新的输入,也有新的输出。
提升单智能体交互质量的核心,是让过去的内容越来越长。不管是在虚拟世界还是现实世界,都是一样的。不要把它想象成一次对话,而应该把它想象成一场无限的对话。
多智能体也是一样。现在可能还没有特别好的多智能体产品,但已经可以很直接地思考:一个多智能体系统需要什么基础能力。
这里面一方面是模型本身的能力,另一方面是多个智能体之间如何通信。他们定了一个多智能体之间通信的协议,叫 MCP,而其中的通信内容可能非常长。
一个多智能体系统的核心是:单个 Agent 要足够强,不同 Agent 之间能够协同,而协同的前提是通信足够高效。这实际上就意味着要处理更长的上下文。
程曼祺 Manqi Cheng
也需要它具备记忆能力。
闫俊杰
对。所以解决这个问题分两步。
第一是底层计算架构,这是我们已经做的事情。第二是在计算架构支持的前提下,让每个方面的能力足够好,这是我们下一步要做的事情。
程曼祺 Manqi Cheng
第二步是你们接下来计划做的,第一步已经在这次更新里实现了,对吧?
如果完整总结,智能体还需要哪些能力?
闫俊杰
我觉得很多。
这也是为什么我说,做出很高的智能水平,有时和用户数量没有那么高的关联度。一个核心原因是,推动这个领域发生大跨越的东西,很多是由学术界定义的 benchmark。
比如代码。推动代码能力进步的一个重要 benchmark 叫 SWE-bench,它模拟软件工程师的工作。一年前它的分数,我记得大概只有 10 分左右,现在已经有 70 多分了。
多模态也有类似 benchmark,比如多模态 Agent 的一些复杂测试。
要做的事情,本质上是把你认为下一代 AI 需要具备的能力定义成 benchmark,然后把 benchmark 做好,并且让这个过程能够泛化。这就是 AI 进步的一条路径。
程曼祺 Manqi Cheng
在技术上,刷 benchmark 和计算架构是分开的两件事吗?
闫俊杰
其实是一体的。
你可以把架构理解成计算 pattern 是什么样的;能力则是按照这个 pattern 计算出来的具体参数。
程曼祺 Manqi Cheng
那你怎么判断,你选择的这个架构,能力上限会很高?
闫俊杰
一方面靠认知,另一方面也要靠很多实验。
不同公司研发效率的一个重要决定因素是,首先认知要对。当然,不同公司可能有不同认知,也可能两个人的认知都是对的,只是方法不一样,不一定能简单分出对错。不同认知走到最后,可能都能成立。
其次是大量细节。这些细节不能靠人拍脑袋,需要设计很多实验,一步一步验证。很多步骤之间还相互耦合,先验证什么、后验证什么,都很有讲究。
我们怎么判断研发能力比几个月前、比去年更强?我最直观的感受是,我们现在设计有很大探索空间的实验时,实验设计水平是不是比以前更高。这是一个非常核心的能力。
但这个能力很依赖团队协作。
程曼祺 Manqi Cheng
为什么 MiniMax 这次更新没有提到 o1 方向的进展?
闫俊杰
实质上是因为我们希望把每一步都做扎实。
做一个看上去像 o1 的东西比较简单,只要把 o1 的数据蒸馏几千套,就可以做出来。
程曼祺 Manqi Cheng
你们内部做过这样的实验吗?
闫俊杰
做过。最近也有不少相关的学术论文,这基本已经是业内共识。
我们没有必要真的蒸馏几千套数据,做出一个 o1,然后发一篇文章或者新闻稿。我们的业务目前不依赖有没有 o1。更长期来看,我们需要把每一步走得比较扎实。
至少目前,我们不需要号称做出了一个 o1。
程曼祺 Manqi Cheng
o1 也被认为和 Agent 很相关,可能会打开 Agent 应用的很多可能性,因为它能提升每一步任务的准确率。
闫俊杰
对,但这两个东西是解耦的:架构和能力是两件事。o1 是能力,或者说推理能力 benchmark 的一部分。
但这个 benchmark 的提升,可能意味着训练方法也要发生很多变化。
程曼祺 Manqi Cheng
你刚才说下一版本会强调 Coding 能力,不光是 Coding,还有 Planning,也就是规划。
这算是 o1 方向的进展吗?下一版本为什么不叫 o3 方向的进展?
闫俊杰
也可以叫 o 系列方向,但具体是哪一种,我们还需要做实验才能确定。
程曼祺 Manqi Cheng
所以你认为下一版就能做到 o3 的效果?
闫俊杰
没有。我觉得这件事主要取决于你用什么 benchmark 衡量能力。
比如 o3,即使是 o3,在多模态 benchmark 上,分数也可能很低。
程曼祺 Manqi Cheng
为什么?
闫俊杰
我其实不太知道,因为我们没有做到 o3 的水平,所以不能百分之百确定,需要更多实验。
但我想说的是,即使 o3 展现出的能力,距离真正动态的 AGI 也还不够。
程曼祺 Manqi Cheng
MiniMax 确实不是第一批跟进 o1 的公司。阿里通义、天咪、DeepSeek、智谱都已经有一些发布了。
在你的规划里,一步一步的优先级是怎么判断的?
闫俊杰
我觉得取决于两件事。
首先,一家公司不应该指望所有事情都一定是第一个。原因是,公司的能力有限,这是必须承认的客观现实。
第二,过去两年,最终在一个领域里做得最好的公司,往往也不是第一个做那个方向的,而是把方向做得最扎实、能够充分发挥自己长处的公司。不管中国还是海外,都是这样。
所以我觉得早一个月、晚一个月没什么关系。AI 是一件长期的事情,核心是自己的能力能不能真正把事情做到最好。这样来看,早一个月、晚一个月并不重要。
程曼祺 Manqi Cheng
所以你们把记忆和多模态能力放在更前面?
闫俊杰
我们需要一步一步做。后面的事情出成绩更快,那是不是就只做后面的事情,忽略前面的事情?
如果不做前面的事情,确实可以更快出成绩,但我们认为这样没办法做到最好。
你会发现,一个行业里不管在哪个赛道,最终真正有价值的往往只有做到最好的那一两家公司。
程曼祺 Manqi Cheng
可以说,长上下文记忆能力是现在很多公司比较忽略的能力吗?
闫俊杰
我觉得本质上,每个产品、每个赛道都一样。
你现在可能领先一点或者落后一点,不管是工具产品、社交产品还是其他产品,怎样决定要不要做、要不要关闭,或者是否应该加大投入?
一方面取决于当前的实际情况,更重要的是取决于你认为这个领域是否已经足够收敛,市场到底有多大,以及你能在其中创造多大的独特价值。
AI 也是一样。o1、o2、o3 这类东西有一定价值,但它们可能不会带来特别大的变化。最终还是需要 AI 的产品形态清晰起来,真正带来效率提升。
这需要时间,虽然现在已经变快了。但我们真正要做的是,假设那一天到来时,我们的技术是不是足够 solid。
这并不取决于我们是第一个还是第二个做出来,也不取决于我们是否比别人早一个月。
程曼祺 Manqi Cheng
OpenAI 去年提出了 AGI 五阶段路线图:聊天机器人、推理者、智能体、创新者和组织者。这个思路和你刚才说的有点类似,都是一个阶段一个阶段往前走。
你们这次除了文本模型更新,也发布了视觉模型 MiniMax-VL-01。你们也很看重多模态能力。你觉得多模态在这条路线图里是什么位置?
闫俊杰
我觉得非常重要。
AGI 的核心是完成复杂任务。比如要完成医生的任务,如果不会看,就无法完成;要做数学题,如果不会看,也没法做几何题。
多模态有两种方式:一种是模型原生具备多模态能力,它是模型的一部分;另一种是先有一个原模型,之后再加上多模态能力。
但不管是哪种方式,多模态都无法避免。它一定是路线图里非常重要的位置。如果没有多模态,不管是哪种形式,很多事情都完成不了,也就到不了智能体这一步。
程曼祺 Manqi Cheng
有一种观点认为,视频生成能力对智能的提升,不如继续迭代基座大语言模型。你不知道这是一个判断还是解释,但你怎么看?
闫俊杰
可能不同人对智能的理解不一样。
我的理解是,生成内容本身就是智能的一部分。
现在大家比较关注 o1,也很关注它和 Agent 的关系,其中一个原因是它显著提升了编程能力。很多人会认为,Coding 是 Agent 第一个落地的场景,也是 AI 之后在数字世界自由行动的基础。
程曼祺 Manqi Cheng
你觉得 Cursor 是 Agent 吗?
闫俊杰
我觉得算。它符合刚才说的复杂任务定义。
但你想一下,Cursor 一开始成功,主要基于 Claude 3.5,而 Claude 3.5 并不是 o1 系列模型。
现在的 Coding 任务,或者大家广泛使用的基于 AI Coding 的产品,并不是基于 o 系列模型产生的。两个月前 GitHub 也开始集成 o1,但体验好像并没有变得比 Cursor 更好。
程曼祺 Manqi Cheng
这里有一个有意思的现象:o1 之后,反而是中国公司跟进得更快。相比之下,美国其他公司,比如 Google 和 Anthropic,动作没有那么快。
闫俊杰
最终大家应该是一样的,只是中国公司看起来更快。
中国公司可能认为蒸馏是可以做的事情,而且中国公司多,大家都可以这么做。美国的话,我猜 Claude 或 Google 不会去蒸馏 o1。
当然,如果让它们蒸馏,应该也会很快。但坦白说,从正确性上来说,我没有办法说蒸馏就是错的,不同人有不同看法。
程曼祺 Manqi Cheng
Google 和 Anthropic 不做,是因为技术上的骄傲吗?
闫俊杰
我猜它们应该有自己的思路。为了做出这件事,它们可能有自己的判断。
程曼祺 Manqi Cheng
蒸馏是一种捷径吗?
闫俊杰
我不知道能不能说是捷径。它肯定是一种路径,但这条路径是不是捷径,见仁见智。
程曼祺 Manqi Cheng
我说捷径,是指它能更快达到一个效果,但可能会有未知的代价,比如中间有些步骤没有做扎实。
闫俊杰
这在文本模型里也发生过一次,就是对齐税。对齐税的意思是,如果把模型对齐到 GPT-4 的结果,模型能力可能会受到一些限制。
程曼祺 Manqi Cheng
o1 出来之后,大家也讨论它开启了 inference scaling 趋势。你怎么看这个趋势?你们接下来会怎么响应?
闫俊杰
这个趋势其实很早就有了,不是 o1 才出现的。
最简单的方式是 best of n:采样 10 次,然后选一个最好的,准确率就可以提升很多。更暴力一点,可以 batch 到 1,000 次,还能继续提升。
很早大家就意识到,只要采样次数增加,并且能有效选出最好的结果,效果就一定会变好。
怎么采样?如果你一定要重复 1,000 次,成本会很高,所以也有更高效的方法,比如 tree structure,这些东西其实很早就有了。
另外,如何找到 reward、如何分布 step by step,这些方法也很早就存在。
o1 的主要进步,是把这件事变成了一个端到端模型。端到端可以做整体优化。之前的方法是模型已经固定了,再通过规则或不同模型来实现;o1 则是由一个模型完成这件事。
至少看起来是这样。这样可以逼近某些全局最优,所以效果提升很多。
但这件事本来就应该这样做,基本上已经是共识。
程曼祺 Manqi Cheng
你觉得 Agent 最先落地的场景是什么?刚才提到 Coding,Coding 已经在尝试了。
闫俊杰
Coding 是其中一个,因为它确实显著提升了工作效率。
除此之外,我觉得很快会有一类应用是信息获取。
程曼祺 Manqi Cheng
信息获取和 Agent 的结合,大致会是什么形态?
闫俊杰
现在的信息获取是基于推荐的。推荐的好处是,内容大概率是你想看的,但不能保证你想看到的信息都能被推给你。
比如我很关心这个领域最好的 10 篇论文,希望每天都能看到。但有时出去玩,或者没打开电脑,就可能看不到。现有内容平台也无法满足这个需求。
打开电脑是我看相关内容的唯一方式。当然这只是一个偏工作的例子,生活中还有很多类似的信息需求。
比如我想听周杰伦的演唱会,但他突然在中国开演唱会了,我可能也不知道。如果我想知道关于周杰伦的所有信息,应该怎么办?
我觉得这件事至少会发生一定变化。
程曼祺 Manqi Cheng
据你所知,除了你们在看这个方向,还有其他公司在做类似尝试吗?
闫俊杰
海外应该有,国内我觉得也有。因为这是一件很大的事情。
程曼祺 Manqi Cheng
这听起来有点像用新技术做一个新的今日头条。
闫俊杰
但做 AI 产品的一个教训是,千万不要用上一代移动互联网产品的方法论来思考现在的产品。
程曼祺 Manqi Cheng
具体有哪些不同?
闫俊杰
移动互联网产品会思考有哪些供给、有哪些消费,以及怎样用确定性的方法把它们连接起来。
AI 产品不一样的地方是,前期不一定需要供给,因为 AI 同时承担了分发和供给的功能。
其次,AI 的能力一直在变化。
在互联网产品里,体验变好,主要依赖供给发生变化。但在 AI 产品里,体验变好主要依赖模型能力发生变化,或者获得供给的方法发生很大变化。这两件事的周期和不确定性都不一样。
增长方式也不一样。移动互联网时代,大部分产品的增长逻辑和 AI 产品不一样。所以我感觉还是有很多区别。
程曼祺 Manqi Cheng
这种 Agent 产品,到了什么信号、什么指标出现时,你会考虑加大推广?
闫俊杰
很奇怪的是,海外其实不需要推广,国内却需要。
比如海螺视频在海外没有花过一分钱推广费用,但在中国就需要推广。
程曼祺 Manqi Cheng
在中国也没有推广?
闫俊杰
真实的理解是,如果一个产品特别依赖推广,大概率说明它还不太对。
所以问题不是出现什么信号之后开始推广,而是产品应该自己有增长动力和趋势。
海螺当年就是自然增长起来的。海螺文本和海螺视频都是这样。星野做过一定推广,Talkie 也有很多自然增长的成分。
这和移动互联网时代不一样。当然,这也可能是不同公司的区别。
如果是自己的产品,其实很简单,看留存就好了。留存好,再按照 LTV 的逻辑计算,基本上就能决定怎么做。
但我觉得这套逻辑不太适合创业公司。如果只能这样做,说明创业公司的创新不够。
程曼祺 Manqi Cheng
从 Glow 当时没有推广,到星野和 Talkie 有一些推广,再到海螺作为更晚的产品又没有推广,中间发生了什么?
闫俊杰
主要是我们认知升级经历了几个阶段。
一开始我们没有做过产品,所以不知道怎么推广,也没有做对。后来我们去学习大厂做产品的方法论,学习当时能看到的最强的人是怎么做的。
再后来,我们意识到大厂的方法论有局限,于是开始寻找更适合自己的方法。
大厂的经验可能是对的,但它对 A 公司有效,不一定对 B 公司有效。对创业公司来说,如果只是做到及格,就不应该满足于此,因为那说明你的创新不够。
程曼祺 Manqi Cheng
上个月我们和小马智行 CTO 娄天成聊自动驾驶。他主动提到了你们,认为大模型里的星野比较像自动驾驶里的 L4,因为它不是辅助人,而是 AI 和用户互动。
他觉得 ChatGPT 以及自己常用的 Copilot,更像 L2+,后者未来商业化时可能比较难证明价值。
他的一个问题是:因为 L2 和 L4 优化目标不同,技术路线也有分歧,至少现在还没有统一到一条路线上。
在大模型领域,做辅助人完成工作的 Copilot,和做偏向替代人、让 AI 行动体产生价值的 Agent,这两个方向的技术路线有什么异同?
闫俊杰
方法确实非常不一样。
做星野时,我们用了一套和聊天机器人很不一样的方法。
先不说我们的产品,说大家都用过的 ChatGPT 和 Claude。你会发现这两个模型的表现不太一样。ChatGPT 更像一个助手,帮你完成任务;Claude 有时更像一个朋友,情商还挺高。
有一个很有趣的测试:你对模型说“在 1 到 100 之间随便说一个数字”,它说 50。你再告诉它:“那我接下来 50 天不跟你说话了。”
如果是 Claude,它会说:“能不能再给我一次机会?”然后说一个非常小的数字。
如果问 ChatGPT,它可能不会意识到这个问题,不会请求再给它一次机会,也不会说一个更小的数字。
程曼祺 Manqi Cheng
它不会有后面那种人性化的反馈。
闫俊杰
对。
这里面的核心,是怎么看待对齐。
Anthropic 有自己的宪法和价值观,再基于价值观推导出宪法,基于宪法形成对齐数据,形成一整套体系。这套体系导致它的模型具备这样的表现。
不是说 Anthropic 有意识地把模型驯化成这样,而是它的宪法推导出了这些能力。
我觉得,上限比较高的事情是,我们要能够非常清晰地定义:到底想做一个什么东西,做出来的模型应该具备什么特点。
坦白说,我觉得中国和美国模型的一个很大区别是,Claude 很明确地知道自己的模型需要具备什么特点;OpenAI 也很清楚它要优化什么;Gemini 可能也有自己的内部定义。
而中国大部分模型的目标是对齐 OpenAI 的输出。当然,豆包现在也开始有一些自己的特点,但本质上还是类似的。
程曼祺 Manqi Cheng
你观察到豆包的特点是什么?
闫俊杰
比如让 ChatGPT 写一首诗,它可能就写一首;让豆包写一首诗,它可能会写三首让你选。它对用户场景做了更深的优化,用户观感会更好。
坦白说,国内至少目前的大模型,还是比较缺乏自己的特点,主要是在对齐 OpenAI 的输出,缺少从底层开始的思考和设计。
程曼祺 Manqi Cheng
MiniMax 也算在内吗?还是你们有自己的想法和特点?
闫俊杰
我们正在努力变成刚才说的那种公司。
程曼祺 Manqi Cheng
这听起来不纯粹是技术上的区别,也和你的判断有关,和你想做一个什么东西有关。
闫俊杰
对,这是一个非常底层的事情,也是我们放在最前面的事情。
程曼祺 Manqi Cheng
你可以描述一下 MiniMax 想要的特点吗?大概是什么方向?
闫俊杰
不同产品的目标不太一样。
还是回到追求 AGI 的过程。虽然我们没法定义 AGI 是什么,但在追求更高智能水平的路上,我觉得需要通过多个产品实现。不同阶段,目标应该不一样。
程曼祺 Manqi Cheng
这会导致你们在同一个模型上做不同的对齐,让它适应不同产品的优化方向吗?
闫俊杰
本质上是这样。
程曼祺 Manqi Cheng
那是不是需要更多资源?
闫俊杰
原理上需要更多资源,但实际上不太需要。
真实原因是,做对齐时,方法上的试错所需要的资源,远远比最终训练出那个模型需要的资源更多。核心是掌握一套方法,而不是把那个模型真的完整训练出来。
程曼祺 Manqi Cheng
你们接下来会更偏重 Agent 方向吗?我是指相对于辅助人的 Copilot。
闫俊杰
其实我们现在的产品都还不是 Agent。
程曼祺 Manqi Cheng
你说的现在的产品包括星野、Talkie?
闫俊杰
包括星野、Talkie,也包括工具型产品海螺。我觉得这些产品都还没有达到 Agent 的程度。
程曼祺 Manqi Cheng
那你们的新产品算 Agent 吗?
闫俊杰
我觉得算是在往那个方向做。
程曼祺 Manqi Cheng
我知道这次你接受采访,初衷是想聊更多技术进展,但也可以聊其他内容。它其实还是回到了最开始的问题:一家公司到底应该技术驱动还是产品驱动。
你刚才说得很明确,至少现阶段应该是技术驱动。
闫俊杰
对,至少现阶段是这样。
一方面,我觉得这是一种信念:技术进步很重要。另一方面,这也是事实,因为推动这些产品出现的驱动力,就是技术变化,而且技术还会快速发生更多变化。
程曼祺 Manqi Cheng
这个周期什么时候会结束?技术驱动的周期什么时候会放缓或者结束?
闫俊杰
它一定会有结束的那一天,这件事不会改变。
但我们应该做的,或者作为从业者应该做的,是通过自己的努力,让进步周期变得足够长。
而且,进步周期足够长,对新的公司更有利。
程曼祺 Manqi Cheng
你认为 MiniMax 是非常坚定的技术驱动公司,也提到你们过去做得不好的一点,是技术品牌做得不好。
我在 Hacker News 上搜索 DeepSeek,搜到 470 多个帖子;搜索阿里的通义千问,搜到 530 多个帖子,但搜 MiniMax 很少。
闫俊杰
因为我们之前没有做开源社区。
程曼祺 Manqi Cheng
所以你们接受这个落差,接下来要把技术品牌做得更好,让影响力和技术实力更匹配?
闫俊杰
对,这是我们应该提升的地方。
程曼祺 Manqi Cheng
从去年到现在,你们实际上做得不错,但外界可能没有很强认知的技术成果和进展是什么?是线性注意力机制吗?
闫俊杰
我觉得不是。
有些东西是我们在意的,有些东西是不在意的。
我们真正重视的,包括为什么接下来要做很多事情,是因为我们确实非常在意技术品牌和技术影响力,希望把它做好。
我们不在意的,比如投资人怎么看,这些其实不重要。
程曼祺 Manqi Cheng
我问的是,你觉得你们做得不错,但外界可能没有那么关注的东西。
闫俊杰
真实原因还是最底层的事情:这个行业的变化确实是技术变化带来的。
程曼祺 Manqi Cheng
那这对招人也不重要吗?
闫俊杰
重要。所以我们非常在意技术品牌,希望把这件事做好。
程曼祺 Manqi Cheng
你们在意的是 AI 研究者和人才对技术的看法,而不是投资人怎么看?
闫俊杰
对。
程曼祺 Manqi Cheng
那你可以讲讲,你觉得你们做得不错的成果是什么?
闫俊杰
我觉得我们做得最好的是基础设施和算力相关的东西。
我们每天生成的对话量、图片数量、视频数量和音频数量,都是非常惊人的数字。怎样产生这么多计算,怎样把计算优化好、调度好、稳定性做好,同时保持合理成本,我觉得我们应该是业内做得最好的。
这是模型、基础设施和工程一起实现的,我觉得这是我们最强的地方。
算法方面,我们的多模态从结果上看比较领先。通用文本模型暂时还没有那么领先,但开始有比较强烈的自身特色。这是我们现在的状况。
程曼祺 Manqi Cheng
你们这次说新架构是一个非常大胆的创新,首次大规模实现了线性注意力机制。这个创新有多大胆?其他人都没有这么做。
闫俊杰
我们确实是第一个这样做的。
程曼祺 Manqi Cheng
其他人不做,是因为大家不认为这是一个好的方向,还是因为很难?
闫俊杰
可能都有。
做这件事可能有两条路都对,关键是选择一条自己认为正确的路。选择时会结合自己的特点,以及对未来的判断。
我觉得只要把那条路选好,然后持续走下去,就可以了。
程曼祺 Manqi Cheng
你说的两条路,是抽象意义上的两条路,还是具体指使用和不使用这个架构?
线性注意力机制不是行业共识吗?
闫俊杰
它不是特别强的行业共识。
DeepSeek 发布 V2 时,也提过 Transformer 里的架构改进。他们在矩阵乘法时使用了一些低秩矩阵,让计算效率更高,叫 MLA。他们也是在架构上做了创新。
程曼祺 Manqi Cheng
像 MLA 这样的架构创新,也不算行业共识,对吧?
闫俊杰
肯定不是。
现在中国公司都会摸索自己的技术特点。闭源模型我不了解,但至少已经开源的模型,我觉得都有一些自己的独到之处。
程曼祺 Manqi Cheng
海螺也是全球视频生成产品里用户最多的之一。了解到你们做视频生成模型的过程中也有一些波折,可以展开讲讲吗?
闫俊杰
做任何事情都有波折。
好处是我们已经完整做过一遍文本模型,也做过文生图,所以有一些经验。但问题是,这些经验基本没法复用。视频推理和文本推理不一样,算法也有很多变化,实验方法不同,评价方式更不一样。
你可以认为,这相当于又新长出来一家公司。
程曼祺 Manqi Cheng
2024 年过去之后,视频生成模型到了比较实用的状态吗?
闫俊杰
我觉得确实有实际价值。很多用户愿意使用,也愿意付费,说明它有价值。
而且这类产品周一到周五的使用量远大于周末,说明它仍然是一件强生产力工具。
但问题也很多,比如画质、物理一致性、生成速度,还有很多问题。我觉得现在只是刚刚达到这样的状态。
程曼祺 Manqi Cheng
2024 年 3 月时,你预测视频生成模型在 2024 年会变得非常实用。整体来说,它达到了还是落后了?
闫俊杰
我觉得达到了。
程曼祺 Manqi Cheng
刚才我们聊了文本模型、新架构和视频模型。总结来说,MiniMax 的研究和开发实践中,技术团队的优势、特点和方法论是什么?
闫俊杰
比较大的不同是,我们相对客观。
我说的客观是,有可能一开始目标定得不对,但一旦找到正确目标,我们做事情的效率和深度都能达到比较好的水平。
程曼祺 Manqi Cheng
为什么叫客观?
闫俊杰
不客观的意思是,评价时会考虑很多取舍和包装,比如外界影响、团队稳定性,以及别人怎么看、会不会影响团队士气。
我们比较客观,就是看技术成果是否达到了当时设定的目标。
程曼祺 Manqi Cheng
难道行业里很多公司不客观吗?
闫俊杰
很多时候大家会考虑很多额外因素,别人怎么看,团队士气会不会受到影响。这样一来,即使模型没有达到目标,也可以想办法把它包装成达到了。
我们这边的沟通方式比较简单直接,也没有太多层级。
程曼祺 Manqi Cheng
所以是客观、扁平、灵活,沟通比较直接?
闫俊杰
对,比较扁平。灵活也是优势,指的是不同方向之间可以经常相互支援。
程曼祺 Manqi Cheng
你似乎没有特别强调人才密度、竞赛奖项之类的事情。
闫俊杰
这是一个好问题。我觉得我们的人才密度实际上是最高的。
这不是说其他公司不好,而是很多公司在 2023 年、2024 年积极到处招人、挖人之后才变成这样的。
你可以想一下,有些字节的人去了 OpenAI 工作,但没有其他公司的大量员工去 OpenAI。这说明字节里面有些人的标准足够高。
程曼祺 Manqi Cheng
所以你不强调这件事,也是客观的表现?
闫俊杰
对。我们不想一定要把自己包装成什么样。
程曼祺 Manqi Cheng
接下来想聊模型和应用一起做这件事的变化。这是你们一开始的战略,但 2024 年行业发生了很多变化,包括开源和闭源的差距缩小,以及大家讨论 scaling law 遇到瓶颈。
你刚才说模型和应用其实是分开的,但如果是这样,为什么一个公司不能只做其中一个?
闫俊杰
我觉得不是分开的。
应用是模型驱动出来的,是技术变化驱动出来的,但产品做得有多大,不会反过来让模型变得更好。
程曼祺 Manqi Cheng
所以不是完全分开,但也不是简单的正向循环,不是一个飞轮。更好的模型可以导致更好的应用,但更好的应用,或者更大规模的应用,不会导致更好的模型。
闫俊杰
对。
程曼祺 Manqi Cheng
如果有这个判断,只做模型或者只做应用,会是更好的选择吗?
闫俊杰
这是一个非常理想化的考虑。
现实情况是,不会存在只做模型、不做应用的公司。Claude 也不是,它也有一些应用。不存在真正只做模型、不做应用的公司。
只做应用、不做模型的公司当然有很多,比如 Polaris、Kessler 这样的公司,所以这样的公司肯定会存在,也能够做得很好。
所以到底只做应用,还是既做模型又做应用,两种公司都存在,要看每家公司的目标。
我们的特点是,每当我们做出一个新产品,通常都是因为先做出了某个模型,产品才出现。我们就是这样一步一步发展起来的。
程曼祺 Manqi Cheng
听起来这有一点历史原因。你们 2021 年底就成立了,当时大模型基础还不够好,所以必须先有技术进展,才会有产品进展。
闫俊杰
这变成了我们做多个产品的一种思路。
程曼祺 Manqi Cheng
如果你们成立得更晚,也许会做一家只做应用的公司吗?
闫俊杰
我觉得基于现有技术做产品的公司,和基于未来技术做产品的公司,都会存在。
我们大概只能是后面一种。
程曼祺 Manqi Cheng
你想做基于未来技术做产品的公司,是因为想做一家更大的公司吗?
闫俊杰
不是。这样的事情都有意义。
既然都有意义,那就做自己最能发挥的事情。技术是我们更擅长发挥的方向,所以没必要纠结哪个更正确。两个都对,擅长什么就做什么。
程曼祺 Manqi Cheng
你去年说过,现阶段模型性能和产品体验是直接正相关的。但模型驱动产品出现之后,产品后面的表现就不完全和模型相关了。
比如去年做海螺时,你说产品表现没有达到预期。复盘一下,哪些地方可能不如对手?
闫俊杰
没有坚持技术驱动,在海螺上没有坚持技术驱动。
当你发现很多问题、一些用户不满意时,解决思路不应该是补这些 corner case,而应该找到真正的提升方式。
程曼祺 Manqi Cheng
你真的觉得海螺的体验不如其他产品吗?
闫俊杰
我觉得 3 月份时是,但 5 月份时已经不是了。
程曼祺 Manqi Cheng
但那时你们已经没有这个产品品类的用户心智了。那会儿可能 Kimi 最火。
闫俊杰
不是。其实那时我已经知道豆包会赢,因为那时豆包的体验明显比其他产品好。
程曼祺 Manqi Cheng
所以你 5 月就知道豆包会赢?
闫俊杰
一个是知道它会赢,另一个是那时开始意识到,更多用户不会导致模型能力提升。
在那个时间点,我们觉得找到一种让负担更小、让模型能力提升的方式,可能更重要。
程曼祺 Manqi Cheng
我记得那段时间海螺推送特别多。我已经是海螺用户了,它还是经常给我推送信息。
闫俊杰
这就是没有那么坚持技术驱动导致的结果。
程曼祺 Manqi Cheng
你 2023 年就有这个认知,这也是创业过程中的成长。
闫俊杰
这些认知其实很简单,只是有时不够坚定,执行时没有那么坚定。
程曼祺 Manqi Cheng
回头看,是什么干扰了你?是同事、投资人、竞争对手,还是周围人的压力?
闫俊杰
我觉得是人。有时会考虑别人的感受。
程曼祺 Manqi Cheng
主要是团队成员的感受?
闫俊杰
对。
程曼祺 Manqi Cheng
你什么时候开始变得更无情了?
闫俊杰
现在也没有变得无情。核心变化是,你要明确地把认为正确的事情讲给大家。有些事情是不能妥协的。
程曼祺 Manqi Cheng
你们的社交陪伴类聊天产品星野,是中国表现最好的产品,比字节、美团等大厂的同类产品表现都好。
你怎么总结星野暂时领先的因素?
闫俊杰
我觉得它还没有成功,只是暂时领先。
主要可能是因为我们更懂。
首先,技术路线一定要选对,这是最关键的。其次,做决策时更懂用户。
如果只说一件事,我觉得还是技术路线要选对,这是前提;然后是业务决策时更懂用户。
程曼祺 Manqi Cheng
你说的“更懂用户”,是产品决策,还是业务决策?
闫俊杰
业务决策。
像星野这种产品,大部分人可能不太懂它的用户在想什么。
程曼祺 Manqi Cheng
你怎么懂?通过什么方式?
闫俊杰
它的用户和你不是一种画像,也和我自己不是一种画像。
实质上需要很多同理心。
程曼祺 Manqi Cheng
所以你是一个同理心很强的人?
闫俊杰
我觉得是。
大部分做技术的人会觉得自己很厉害,觉得自己是天才,但我不是这样认知世界的。
程曼祺 Manqi Cheng
下面聊聊现在越来越激烈的大模型竞争。
我看到小红书上有一个帖子,博主 Meme 知识给“六小龙加 DeepSeek”排了一个生存指数。你猜 MiniMax 排第几?
闫俊杰
我不知道。生存指数是越小越好,还是越高越好?
程曼祺 Manqi Cheng
是从高到低排名。
闫俊杰
我觉得我们应该还行。
程曼祺 Manqi Cheng
他给你们排第一,核心理由是产品力不错。
闫俊杰
首先感谢认可。
但我觉得把 AI 创业公司单独看成一个赛道,不太对。小红书上有很多这样的帖子,但核心是不应该把 AI 创业公司单独看成一个赛道,而应该把 AI 公司看成一个类别,把大厂也算进来。
美国也不会说 OpenAI 是一个赛道、Google 是一个赛道,它们其实放在一起看。这样才更客观。
如果这样看,对创业公司的要求肯定更高。只在创业公司里比较好坏,意义不大,应该把整个行业放在一起看。
程曼祺 Manqi Cheng
他排的是存活率,可能假设大公司不会那么容易死掉。
我也问了一些你们的投资人。有一位投资人觉得你们非常纯粹,还提到你们是国内少数同时具备模型工程化和产品化团队的创业公司。
闫俊杰
我觉得智谱也不错。
首先,DeepSeek 确实不错,因为他们也很纯粹。智谱也不错。
比如刚才提到 OpenAI 的路线图,智谱也有自己的路线图,而且确实在坚持推进。路线图对不对,不同人有不同观点,但他们至少真的有自己的路线图在往前做。
虽然我不直接认识唐杰老师,但我觉得他们至少有自己的坚持和思路。他们应该是最早有自己路线图的公司之一,这一点我很佩服。
程曼祺 Manqi Cheng
OpenAI 有自己的路线图,你们对 AI 的路线图是什么设想?
闫俊杰
这是我们正在逐渐加强的事情。
墙上写的是“Intelligence with everyone”。一开始,我们只是明确了 intelligence 是有意义的,我们要和用户在一起,一步一步提升。
但一开始没有非常精确地定义每一步具体是什么,这是客观现实。
我们最初的思考有点像“逃出生天”:先做聊天类产品,再做能力更强的产品,一步一步往前走。
坦白说,我们没有像 OpenAI 那样定义 L1 到 L5。其实我觉得 L3 是否成立很重要,因为 L4 长什么样,并不会影响我们现在的技术路线;只有 L3 是什么,才会影响我们现在做什么。
程曼祺 Manqi Cheng
因为智能体是下一步。
闫俊杰
对。
我觉得首先要有两个假设:第一,AI 的智能程度很重要,而且可以进步;第二,真正影响现在的,是下一个阶段到底是什么。
程曼祺 Manqi Cheng
从我们 2024 年年初那次聊天到现在,中国大模型行业竞争格局最大的变化是什么?
闫俊杰
最大的变化是,2024 年很多人认为 AI 就是移动互联网,只是把移动互联网复制了一遍。
现在至少有一些人开始意识到,AI 不是把移动互联网复制一遍,它有很多独特的东西,是完全不同的两件事。
程曼祺 Manqi Cheng
这怎么影响竞争格局?你说的似乎只是大家认知发生了变化。
闫俊杰
它影响的是,大家不再只按照移动互联网那套思路去思考公司的组织形态、产品和业务。
程曼祺 Manqi Cheng
移动互联网时期积累的优势,大公司过去积累的优势,仍然有意义吗?
闫俊杰
当然有意义,但可能不是唯一的路。
这些优势可以让你获得更大的用户规模,但不会让智能程度变得更高。它是产品上的优势,不会让模型自然变得更好。
更高的智能程度可能会导致新的东西出现,新的东西也会带来新的商业模式。
程曼祺 Manqi Cheng
全球也有和你们产品形态相似的 Character.AI。Google 花了 25 亿美元收购了它的部分团队。这可能是 MiniMax 的选项吗?
闫俊杰
非常明确不是。
至少在决定做什么、不做什么,以及做决策时,我们确实没有考虑怎样把公司卖个好价钱。
我们比较单纯地想把公司做好,让技术更好、产品产生更大价值,让公司长期发展。这基本就是我们大部分决策的逻辑。
程曼祺 Manqi Cheng
我去年看到这个新闻时给你发过,你说感觉是一个 happy ending。
闫俊杰
对他们来说确实是 happy ending。创始人本来就不喜欢那个产品,也想回到 Google。回到 Google 之后据说做得还不错,Gemini 2.0 里也有很多他的贡献。
程曼祺 Manqi Cheng
有一个传闻想向你求证:字节 2024 年初曾经以 40 亿美元估值和你们谈收购。
闫俊杰
没有,完全没有这回事。
程曼祺 Manqi Cheng
这也是一种市场现象,大家总在传这家公司可能被谁收购、那家公司可能被谁收购。但最终还是比较简单:你做出了什么东西,你和谁交流过。
你和张一鸣聊过吗?
闫俊杰
交流过,聊过几次。
程曼祺 Manqi Cheng
是 2023 年还是 2024 年?
闫俊杰
2023 年和 2024 年都交流过。
程曼祺 Manqi Cheng
你愿意和他交流的原因是什么?
闫俊杰
首先要假设,他们的信息密度肯定比我们高。不能假设我们知道什么,而他不知道。
如果这样想,其实就没什么好害怕的。
程曼祺 Manqi Cheng
你和他聊有什么收获?
闫俊杰
你可以观察一个顶级企业家是什么样的人。
我观察到的是,他很希望给社会带来很多正向价值。
程曼祺 Manqi Cheng
说回融资。2024 年可以看到一个现象:到下半年,很多投资方已经走到了国资轮和中东轮,感觉后面能接力的人没有那么多了。你们后续怎么持续获得充足的弹药?
闫俊杰
我们还没有到这个地步。
作为一家公司,应该思考怎样做出好的东西,怎样成为一家真正的公司。公司需要依赖自己的研发能力。
不应该考虑抱一个大腿,然后什么都不用做。我觉得不应该这样考虑。
程曼祺 Manqi Cheng
你去年就说过,不相信中国大模型创业公司能纯靠融资。你觉得真正的拐点来自技术、产品或者商业化效率的领先。
我了解到,你们 2024 年的产品和收入都没有实现年初目标。你们也是最快的了,比别的公司要快要好,所以是目标定得太高了吗?你怎么复盘?
闫俊杰
我觉得不是的。核心是在一年前,我们还认为这个业务是移动互联网,仍然是移动互联网的认知。
程曼祺 Manqi Cheng
所以当时定 DAU 目标,是根据移动互联网成功产品早期的增长来定的?
闫俊杰
对。
程曼祺 Manqi Cheng
你复盘之后认为,2024 年初定目标的逻辑不太对,是按照移动互联网去定的逻辑不对。
闫俊杰
对。
程曼祺 Manqi Cheng
那现在会怎么设立目标?
闫俊杰
在这个阶段,真实情况是不应该定收入目标,而应该定技术研发目标。
是因为技术研发做出了一些东西,才导致业务、用户和产品发生变化;不是因为我认为产品需要发生某种变化,再倒推需要做什么技术。这是本末倒置。
程曼祺 Manqi Cheng
2025 年就是这样定目标吗?已经定了吗?
闫俊杰
对。
逻辑不是公司的增长曲线应该是什么样,所以定一个目标;而是我们认为研发能做到什么程度,这个程度会带来什么变化,再基于此思考业务应该推出什么产品、预算应该怎样安排。
程曼祺 Manqi Cheng
去年下半年大家都看到大公司,比如字节和阿里的强悍表现,尤其豆包的产品表现很亮眼。你 5 月时就觉得豆包会赢。
在你聊过的创始人里,你很早、很直接地表达过,创业公司跑出来是一件很难的事。即使你很早有这个认知,去年有什么事情仍然超出预料?
闫俊杰
基本都预料到了。
程曼祺 Manqi Cheng
连程度也预料到了吗?
闫俊杰
我预料的还会更激进一点。
我觉得真的不要用移动互联网思维看这件事。如果用移动互联网思维看,确实很厉害;但如果假设技术会长期发展,后面的发展阶段会带来不同的产品和商业形态,那就真的不一定是件好事。
程曼祺 Manqi Cheng
你说什么不一定是好事?以豆包 DAU 作为衡量标准,不一定是好事?
闫俊杰
对。
程曼祺 Manqi Cheng
你是说对豆包不一定是好事,还是说用豆包 DAU 评价行业,会对观察者造成干扰?
闫俊杰
我觉得两方面都有。
用户多当然有好的一面,但也有不好的一面。
比如对 OpenAI 来说,虽然用户规模是 Claude 的很多倍,但它的估值、资金能力和人才数量可能并没有 Claude 的 3 倍。它还要承担很多东西。
为了照顾这么多用户,它很可能让研发节奏变慢。假设 OpenAI 没有这么多 DAU,只有现在的一半,但技术上把 Claude 碾压很多倍,也许会更好。
用户越多,不一定直接让模型能力提升;多到一定程度,反而可能限制模型发展、迭代和灵活性的速度。
程曼祺 Manqi Cheng
用户更多,责任也更多。
闫俊杰
对。但技术正在快速变化,不是提升几个点的问题,而可能是天翻地覆的变化,而且还会持续发生。
程曼祺 Manqi Cheng
既然你们预料到了去年的情况,当时做了哪些事情来应对竞争?
闫俊杰
技术就看技术,关注进步曲线;产品就看产品本身,只是产品不能用移动互联网逻辑来套。
程曼祺 Manqi Cheng
那应该看什么产品指标?
闫俊杰
现在 AI 里比较合理的商业化产品,主要依赖订阅,不依赖广告。
但中国移动互联网过去的商业模式基本都依赖广告,这显然不一样。
付费用户这个指标,目前又主要在海外跑得通。海外产品可以看付费用户和订阅转化,但国内不完全是这样。
程曼祺 Manqi Cheng
那国内有什么指标?
闫俊杰
我猜是有的,但我想先把它跑得更好一点,现在还不想透露。
至少在国内,用广告的逻辑计算这件事肯定不成立。Talkie 也很早开始做广告,但这件事还是有局限。
程曼祺 Manqi Cheng
你很早就知道创业公司跑出来是小概率事件,挑战很大,但还是选择了创业。你算过翻盘的概率吗?
闫俊杰
没法算。
首先,这个机会一定会存在,因为这里面有不同的路径。大概率不会一家通吃。
程曼祺 Manqi Cheng
不和巨头正面竞争,比如豆包这样的产品,不是你们重点投入的方向。这是你们的原则和策略吗?
闫俊杰
本质上,我认为做 AI 和做一个 ChatGPT 是两件事,相关,但不是一回事。
有了 ChatGPT,不代表才能做 AGI;要做 AGI,也不一定需要一个 ChatGPT 这样的产品。
当我们意识到用户规模不一定提升技术水平,就没有那么大负担,也不需要有心理压力。
程曼祺 Manqi Cheng
除了大公司给头部大模型公司带来的外部压力,还有什么不明显的威胁和压力?
闫俊杰
压力不是坏事,对创业公司反而是好事。它让创业公司清晰意识到,必须创造独特价值,否则就不应该存在。
从这个角度看,这是好事。你可以清楚知道哪些东西一定要做好,哪些东西根本不应该去想。
竞争和压力主要还是来自自身:怎样把自己做得更好,以及认知水平的提升。
认知当然不只是我个人的认知,而是整个组织的认知。比如如果我们一年前就意识到技术品牌很重要,肯定会比现在做得更好。
程曼祺 Manqi Cheng
那些不自己做模型、基于开源模型做微调的公司,和 MiniMax 这样的公司在 2025 年会是什么竞争关系?
闫俊杰
我不知道。
这样的公司肯定有意义,也可能做得很好。这个市场不是有了 A 就不能有 B。至少我们不需要只考虑它们,但我们也需要观察行业。
程曼祺 Manqi Cheng
有投资人比较过 MiniMax 和月之暗面的市场策略。他认为月之暗面认准一个方向,主要做生产力场景和中国市场;MiniMax 看起来是在不断适应环境,在巨头正面战场之外寻找自己的根据地。
你怎么总结你们的市场策略和定位?
闫俊杰
还是那句话,我们希望一直在这个浪潮里。
这里有两个意思:第一,我们做的事情能够对这个浪潮产生正面作用;第二,我们做的事情能够在浪潮中获得一些收益,让公司持续发展。
这是我们决定做不做一件事时最底层的逻辑。
程曼祺 Manqi Cheng
关于竞争和怎么赢,有人选择把长板做到足够长,有人选择没有短板。你们更倾向哪一种?
闫俊杰
我们没有特别偏好,还是取决于怎样才能更好地处在技术不断进步的浪潮里。
程曼祺 Manqi Cheng
所以技术不断进步是核心目标,其他事情都根据这个目标去对齐和调整。
闫俊杰
对。
程曼祺 Manqi Cheng
接下来聊团队和组织。你怎么看去年有一些人离开?
闫俊杰
还是刚才说的,我们相信这件事应该是技术驱动的,不是所有人都适合我们。
程曼祺 Manqi Cheng
所以是你劝退的吗?
闫俊杰
对。
程曼祺 Manqi Cheng
做这种事心理负担大吗?
闫俊杰
会。
程曼祺 Manqi Cheng
怎么克服?
闫俊杰
必须克服。
程曼祺 Manqi Cheng
你拖延过吗?
闫俊杰
拖延过,所以觉得不应该拖延。
这也是认知不够强。我不应该假设一家公司不会有人员流失。一个公司有人员流失才是合理的。
程曼祺 Manqi Cheng
你们现在的团队架构相比 2024 年初有什么变化?
闫俊杰
一个非常核心的变化,是自己提方案和自己做决策。
提方案和做决策是两个完全不同的状态。提方案是自己提出应该怎么做;做决策是别人提出方案,你来选择。
在我们这个组织里,不管是不是方向负责人,一个基本标准是,大家都要是提方案的人,而不是等别人汇报、自己做选择的人。
程曼祺 Manqi Cheng
也就是要 hands-on,亲自了解细节、亲自干活。
闫俊杰
对。
还有第二点,什么样的人适合这个组织,什么样的人不适合?关键是能不能客观分析现状,找到一套理性方案,而不是把上一家公司的经验直接复制过来。
所以核心就是两条:第一,每个人都要能提方案,都要 hands-on;第二,方案要基于客观现状分析出来,而不是照搬别人的经验。
程曼祺 Manqi Cheng
核心变化不是组织形式和架构,而是对人的要求变了。
闫俊杰
对。
程曼祺 Manqi Cheng
大概是 2024 年什么时候发生的转变?
闫俊杰
是慢慢演化出来的。
程曼祺 Manqi Cheng
具体发生了什么,让你对这两点有更清晰的总结?
闫俊杰
一方面是有些事情没做好,另一方面是有些事情做好了。
程曼祺 Manqi Cheng
梁文锋之前分享过 DeepSeek 的一种分工方式,大概是不预先分工,而是自然分工。有想法的人自由组队,其他人如果感兴趣就参加;每个项目能调动的卡和人也没有上限。
这种方式在公司里能实行吗?
闫俊杰
他们至少有些项目是这样做的,说明这件事可以执行。
一些实验室里也有类似组织形式。有的实验室每个人负责的部分不同;有的实验室是项目越大,就可以调动更多人。
MiniMax 其实也希望接近这种组织形式。
我觉得不同组织形式都有道理,不应该孤立地看一种形式是不是正确,而应该把组织形式和已有的人放在一起看,这是一个双向筛选的过程。
程曼祺 Manqi Cheng
2025 年最重要的目标肯定和技术迭代有关。技术迭代方面,你们现在的协作、分工以及资源分配是什么样的?
闫俊杰
客观来看,我们需要的资源还是比较充足的。
但创业公司必须做取舍,核心就是怎样取舍。
程曼祺 Manqi Cheng
这个取舍是自然跑出来的,还是你需要做判断?
闫俊杰
当然要判断。但客观情况是,不应该假设所有判断都是对的,也应该假定有些判断就是错的。
意识到判断错了之后,怎样及时补救,这是关键。
程曼祺 Manqi Cheng
什么机制能让你意识到判断是错的?
闫俊杰
我觉得最好的机制是不自欺。
程曼祺 Manqi Cheng
具体怎么落到每天的工作和决策上?
闫俊杰
如果自欺,你明明意识到有些事情是错的,还会找理由把它解释成对的。我说的是我自己。
不自欺的方式,就是客观地看待事情,错了就是错了,不要怕打脸,第一时间改。
程曼祺 Manqi Cheng
MiniMax 现在有哪些重要决策由你来定,哪些放权给其他人?
闫俊杰
创业第一年时,我觉得这个问题很重要:哪些事情由你决定,哪些事情不由你决定。
但后来我发现,这个问题并不重要。更高级的状态不是先分好谁负责什么,而是把大家思考问题的方式确定下来:我们基于什么,判断应该做什么或不做什么。
公司里的人可能来自不同地方,比如有人来自字节跳动,有人来自拼多多。不同公司做事方式肯定不同。
如果管理方式只是分配谁负责什么,就会导致 A 负责一块、B 负责一块,但他们会把上一家公司的思考方式带过来,导致组织中不同模块的决策逻辑完全不同。
这样组织会很混乱,即使每个人能力都很强、从自己的视角看都正确。
更正确的方式是,公司底层认为什么是对的、什么是不对的,大家逐渐形成相同认知。这样谁来做决策,结果和逻辑都会比较接近,组织才能顺畅运行。
程曼祺 Manqi Cheng
怎样让大家统一?通过不断沟通吗?
闫俊杰
一方面是沟通,另一方面是观察。
总会有正反馈和负反馈,这可能是一种比较高级的管理形式。当然,我们还没有达到这个水平,但至少在努力。
对我来说,就是当必须做决定时,要把它讲清楚,或者让大家讨论清楚这个决定是怎么做出来的,而不是由你一个人拍板。
程曼祺 Manqi Cheng
理想状态是,组织里的人做出的决定比较类似。
闫俊杰
对。
程曼祺 Manqi Cheng
但这是一件好事吗?如果每个人想得都一样,会不会让决策多样性变少?
闫俊杰
我觉得是好事。不同阶段可能不一样。
程曼祺 Manqi Cheng
如果每个人想得都一样,不是会缺少多样性吗?
闫俊杰
多样性也是重要指标。但真正能把公司凝聚起来的,还是这些底层认知。
程曼祺 Manqi Cheng
也就是说,你说的是原则性、比较大的认知;多样性可以体现在更具体的事情上。
总的来说,你是一个容易被说服的人吗?
闫俊杰
不是。
程曼祺 Manqi Cheng
这和“不自欺”是什么关系?矛盾吗?
闫俊杰
很多事情本来就是矛盾的,MiniMax 这个名字也是矛盾的。
世界可能就是这样,要辩证地看两个东西。
程曼祺 Manqi Cheng
在重要决策时,一方面你有自己的想法,可能很难被说服;另一方面又不能太自我。你怎么平衡?
闫俊杰
实质上还是要静下心来思考,不要被表面和暂时的东西迷惑。
程曼祺 Manqi Cheng
你们现在的决策方式,会不会让员工觉得管理决策比较混乱?
闫俊杰
首先,一个重要的事情是,不应该把“让大家觉得管理很好”当成目标。
这和不能假定团队不会有人员流失一样,不能把大家的感受当成唯一目标。
程曼祺 Manqi Cheng
有 MiniMax 员工说,2024 年有一段时间觉得公司的管理决策很摇摆:这个月核心目标是收入,下个月变成增长,再下个月又变成收入。
闫俊杰
所以我们统一了思想。现在统一的思想是,这两件事可能都不是最重要的目标,最重要的是技术迭代。
程曼祺 Manqi Cheng
管理一家不能用过去逻辑套用的新 AI 公司,你遇到的最大组织难题是什么?
闫俊杰
主要挑战还是持续吸引好的人。这是目前最大的挑战。
程曼祺 Manqi Cheng
你怎么评估自己在人才吸引力上和其他同类公司,包括大公司相比?
闫俊杰
我观察下来,现在最有人才吸引力的其实是字节跳动。
程曼祺 Manqi Cheng
我也听一些公司说,校招时很多人都会选择字节。
闫俊杰
这是客观事实。
但很多人去了字节,可能没有真正发挥出来。真正发挥出来的人的比例,可能比创业公司低很多,因为字节的人太多了。
对我来说,核心还是怎样吸引更多更好的人。
程曼祺 Manqi Cheng
最后聊聊你个人的变化和成长。半年多以前,或者一年前,很多人觉得你很焦虑,但最近半年完全不焦虑了。
闫俊杰
真实情况就是这样。
核心是开始意识到要做取舍。
程曼祺 Manqi Cheng
你半年前焦虑是因为什么?
闫俊杰
本质上是不知道怎么取舍,或者不敢取舍,有时甚至不想取舍。
程曼祺 Manqi Cheng
过去一年最大的痛苦就是取舍吗?
闫俊杰
最大的痛苦是不知道要做取舍。知道要做取舍之后,就不痛苦了,痛苦已经解决了很大一部分。
程曼祺 Manqi Cheng
YC 创始人格雷厄姆说过一句话:“创业公司摊开看都是车祸现场。”你觉得去年你们经历的最大混乱是什么?
闫俊杰
就是刚才说的:意识到需要取舍。在那之前,可能处于焦虑和混乱状态,也没有想清楚公司的驱动力到底是什么。
程曼祺 Manqi Cheng
去年你反思最多的问题是什么?
闫俊杰
为什么认知能力不能提升得更快。
程曼祺 Manqi Cheng
你找到方法了吗?
闫俊杰
找到了一些,比如放下 ego,思考得更深入。
程曼祺 Manqi Cheng
你之前说过,一个重要学习方式是和比自己强的人交流。去年有没有遇到比自己强、给你很大启发的人?
闫俊杰
有,但坦白说,光这样还不够。
本质上还是自己要放下 ego,能够深入思考。大部分时候其实是自己想清楚的,这是一个自我反思的过程。
程曼祺 Manqi Cheng
去年外部压力很大的时候,你怎么排解压力?
闫俊杰
想明白之后就好了。
程曼祺 Manqi Cheng
有投资人分享过你和李一起找算力的故事。你会极致追求更低价格、更短租期。有供应商提出,可以给你一些当地 To B 的 AI 订单,让你接受更贵的 GPU,但你说不需要订单。
闫俊杰
首先,我非常感谢那些供应商。
核心是我们意识到,有些事情自己做不了。就像答应别人交付一个东西,第一,我们没有这个精力;第二,可能还会把别人坑了。
我们知道那个时间点没法做这样的交付,所以不是不近人情,而是很感激他们。我们不想耽误别人。
程曼祺 Manqi Cheng
你有时看起来非常适应环境,甚至员工会觉得你摇摆;但有时又非常坚定。哪个更接近真实的你?
闫俊杰
这是个人进步的过程。
至少比以前更强一些之后,我越来越坚定。关键是想清楚取舍,同时不要太自我,要放下自我。
程曼祺 Manqi Cheng
创业时,你既不是业界大佬,也可能不被很多人认为是技术天才。你觉得自己是哪一类创始人?
闫俊杰
比较简单。
就是知道有一件事,这件事很难,但做好之后价值很大,然后坚持做下去。
程曼祺 Manqi Cheng
在创业或者做 CEO 这件事上,你有 role model 吗?
闫俊杰
没有。
程曼祺 Manqi Cheng
如果没有一个,有几个也可以,他们可能各有不同特质。
闫俊杰
也没有。
程曼祺 Manqi Cheng
你觉得做 CEO,你的天赋和缺点分别是什么?
闫俊杰
不要把自己当成 CEO。
你要考虑的是,CEO 应该做什么、不应该做什么。就像刚才问哪些事情我管、哪些事情别人管,我觉得不应该这样考虑。
程曼祺 Manqi Cheng
我有一个好奇的问题。你在公司里一直被大家叫作 Io,是《Dota 2》里的一个角色。
我问 MiniMax 的海螺 AI,它的回答是:“这是一个辅助型英雄,主要为队友提供增益和保护,在团队中扮演四号位或五号位。”
你为什么玩《Dota 2》时选择这个角色,而且一直用这个名字?它对你有什么意义?
闫俊杰
这个角色确实是辅助型角色。
这件事其实很偶然。当时它并不一直是四号位、五号位。TI8 或 TI9 的时候,我记得有一个叫 Ana 的选手,把 Io 变成一号位,打得非常强,后来他们拿到了冠军。
当时就觉得这个名字挺酷。
程曼祺 Manqi Cheng
所以你说的是,有一个战队把 Io 当作一号位使用,通过创新打法获得了冠军。
闫俊杰
对。
所以这个角色本身的属性,和我自己的特点没有非常直接的关系。创业本来就有很多随机性,很难简单归类说我是辅助型英雄还是输出型英雄。
程曼祺 Manqi Cheng
你觉得自己更像什么类型的英雄?
闫俊杰
不应该把这个问题单独看。
如果一定要单独看,我肯定是最相信团队的那种,最相信团队。
程曼祺 Manqi Cheng
2025 年可预见的变化是什么?
闫俊杰
我觉得 AI 一个比较核心的目标,就是刚才说的,在专业领域达到专业人士的水平。这应该是一个比较实质性的 milestone。
我不知道 2025 年能不能完全实现,但至少可能实现一部分。
程曼祺 Manqi Cheng
悬念和关键变量是什么?
闫俊杰
这件事会比做一个 chatbot 复杂。
Chatbot 的产品形态比较简单。假设 AGI 的定义是达到专业人士水平,那就不只是技术问题,而是技术加整个产业的问题,甚至可能导致社会变化。
它是一件很综合的事情。
程曼祺 Manqi Cheng
你是指社会分工和就业的变化?
闫俊杰
有可能。但这不会瞬间发生,可能是逐渐发生的。
程曼祺 Manqi Cheng
2025 年你最期待什么?可以从行业、公司和个人三个层面讲。
闫俊杰
先说我自己。我希望自己的技术水平变得更高。
创业最开始时,可能还会考虑管理等事情。后来我发现,那些事情没有那么重要。真正重要的是自己的技术认知能不能不断提升。这是我最希望进步的地方。
公司层面,我觉得还有很多地方做得不好。我不是说提升百分之五、百分之十,而是有很多地方可以提升 10 倍。我希望这些事情能够变好。
行业层面,我希望 AI 行业的价值能够持续体现。
假设 AI 技术不再进步,停滞了,我觉得这会辜负大家对这个行业的投入和付出。
所以这个行业最重要的事情,是智能水平不断提升,并带来直接的社会价值。