泓君
今天我们请到了一位在 AI 推理领域绕不开的人：盛颖，RadixArk 的联合创始人与 CEO。今年 5 月，这家公司官宣了由 Axial 领投的 1 亿美元种子轮融资。英伟达的投资部门、AMD、英特尔 CEO 陈立武，以及 OpenAI 联合创始人 John Schulman，都是他的投资人。
RadixArk 背后是一个叫作 SGLang 的开源推理引擎。这个从来没有靠市场推广和销售推广过的项目，如今已经运行在全球数十万张 GPU 上，每天为谷歌、微软、英伟达、xAI 生成数万亿个 token。可以说，我们每天用到的 AI 服务背后，很有可能就有它在工作。
SGLang 的起点，是 2023 年盛颖在斯坦福读博的最后阶段，和（原音疑似 LMSYS 的）社区研究者一起做出来的项目。他把它称为自己博士生涯的收官之作。之后，他加入 xAI，为 Grok 搭建推理系统。去年，他从 xAI 离开，和朱邦华一起把这个开源项目变成了一家公司。
这一集节目录制于 2026 年 6 月初，当时 RadixArk 刚刚宣布融资不久。下面请收听我们视频主理人陈倩与盛颖的对话。
陈倩
非常感谢盛颖，欢迎做客《硅谷 101》。
盛颖
感谢你们的采访。
陈倩
我看你们刚刚搬到新的办公室，是吗？
盛颖
对，6 月 1 号刚搬过来。
陈倩
你们现在大概有多少人？
盛颖
现在有 40 多人。
陈倩
扩张速度会非常快吗？
盛颖
其实比我预期的快。事实上，我们扩张的 scope 增长得也比想象中快，各个地方都需要人。我们能招进来的人，也比我想象中有更多 qualified candidates，所以我们也稍微有一点 stress，但已经在控制了。
陈倩
今天我们会聊一聊你整个学生时代、之后的研究经历，再到你加入 xAI 和现在自己创业的过程。我们按照这个顺序来讲。
你本科是在上海交通大学 ACM 荣誉班，2017 年来到美国哥伦比亚大学读硕士。当时出国是因为大家都要出国吗？你为什么选择了这条路？
盛颖
1. Leaving Home for Research
确实也是因为当时很多人都要出国。但是我其实很晚才知道出国这件事。我从江西来到上海读本科时，经历了很强的 cultural shock，但我觉得我身边的人更理解职业发展和人生发展，他们有更多规划，而我当时处在一种无知的状态。
我记得本科刚毕业的时候，一开始其实没有申请到什么 offer。我申请了美国的大学，但没有拿到 offer。一开始我拿到了香港中文大学的 PhD offer，也接了，甚至都已经申请完了，连 4 月 15 日的君子协议都已经过了。
结果第二天，我突然收到了哥大给我的一个很普通的研究生 master offer。它其实是一个很多人都能拿到的普通 offer，但我当时就觉得，我想接触一些新的东西。那个时候学术中心还在美国，我希望出去看看。哪怕哥大的 master program 不是特别顶尖的项目，我也还是想去。
我当时还给我爸打电话说：“这个 PhD offer 能不能毁约？我还需要交一笔违约金，但我想出去看看。”我犹豫了一下，给我爸打了一通电话，但我爸非常快，一分钟就说：“好，你去。”然后就交了违约金。
陈倩
你说从江西到上海经历了一段 culture shock，那从上海到美国，是不是也经历了 culture shock？
盛颖
也有。我觉得每一段经历，都是舒适圈被打破。但我在纽约的感受不太一样，因为纽约是一个非常包容的城市。这个 shock 不太 shock，我能感到不一样，但同时又极大地被包容了。
具体来说，我觉得纽约当时的文化让我感到，没有人盯着我看。没有人在乎我穿什么、想什么、做什么，也没有人在乎我想要什么。
我在纽约感受到的 shock，更多是一个不需要被压制，也不需要压制别人的 shock。它是从一个被限制的状态到完全自由状态的 shock，但其实是一个更放松的过程，挺好的。
陈倩
我看你在哥大硕士阶段发表的论文，还是比较偏理论的，主要研究测试函数和线性回归的数学性质。后来到了斯坦福读 PhD，你选择了形式化验证方向。
先跟我们说一下，在哥大从事的这些研究，对你后来的研究产生过什么影响吗？
盛颖
我刚上研究生的时候，并没有想要做研究。第一学期之后，我上了计算复杂性的课，当时觉得很有趣。后来又碰巧认识了一些朋友，当时都是博士生，而且他们都做理论研究。
我觉得这个领域非常有意思，就找老师和同学问，有没有什么问题可以让我研究。我研究了一段时间，觉得很有趣，也有了一些成果，所以自然而然就去了斯坦福。
陈倩
研究生毕业的时候，你有没有考虑过是要工作，还是申请博士？
盛颖
我一开始没有想要申请博士，但也没有觉得自己一定不会申请。我没有盯着这个目标，也没有对着这个目标走，只是觉得它是 open 的，所以保留了这个选项，探索了一下。
后来我发现理论问题非常有意思，我自己也很享受。当时我甚至觉得自己不需要赚很多钱，我想 stay put，想找一个没有人的地方。
我有一次去普林斯顿参加 workshop，被那个环境直接包围了。进入普林斯顿校园之后，我突然觉得那里与世无争，非常 academic。那种感觉不是哥大没有，而是进入那里之后，你会觉得人世间很多大家所在乎的东西、平时挣扎沉浮的东西，都非常没有意义。
陈倩
是学校的环境给你这样的感觉，还是那边人的氛围是这样？
盛颖
应该是 workshop 带来的环境，加上 workshop 里大家讨论时的氛围。那种氛围让我觉得，所有事情都不重要，人的七情六欲都不重要，甚至看上去有点荒诞。
陈倩
那什么是重要的？
盛颖
什么都不重要，是重要的。这是一种虚无。你觉得虚无才是真实的东西，只有真实是重要的。真实是重要的。
数学在那个环境下会显得特别美好、特别优美，因为它是确定性的，而且是绝对的。你和它打交道的时候，不需要思考其他东西，可以非常沉浸、非常 focus，进入心流状态。
这种心流状态与人无关，与其他所有事情都无关。大脑被完全调动起来时，会进入一种生理性的愉悦。我有点描述不出那种感觉。
陈倩
我能 get 到你的意思。这个状态非常纯粹，很像一个会成为数学家的人的状态。但你后来为什么没有成为数学家？
盛颖
我当时非常想成为数学家，觉得自己就要成为数学家，只想做数学。但事情的发展总没有那么简单，毕竟我还有生活上的各种干扰。
到了斯坦福之后的第一年，我确实没有那种感觉。我不知道是不是斯坦福不如普林斯顿纯粹。普林斯顿那次只是一个 workshop，但我人在哥大时也能感受到那种氛围。
我现在甚至会想，是不是西海岸和东海岸存在某种文化差异。西海岸会让你慢慢感受到更多关于成功与否的 noise，你会想参与推动世界，开始觉得自己和世界有关。我又开始觉得，我不想和世界无关了。
但我在东海岸时，会觉得希望自己和世界无关，希望被世人遗忘。这是非常不一样的感受。
我在斯坦福第一年还是想做理论。当时斯坦福有 rotation program，需要先匹配导师，之后才能决定接下来 5 年 PhD 的旅程怎么走。前几轮因为各种各样比较复杂的原因，我没有遇到让我觉得能够进入心流状态的问题，也没有和哪个老师形成双方都觉得 exciting 的匹配。
可能老师们也觉得我对他们的问题不是特别感兴趣，也可能是我觉得和某些老师没有完全 match。最后到了第四轮，遇到我后来真正的导师 Clark Barrett 教授时，才进入了一个新的 topic。
陈倩
Clark Barrett 教授主要是做形式化验证的。能不能跟我们的观众解释一下，什么是形式化验证？
盛颖
2. Entering Formal Verification
这个领域很大，但我可以简单讲我当时做的一部分课题。
我们当时有一部分工作，是把人写出来的代码进行拆解和映射，把它映射到底层的数学逻辑上。你可以把代码映射到一阶逻辑。得到这个逻辑之后，就可以从数学角度证明你写的代码是否具备某种性质。
更具体地说，一份代码背后有一个叫作 specification 的东西。Spec 说明了代码应该满足什么前置条件，会有什么样的 invariants，以及代码执行完之后要满足什么条件。
你可以用这样一套语言描述程序，然后要证明的就是：在有这套 spec 的情况下，你的代码是不是真的符合这套逻辑。
从代码映射到逻辑 formula 之后，formula 之间的证明和推理，就是我所处的研究领域。SMT solver 做的就是这件事情。
我的研究大部分是在 SMT solver 本身的优化上。一方面和 efficiency 有关，另一方面和正确性有关，但更多时候和你如何定义语义有关：你定义什么样的语义空间，才能表达一份代码所做的事情。
陈倩
但在斯坦福开始深入形式化验证之后，我们看到你开始连续发表论文。2020 年拿到了 IJCAR 最佳论文奖，2022 年拿到了 IJCAR 提名，后来又成为 CVC5 的贡献者之一，拿到了 TACAS 最佳工具论文奖，确实非常高产。
你觉得那段时间自己的研究状态是什么样的？
盛颖
3. When Research Falls Apart
真实过程比外面看到的简历内容要干瘪、boring 很多。
我在斯坦福前几年的经历并不顺利。刚进来的第一年，找导师就不是很顺利。我是比较被动地进入形式化验证这个领域的，因为我要读 PhD，所以需要不停地做研究、产出论文。当时我的状态比较被动。
但在做的过程中，我慢慢欣赏到了它的美感，后来也慢慢理解了这件事情为什么有意思，以及它可能存在的更有意思的未来。
最开始做《Politeness》那篇论文，也就是我第一次拿 EACL Best Paper 的那篇时，我完全是一个小白。我对这个领域不了解，导师给了我一个问题，我只是去解决它。做完之后，我对什么样的论文算是这个领域里最好的 paper，也没有任何认知，因为当时看的论文还不够多。
所以奖出来时我完全没有想到。有人来 congratulation，我才知道拿到了这个奖。那是我进入这个领域发表的第一篇论文。
但发完这篇论文之后，我又重新进入了一个很 down 的状态。我还是没有找到下一个想做的问题，不知道 exciting 的问题在哪里。
那篇文章做完之后就进入疫情了。我有接近一年的时间，几乎没有做任何事情，处在 depression 的状态里。但我遇到了非常好的导师，Clark 非常 supportive。他完全理解我需要调整状态，只关心我是不是有一个好的精神状态、是不是能够走出来，没有给我施加任何继续产出论文或做 research 的压力。
他说我可以去上课、做 TA，做一些比较轻量级的事情。那段时间我还回国待了半年，算是一个疗愈期。我没有产出论文，但 Clark 从来没有断过我的经费。
陈倩
确实是非常好的导师。
盛颖
一年之后我才慢慢走出来，之后才又做了《Sequence》那篇 paper。
我们前面经历了很多挣扎。证明应该写了 20 多页，来来回回改了四五次，其中有两次我几乎把它全部推翻重写。一个已经花了一两个星期推出来的证明，直接全部推翻，是因为从一开始就发现有个基点错了。那个地方错了之后，后面所有推理全部都是错的，所以要从前面一直 fix 到最后，全部推翻重来。
但这个过程走完之后很有成就感。最后证明完全写完时，比一开始设想的复杂很多，我们都觉得把这段证明写出来是一件很有 accomplishment、很有满足感的事情。
我记得 Clark 自己也说，那篇 paper 里的证明是他过去一年的 highlight。当时它也是 Best Paper 提名，但最后没有被选上，不过非常接近。
如果说我在形式化验证领域的工作，这篇 paper 可能是我觉得最愉悦的一段时间。从这篇 paper 开始，我看见了形式化理论里一些深刻的含义和优美之处。
它的优美之处在哪里？它让我理解了程序语言设计的几个不同角度。形式化的方法是从数学角度理解程序语言。程序语言我已经打了很久交道，大概 20 年了，但从来没有用这样的角度去看待它。它给了我一个全新的视角。
但你会发现，程序语言里也有很多 trade-off。不同角度上，有些语言更接近数学，有些语言更接近硬件。你很难找到一个支点，让一门语言既离数学很近，又离硬件很近。
接近数学的语言更容易被验证、更容易被形式化；接近硬件的语言则更灵活、更高效，也更接近人的思维习惯。当你需要编程实现硬件里的具体运算时，这样的 mapping 会更直接。
陈倩
最后没有继续在这个领域走下去，是因为什么？
盛颖
我看到了它有意思的地方，但也看见了这个领域的局限性。它能够在现实中 practically 被应用的场景太少了，验证一个程序太贵，而它能验证的东西又很少，无法产生足够大的影响。
我想离世界更近一点，想做更接近真实生活的东西。所以那时候我开始探索 AI，开始寻找转型的方向。
这个过程其实也不太顺利，可能又有一年的空窗期。你看上去会觉得我的 publication 没有停，但中间其实有很多空窗期。
盛颖
外界定义的空窗期，和你自己定义的空窗期是不一样的。
我自己定义的空窗期，是那段时间没有做任何事情，没有 make progress。转 AI 的时候，我也有大概一年的时间没有任何新的 idea，实际上没有做成任何事情。
可能长达一年之后，某个时间我突然找到事情可做，3 个月产出了一件事情。但在外人看来，会觉得那个作品是我过去一年的成果。实际上，它是我过去一年里最后 3 个月的成果，前 9 个月我都处在最弱的状态，完全不知道自己在干什么。
陈倩
我非常理解这个过程。就像我们记者写稿子一样，给你一个月的时间，前 29 天可能都在做 research、放空或者采访，但稿子其实是用最后 1 天写出来的。
盛颖
所以你看上去，比如我在形式化验证领域可能发了 3 篇 paper，分布在 3 年时间里，但每篇 paper 真正推动的时间可能只有 3 个月。我这 3 年里每年都有 9 个月不知道在做什么。
其实你不知道在做什么，可能是在迷茫，想找到自己真正想解决的问题。
陈倩
我听下来，找到一个真正感兴趣的问题并且解决它，真的是你的一个 driver，一个驱动力。
盛颖
是的。我确实有一些特点，就是没有办法妥协。
后来我服从了自己的这个特点。原来不理解自己的时候，我也尝试努力去适应一些规则，但后来发现自己不能被勉强。我没有办法做自己不感兴趣的事情，也没有办法把它做好。我能做，但其实做不好。
只有一件事情让我觉得非常 exciting，我才有可能把它做好。这是一个特别纯粹的性格。
陈倩
你是什么时候发现，自己的性格就是这样，必须要服从它？
盛颖
这是一个缓慢发展的过程，没有某个时间点突然顿悟，而是慢慢意识到，终于有一天完全接受了它。我完全接受这件事，可能是在博士最后一两年。
陈倩
你本身是一个喜欢 intense 的人吗？
盛颖
我是一个必须 intense 的人，从小就是这样。
陈倩
我觉得从你发 paper 的数量和节奏就能看出来。
盛颖
我没有办法停下来。哪怕睡觉的时候也会一直做梦，没办法停下来。
陈倩
你做梦也会梦到和研究或者工作相关的事情？
盛颖
肯定会。大家都会吧？
陈倩
有时候我的梦完全无关。
盛颖
我的梦还是挺有关的，都是和生活有关。说明你睡觉的时候，潜意识其实还在工作。也可能是生活和工作，但一般来说不会是完全没有任何关系的东西。当然其中肯定会有虚假的成分和想象空间，但不会毫无关联。
我 PhD 期间 depression 的那段经历，可能就是因为那段时间太无聊了。疫情时大家都 slow down 了，我根本没有办法在一个 slow down 的环境里保持 mental health，所以一定要忙起来，才能健康地运转。
陈倩
你不一定要忙起来吧？你不是也有过很沉静的状态吗？
盛颖
我不一定要忙起来，我只是不想 slow down。
我读 master、做数学研究的时候并不忙，那时非常沉静。因为问题摆在那里，除了看着一张纸思考，好像没有什么能做的。我看上去很闲，每天可能只想 4 个小时，工作 4 个小时，然后就去打游戏了。
我 master 期间打了很多游戏，因为问题太难了，你没有什么事情可做，只能空想。
陈倩
但打游戏的时候也很 intense，对吧？
盛颖
其实也没有。我觉得数学研究非常不一样，有很多灵感只能等它自己来。你没有什么事情可做，只能在那里等，等着那一刻来临。
陈倩
所以你是在打游戏的时候等灵感？游戏打一圈，灵感来了，就去写一写？
盛颖
我当时那个题目最后解出来，就是在看电视的时候想到的 idea。
我也不知道为什么，但当时在看电视之前，我看了一篇 paper。然后我就开始看电视，看到一半时，不知道为什么，那篇 paper 的内容突然在脑子里回响出来。我突然又想到 paper 里的那个点，意识到那里可能是一个解法的突破点。
那就是关键点，是问题被解决的那个瞬间。它真的是一个 phase transition，是一瞬间发生的。那个时刻，问题被解掉了。
陈倩
所以你电视剧看到一半，突然想到了怎么解决这个问题？
盛颖
对，我暂停了电视。
陈倩
你还记得是什么电视剧吗？
盛颖
《甄嬛传》。
陈倩
太神了。我一般是在洗澡的时候突然有灵感。
盛颖
洗澡时也会有，但看电视剧时我很少有，因为看电视剧还是需要比较沉静的。不过看起来，我看电视剧时潜意识还是一直在思考。
4. The ADHD Operating Manual
我之前说到，自己是怎么和自己和解的。以前我不知道 ADHD 这个东西，有一天慢慢了解到 ADHD，看完各种症状、深入理解之后，发现很多事情都可以被解释。
陈倩
你觉得自己是 ADHD？
盛颖
我确实是，定期也要看心理医生。但它不是一种疾病，而是一个特点。
学习之后，我发现很多事情都被解释了。它给我带来的最大帮助，是让我通过理解 ADHD 理解了自己，好像找到了一把使用自己的钥匙。
陈倩
像是拿到了使用手册。
盛颖
对，像是拿到了手册。我突然知道，自己不应该逆着短处去做事，也不应该逆着天性去做事，而应该顺着天性去做事。
一旦悟到这一点，很多事情就迎刃而解了。其实很多事情不需要勉强，也没有必要勉强。
陈倩
你只能做自己喜欢的事情。
盛颖
对。当你把这件事当成真理，就不再和它对抗了，特别好。
陈倩
我刚刚提 ADHD，是因为我可能也开始有一点类似的症状。它的特点之一就是看电视时不 focus，也跟不上电视的内容，经常要回退，问自己刚刚讲了什么。30 分钟的事情，我经常要看 40、50 分钟才能看完。
那你在做 research 或工作时，什么情况下会非常 focus，什么情况下又没有办法 focus？
盛颖
当一件事情特别吸引我时，我会非常 focus。这件事是两极化的：focus 的时候非常 focus，不 focus 的时候就根本没办法 focus。
我 focus 的时候，会听不见别人叫我的名字，不记得时间，也不知道外面发生了什么，还会错过很多 meeting。不 focus 的时候，哪怕事情很重要，也没有办法 focus。
陈倩
看《甄嬛传》也没有办法 focus，是吧？
盛颖
说明《甄嬛传》不够吸引人。如果它够吸引我，我就会非常 focus。但游戏会让我非常 focus。
陈倩
打游戏非常 focus？
盛颖
对，有些竞技性运动也会。它需要非常 intense、非常激烈，还要有 competition。游戏是对打，有输赢；球类运动也有输赢。在这种时候我就会非常 focus。
陈倩
所以你是一个好胜心很强的人？
盛颖
我觉得我不是真的很在乎输赢，而是在乎 intense 的感觉。我喜欢那个感觉。
我其实不在乎输赢。游戏可以输，打比赛也可以输，it's OK，我不会觉得自己非要赢不可。但机制设计进去之后，我会很享受那个心流状态。还是因为我喜欢心流状态，大脑被抓住，人非常 focus。
陈倩
所以打游戏、研究、学习，你都可以获得心流状态。
盛颖
学习我喜欢的东西可以。
陈倩
再提一个大学的问题，然后我们聊公司。竞赛圈其实是一个很有“天才”标签的圈子。你觉得“天才”这个词放在你身上合适吗？很多人会说你从小就是天才。
盛颖
不多。甚至我拿了竞赛奖项之后，也没有被这样认为。
陈倩
你拿过全国信息学奥林匹克竞赛的银牌，好像还是纽约区域赛冠军？
盛颖
区域赛冠军是组队的，3 个人一个小队，不是我个人的成就。我的队友非常强，我很幸运，有非常强的队友把我带飞了。
陈倩
但你肯定也很强。
盛颖
小时候可能更多一点，后来没有那么经常。虽然拿过一些奖项，但那些成绩好像也没有特别了不起。比如银牌也不算什么，因为还有很多金牌选手。
陈倩
所以要看和谁比。
盛颖
对。在我所在的环境里，总是有比我更强的人。我在竞赛圈里有比我更强的人，在 SMIS 里也有很多比我更强的人。
陈倩
你觉得努力更重要，还是天分更重要？
盛颖
我赞成天分。
陈倩
在研究上，天分主要体现在哪些方面？
盛颖
当外界不把研究当回事、不觉得研究是一件伟大的事情时，你还想做它，那就是你的天分。
陈倩
那听起来更像兴趣。
盛颖
我觉得大部分时候，天分和兴趣的相关性还是很强的。
很多人可能想当 researcher，但不是很多人都能真正研究出来、解决问题。你能解决问题，肯定有你的天分在。
但我首先不觉得大多数人真的想成为 researcher。我见过太多人想做研究、想当教授，是因为觉得这件事很酷，是因为外界环境让他们觉得这件事很酷，或者觉得教授是铁饭碗。
如果有一天，所有人都觉得当教授是一个被人唾弃的职业，他们马上就不会想做了。你能够识别这一点。
但在我当时想做这件事的时候，周围的人并不觉得做 theory 是多么伟大的事情，赚的钱也很少，可我还是觉得它有意思。
我想做一件事情，是因为希望和别人无关，是因为我想说 irrelevant。那个时候，才是你真正的兴趣和天分所在。
我也不敢说自己有天分，毕竟我没有发明过什么，也没有巨大的数学成就，不能算有天分。
陈倩
你肯定算有天分，不然 paper 怎么能发那么多？
盛颖
有很多人发了很多 paper，比我发得多的人还有很多，那可能就是更有天分的人。
发 paper 只是一个技能。发 paper、做 research，以及成为真正意义上的科学家，是三件事情。
陈倩
发 paper 有什么套路？
盛颖
发 paper 本身是有套路的。你如果掌握了发 paper 的方法，发 paper 就是一种技能。发 paper 和做 research 是两件事情，发 paper、做 research 和成为真正意义上的科学家，是三件事情。
一个人可能根本不怎么懂 research，但也能哗啦哗啦发很多 paper。就像命题作文一样，套着那个框去写就可以。
你只要掌握规则，掌握这个体系的规律，在同样的规律里不停产出，就可以一直发很多 paper。
陈倩
但顶刊还是很少吧？
盛颖
也不少。现在顶刊一年有几千篇、上万篇。
陈倩
这么多人投稿的话，顶刊还是算少的。
盛颖
那肯定是有 spectrum 的。我可能还是比 average 更有天分一些。
陈倩
掌握这个套路本身也是一件有天分的事情。
你说发 paper、做 research 和当科学家是三件事。做 research 和打工人是一样的吗？
盛颖
做 research 和打工人是一样的，是一个非常平凡的事情。Research 仍然是一种职业。我享受做研究，所以选择做 researcher，并不是因为我比别人更有天分。没有天分也可以成为 researcher。
但我刚才说“科学家”这个词，可能用得不准确。我指的是另一类人：真正推动人类知识边界的人，这样的人非常少。
我的标准也比较高。在我眼中，真正推动知识边界，是指如果没有这个人，这件事情会晚很长时间发生。这样的人，才是我定义的真正的科学推动者。
这批人非常少，绝大多数教授可能都不是。大多数教授还是 researcher。
陈倩
Geoff Hinton、杨立昆，还有 Yoshua Bengio，这 3 位图灵奖得主，你觉得他们是你定义的第三类人吗？
盛颖
应该是吧。不过我没有和他们直接接触过，所以还是不直接下结论。我非常在乎一手信息，也非常在乎 truth seeking，不想评价没有接触过的人。
但既然他们有这么高的世俗成就，应该是。
陈倩
你是什么时候去谷歌实习的？是在实习之后才想转去做 AI，还是在实习之前就看到了 AI 的前景？
盛颖
5. The AI Conversion
我去谷歌之前就想转 AI，也是因为想转 AI，才找了那份实习。那份实习是 AI for Code。
我之前也尝试过一些其他的纯 AI 岗位，但他们不收我，没有拿到机会。这个岗位和 program analysis 有一点关系，我因为这个背景被招了进去，所以接触到了 AI。
但我进去是因为想接触 AI。进去之后发现，当时做 AI for coding 的人，还试图利用 program analysis 里原来的 technique 或 tools，但其实非常无力，什么忙都帮不上。
当时 AI 研究者有一种幻想：是不是可以利用另一个领域的工具，用交叉学科的方式更好地解决问题。但我作为从另一个领域过来的人，发现这个工具其实非常无力。
当时已经能看到，大模型在 coding 领域里相反地把传统技术完全覆盖了。
陈倩
那时候还挺早，2022 年 ChatGPT 还没有出来，但谷歌内部已经看到这个方向了，是吗？
盛颖
我估计其他公司肯定也看到了。那时 ChatGPT 还没有出来，谷歌刚发布 PaLM，内部有 LaMDA，大家已经有所感觉，只是还没有到全民爆发的阶段。
陈倩
当时好像有一个谷歌程序员说 LaMDA 有意识，我们还做过报道，讨论 AI 到底有没有意识。
盛颖
对，就是那时候的事情。我相信很多程序员也是第一次、或者很新鲜地接触 AI，所以才会出现它到底有没有意识这样的讨论。
当时很多人已经看到它有很大的潜力，但模型距离真正生产代码还有很大距离。我记得那时候一般只能生成一两百行代码。
陈倩
你们那个小组有多少人？
盛颖
AI for Code 那个小组，也是谷歌内部孵化的创业项目。我有点记不清了，好像全职有 20 个人左右。
那个暑假他们非常激进，想尝试很多方向，所以招了和全职人数差不多的 intern，让这些 intern 去疯狂尝试不同方向，希望从中看到一些东西。
陈倩
那次 internship 结束时，大家看到了什么？
盛颖
我觉得当时那批人里，后来有很多人还在做 code。
那段经历对我的影响很大。它让我看见，原来 AI 可以这么 powerful。我原来不知道 AI 是怎么回事，进去之后发现，原来根本不需要显式的 reasoning。我是被 shock 到的那个人。
这件事让我非常坚定地进入了这个新的 topic。我决定做大模型。
陈倩
大模型有很多分支和不同的 vertical，但你选择了 infra 赛道，为什么？
盛颖
6. Choosing the Infra Path
其实也不是我主动选择的。我也尝试过不是 infra 的方向，比如算法方面的事情，但发现自己更适合 infra。
算法方向可能没有那么成功，infra 方向成功了，所以最后我的爆发都在 infra 这一侧。做 infra 和我的思维习惯更接近：它是 reasoned、确定性的，基于数学和代码，而数学和代码这两件事情我都很熟悉。
陈倩
能不能说一下，你最开始做 SGLang，是什么样的契机？
盛颖
我转到 AI 之后，PhD 最后两年一直在做 LLM inference 相关的工作。SGLang 是我的第一个 work，也是连续一系列 work 的收官之作。
当时我已经可以毕业了，也觉得自己做了很多不同角度的 research，但那些工作都比较 local。SGLang 是我希望把这些工作集大成的一件作品。
所以在最初做它的时候，我们就开始把它做成开源项目，希望最终走向 production ready。从一开始就想好，要把它做成一个可以被广泛使用、被大规模使用的推理引擎。
陈倩
其实在做 SGLang 之前，vLLM 已经推出半年多了。你之前也在 vLLM 做过一些项目，为什么已经有这样的一个东西，还想自己做 SGLang？
盛颖
这段历史比较长。
我当时在参与 vLLM research paper 的工作，本来也是自己在做 research。后来听说有 vLLM 这个项目，发现它当时的 idea 和我们在思考的另一个 idea 类似，所以当时有人说，既然 idea 类似，不如 merge 进那个项目。
从我的视角来看，是我被 merge 进了 vLLM 项目，因为我觉得那个项目已经在做我想做的事情。
vLLM 后来做开源，是 paper 之后的另一个节点，并不是在 paper 阶段就已经是开源项目。真正把它推成开源之后，就要做很多 research 之外的事情：项目维护、社区维护，以及各种 engineering detail 的琐事。
那一段我没有太参与，我还在继续做自己的其他 research，包括 S-LoRA、S-CHEN 和 fairness 等工作，也就是 survey 里的其他问题。
SGLang 是一个希望把我的思想放在一个地方继续向上推进的项目。它本来也是从某个 innovation 出发，然后做成一个 general engine。在我看来，当时有很多 serving engine，SGLang 是其中一个，并不是我先在 vLLM 的 engine 里工作，后来再做到 SGLang engine 里。
陈倩
那 SGLang 和 vLLM 的核心差异是什么？还是说大家其实都差不多？
盛颖
不同团队做出来的东西肯定不一样。但如果不把时间维度放进去，它们会比较类似，因为相互之间会学习。你有好东西，大家一定会相互学习、相互 copy。
但如果把时间放进去，每个时刻大家可能有不同的侧重点。比如 vLLM 实际上更早进入了 scale-up 的方向，把大规模 serving、production、千卡级别、万卡级别，甚至更大规模的 serving 做好。
其他项目可能在社区覆盖、long-tail 模型支持上做得更早，所以大家的 focus 有所不同。但现在再看，可能双方又在互相学习、补齐短板。
陈倩
你在 Databricks 也工作过 5 个月。当时公司的联合创始人之一（姓名疑似 Ion Stoica），是之前伯克利的教授，他和你有什么样的合作？
盛颖
他是我在伯克利 visit 时的教授，所以我们在伯克利期间一起做了很多 research。
陈倩
他对你有什么影响？
盛颖
在专业水平上给我带来了很多 inspiration。我和这位导师现在还一直保持联系。他除了是我当时 research 的 mentor、导师之外，也可能会是我 lifetime 的 mentor。
他是一个很特别的人。当然，他这么成功，肯定是个很特别的人。
陈倩
你觉得他特别在哪里？
盛颖
他是一个很立体的人，做很多事情，同时开很多公司，也是一名教授。但如果你真正靠近他，会发现他骨子里自我认同感最高的，还是教授这个身份。
教授和学生，是他所有身份自我认同的根源。如果追溯到根源，这就是他的根源所在。
他很在乎 making impact，impact 可能是他做所有事情的动力之源。他也把这种精神传递给学生，跟他共事的人可能都受到了影响，就是 making impact。
但我其实不一样。我在另一个价值观里，但我能够理解这套价值观。
陈倩
所以 making impact 不是你的价值观？
盛颖
不是同一类价值观。
陈倩
那你的价值观是什么？
盛颖
我在乎的不是 making impact 本身，而是我想要 make 的 impact。
如果我觉得有一种 impact，或者有一种价值观，我希望它被执行、被推向这个世界，那么我会非常努力地推动它发生，尽一切努力。但我不完全在乎这件事情是不是由我推动的。别人推动也可以，如果有人愿意帮我把这件事情推动起来，那当然很好。
但一般来说不会有这样的人。我慢慢学会的是，我真正想做的事情没有人会代劳。因为每个人都有自己想做的事情。最后，你自己真正想做的事情，只有自己去坚持、不断为那件事情奋斗，才能让它发生。
所以在这个逻辑上，我觉得有一些微妙的不同。我在乎的是 impact，不是 making。
陈倩
也就是说，making impact 可能更强调“我个人产生了影响”，而你更在乎的是这件事情本身？
盛颖
对，我更在乎正确的事情发生。
这有时会让我显得很 opinionated，因为我会对一些事情有观点，然后非常希望我的观点发生。但我其实不是在乎它是不是我的观点，而是这个观点 somehow 让我感到 intrigued，被它吸引了。
陈倩
我们说一下你在 xAI 的经历。2024 年 10 月你加入了 xAI，当时为什么选择 xAI？
盛颖
我 PhD 刚毕业时，想推广 SGLang。从开始做 SGLang 之后，我的整个创业过程都和 SGLang 紧密相关。
我刚去 Databricks 时，也想在 Databricks 里推广它，或者至少找到一个地方可以好好 develop 它。我不一定觉得它能够取代所有的 stack，但希望有一块地方让我把它好好 develop 起来。
刚加入 Databricks 时，我觉得他们给了我这样的自由，但 Databricks 的业务模式毕竟不一样，它已经是一家很成熟的公司，不是你想做什么就做什么。每件事情都需要理由，或者充分的理由。
我作为一个 new grad researcher 进去，其实没有太大的 power，自己也不够成熟，不知道怎么在一个成熟企业里 drive 一个比较大的 effort。所以那几个月尝试得不算特别成功，可能也造成了一些影响，但整体并不算成功。
7. Why xAI Mattered
xAI 给我的机会是，它愿意支持我和我的丈夫 Lianmin。Lianmin 当时已经在 xAI 了，之前还在做纯 research。正好 xAI 到了一个节点，需要做 production inference，于是就有了这样的机会：我和 Lianmin 可以共同 build 整个 inference stack，整个 inference solution 和 team。
它可以给我两样东西，一个叫 support，一个叫 freedom。同时有 support 和 freedom，我就能把这件事情做起来。所以我选择加入 xAI。
当时可能只有 xAI 真正同时给了我这两样东西。我还有其他机会，有些只给 support，有些只给 freedom。
陈倩
能同时给你支持，又让你自由地做这件事情，这样的机会确实很罕见。是不是因为 xAI 当时还比较早期，所以才有这样的机会？
盛颖
是的。
xAI 是我生命中非常重要的一部分。虽然我工作的时间并没有特别多年，也在很多地方工作过，但 xAI 是我回忆最美好的一段时光。
陈倩
评价这么高？
盛颖
我离开 xAI 的时候也非常不舍。离开是因为 SGLang 这样的开源项目发展到了一个节点，我觉得自己不得不出来，把 RadixArk 这家公司扶起来，让社区能够继续很好地发展。
如果不是因为这个原因，我非常不希望、也非常不舍得离开 xAI。也不是完全不可能离开，但我会非常不愿意。
而且我觉得这个想法不是我一个人有。早期那一批员工里，有很多人也有类似想法。有些人可能已经有点承受不住 xAI 的工作，因为压力和强度都很大，但还是坚持留在那里，就是因为不想离开那群人。
我的想法也是类似的。
陈倩
所以是你们这群人形成了非常好的 team 感觉？
盛颖
我觉得是。早期的 xAI，在我体验到的那个 xAI 里，个个都是人才。大家互相 support、friendly、appreciate，也很 humble。
这是 xAI 当时给我的印象，而且和我的价值观很像。我在 xAI 时能够非常专心地做事情，没有太多杂念。大家都是这样，能够非常直接地做事情，知道把事情做成最重要。
我经历过那么多公司，xAI 是我第一次经历一个 team、一个公司完全没有 people game、没有 politics。当然后面公司变大之后，可能慢慢也会有。
陈倩
你加入的时候公司有多少人？
盛颖
不到 100 人。
陈倩
不到 100 人、没有 politics，挺难得。
盛颖
可能也有，只是我没有看见。至少在我能看见的范围里，没有看见 politics。
我很幸运，处在一个能够好好思考问题的环境里。我只需要思考怎么做事情，身边的人也都在思考怎么做事情。
大家当然会有摩擦，这很正常，但那是不会影响团结的摩擦。We always together。我觉得现在 RadixArk 也把这种氛围带过来了。
陈倩
你刚才把加入 xAI 之前描述成 0.0，加入之后是 1.0，那现在可能是 3.0、4.0？
盛颖
我也不知道大家怎么定义，因为后面我已经不在了，只能听大家的说法。但我能感觉到有几个阶段。
0.0 和 1.0 的时候非常美好。0.0 时 xAI 的重心还不在你们身上，我听说那个阶段大家都非常 nice，像一个 family。
1.0 的时候已经开始生长，也开始出现生长痛。1.0 中途我又回去了，但即便那个时候出现了阵痛，大家还是共同克服难关。我没有感觉到军心动摇，大家都很团结，也彼此照顾。
那时候有一种战友情的感觉。
陈倩
这段故事很珍贵，是因为它和现在大众对 xAI 的认知差距很大。前段时间 xAI 的 co-founder 几乎全部离开了，有的被 fire，有的自己辞职，感觉像是在说两家不同的公司。
盛颖
确实很不一样。后来的 xAI 变大之后，我觉得它没有很好地经历那个阵痛期：从一个很小、很团结的 startup，变成需要靠体制运转，而不是靠人运转的大公司。
这个过渡期的阵痛没有被很好地抚平，所以产生了巨大的变化。但有一天它可能会找到新的 solution，因为 xAI 还在那里，新的人员也在新的组织架构里。它可能重新找到一个 solution，但从人员上来看，可能已经是 another company 了。
陈倩
反正 Elon 还在。
盛颖
对，这是最重要的。
陈倩
而且又被 SpaceX 收购了，马上要上市了。你觉得这段经历对你之后做 startup 有什么 lesson learned？你们现在也是几十个人，很快可能上百人、几百人。
盛颖
我觉得我们现在正处在一个很美好的时期。我知道这段时间一定会成为我们所有人以后人生中非常珍贵的一段回忆。
但我们一定会面临 scale-up 的挑战。人少的时候，可以通过文化和人的管理来实现运转。但 scale 上去之后，文化会变得脆弱，人也会变得脆弱，个人能力都会变得脆弱。
那时能不能把公司做大、能不能把一件事情 drive 好，更多要看 system build 得怎么样、体系 build 得怎么样。最后是靠体系支撑，而不是靠人支撑。
这个转变的正确答案我还不知道，因为我没有经历过。但我能学到的 lesson 是，这个过程需要非常 intentionally 地思考。它不是一个自然发生的事情，不是只要公司有计划、有事情可做、有 scope，往前 move，就会 for granted 得到的东西。
如果你不 pay attention，它就会 broken。
陈倩
你在 xAI 时的主要任务是什么？比如给 Grok 构建推理系统时，具体负责什么？
盛颖
我们负责 engine 那一块，同时服务很多其他组。
Product serving 和 production 是他们负责部署，我们需要和他们对接。他们遇到问题会回来反馈，说 engine 里可能有什么问题，我们也要帮忙处理，包括 deployment 上的协调、configuration 等。
我们还要和 research team 合作，做 evaluation，跑 RL rollout，使用的也是我们的 inference engine，所以要支持他们 workload 里的各种适配。
陈倩
xAI 的整个算力系统非常庞大，后来又买了很多卡。你觉得在这个过程中，是不是受到了 full-stack 的训练？这对你有什么影响？
盛颖
我觉得 xAI 给我的机会，是让我能看到所有东西。因为当时 team 小，所以能够看到。而且 xAI 有一种我很喜欢的文化。
Elon 有一些问题，但也有一些非常突出的地方。我很喜欢他带给 xAI 的一种没有边界的文化。
至少我还在的时候，任何事情我都可以 touch 到。我不会被限制在一个很小的 scope 里，只能做这一件事情，也不会完全不知道外面发生了什么。
当然组与组之间还是会隔开，但 xAI 里没有特别多的 people management，整体非常 technical，也非常重工程师文化，所以做事情可以很直接。
这样的文化让我看见了很多 layer，也看见很多 component 之间是怎么合作的，事情是怎么发生的，以及整个系统是怎么运转的。这给我带来了非常大的成长，因为原来我确实没有办法看到这么多东西。
而且 xAI 的强度和压力都很大，人是被 train 出来的。你一定要经历 intense，只有经历过 intense，成长才会被撕裂开来。就像健身一样，一定要累到、痛到，才会开始长肌肉。
xAI 的 intense 带来的成长，可能是你在那里待 1 年，在外面要花好几年才能得到的。
陈倩
你是什么时候决定，要把 SGLang 商业化、成立 RadixArk 的？
盛颖
8. From Community to Company
2025 年，前面有几波浪潮把 SGLang 推到了一个还不错的关注点，很多需求向我们涌过来，想要使用它，或者让我们参与共同开发。
但我们的社区虽然最早是在大学里做了一些研究，从很早开始实际上就已经变成了一个纯社区项目。我们的核心开发者都是在网上认识的，大家都是网友，就像我小时候在网上学习一样，可能到现在都没见过面。
我们现在还有一些核心开发者，已经共同工作了两年，但我还不知道他们长什么样。我们开过很多次会，却从来没有开过摄像头。
陈倩
你们从来没有要求对方打开摄像头？
盛颖
没有，大家有一个默契：只要看到你的代码，就知道你是谁。
我也只想看到这部分。开摄像头或者真正认识对方，并不重要。
陈倩
还是因为大家都是 AI researcher，不想开摄像头？
盛颖
没有这么夸张。不是大家拒绝开，而是自然到根本没有想起来这件事。不是大家商量好不开，也不是拒绝开，只是自然地没有想到要开。
但这样的社区也会导致，大家没有那么强的组织纪律性。虽然都很有热情，也非常在乎这个项目，但很难要求大家都拿出时间，把项目严肃地做成一个成熟、高质量的项目。
除非我们有自己的公司，把它变成 full-time job。大家都有自己的 full-time job，只是在空闲时间为社区做贡献，晚上熬夜、通宵，周末或者放假的时候写代码。
但当时我们的增长快到不可能用这样的方式维持。我们接到很多需求，想抓住机会，想和对方合作，想 deliver 一些东西。
我们强撑了一段时间，但几个月之后发现没有办法 deliver。大家都很想 deliver，可 team 已经不能再 stretch 了，被 team 的 bandwidth 限制住了。很多事情都是 borderline 地低空飞过，甚至没有成功 deliver。
大概到 7 月份，我自己的焦虑已经到了一个程度：如果我们再不出来做这件事情，再不把背后的空白填充起来，就快要让外界失望了。
我的心理状态到了一个不能再拖的程度，所以我从 xAI 出来了。
陈倩
从 xAI 出来，应该放弃了很多东西，尤其是金钱上的东西？
盛颖
还好，因为 Lianmin 在 xAI 的时间比我长。但我确实没满 1 年。我是 one-year cliff，出来时是 10 个月。
陈倩
也就是说，只要再待两个月，就能拿到第一年的 vesting？
盛颖
对，但两个月都不能等。到 7 月份已经等了很久。我可能 5 月份就已经有点受不了了，到 7 月份实在受不了了。如果不出来，可能这个社区连两个月都等不了。
我的心理状态到了一个无法 focus 做 xAI 的事情的阶段，已经没有办法对 xAI 产生足够的价值。但我不能忍受自己在 xAI 上班却没有用。
如果我在 xAI 上班，我就觉得自己必须对它有用，否则会觉得自己不配待在这个地方。所以当时已经到了一个觉得自己不配继续待下去的状态，这不是我能控制的。
陈倩
刚才忘了问，你觉得金钱对你重要吗？
盛颖
它有必须性，但没有重要性。
它的必须性在于，有钱可以让我更容易解决很多事情。我没有追逐过钱，但你要说它完全不重要，我也没到那个程度。
它能给你的意义是，比如我要创立公司，如果有一天融不到钱，我自己还有钱。这就是它对我的意义。
陈倩
忘了提一段经历。你在哥大毕业之后，去了华尔街的对冲基金 Two Sigma，工作了几个月，没到一年吧？
盛颖
半年。
陈倩
在华尔街、在一个对冲基金里，大家想象中是纸醉金迷，和你之前做研究时的氛围完全不一样吧？
盛颖
但我们那个对冲基金是 tech 对冲基金，我还是很偏 tech 的。
我当时确实想接触金融，觉得挺有意思，也有点好奇。那时量化行业的说法是，里面的人都很聪明，很多是学物理的 PhD。我们学校很多人后来也去了量化。
我不知道为什么，可能就是喜欢和聪明人说话，喜欢做有挑战、和智商挑战有关的事情，所以这个特点吸引了我，也吸引了很多其他人。
那时我大概 21、22 岁，比较单纯地被这种氛围吸引。我觉得这件事如果不体验，以后可能会一直想着它。但我又觉得金融不是我的人生追求，天天在那里玩钱也没什么意思。
刚好 PhD 中间有半年 gap，我就去体验了一下。那半年的回忆也非常好。
如果要排序，我工作过的所有公司，第一是 xAI，第二是 Two Sigma。
陈倩
评价这么高。
盛颖
但我去的时候，恰好也是 Two Sigma 最好的时候。我很幸运，每次所在的地方都是真的最好的时候。
后来可能有一些变化，但我在的时候是 Two Sigma 最蓬勃发展的阶段，甚至很拥抱开源。那段时间 Two Sigma 做了很多开源项目，非常拥抱科技，也拥抱 new type 的 AI、big data。
里面的人互相帮助，没有多余的东西，所有人都只是在做事情，而且非常开放，质量也很高。
我当时交到的很多朋友，到现在还是朋友。大部分人还在华尔街做量化，也有人后来出来做 AI。
Two Sigma 让我看到了一个非常 organized 的公司是什么样子。至少当时，它的 infra 是我接触过的地方里最稳定的。
陈倩
你觉得原因是什么？
盛颖
公司文化就是这样。它很干净，巨变不多，业务模式也比较稳定，所以大家可以一直做 maintenance，大量做 maintenance。
陈倩
所以，做金融、追逐 return、赚钱，这些事情对你来说不是 priority，你只是想体验一下。
盛颖
对，我只想体验一下。一开始就知道那不是我的 priority，但体验不错。
陈倩
给大家科普一下，LLM infra 是在做什么？你们解决什么样的问题？
盛颖
Infra 分好几个模块。
9. The Romance of Infra
长远目标是，我们希望整个 infra——我说得非常 big——能够把整个 foundation 放在一个地方。大家可以根据不同的使用场景、不同的数据形式、不同的产品目标和 serving 目标，持续产生适合自己目标的模型。
有些场景希望模型解决一个很简单的问题，但速度非常快；有些场景要解决很难的问题，速度可以慢一些。我们希望做出这样一个 foundation，让大家源源不断地产生适应不同目标的模型。
这个 foundation，我统称为 infra。它会包括传统意义上大家理解的推理引擎、推理和训练、post-training，这些都是大家脑中的传统 keywords。
但我还想加一个 component：基座模型也是 infra。在我看来，整个 foundation 包括所有你需要的 gradients、codebase、tool、toolbox、sandbox、environment，以及一些中间状态的模型 checkpoint。
这些东西放在一起，才是一个工具箱。你可以在里面进行组合，不断产生更适合自己场景和目标的特异化模型。
现在我们需要一步一步 focus，所以目前先 focus 在 inference 和 RL 上。它们处于生产模型 pipeline 的末端。
假设前面已经完成 pre-training，有了基础的 checkpoint，接下来开始适应不同 task，做 post-training，这时大家开始使用 RL。因为 AI 进入了生活的各个方面，会出现不同的场景需求，不再是一个模型解决所有问题，而是通过多次训练，产生多个模型去解决各种问题。
很多企业也可能想要自己的模型，所以 post-training 和 RL 在这里是一个 fan-out 的状态。它很适合做成一套可以和所有人分享、让所有人使用的 infrastructure。
Post-training 完成之后的模型 inference 就更 final 了。模型的架构和 weights 都已经有了，我们需要让它在硬件上跑起来，跑起来之后变成可以被 call 的 endpoint，让别人能够使用这个模型。
陈倩
整个 LLM serving 的 infra 版图，涵盖了很多领域。比如 vLLM 解决内存管理，H2O 做 KV cache 压缩，S-LoRA 解决多 Adapter 并发，Chatbot Arena 做测评，SGLang 做结构化生成。
对于这些研究，你有一个什么样的方法论？是一次性有一个完整 roadmap，还是一步一步解决？
盛颖
我觉得是一次性看见的。短时间内会一下子看见很多问题，但真正做的时候，还是要一件一件做。
Idea 肯定跑得比动作快，也不是我一个人看见，很多人都能看见。大家先看到很多问题，然后慢慢把每件事情解决掉。
陈倩
解决这些问题时，哪个点最难？
盛颖
我觉得没有哪个点是难的，去做掉就可以了。
陈倩
那优先级怎么排序？
盛颖
哪个能带来最大的 margin，哪个是最大的 bottleneck，就先解决最大的 bottleneck。
有些事情存在依赖关系。比如要先解决 memory 里 KV cache 的碎片化和管理问题，之后才能解决 prefix caching 的问题。
陈倩
所以这些问题现在完全被解决了吗？还是还有很大的优化空间？
盛颖
肯定总有优化空间。Attention 现在有很多变种，sparse attention 还可以做得更 aggressive，新的 innovation 也不会停止。
陈倩
这应该是一个很大的市场。但这个市场为什么最开始是从开源生态里跑出来的？
盛颖
也不能说是从开源跑出来的，因为 inference 已经存在很长时间了。Inference provider，比如 Fireworks、Together 这些公司已经存在好几年，也都有很大的使用量。
你看 inference landscape，有这么多 competitors。和 inference 有关的公司不断出现，每年都有新的公司，但你会发现这个游戏里没有输家。
所有 inference player、inference provider 都在不断出现，但没有任何一家因为 competition 而消减下去，所有人都在同步增长。
陈倩
我之前和你的 co-founder 邦华聊时，他说做 infra 的人需要的 taste，和做 pre-training 的 researcher 需要的 taste 不一样。做 infra 的人，taste 主要体现在哪里？
盛颖
我不确定是不是真的不一样，我觉得本质可能是相通的。
不论是做 training 算法、pre-training 算法，还是做 infra，你做一件事情时，是不是喜欢精益求精，是不是在乎细节。
陈倩
因为 efficiency 要做到非常极致？
盛颖
不光是 efficiency。
如果你追求一个目标，可能还不在 taste 这个维度上。你如果只要一个 end goal，end goal 和 taste 是两件事。
Taste 是指你关注的不仅仅是 end goal，还关注 end goal 是怎么组成的。我的系统不仅能跑，我还知道它是怎么跑起来的；它是一个经过设计、well-designed 的形式运行起来的，还是一个豆腐渣工程运行起来的。
它们可能有同样的 end goal，但有 taste 的人会更在乎，它是不是以一种优美的形式跑起来，而不是通过很 hacky 的方式跑起来。
陈倩
那你在乎吗？
盛颖
我非常在乎。这是 RadixArk 的文化之一。
我们想成立一家 infra-first 的公司，是因为我觉得在很多其他以 product、以模型为目标的公司里，大家在 infra 的美感上有所妥协。他们仍然非常追求 infra 的功能，但在美感上会妥协。
Infra 的人在整个 full stack 里，可能长期处在被 underestimated 的状态。他们需要不停支持其他 component，支持 researcher 使用 infra 工具，把实验跑起来、继续迭代；也需要支持 product 的人，让产品运行得又稳又快。
但我和 infra 之间有一种浪漫的关系。我觉得 infra 不是 support 角色，infra 本身就是产品。
设计和推广一个产品时，因为产品面向用户，你会想这个产品不只是有功能，还要美、好看、好用、被人喜欢，能够击中用户心里的痛点，击中人性。
没有人会说，希望 infra 击中人性。但从我的视角看，infra 也是击中人性的，只是它没有直接面对用户，没有那么直接的联系而已。它产生的深远影响，是从底层开始向上传递的。
陈倩
你刚才说了两个很有意思的词：第一是 infra 的美，第二是你和 infra 的关系是浪漫的。这两个词我很少听到。
盛颖
我也没有仔细想过为什么会用这个词，但它自然而然存在于我的脑中。
我觉得写 infra 的人都能理解。写 infra 时，你会在乎代码怎么写、系统怎么构建，系统是不是优美、稳定。很多人都很在乎这一点，但又总是被迫做一些 hacky 的事情来达成目标，所以一直处在被拉扯的状态里。
陈倩
如果看一些大厂，OpenAI 有自己的 infra team，之前你在 xAI 时，xAI 也有自己的 infra team。大厂里的 infra team 总是 supporter 的角色，有很多需要妥协的地方。但如果自己出来做一家 infra-native 的公司，就可以实现你说的 infra-first 的美感。
盛颖
对。比如在 RadixArk，我们也有训练工作，但不是需要一个 infra team 一直 support training job，让它必须 on track 地跑下去。
我们反过来，希望 training job 没有压力，只需要运行。一旦 training job 卡住、遇到问题，我们希望大家 focus 在 systematic 地解决问题，而不是打一个 patch，让这个 job 必须继续跑。
Job 是可以 pause 的，我们也不着急刷分，不是非要刷一个非常好的 benchmark 分数。这在我们这里不是第一优先级。当然，如果能刷高当然好，我们不会说这件事不重要，但它不是 source of urgency。
我们的 source of urgency 是：job 不能迭代时，这个问题本身应该如何从深层次解决。
陈倩
我们再回去一点，让观众更了解 infra 这个赛道。
RadixAttention 是 SGLang 的核心技术之一，用 radix tree 做前缀缓存，避免重复计算 KV cache。能不能用比较通俗的语言解释一下？
盛颖
这个技术其实比较简单。
当很多 request 发到 engine 需要处理时，如果 request 之间有公共前缀，就不需要重新计算这个公共前缀对应的 KV cache，而是可以复用。
第一次 request 进来时，已经计算过 KV cache。第二个 request 进来，如果它们共享前缀，就可以复用已经计算出来的 KV cache。
所以，这套 memory 管理系统就是对前缀的共享结构做 indexing 和存储。首先要建立 request 之间的前缀关系，用前缀树做 indexing；完成 indexing 之后，把已经计算的 KV cache 存在 KV memory pool 里，再把 indexing 和 KV memory pool mapping 起来。
陈倩
既然核心是利用重复前缀，如果用户每次发的问题都是全新的，没有什么共同前缀，比如长文档摘要或创意写作，这套机制是不是有一定局限性？
盛颖
随着场景变得更复杂，大部分时候都会出现前缀共享。
只要进入多轮对话，后面的对话都要复用前面已经出现的 history，所以前缀复用在几乎所有场景里都大量存在。
陈倩
是不是 Agent 出现之后，这个问题更需要被解决、被优化？
盛颖
它一直都需要被解决。Agent 出现之后，确实可能让大家更加关注这个问题。
SGLang 的 paper 刚出来时，如果现在回头看两三年前的 paper，我们当时确实是以 agent 为入口，解释为什么要重新设计这套体系。那时还设计了一个 front-end language，都是为了 agentic use case。
我们当时觉得，LM、AI 将来变得非常 powerful 之后，需要构建一套人与 AI 之间交互的 interface。最初的动机就是定义和构建这套 interface，让人和 AI 可以更好地交互。
但发展到今天，挑战的重点可能转移到了后端 inference，后端的 inference challenge 更突出，所以大量开发精力转移到了 backend runtime 的优化。
不过有一天，我们还是应该回顾最初的想法：为什么要 design SGLang？SGLang 最初的 design，希望它是一种 language。我觉得有一天我们会 revisit 这一部分，最终它还是应该以 language 的形式存在，成为人与 AI 之间交互的 interface。
陈倩
你们在 social media 上经常说，模型发布之后你们是 day zero，也就是从第 0 天开始兼容。为什么这件事很重要？
盛颖
因为市场觉得它很重要。我们做事情还是很 practical 的，开源项目什么事情重要、什么事情不重要，还是由 market 决定，不完全由我们自己定义。
市场上的人性是，大家希望东西刚出来就能用上。这个愿望从 user 端一直传递到 inference provider，inference provider 又传递到模型厂商，最后传递到我们。
这就是一种“产品发布第一天就要去抢购”的心态。
陈倩
比如前段时间 DeepSeek-V4 发布之后，你们马上做到 day-zero 兼容。要做到 day-zero 兼容，需要做什么？
盛颖
这和模型复杂度非常相关。
DeepSeek-V4 在架构上做了很多创新，所以我们花了特别大的精力去支持这个模型、做各种优化。这一次我们对 DeepSeek 大模型的 feature set 支持得非常全，很多 feature 第一天就兼容了。
这也是我们第一次支持 RL 的 DeepSeek 大模型。MILES 是我们的 RL 框架，很多算子层和实现都要重写，大部分 code 基本上是重写的，因为 DeepSeek-V4 的架构设计和之前已经存在的模型有太多不同。
陈倩
是不是每一代新的模型出来，都需要重新适配？只是模型架构变化越大，effort 越大；如果只是很小的调整或 upgrade，适配工作就没那么大？
盛颖
对。如果架构完全不变，甚至不用适配。如果只是更新 bit，几乎也不用适配。
陈倩
最近有一些研究，探索模型直接在 latent space 里推理，而不是逐字生成 token。比如 Meta 的（原音疑似 Coconut）、字节的 Kola DLM。如果这个方向成熟，你觉得推理引擎里的很多优化假设会不会发生变化，甚至需要重写？
盛颖
如果这个方向成熟，确实很多事情会变，因为推理过程的形态不一样了。
但这本来就是写推理引擎的一部分。世界在变，结构在变，我们的事情一直在变。这不是一次真正的变革，而是持续存在的过程。
陈倩
不同团队、不同 AI infra player 适应变化的能力重要吗？
盛颖
重要，但我觉得团队更重要。
尤其现在有 AI，AI 写代码写得这么快。实际上，变化本身从技术上来说未必是真正巨大的变革，技术上总是能做。真正的难点从来都还是回到人，回到团队本身。
陈倩
为什么你们的团队更好？
盛颖
我觉得我们的人和团队团结、谦逊、聪明、努力。
陈倩
其他团队可能也会这么说，我觉得大家都挺好的。每个群体最终都会形成自己的文化，大家各有所长。
你强调的是公司内部的企业文化。你希望它是什么样的？
盛颖
我希望大家 focus、谦逊、humble、精益求精。
我们追求极高的审美，追求把事情做 solid。我们希望 RadixArk 的人，都是对自己特别挑剔、对自己的作品特别挑剔的人。
陈倩
今年年初，我们看到 vLLM 的核心团队也商业化了，成立了 Inferact，融资 1.5 亿美元，估值 8 亿美元。这个产业之后还会有更多竞争对手吗？会有更多公司商业化来做这件事吗？
盛颖
完全有可能，而且其实一直在发生。Inferact 和 RadixArk 之后，还会有新的 inference company 不断涌现。
陈倩
谁会成为赢家？核心竞争点，或者团队的竞争点，会在哪些方向？
盛颖
我其实不觉得我们在这个赛道里。
虽然我们有 SGLang，SGLang 是 inference engine，但我觉得 RadixArk 的长远使命并不属于这个赛道。
陈倩
能不能详细说一下？
盛颖
如果按照前面说的，我觉得 RadixArk 的目标，是把最好的 AI 带给大家。这是我们现在非常朦胧的一个目标。
RadixArk 接下来 1 年要做什么，3 年、5 年、10 年要做什么，讲出来都会非常不一样。我们最终想做什么，我不想透露，也不想 disclose。
但我可以大概说，我认为 RadixArk 最终的使命，是做下一代 AI，next-generation AI。
陈倩
所以你们本质上不只是 infra implementation？你们想做模型吗？
盛颖
也不一定是模型，而是下一个形式。
我现在不讲它是什么，但可以说，我们并不会停在现在这个地方。Inference 或者 infra 只是一个起点，是一个前提条件。但我们想做的事情，不是一个现在世界上已经存在的东西。
陈倩
所以你不觉得 RadixArk 和现有的 inference player 属于同一个 category？
盛颖
对。它还不存在，但我觉得它一定会发生，或者说我希望它发生，我想看到它发生。
陈倩
后期我们可以把这部分内容闭掉吗？
盛颖
不能。
但我可以说，inference 不是我们的长远核心，它是一个起点。所以我们和其他 inference company 都保持良好的关系。
SGLang 是全开源的，但它实际上也不是 RadixArk 的所有物，它属于 LM Systems 社区。公司的所有贡献都是向上游开源的，我们没有 private fork。
我们的愿望很简单：希望这些东西被所有人使用。我们并没有想通过这里制造一个 difference，再去获取利益，所以公司的命脉不在这里。
陈倩
现在有不少做推理引擎的创业公司。有些公司自己不做引擎，而是在引擎之上提供服务，体量也不小。比如 Vast.ai 最近完成了 3 亿美元融资，估值 50 亿美元；Fireworks AI 估值 40 亿美元；Together AI 也在寻求 10 亿美元的新融资。
与此同时，AWS、Google 等大型云厂商也在提供托管推理服务。整个 AI infra 生态链最近发生了什么？能不能帮我们梳理一下？
盛颖
Inference 这件事其实很早就存在，也发展了很久。但今年 AI 可能变得更加成熟，尤其是像 DeepSeek 这样的爆点，大家都看到了。
AI 变得更有用之后，整个市场的 effort 可能会更多地从 training 转向 inference，开始需要让它盈利、兑现价值。这个转化会让 inference 市场进一步扩大。
Inference 本来就已经很有 exposure，现在会有更大的 exposure，所以你会看到各种 inference 公司雨后春笋般出现。
与此同时，AI-native 公司也开始感受到，继续使用现有模型、做 prompt engineering 存在局限性。更多公司开始需要利用自己的 data 做 customization，这个需求也在推动 RL 的市场化。
一方面有很多新的 AI 公司出现，另一方面也会看到 established 的 AI 公司向 RL 移动、向 RL 扩张。我觉得这是这一批公司里最明显的两个趋势。
陈倩
Vast 和 Fireworks 也是你们的客户。以后他们会不会发展成竞争对手？
盛颖
我不知道。他们有可能觉得我们在某种意义上是竞争对手，但我们不把他们当成竞争对手，更希望和谐相处。
第一，我们的重点并不在这个地方。如果重点在这里，我们就不会把 inference engine 随意开放给大家使用，也不会支持他们使用。
第二，因为我们的开源意愿，我们希望被大家使用，所以不想和他们成为竞争对手。我们希望他们都是盟友，更希望 focus 在 AI 本身的技术迭代上，再把这些技术和他们共同发展，促成他们业务模式的增长。
陈倩
你们现在服务的客户，主要是什么类型的企业？有没有比较典型的使用场景？
盛颖
各种类型的客户都有。
从 data center、new cloud，到 hyperscaler，也就是 cloud provider，他们有 GPU，我们会和他们合作，帮助他们销售 GPU。
再往下是 infra provider，我们也希望和他们合作，希望他们成为我们的客户，但目前更多还是 user 关系。
再往上是 AI 公司，他们想使用 AI infra 去训练自己的 model，或者 serve model，也是我们的目标客户。
还有一些传统大公司，它们不完全是 AI 公司，但希望用 AI 助力原有业务，我们也希望在这里提供价值。
陈倩
SGLang 之后又开发了 MILES，主要用在 RL 上。为什么同时做 inference 和 RL training？
盛颖
因为我们做的是整个 AI infra。
Inference 和 RL 是我刚才说的最靠近用户的两个末端步骤，所以我们从末端开始布局，但最终要做的是一套能够把 AI 制造出来的能力。
陈倩
这两个东西同时做，难度大吗？
盛颖
还好，因为它们其实非常相关。
RL 里很大一部分挑战来自 rollout engine，而 rollout engine 本质上也和 inference engine 有关。RL 更多需要做一些调配工作，比如 weight transfer 等胶水性的工作，scheduling 算法也会有一些新的东西，但系统层面有非常大的 overlap。
陈倩
你刚刚提到两个非常教科书级别的教授。有哪个管理者，是你觉得遇到过最好的管理者？他们的特质是什么？
盛颖
管理这个词很宽泛，不同位置的管理者，功能也不一样。管理与被管理，也不只是单纯的管理关系，而是一种职能分工。
一件大事要做成，背后一定要有一个人和这件事情非常绑定，不遗余力地推动它发生。这个人可以是 founder、CEO，也可以是任何一个人，但一定要有这样一个人。
他需要有清晰的想法，知道我们从哪里来、要去哪里、为什么做这件事情、团队为什么要做这件事情。他需要有坚持，也要能够看见未来，看见一个想推动的未来。
不一定没有他这件事就不会发生，但一定是一个他能看见的未来，也就是 vision。
这些东西最重要。但有 vision 的人，不一定需要具备管理者所需要的所有特质。公司同时还需要其他管理者，去执行不同的 functionality，比如把 decision 变成真实可执行的事情，把人与人之间的合作关系调度好。
这些可能是不同人的功能。管理者很重要，架构和制度也很重要。
但我现在的想法还比较初级，正在思考这个问题。我们刚好处于一个从我还能看清所有事情，到我现在已经看不清所有事情的阶段。
我最近一直在想这个问题，还没有找到答案，目前看到的都是挑战。
陈倩
这个挑战和你刚加入 xAI 时面对的挑战相似吗？你把 xAI 看成自己的 baby，也把 inference team build 起来，是一个很重要的核心成员。回头看当时和现在，有什么不同？
盛颖
完全不一样。
毕竟在 xAI，我不是 xAI 的 owner。就算我把它当成 baby，其他人也不觉得它是我的 baby，所以我其实没有被赋能，没有被 empower。
我有想法、有观察，但很多事情改变不了，没有办法做很多决定，也没有办法告诉其他人一些会影响他们的决定。我的责任没有办法扩展到那么大的边界。
但我在 xAI 学到一句话。当时 xAI 的两个 leader，Tony 和 Guodong，分别都对我说过同一句话。我不知道他们是不是串通好的，但他们都说：你的 authority 和 responsibility 要 match。
在 xAI，我没有 authority，只是一个小 team leader，没有权利做很多事情，所以也没有责任。
陈倩
但你自己觉得自己有责任。
盛颖
但我其实没有。因为我负不了责，也不能决定事情。
如果我不能决定怎么做，事情做错了，我也担不了责；做对了，也不是我能控制的事情。
但现在不一样。这个公司是我的，我要做决定，必须做决定。它变成我的义务。做得好和做得坏，所有责任都在我头上。
事情没有做好，我要背锅。做好了，是 team 的功劳；做坏了，是我的责任。这和之前完全是不同的角色，挑战也完全不一样。
陈倩
从研究员到大厂，再到自己出来创业，你对自己的定位有什么转变？
盛颖
我其实没想过这个问题。我一直只想做我想做的事情，然后看当时什么身份、什么资源是最好的选择，就做什么选择。
但这些选择只有一个目的，就是做我想做的事情。
两年前，我可能觉得创造那个未来，教授是一条路。两年后的今天，我觉得教授这条路走不通，于是开始开公司、创业。
无论做教授还是开公司，都只是 approach。我没有想过身份本身意味着什么，也不是很在乎那个身份。
陈倩
但选择的路不一样，需要做一些以前没有想过的事情。现在你是一个明星 startup 的 founder，要融资、招人，也要和投资人交流。
融资、和投资人聊，对你来说是负担吗？
盛颖
我以前确实不懂融资，是被迫去做的。但这件事情总要做。
First-principles thinking：如果我要实现目标，这件事情就该做，那我就去做。
我们当时融资还挺曲折，具体就不讲了。但经历了这么长时间之后，我对这个行业有了更多理解。
我觉得自己和投资人打完交道之后，对他们有了更多 respect，也更理解他们的想法，以及为什么整个行业是这样的状态。
陈倩
Sand Hill 有一套游戏规则，这套规则和你做 research 时完全不一样。你在适应这套新的游戏规则时，感觉怎么样？
盛颖
我觉得没有真的不一样。
本质逻辑肯定不一样，是不同的体系，但归根结底还是人，还是人性。你追根到底，都是人性。
你把事情做好，追求一个真的东西，并且把它做出来、说出来，这个本质没有不一样。
当然，学术界、融资体系和投资人体系的规则不同，mechanism 不同，做事方式肯定不同。但归根结底都是人，人与人之间是共同的。
进入另一个体系，只是要学习它是怎么运转的，各种利益点如何平衡。如果还是以人的根本作为推理基点，就可以推理出这个体系的运行方式。
陈倩
这个和发 paper 很像。它是有套路的，学会套路之后，很多 average 的事情都能做。
盛颖
对。所有 common 的事情都有套路。
陈倩
最后这一轮融资结果非常好。英伟达、AMD、英特尔这几家最大的半导体公司，罕见地集体投资了你们。除此之外，还有很多硬核投资人的背书。
你觉得他们为什么投你们，看中了什么？
盛颖
我也很想问投资人这个问题。我很难替他们回答，看中了我们什么。
但如果现在让我 sell 一下，我觉得我们是在这个赛道里跑出速度的玩家。我们跑出的速度，让大家可以看见我们的未来。
我们觉得自己有机会创造新的 market，也有机会助力现有 market。我们可以 enable 更多 AI 公司，或者想进入 AI 的公司，enable 他们制造 AI 的能力，让他们更接近 AI、利用 AI、创造更多价值。
如果我们能提供这部分价值，这就是我们值得被投资的原因。
陈倩
他们主要看重的是事情本身，还是也看人？
盛颖
肯定很多人看重事情，早期投资也有人看人。
我更喜欢看人的投资，但可能到了 A 轮、B 轮、C 轮之后，investor 就会看数字和业绩。
我们第一轮因为有开源的基础，他们肯定是人和事一起看。至于为什么看中，我不替他们回答。
陈倩
你为什么对开源这么执着？
盛颖
10. Why Open Source Matters
我想纠正一下，我不是对开源执着，也不是刻意在乎它。它是自然发生的。
当然，我从开源里形成的价值观，确实和以前的经历有关。我出生在江西这样的中部省份，那里并不是很发达。我小时候受到的教育已经很好，但放眼全国甚至国际去比较，那段教育经历还是很朴素。
小时候想学编程，没有太多资源可以学，大部分学习都是从互联网上获得的。计算机当时也不是最火的专业，计算机竞赛更不是大家追捧的竞赛，所以能够在市面上搜集到的教材和资源都很少，而且大多未经加工。
我的学习都来自互联网上别人留下的 random 帖子、CSDN、online judge 题库。我从那些地方学到的东西，来自许多我不知道是谁的人。
我至今不知道他们是谁。当时我也不知道，只是默默把代码拿走，回家研究。我甚至不知道写代码的人是谁，也不知道把它使用出来的人是谁。
我是被互联网上、世界各地、我根本不知道在哪里的人教会的。所以 sharing、open 的文化对我来说，就像空气一样存在。
我没有刻意追逐它，它从我很小的时候就一直在身边。我觉得它理所应当：你有一个 idea，做了一件事情，却不分享出来，反而很奇怪。
陈倩
你觉得开源社区最近几年发生了什么变化？一个好的变化，一个不那么好的变化。
盛颖
好的变化是，开源越来越多。大家越来越追求开源，越来越愿意开源，也越来越相信开源的价值。
不管是人们对开源的欣赏，还是资本对开源的认可，都是上升的。
但不那么好的变化是，开源受到的追捧上升之后，也开始掺杂一些不那么纯粹的东西。
这会破坏我们原来想象的开源带来的美好，也会让原本相信这件事情的人变得不那么相信。
开源里混进了一些功利主义者，而这些功利主义者的存在，不只影响他们自己，还会让那些本来不是功利主义的人分不清，开源里的哪些成分是纯粹的，哪些是不纯粹的。
所以我觉得，开源在变好的过程中，也会出现一种 balance。东西总是阴阳共存的。
陈倩
最近大家对开源和闭源之争聊得很多。你觉得 AI 会慢慢向闭源迁移吗？
盛颖
我觉得最后还是共存。开源不会停止，据我了解，它也没有停止。越来越多人想进来贡献自己的力量。
但我也不觉得所有东西都应该开源。不能没有规则，也不能没有界限。完全开放、完全开源，如果没有太多可套利的空间，可能是美好的；但一旦完全打开，人性的恶也会被放大。
所以两种 argument 都是正确的。我不觉得 AI 应该完全展现在所有人面前，它确实有 risk，我不否认这一点。
但我也不站在 AI 应该完全被一小批人掌握的那一边。我觉得 AI 应该均等地被不同的人掌握。
我们想做的就是这件事情。RadixArk 不是纯粹为开源服务的，虽然我们有开源文化，但不意味着所有事情都是开源、为开源服务。我们也服务闭源模型。
我们希望实现的是，开源和闭源共存，但闭源不要 centralized。我们希望提供能够创造最好的闭源模型的 tool chain，让所有人都拥有制造属于自己的 AI 的能力，而且制造出来的 AI 属于自己。
陈倩
一位大佬昨天呼吁大家停止 AI 研究，但又加了一个条件：只有确保大家都停止，他才停止。
你现在对最强大的模型都掌握在少数闭源模型玩家手里这件事感到 comfortable 吗？这件事能被打破吗？
盛颖
我觉得很难发生，它违背人性。
陈倩
你的意思是，所有人停止 AI 研究这件事之所以很难，是因为大家没有在同一个体系里拿到同样的资源？
盛颖
对。所有人都想获得最好的 AI，所以这件事很难发生。
我不觉得那个想法不正确。如果有一个非常强力的上帝下来安排每个人做什么，事情是可以发生的。
我不认为“大家都停下来、让某一个人领先”是一个极度糟糕的世界结局。但现实世界不可能停在那里，因为没有一个上帝可以把所有人安排得井然有序，一定会有人在里面起义，所以它不可能发生。
陈倩
那事情会往哪里走？终局可能是一个非常 decentralized、每个人都有自己的 AI 的世界吗？What’s next？
盛颖
如果往很远的未来想，现有的 AI 还没有强到完全控制、威胁人类。在目前可见、我能够 guarantee 看到的未来里，人类还是安全的。
在这个前提下，大家会继续互相追逐，AI 会越来越强。但这种强，首先是 productivity 上的强，会取代人类的一些功能性工作，不能完全取代人，只是取代人类的一些功能。
这个变化肯定会带来巨大的动荡，会对人类的社会结构和权力结构产生巨大影响，就像过去每次工业革命一样，可能比以往的工业革命更大，但仍然是可以理解的范畴。
更远的未来，如果 AI 强到开始操控人类，真的 over 人类、dominate 人类，能够做人类做的任何事情，那一天如果真的到来，我们阻止不了。
阻止它的方式，不可能是呼吁所有人类停止研究。真正的方式，一定是发明、发现另一条路径，让 AI 继续前进，而人类不会输。
陈倩
你在这个过程中想做什么？
盛颖
我想 build 的未来，是一个和强力 AI 共存的未来。
我们现在说，要把强力的、最好的 AI 带给所有人，因为人类需要公平。你不可能通过一小部分人把好的 AI 掌握在手里，其他人都无能为力，来维护表面上的和平，这是不可能的。
如果 AI 一定要往前走，那就让所有人都往前走。当然不是 literally 所有人，而是说，如果你有一个小 idea，有潜力，也想往前走，就应该能够接触到最好的人类知识，在这样的竞争环境里继续前进。
这是一种健康的与 AI 共存、共同发展的状态。
你首先要有这样一个假设，整个人类才有可能团结起来，共同寻找 solution。所以这件事情是必然的。
如果有一天真的到了需要人类寻找新 solution 的时候，前提就是让所有人平等共处、团结一致，然后才能寻找人类与 AI 共存的世界。
陈倩
能不能再讲一下你做这个机构的经历？
盛颖
这个机构是我和 Lianmin 最早想成立的。这个机构可以让不同学校的人参与研究。
这个机构到今天虽然是一个 non-profit，大家也都是 part-time 地帮忙，但它其实是我们想严肃做的事情。
如果 RadixArk 有一天不能一直走下去，虽然我希望它永远走下去，但如果真的不能走到底，LMSYS 会是我终生会做的事业。
它和 RadixArk 也有共同点，都是关于平等和平权。
这个机构的平权，来自于我们希望孵化优秀人才做的项目。即便他们没有充分的背景、后台和 branding，也希望他们的项目能够被看见。
这和我自己的经历有关。我经历过非常低谷的时期，也经历过非常高昂的时期，能感知到其中的差异。
同样做一件事情，我在状态高昂时做出来，可能很容易被大家关注、记住，甚至被夸大；但在低谷时期做的事情，有些也不错，却很难被看见或认可。
我觉得这种 difference 没有必要存在，而且会破坏社会公平竞争结构。我们希望做的，就是抹平这个差异，让好的项目真正被托举出来。
我们也希望 credits 能够分配到真正做事情的人身上，让还没有积累、没有 establish 的人，对项目拥有更强的掌控权，保护未 establish 的真实开发者对项目的掌控权。
陈倩
你在开源社区还做过很多其他项目，比如 LMArena，在行业里的影响也很大。那段时间是围绕一条主线推进，只是不同项目分别推进吗？
盛颖
Arena 是当时做 LMArena 期间的一个 fun project。当时觉得这件事情挺有意思，就做了一下，后来意外得到很多关注。
可能大家觉得排行榜本身有一定娱乐性。Arena 确实是我们开始做的，但后来真正把它做大、做成公司，是我们把项目交给韦林他们之后发生的。
后面有新的成员加入，是新的团队把它做成了商业级规模的项目。
陈倩
刚才你说每个人要公平、平权。平权更多是相同的机会，尤其是对 tech 领域的程序员、researcher。你为什么这么在乎？有什么契机或经历可以分享吗？
盛颖
一部分是我觉得自己好像天生就是这样，生下来就很在乎这件事情。
另一部分可能是延伸。我从小到大经历、看见过很多性别歧视。
大家可能会回避这个话题，也会觉得它有争议，因为你怎么鉴定是或不是。但我觉得这个事情明显存在，无法回避，而且我切身经历过无数这样的例子。
每一个例子单独拿出来都非常小，是生命中无时无刻、每天发生的平凡小事。所以它对被影响者造成的影响，不是你听到一个例子时感受到的冲击，而是把每一件小事的冲击乘上一亿倍，才是对那个人真实人生的冲击。
再把它扩大到整个群体，它造成的互动性影响、common sense 的影响，以及刻在所有人共同认知里的影响，是没有办法用一个例子说清楚的。
这可能是我为什么特别在乎平权、公平和平等的性格原因。
第三个原因，是我自己经历过。我能感受到，有些 paper 其实很一般，但因为是我发的，或者是斯坦福、伯克利发的，大家就会把它当成一个标准。
同期可能有一些和我做的 paper 差不多的工作。我只是一个 researcher，不是科学家，但因为我的身份，这篇 paper 就被定义了。
我觉得这件事情本来不应该这样。虽然我是获益者，但正因为我是获益者，终于有力量把这件事情往外推动一点。
陈倩
LMSYS 想以什么形式，把这种权利更公平地分给每个人？
盛颖
很难。首先我们都知道这是一个结构性问题，不是我或者一个机构能够解决的。
我记得有一次和一位姓名听不清的人聊天，具体聊了什么我忘了。我说有些事情想改变，她问我：“你觉得你能改变吗？改变得了吗？”
我说：“我不能改变，我确实没有办法改变。但如果我能改变 1%，我愿意用一生去改变这 1%。”
这个挑战对我来说太大，我在它面前太渺小。但如果我能改变一点点，或者改变身边一点点人，那些人再把这个精神传递给更多的人，事情就会发生一点点变化，我就觉得值得用一生去做。
但这里有一个微妙的地方：当我们想改变一件事情、推广一个价值观，或者改变身边的人时，传递很容易出错，也很容易被利用。
真正最后能够传递出去的，是你能不能找到正确的人。不是所有人都在这个体系里，也不是所有人都适合做这件事情。
比如我想帮助弱势群体，不是直接去帮助弱势群体，这件事情就能被解决。你要找到那些和你一样、想帮助弱势群体的人。
你要找到能够把这个东西散布出去的人，而不是只直接去做一件事情。哪怕培养更多学生成为老师也不够，你要培养的是想把学生培养成老师的老师。
你需要把这个 recursive 的链条建立起来，才真正有用。
这件事情会非常慢，非常慢。所以我觉得我做不了多少事情，但它的好处是，如果能做到一点，它就做到了。它不是一个会回退的改变，往前推了一点，就是往前推了一点。
陈倩
至少是一个 solid 的 improvement。
盛颖
对。我觉得所有 improvement 只要是 solid 的就可以。
如果它不 solid，只是看上去有一个 big jump，那这个 big jump 没有意义。平时推项目时我也这么和团队说：不用着急，不一定要马上够到某个目标，但重要的是能不能训练出一套系统化的方法，让每一小步 move 都是 solid 的。
哪怕只动了一点点，也比动得很大、将来还要退回来好很多。
陈倩
Research 界也会有性别歧视吗？
盛颖
也不能叫歧视，其实没有那么严重，叫性别不平等可能更合适。它可能还没有到非常明显的不平等和歧视的地步，但那些很微妙、很下意识的不对称无处不在。
我举一个很微妙的例子。小时候我是竞赛出身，竞赛打得很好。如果我是男生，大家会说我是天才；如果我是女生，大家会说她很努力、很听话、很用功，或者说她运气好。
我小时候经历过一件事。有一年竞赛，我一直成绩很好，各种比赛都是顶尖的，至少比学校里和我同 level 的人好很多。
但身边的人会找无数个理由解释我为什么赢。他们会觉得我的赢需要被解释。
他们不会直接否认我赢了，但会觉得如果换一个人赢，是理所当然；如果是我赢，就需要解释。
正常情况下，一个人赢了不需要被解释。我为什么要解释他为什么赢？因为他厉害。
但我的每一场赢都要被解释，背后都有一个“我为什么赢”的原因，而不是“你为什么输”。可能是对手最近状态不好，下一场对手状态还没回来，或者说我压中了题、以前做过这道题。
但其实我可能根本没有做过。你会感受到，这些并不是故意的恶意，却让人很窒息。
陈倩
这些微妙的事情，之后做研究、读博士、做项目时也会一直存在吗？
盛颖
会源源不断地存在。
你赢了，比别人厉害，大家就会找理由说：“他为什么可以？为什么是他？”
他们会说：“我要研究一下这个人为什么可以，为什么能发这么多 paper。”可能还会开玩笑说，因为他没有看《甄嬛传》。
一旦有一个合作方是男性，或者已经 establish，别人就会觉得：“这个 idea 会不会不是他的？”
这些事情单独看都很小，但它是持续发生、每天发生、每分每秒发生的小事，而且会波及群体里的每一个人。
陈倩
你根本没有办法跳出这个框架，因为一旦你跳出来，别人就会觉得你小气，觉得你格局小。
盛颖
我年轻时对这件事情的态度更极端一些，但后来觉得没有什么好讨论的。要解决这一点，只有一个方法：让所谓的弱势群体真正拥有权利。
在这个具体例子里，就是让女性真正拥有权利。除此之外没有别的办法。
陈倩
不断去赢就好了。
盛颖
对。而且所谓的权利，是 top 0.001%、0.01%、0.1%、1% 的人都真正平权。只有获得真正的权利，这件事情才会改变。其他通过 education 的方式，达不到这个目标。
陈倩
过去 10 年有变好一点吗？
盛颖
肯定有好一点。我觉得社会在向前，但拆分到不同方面，有些地方可能变好，有些地方也不一定。价值观处在很波动的状态，但总体来说，我觉得是在变好。
陈倩
我觉得我们 cover 了大部分问题。你觉得还有什么漏掉的吗？
盛颖
我没有想过有什么问题要问。但结尾时我倒是有一件事情想说。
昨天你们过来，你给我看那份 doc 的第一眼，我其实挺受触动。里面已经有很多对我的描述，感觉你们已经很了解我。我不知道那是 AI 生成的，还是人做的。
陈倩
我们看了很多资料，是人做的。
盛颖
而且做得很详尽。我觉得很多投资我的投资人，都没有这么仔细地看过我的经历。和他们聊天时，我发现他们并不了解我的经历，也不了解发生过什么。他们可能从其他侧面打听过，但这份 doc 给我的印象很深。
这次融资的经历也让我成长了很多。很多职业里我们觉得“应该做”的事情，其实并不会自然发生。
我们可能觉得，采访者应该先对被采访者做深度 study，但事实上，很多采访者不一定真的会做这件事情。
我们可能觉得，投资人应该对对方做深度调查，但实际上大多数投资人也没有做深度调查。
我们可能觉得，PhD 应该好好做研究，但大多数 PhD 未必真的在好好做研究。
很多事情在定义里应该发生，但实际上不会发生。后来我发现，一个人只要能把职业里“该做的事情”做好，就已经非常稀有。
我昨天看那个 doc 时，本来不太喜欢采访，之前甚至差点要推掉。但看完之后，我愿意好好做这次采访，因为我 respect 你们做的劳动。
我想说一句：respect。
陈倩
谢谢，我也很 respect 你。
盛颖
我还想说，刚才聊到的这些事情，比如我的 PhD，前面有很多波折；融资时有很多波折；开源项目做起来也有很多波折。
但现在真的让我评价结局，我会觉得这三段波折，以及包括童年在内的很多波折，最后的终点都非常好。
PhD 第一年找导师并不顺利，但最后找到了一个教科书般完美的导师。开源项目一开始也经历过各种打击，但走到今天，我们有了这么好的团队，大家有能量、有热情，还非常团结。
融资前也经历了很多事情，但最后我们容纳下来的投资人，也都是教科书般完美的投资人。
我刚出来融资时一无所知，想学点东西，就去看了一些 fundraising 相关的书，了解 founder 和投资人之间的关系。
当时很多名词我都不知道。我不知道什么叫 term sheet，不知道什么叫估值，不知道什么叫 seed 轮，也不知道 pitch deck 是什么。
陈倩
你甚至不知道 pitch deck 这个词？
盛颖
完全不知道。我不知道要写多少页、每一页写什么。Term sheet 是什么东西？有人问我“你们有没有拿 term sheet”，我还问：“什么是 term sheet？”
我是在这样的状态下开始融资的。但我还是去尝试学习。
书本里写的都是美好的。书里告诉我，投资人和 founder 之间是终身友谊，是并肩作战的关系。
我虽然早有心理准备，知道童话总是美好的，但现实确实复杂得多。
不过最后，我和我们这一轮的投资人、partners，真的回到了当初在 textbook 里看到的那种 founder 和 investor 关系。书本并没有骗我们。
以前 PhD 之前，很多人描述 PhD 导师和学生之间的关系，可能也过于美好。但最后我真的遇到了那样的导师。那些美好的描述没有骗我。
世界上存在那么纯粹、那么好的导师，存在那么好的投资人，也存在那么好的采访者。
但绝大多数人没有坚持到把跌宕起伏的过程走完，没有坚持到相信那些好的东西确实存在，只是需要筛选，需要耐心等它最后显露出来。
你要有耐心，让那些不是理想状态的沙粒自己剥落掉。很多人可能在中间开始怀疑，然后放弃，或者不再相信。
我想借这个机会说，那些好的人都存在，所有好的东西都不是编出来的。但你要非常相信它，相信到身边没有这样的人时，仍然相信它。
有一天，和你一样相信的人，会和你相遇。
陈倩
坚持。这一段特别好，我刚才都有点想流泪。
最后两个问题。你是一个逻辑非常缜密的人，但就像你说的，这个世界上很多东西是乱的，逻辑上不成立，世界像一个草台班子。你能和它自洽吗？还是会 suffer？
盛颖
11. The Good Things Still Exist
在我的逻辑里是自洽的。我的逻辑不受我看到的事情干扰。
当然也会 suffer。我其实是非常 emotional 的人，很多很微小的事情都会对我造成很大的情绪影响。但我能够把情绪影响和价值观构建分离开。
比如我看到很多不想看到、不希望发生的事情，它们还是发生了，我会很不高兴。但看完之后，我不会因此觉得那就是正常的。我仍然会坚信那个没有看见、但相信它是对的东西。
我仍然坚信有一个自己想看见的世界。现在没有看见，只是还没有看见而已。这个事情我可能会相信几年、10 年，甚至更久。
过往经历告诉我，那些东西其实都存在，最后我也都遇到了它们，所以我有很多正反馈。
很多人没有看到正反馈，所以也不能要求所有人都坚持。但我很幸运，自己一直看到正反馈。这个正反馈循环，让我在遇到类似情况时可以坚持得越来越久。
第一次我等了几个月，后来被验证；下一次等了几年，被验证；再下一次等了 10 年，又被验证。
于是我知道，它总是能够被验证。下一次我可以等 20 年，再下一次可能就没有人生可以等完了。但至少我等到了。我觉得别人也能等到。
陈倩
你有没有想过，是因为你是对的人、是正确的人，所以你等到了？有些人可能对自己的认知有误，可能不是最终正确的那个人，也可能没有天分，等下去就是等不到。你怎么找到自洽？
盛颖
比如我说等了 10 年之后等到了，但我自己的认知可能一直和世界不吻合，这 10 年里我始终是割裂的存在。我觉得这也 OK。
哪怕我的整个人生都是割裂的，我也不想妥协。你能不能找到那个 boundary，这才是重要的。
有割裂是完全 OK 的，不会真的那么痛苦，人们只是害怕而已。如果有人告诉你，事情就是这样，没关系，其实真的没关系。
这个世界上也没有绝对的正确，我不能说自己是正确的人。每个人都有自己的想法，你所谓的正确，在别人眼里可能是不正确的，这也完全 OK，没有任何问题。
唯一重要的是，你是不是按照自己的想法去认知和行动，还是被别人牵着走，或者觉得自己在妥协。
只要你不觉得自己在妥协，就没关系。哪怕真的错了，错了就错了，也没有关系。
我非常不喜欢的是，大家都变得不能执行自己的意志。那是不好的。
如果所有人都执行自己的意志，哪怕彼此不和谐，那也是自然存在的，本来就是合理的。
陈倩
好的，以上就是我们所有的问题。非常感谢。
盛颖
谢谢。