[BidClub_]
苔藓之火 · · 66 min

31. 「26Q1」中美大模型差距过去一年变大还是缩小?- Hugging Face | 王铁震

Raymond王铁震

YouTube
TL;DR
  • 王铁震的总判断:从实际体感看,美国前沿模型仍“远远领先”,且有三个结构性原因。 算力充足让美国进入“月更”而中国模型可能三个月一更;DeepSeek V4 的 1.6T 在对面“可能都是 Flash 或者 Nano 级别”;闭源造成单向透明——“美国可以学到中国最顶尖的探索,中国学不到”。
  • DeepSeek V4 一个尚未被完全发现的优点,是把 KV cache 从内存搬进 SSD,缓存命中与否价格可能相差十倍。 王称 DeepSeek 在“做公益”:在架构探索上投入很大,并实际推进华为适配;V4 发布页小字写明等华为 950 POD 集群上线后价格还要再降;他认为下一代 Kimi、智谱模型都会借鉴, “让智能在中国的价格变得更低”,功德无量。
  • 卡是制约,但估值与变现也决定训练规模。 王指出智谱四千亿元对 Anthropic 的万亿美元计价,MiniMax 与智谱过去十二个月收入都在约一亿美元,即使 B300 放开也买不起多少卡;“特别需要 VC 按一百倍、一千倍的估值来投,烧出一个未来”。Raymond 后来概括,中国模型在训练资源和收入端“可能”都只有对方的百分之一;付费意愿已被验证——“智谱的包月都卖断货了”。
  • 中国开源模型的全球份额被严重低估:HF 报告 41% 对美国 36.5%,且不含无法访问 HF 的中国大陆用户。 美国开发者经历三阶段——从 Reddit 名帖“千问很好,但是我没有办法用它”,到 Qwen 取代 Llama 成研究员默认基座,再到大厂说“开源模型”时八成指中国模型,Cursor 拿 Kimi 训出 Composer 2。
  • 闭源的数据飞轮是美国的护城河,但十二亿人的飞轮可能是中国的解法。 Raymond 判断,中国模型只要跨过可用线,就能在美国模型构成的“与世隔绝的孤岛”之外,像抖音一样在本土飞轮里越转越快。Raymond 的切换条件很具体:到 Claude 4.6 水平即完全切换。
  • 单向学习也曾反向发生:R1 用开源第一次教会全世界思维链。 o1 时代大家不知道思维链如何实现,猜过蒙特卡罗搜索;王认为“非常有可能”Anthropic 拿 DeepSeek R1 去训练它们第一个有思维链的模型,因为 DeepSeek 更早。
  • 王判断 2026 年运动式开源可能退潮:开源应是 go-to-market 手段而非技术理想。 他举例说,若已占据开源市场 80% 的份额,就没有必要继续投入那么多;开始赚钱后激励会改变,且赚钱才能持续开源——Stability“考虑赚钱考虑得太晚,CEO 都跑了”是反例;他引 MiniMax 闫俊杰,称开源是“打造公司先进技术品牌的核心手段”。
  • 回应 Hassabis“落后六个月 + mentality 问题”论:立场不同,“一个是王健林,一个是杨振宁”。 中国没有美国那样的资源和资本容忍 Thinking Machines Lab“据说”融资 50 亿美元、尚未做出产品的试错,大家太着急赚钱;但电动车、光伏证明后发制人可行,DeepSeek 的架构级创新让他“还是蛮乐观的”。
Digest · the substance, structured for research

1. 开门见山的总判断:体感上美国前沿模型“远远领先”

  • 王铁震不看参数看体感:“我们都是用脚投票的”,主力工具是 Opus 和 Codex。第一个原因是算力:B300 上线后美国模型迭代到“月更”,中国模型可能三个月一更,“无形中拉开了几个月的差距”。
  • 第二是尺寸:有人说 DeepSeek V4 的 1.6T 太大、推理不了;但美国模型远大于此,“1.6T 在他们来讲可能都是 Flash 或者 Nano 级别”——在“大就是好”的背景下,很难拿 1.6T 跟 6T 比。
  • 第三是单向透明:“我们不知道 OpenAI 用了什么技术,没有办法从 Anthropic 的经验里学习”,而 DeepSeek 代表的架构探索全开源——“美国可以学到中国最顶尖的探索,中国学不到”。

2. “可用线”之争:Raymond 的苛刻标准顶回了乐观叙事

  • 王的相对刻度:画一条可用/不可用的线——2023 年他办“世界首场大模型写小说比赛”时没有一个人用国内模型;如今智谱模型“遭到市场疯抢”,中国模型“正在飞快越过”能产生 revenue、让人用金钱买单的那条线。
  • Raymond 的 pushback——值得保留:他所有模型都用,但以日常工作为准只有 Claude Code 可用,“Codex 都是不可用”。曾把“小龙虾”项目跑在 MiniMax 上,多步骤、调奇怪工具的任务做不了——“如果它智力不够就探索不了,这个任务就不可实现,那就是不可用。”
  • 王的调和:大部分国人还在聊天框里用模型,而国内大厂已在快速要求员工 AI native——两条可用线衡量的本就不是同一群人。

3. DeepSeek V4 的水花与被低估的 KV cache:“它在做公益”

  • 为什么这次不如 R1 时刻轰动?去魅曲线:初见 ChatGPT 3.5 时“我觉得我已经可以下岗”,如今 4.6 之后 4.7 不惊艳就嫌停滞;“正常我们是线性的进步,大家对它是指数的预期”——“只要你不能持续给我 surprise,你就是不够好,这个行情非常残酷。”
  • 但王认为 V4 的一个优点还没被完全发现:把 KV cache 从大量级压到小量级,“以前需要放在内存里的 KV cache,现在放在 SSD 里就可以了”——能存更多、存更久,隔天续聊仍能命中;命中与否价格可能差十倍,叠加“价格屠夫”定价,写代码成本很低。
  • 王也承认自己并没有很认真地使用智谱和 MiniMax,判断可能带有基于以往体验的偏颇。
  • 王的定性:DeepSeek 是中国为数不多能大规模探索基础模型架构演进的公司,Kimi、GLM 都在尽量模仿它的结构;他认为下一代 Kimi 或智谱模型也会借鉴, “让智能在中国的价格变得更低”,token economy 对全世界都重要。

4. 国产卡适配是世界级难题,DeepSeek 是真用而非发 PR 稿

  • 难在哪:全世界找不到能与 NVIDIA 比肩的第二家,AMD、Intel 砸钱也追不上生态;昇腾“更像 FPGA”,算子实现不同可能导致模型在 NVIDIA 卡输出 ABC、华为卡输出 DEF,“那就没法把这个模型交给用户”——要重做从库到框架到量化的整套栈,NVIDIA 做了几十年。
  • 为什么是 DeepSeek:大家都在做,阿里甚至有自己的 GPU,只是它在华为这条路上走得最远、质量最好。V4 发布时的小字——等华为 950 POD 集群上线价格还要再降——“说明它跟华为是非常深度的绑定,不是跑起来发一个 PR 稿结束。”
  • 外媒怎么看他不 care:“V4 发布之前无数外媒信誓旦旦说下周肯定要发,结果都没有发”;重要的是行业内部的反应——降推理成本的做法会扩散到全行业。

5. 卡是制约,估值与收入也决定训练规模

  • 王认为卡是训练天花板的制约因素,但不是唯一因素。训练是一次性投入,推理成本则取决于有多少人使用,理论上可以通过收费回收;哪一个更大,要看推理量。
  • 智谱已经四千亿元,Anthropic 是以万亿美元计价的公司;即使放开购买 B300,中国企业也因为估值和资金规模不足,买不起美国那么多卡。
  • MiniMax 和智谱过去十二个月收入都在一亿美元左右,哪怕拿全部收入去买,也买不了几张卡。所以“特别需要 VC 按一百倍、一千倍的估值来投这些公司,烧出一个未来”。
  • 付费意愿不是问题:豆包推出包月后大家使劲买,Kimi 包月卖得好,“智谱的包月都卖断货了”——“大家愿意付费,但你得给我一个达到可用级别的模型。”

6. 为“刷榜”辩一个名:不是学生的错,是没人出过好题

  • 王的辩护(“我就是中国学生”):刷榜本质是培训体制和数据飞轮问题——钱学森回国后给学生出的是“把火箭发射到月球该给什么配置”的开放题;中国模型以前没到可用状态、不知道用户需求,“没有人给它出过好的问题,只能拿研究人员常见的题来刷”。
  • 美国模型早刷完旧榜,“已经在发明新的榜再去刷”——从海量用户和企业需求造出反映现实的榜,“本质上还是刷榜,但榜的质量不一样”。如今中国模型跨过门槛、企业开始出题,研究人员“一下就获得了一个宝藏”,刷完后还能得到现实中的商业转化。

7. 奇怪的用例与闭源的数据飞轮:“你在花钱贡献几十年的经验”

  • Raymond 现身说法,最难的用例是剪视频:Claude Code 里上百段对话围绕一个视频,调用 Whisper 转写、做 timestamp、判断“对话的开头在哪”、调用图像生成并加编辑功能;每一步出错视频就不能用,中途人也插不进手——“我相信 Anthropic 的人估计也不会想到,会有人把大模型拿来做视频。”
  • 王解释闭源为何好:subscription 让厂商看到无数这样的 case,训练时预先覆盖你的场景——“这个模型太懂我”,虽然这种“懂我”不会在任何 benchmark 上体现;开源模型交付出去后拿不到用户数据,缺少数据闭环。
  • 更狠的一层:用户写的 skills 会在下个版本“很神奇地被 Anthropic 发现、训练到模型里”——“你不仅在花钱买 token,你实际上是在花钱贡献你几十年的经验。” Raymond 补例:ARR 一亿美元的法律 AI Harvey,被一个律师用 Claude Code 复刻成 GitHub 上人人可下载的“巨大 skill”。

8. 差距会不会越拉越大?十二亿人的飞轮是答案

  • Raymond 的担心:Kimi 订阅少、数据少,闭源壁垒岂不越垒越高?他判断,中国模型只要跨过可用点,就能在美国模型构成的“与世隔绝的孤岛”之外发展;王认同,称“十二亿人能给它创造出无限的数据”。
  • 类比抖音:视频推荐算法不是抖音发明的,是十四亿人帮它把飞轮卷成世界最好。
  • Raymond 的切换条件很具体:不是爱国情怀,是中文支持更好、且担心美国账号“分分钟被封”让重要生产工具失灵——“但凡有个到 4.6 的水平我就很高兴,就可以完全 switch 过来。”

9. 量化实战:大约一年前或半年前 Cursor 写不了的策略,4.6 似乎跑通了

  • Raymond 完全不会写代码,只能接受封装式交付:大概一年前或半年以前用 Cursor 写量化策略,“一加一有些时候等于三,有些时候等于四”,超过 20 万后上下文窗口完全崩——“当它给你不可用的感受时,是绝对不能上线放钱的。”
  • 如今 Raymond 发现 Claude 4.6 好像又聪明了一些,重写那些东西“好像就 work 了”;关键是 skill——“skill 其实是一种把上下文 compact 的方式”。
  • 王称简单策略“有一些赚了钱,但赚得很少”,复杂 CTA 策略最近用 Claude Code 重写,“希望这次能赚更多钱”。策略会因大模型人人可得而失效吗?王认为还好,因为写策略时带着审美判断;但他投入时间还不够久,尚未看到失效,也还没做策略失效后的补丁。

10. HF 的数字与美国开发者的三个阶段

  • 春季报告:中国模型下载 41%、美国 36.5%——但报告“写得很保守”:HF 在中国大陆无法访问,中国用户下载未计入;报告里的用户是全球用户,但不包括中国大陆用户。因此中国模型下载量被严重低估,可能远超 41%,且早就超过美国模型,不是报告发布时才发生的。
  • 阶段一:小企业与个人开发者先用,标志是 Reddit 几千回复的名帖“千问很好,但是我没有办法用它”——发帖人跟公司法务反复解释“这就是一个无状态的模型”。
  • 阶段二:Qwen“量大管饱、各种尺寸应有尽有”、好微调,成为研究员默认基座、抢占 Llama 生态位——被问“Llama 上次更新是什么时候”,Raymond:“你突然提到这个名字我都忘记了。”
  • 阶段三:美国大厂“已经不 care 是不是中国的模型”,说“开源模型”时百分之八十指中国模型(Llama 慢、IBM Granite 还不错、谷歌只有端侧小模型 Gemma);Cursor 拿 Kimi 训了 Composer 2。王解释,若拿智谱问题更大,因为智谱受到出口管制,所以拿的是 Kimi——“一开始有中国就不要,后面已经不看中国,只看开源。”

11. 单向学习的另一面:R1 教会了全世界思维链

  • Raymond 直问:Anthropic 在蒸馏中国模型吗?王:现阶段更多是架构层面的启发;但回看 2025 年,ChatGPT o1 那种思维链模型当时对外不透明,大家猜过蒙特卡罗搜索,是 DeepSeek 用开源第一次教会大家,此后所有模型拼命往这个方向收敛。
  • 王认为,“非常有可能”Anthropic 拿了 DeepSeek R1 去训练它们第一个有思维链的模型,因为 DeepSeek 更早。理论上,Anthropic 也可以在内部专门蒸馏 DeepSeek 的答案。
  • 欧洲插曲:Mistral 作为法国“主权大模型”过得不错,政治站队的国企必选;德国中层选 Mistral 的阻力也远小于选中国模型——但“除非你真的不可替代”:宝马、奔驰照样来中国采购无人驾驶。

12. 预测:2026 年“运动式开源”可能退潮,开源应是赚钱的手段

  • 王判断:2025 年以后大家拼命开源,甚至到了“运动式开源”的程度,可能在 2026 年逐渐降温。理由:他举例说,若已占据开源市场 80% 的份额,就没有必要继续投入那么多;开始赚钱后老板、投资人、股民的想法都会变, “除了秀肌肉之外,赶紧挣点真金白银”。
  • 正确姿势:“希望这些开源公司使劲赚钱,然后使劲开源,而不是砸锅卖铁也要开源。” 开源是 go-to-market、招人与品牌建设的手段——引 MiniMax 闫俊杰,开源是“打造公司先进技术品牌的核心手段”,顶尖研究员不愿进一家名字上不了任何技术博客或 paper 的闭源公司。
  • Stability AI 是反例:考虑赚钱太晚,彻底丧失了继续开源的机会,整个公司的 CEO 都跑了。

13. 回应 Hassabis:“一个是王健林,一个是杨振宁”

  • Hassabis 一月说中国基础模型落后约六个月,且未展现 push frontier 的能力,问题在 mentality 而非技术封锁。王的框架:他站在想夺诺奖的立场,“同样评价一个事情,看法完全不一样”。中国拿 AI 诺奖级成果“挺难的”——“没有那么多闲情逸致去探索不太靠谱的方向,大家太着急赚钱了”。
  • 但他不悲观:电动车、光伏都是后发制人的模式;DeepSeek 证明中国能独立做出架构级创新,“未来还是有希望的”。美国能容忍 Thinking Machines Lab 据说融资 50 亿美元、尚未做出产品的试错;中国资本环境则不太允许无缘无故给一个人 50 亿美元去买卡探索——“这是一个时间的问题。”
  • Raymond 的 recap 带出最刺的数字:MiniMax 上市那期播客第一句是“太难了”——中国模型资源“可能”都是对方的百分之一,训练端和收入端也各约为百分之一。王笑纳“盲目乐观”:“只有当所有投资人都盲目乐观的时候,我们产业界的人才能更幸福。”

14. 短期难补的差距:广义的模型安全,与 top-down 的中国路径

  • 王提到 Nathan Lambert 等人访华时的文章和 notes:中国对广义模型安全——模型如何影响每个人的生活,而非内容管控——“没有那么 care”;“效用和向善是不一样的”,例子是“被锁在算法里的外卖骑手”、豆包式“先给你充足的情绪价值,好还是坏不好说”。
  • 结构差异(Raymond 的观察):中国的规范多由政府兜底、top-down;美国是学界产业界领袖推动立法的 bottom-up。王补充舆论的作用——拼多多“砍一刀”在欧洲撞了铁板。下一个爆点:王猜 AI 陪伴带来的青少年心理问题;Raymond 猜“coding 工具之后的人类过劳死”——“感觉我是 AI 的奴隶。”

15. 两个产品级非共识:给文员做 PPT,以及“Code”这个词有毒

  • 王的“广告”:代码场景渗透率飙升后,下一个马上可被满足却没人关注的市场是给不写代码的办公室文员写 PPT 和漂亮文档——类似 Claude Design 这类“用代码生成非技术人士能用的东西”。Raymond 已在前头:“我现在写的全是 HTML 页面 print 成 PPT。”
  • Raymond 给大厂 AI 负责人的建议:“Code”这个词是有毒的——身边很多人三个模式都能用却不碰 Code,不是难,而是“程序员之外的所有人对 Code 都有天生的恐惧感”;Code 应是百分之百全员渗透的底层,用户只看“最后能不能给我交付”。

16. Hugging Face 是“AI 界的淘宝”,最近的 aha 是模型自举

  • HF 是模型集散地:厂家上架、统一 API、可下载可云端部署;不想读 paper 就去 HF Spaces 跑免费 demo;榜单反映“研究人员用脚投票的结果”,Raymond 用它监控国产大厂进度,王认为霸榜时长可作投资决策依据。
  • 过去九十天的哇时刻:让模型自己迭代自己——AK 几个月前发的 AutoResearch 项目,给个目标让模型自己解决训练问题。“以前写代码是门槛,Claude Code 打破了;后来炼丹是门槛,现在大模型也在快速学炼丹。”
  • 终局:“当有一天模型能够完全 bootstrap 自己,你实际上就发现了一个新的物种”——像生物靠 DNA 自己演化繁殖。王认为大的 Neo Lab 里可能已经发现一些东西了,模型自我迭代也可能已经发生,只是人类并不知道;若优化目标设错,它“可能一下子就跑得很远”,这会是很大的伦理问题。

17. 尾声:AI 时代养孩子,“每一代人都会找到自己的使命”

  • 现实已在改写“必备技能”:王七岁的儿子打字先按麦克风说话,不会写字也能沟通;王自己用 Typeless coding,从早说到晚——“如果 Typeless 大家都能用的话,为什么小孩一定要会写字呢?”
  • 王的感悟:爸妈当年觉得“每天玩电脑你以后能找到工作吗”,现在真是玩电脑找到了工作,站在摄像头前跳舞也能赚很多钱——“每一代人都有自己的使命,相信他们,但我不相信又能怎么样呢?”
  • Raymond 的标准:未来是相对排序,读什么大学可能都不重要,重要的是“成为 peers 当中更愿意去尝试的人”、心态情绪稳定。Raymond 的另一版答案来自疫情:“疫情之前还想着孩子考北大清华,疫情之后就是活着,不要生病。”王补充,不管有没有 AI,最重要的是身体健康、做自己想做的事情、开心快乐、心态健康。
Raymond

大家好,欢迎大家收听《苔藓之活性》的一期,我是 Raymond。今天我们来讨论一个非常有意思的话题:中国大模型和美国大模型的差距是在变大还是缩小。

今天我们请到的嘉宾是王铁震老师。王老师是 Hugging Face 前亚太区生态负责人,在加入 Hugging Face 之前,曾经在谷歌负责 AI 在手机和边缘设备上的落地与应用。他在 Twitter 上也非常活跃,经常分享关于中国大模型和美国大模型的评论。

王老师的视角很不一样。他可能不太关心参数规模和模型架构,主要关心的是效率、成本,以及这些模型是不是真的能跑起来。王老师的分享一直非常积极,很多外媒报道和研究报告也会引用他关于大模型的观点。今天非常高兴请王老师来聊一聊,过去一年中国大模型和美国大模型之间的差距究竟是变大了还是缩小了。

王老师可以先跟大家打个招呼。

王铁震

大家好,我是王铁震,刚从 Hugging Face 离职。之前主要负责帮助 Hugging Face 对接国内的开源生态,尤其是 AI 模型领域的开源生态,所以像 Qwen、DeepSeek、Kimi 等,都是我们合作的对象。最近我也在探索一些新的事情。

1. 美国前沿模型领先

Raymond

那我们就开门见山,先说第一个最大的话题:中国现在的顶尖模型和美国的顶尖模型,在过去 12 个月的过程中,差距是变大了还是缩小了?

王铁震

其实我更关注这个东西实际产生的效果。像你也在用 Claude Opus、Codex,从实际体感上来讲,我还是觉得美国的这些前沿大模型远远领先于中国的模型。我们都是用脚投票的,现在主力使用的模型肯定都是 Claude Opus 或者 Codex。

这有几个原因。第一,美国的算力其实非常充足,所以你看到美国的这些模型,尤其是最近这一波 NVIDIA B300 上线之后,迭代速度变得越来越快,基本已经到了月更的状态。中国模型可能是 3 个月更新一次,这样无形中就拉开了几个月的差距,因为你没有那么多资源去训练模型。

第二,美国这些模型的规模都比中国模型大很多。比如 DeepSeek V4 出来之后,很多人说:“这个模型推理不了了,因为它有 1.6T,太大了。”但是美国这些模型其实远远大于 1.6T。1.6T 对他们来说,可能只是 Flash 或者 Nano 级别的模型,是 Lite 级别的模型。

所以在现在“大就是好”的背景下,你很难拿一个 1.6T 的模型跟人家 6T 的模型去比。能做到现在这个状态,其实已经很不错了。

第三,美国那边可能做了很多不一样的试错和探索,但这些探索对我们来讲是不透明的,因为它们都是闭源模型。今天我们不知道 OpenAI 用了什么技术,也没有办法从 Anthropic 的经验里面学习。但是中国所有的进步,尤其是 DeepSeek 代表的这种新模型架构探索,是开源的。

这实际上形成了一种信息上的单向透明:美国可以学到中国最顶尖的探索,中国却学不到美国的探索。这在迭代速度、认知和尝试上,又产生了一层差别。

这就是为什么现在中国模型在使用体感上,还是远远不如美国模型。

2. 中国模型跨过可用线

话说回来,其实我们做得也还是很不错。如果不是从绝对差距来比较,而是从相对差距来比较,画一条“可用”和“不可用”的线,我觉得中国模型已经逐渐跨过了“可用”这条线。

比如智谱的模型就在遭到市场疯抢,因为大家觉得:“这个模型我现在可以用了。”你想想,2023 年的时候,大家对中国模型是什么样的态度?基本不可用。

我们 2023 年搞过一场世界首场大模型写小说比赛,里面大家用的都是 Claude Opus 和 ChatGPT,没有一个人用国内模型,因为基本用不了。到后来,2025 年有了 DeepSeek,很多人都拿 DeepSeek,包括海外用户也用 DeepSeek 做很多事情。再后来 Kimi 出来,用的人越来越多,MiniMax,尤其是这波 OpenClaw 出来之后,相当多的人不仅在中国,在海外也开始采用中国模型。

因为这些模型更便宜、更可控,而且开源模型的数据隐私更好。所以,如果我们画的这条线是“中国模型可不可用”,也就是它是不是已经能够产生收入,让大家愿意用金钱买单、用脚投票,我觉得中国模型其实正在飞快地越过这条线。从这个角度来讲,我们做得还是非常不错的。

3. 可用标准因人而异

Raymond

我有几个问题,想倒过来说,先说“可用”和“不可用”。我自己不是很同意这个说法,因为我所有的模型都在用,Claude 也用,Codex 也用。

我会觉得,如果我现在在自己的日常工作当中,以 Claude 为核心使用工具,我能感觉到 Claude Code 是在一个特定水准上的。低于这个水准,或者低于这个水准很多,对我来说其实就是不可用。

举个例子,我之前把小龙虾跑在 MiniMax 上,你就能发现,MiniMax 跟 Claude Code 差的是一个非常大的级别。这个级别差得如此之大,以至于很多任务根本做不了。

有一些任务需要多步骤完成,有些游戏比较复杂,需要调用一些奇奇怪怪的工具,还有一些是我自己都不知道怎么做的任务。理论上来说,一个好的助手应该帮我探索:需要去什么地方下载什么软件,使用开源的还是闭源的,或者需要什么 API,才能完成这个任务。

如果它的智力不够,探索不了这个任务,那么这个任务就不可实现,那对我来说就是不可用。我不管它到底是高中水平还是初二水平,无所谓,反正最后它做不了。所以我觉得,“可用”和“不可用”在我的定义当中,Codex 都是不可用的。

我这个标准可能有一点过分,但我自己使用的场景确实是只有 Claude Code 可用。中国模型离我的主观可用还有多远,我们可以再讨论。

王铁震

你刚才讲的开源,我觉得特别有意思。还有一个事情我想问一下,就是训练成本的问题。你觉得现在的训练成本,还是不是导致今天这个差距的一个核心因素?包括更新频率,以及模型有多少个 T,这些是不是训练成本带来的核心差距?

Raymond

一个是“可用”和“不可用”。你是骨灰级的深度用户。当我们说“可用”和“不可用”的时候,可能更多是局限在:比如在国内用不到 Claude Opus,用不到 Codex,那国产模型是不是已经能够对他的工作产生一定帮助。

如果按照这个标准来定义,国产模型的进步还是很大的。你的定义可能就是,这个东西对我的生活是正号还是负号,差不多是这种感觉。

大部分国内的人用模型,包括 DeepSeek 或者豆包,大家其实还是在聊天框里面用,并没有用到 coding environment。我知道的是,国内大厂基本上都在快速要求员工去做 AI native,不仅是代码和 PRD,甚至很多沟通也尽量让 AI 来做,已经演化得非常快了。

普通民众用得可能还是以聊天框为主,但大部分工作人员理论上是在 coding environment 里面用得更多,也就是 AI native 的环境更多。

王铁震

我这样说可能有点偏颇,因为我自己并没有很认真地用智谱和 MiniMax,可能只是基于之前的经验,用着用着觉得不好,就放弃了。

我觉得使用体验或者尝鲜度上,其实有一条快速衰减曲线。比如我第一次用 ChatGPT 3.5 的时候,觉得:“哇,我已经可以下岗了。”那个时候我就觉得自己已经可以下岗了。实际上,那个时候的模型跟现在相比差远了,我也没有下岗。

所以一开始被惊艳到之后,可能过两三个月,你就觉得:“好像这个东西生来就应该这样做。”它一旦出错,我就非常不可容忍。

现在这一波 AI 浪潮极大地加快了这个进程。我记得很早的时候用谷歌搜索引擎,我觉得:“哇,这就是天顶星科技。”这个东西如果能用,对我帮助很大;如果坏了,我觉得也很正常。

花了几年的时间,我的观念转变成:如果今天 Google 网页打不开,那一定是我的网断了,我不能接受它有一天会坏掉。现在 AI 的进程更快,比如 Claude 4.6 出来之后,后面再出一个 4.7,如果没有让我特别惊艳,我就会觉得:“这东西怎么进步停滞了?”

实际上可能只过了两个月,人就会快速对一些新的能力去魅。因为一旦我用上了,我就觉得它本来就应该是这个样子。我已经忘了有多少研究员为了这个能力的进步付出了多少努力,就是这种感觉:如果一个新模型没有让我感觉“哇”,我就会觉得这家公司没前途。

Raymond

是的。我觉得这其实不管是投资人还是普通用户,现在只要你不能够持续给我惊喜,那你就是不够好。中国和美国都是这样,这个行情非常残酷。

比如 DeepSeek V4 这一次其实是很“哇”的一个东西,但它没有那么“哇”,所以大家就觉得不够“哇”。

王铁震

我觉得这可能跟大家对一个东西“哇”的需求有关。你一旦不能有足够高的指数级增长,大家可能就会觉得没有自己想象的那么好。

正常来说,我们是线性进步,但大家对它的预期可能是指数级的,所以这中间就会有预期差。

4. DeepSeek重构推理成本

不过我个人觉得,大家还没有完全发现 DeepSeek V4 Pro 这个模型的优点。我觉得它还是有很多特色的。

DeepSeek 应该说是在做一件公益事业。它是中国为数不多、能够大规模探索基础模型架构演进的公司。你去看 Kimi 或者 GLM,其实都在尽量模仿 DeepSeek 的结构,也没有花特别多的力气去做国产卡适配。

DeepSeek 绝对在这上面花了非常大的精力,所以它是在做公益,在扶持整个生态的进步。

具体到这次的模型,它实际上是把几个新技术用在了一起,直接解决了一些非常难的工程问题。我这样说比较抽象,但有一件事,如果你拿 DeepSeek 去写代码,就会注意到它的成本非常低。

它的成本低来自两个方面。一个是 protocol price 远低于其他家,这在我们的预期之中,因为 DeepSeek 从来就是价格屠夫。第二个是它的 cache hit rate,也就是缓存有效命中的比率非常高。

当你用大模型做推理时,如果模型之前已经看过前面那段话,并且已经算过 KV cache,那么下次你再补充一个新的交流环节,它会把前面的结果记住,不用重新计算,只算增量内容就可以了。

这可以大量降低推理成本,而且会让推理变快,因为前面 prefill 的量会少很多。

DeepSeek 做了一个什么更新呢?它让模型的 KV cache 从一个非常大的量级,变成一个非常小的量级。以前需要放在内存里的 KV cache,现在放在 SSD 里面就可以了。

Raymond

这会带来什么效果?

王铁震

你想,我们之前跟模型交流,如果看文字,可能就几十万字,context 可能完全没有占满。但是如果看它的 KV cache,可能大到几百 MB,这些数据还要存在内存里。你可以想象,它对内存的需求有多大。

所以很多公司不愿意做特别大的 KV cache,hit rate 上不去,就是因为它觉得这个数据已经冷了,会把数据踢出去。

现在我可以把更多数据存在硬盘里,可以存得更久。哪怕你今天聊完,明天再去聊,也会发现一开始还是能够命中缓存。

Raymond

我简单理解一下:是不是我自己在使用模型的时候,不同模型对于 KV cache 和上下文的处理能力是不太一样的?

比如我在 Claude Code 里面问:“我想投资 A 公司,你帮我分析一下 A 公司。”它分析完了。第二天我再问:“B 公司你再帮我看一下。”它可能会在分析 B 公司的时候加一句:“B 公司什么都好,就是有点贵,比昨天看的 A 公司还贵了一倍。”也就是说,它把昨天的所有东西都带进来了。

王铁震

这个是 Claude Code 自己的记忆问题,memory 的问题,跟 KV cache 不一样。

KV cache 是非常底层的东西,正常用户看不到,只是在你看账单的时候能看到:cache hit 和没有 hit 的时候,价格可能差 10 倍。

Raymond

所以它最后影响的并不是实际体验,而是结账时的价格。

第二个问题是关于国产卡适配。国产卡适配具体要做哪些事情?很难吗?

中国有那么多大厂,腾讯、阿里都在做大模型,但为什么没有人去做华为适配?他们是不喜欢华为、不喜欢国产卡,还是太难、做不了?还是需要花很多钱?他们也有钱有人,为什么不做?为什么是 DeepSeek 做?

王铁震

这总不能全都是情怀吧?

这件事情不是你有钱有人就一定能做好的,里面有太多各种各样的问题。我们不说国内,这其实是一个世界性的难题。

放眼全世界,能找到和 NVIDIA 比肩的第二家 GPU 厂商吗?其实找不到。哪怕是 AMD、Intel,也花了很多很多钱,投入了很多很多人,但它们在生态上的影响力还是远远不如 NVIDIA。

比如你现在去看 AMD,它有 ROCm,也有各种推理框架的支持,但实际使用 AMD 这套东西做推理的人,还是比使用 NVIDIA 做推理的人少很多。

这里面有很多问题。可能是它的系统优化不到位,所以推理成本或者推理速度远远低于 NVIDIA。第二个是,它的计算模式可能不一样。

华为的昇腾更像是 FPGA,NVIDIA 更像是 GPU,所以它们的计算模式不一样,里面每一个算子的实现也不一样,最后输出的数值就不一样。

这非常要命。本来模型在 NVIDIA 卡上输出的是 A、B、C,到了华为卡上却输出 D、E、F,那就没法把这个模型交给用户了。

因为模型本身是在 NVIDIA 卡上训练的,所以 NVIDIA 卡输出的结果和训练预期是一致的。如果在华为卡上推理时结果不一样,那就只能说,因为数值精度误差,导致模型在这上面的推理不可用。

你要解决这个一一匹配的问题,实际上非常难。你是重新去做一个华为版 CUDA 吗?到底要怎么解决这个事情?

每一层都有自己的工作要做。华为自己也要做库这一层,有自己的框架层,上面还有应用层,甚至有一些针对模型的训练,也要在华为上面重新做一些工作。它的量化可能也不一样。

所以基本上是重新设计一整套从底层到上层的流程,这是非常难的事情。NVIDIA 做了几十年。

Raymond

我是不是可以理解为,适配完成之后,DeepSeek V4 在 NVIDIA 的卡上跑出来是 A、B、C,在华为的卡上跑出来也应该大概率是 A、B、C?可能是近似的 A、B、C,但应该非常接近,肯定不能是 D、E、F,对吧?

王铁震

对,不能差得太大,可能会有一些微调区间。

Raymond

明白了,这是一个耗时间、耗钱、耗人的事情。那为什么是 DeepSeek 来做?你有什么猜想吗?之前为什么没有其他人做?

王铁震

其他人也有在做,只是没有做到 DeepSeek 这么大的量级。比如阿里为什么没有做?我觉得大家其实都在做,只是做的程度不一样。

阿里甚至有自己的 GPU,之前也有报道说它要做自己的 GPU。我觉得后面大家都会慢慢往这个方向去摸索,只是 DeepSeek 在华为这条路上走得比较远,质量也做得比较好。它是实际把华为的这些卡拿去真正用起来。

我记得 DeepSeek V4 发布的时候,页面上有一行小字,说等到下半年华为 950 POD 集群上线之后,价格还要再下降。这说明它跟华为之间有非常深度的绑定。

它不是说“我在华为上面跑起来了”,然后发一个 PR 稿就结束了,而是真的在使用华为的东西。

Raymond

我觉得这是真的很厉害。之前 Bloomberg 和 CNBC 都有一些报道,说 DeepSeek 今年发布的时候,看起来美国人是比较松了一口气,感觉好像中国和美国在大模型上的差距没有缩小。至少很多外媒是这么写的。

我看到你发的推文,有很多国外媒体会引用你的 Twitter。所以我想问一下,你之前在 Hugging Face,应该更能看到全世界不同模型的变化。你觉得过去一年,中美两边有什么变化?特别是从美国人看中国模型这件事情上。

王铁震

首先,我不太看外国媒体的报道,也不太会被它们影响。我更多还是希望看到行业内部人士的发言,我觉得这些内容的分量可能更重。

就举个例子,DeepSeek V4 发布之前,已经有无数外媒信誓旦旦地说:“我有内部消息,我知道他们下周肯定要发布。”结果都没有发布,拖了很久。

所以我觉得这些人的观点不值得作为确凿证据。他们怎么想,我其实不是特别在意。更重要的是,行业内部的人怎么样思考这个事情。

我觉得 DeepSeek V4 发布之后,行业内部还是有很多关注。比如刚才我们说,它能够大幅降低推理成本。我相信下一代的 Kimi 或者智谱模型,也会从中借鉴很多非常有价值的东西,进而让全国的模型都变得更便宜、更好用。

这种价值其实非常伟大。让智能在中国的价格变得更低,让智能在中国有更强的渗透,这肯定是一件功德无量的事情。对于中国的经济来说是这样,对全世界也是这样,token economy 非常重要。

5. 训练上限不只取决于显卡

Raymond

那我们回到前面你说的第一个问题,训练成本。你刚才讲的是推理成本下降,让大家都能用到。但对于 DeepSeek 本身来说,它最大的花费项其实还是训练成本。

刚才你讲中美模型差距,也可能来自训练能力和训练环境。比如 DeepSeek 是 1.6T 的模型,而其他人可能已经是 6T 到 10T 了。

我都不知道 T 应该是多大的单位,平常接触的是 M,然后是 G,最后到了 T,数字越来越大。现在已经是在 1.6T 显得比较小的环境里,那是不是卡的限制还是非常严重,导致中国模型在很长时间内都会受制于训练环境?

王铁震

不见得。训练肯定很贵,推理也很贵。究竟哪一个更大,要看有多少人在使用这个模型做推理。

训练是一次性的投入。我一旦决定在 3 个月内,用多少 T 的语料去训练一个多大的模型,训练成本就算出来了。推理的钱理论上可以卖出去换成钱,假设这个账是平的。

Raymond

但像 DeepSeek,它还是要花很多时间和钱在训练资源上。既然训练天花板受到卡的限制,那是不是意味着中国模型确实会在很长时间内受制于训练环境?

王铁震

训练天花板方面,卡肯定是一个制约因素,但卡不见得是唯一的制约因素。

就算这次黄仁勋来了,说中国可以买 NVIDIA B300,我觉得中国还是没有美国那么多的卡。为什么?因为中国这些企业的估值不够。

智谱已经 4000 亿元了,但你看看 Anthropic,它是以万亿美元来计价的公司。你的估值不够高,就买不到那么大的规模。就算它放开让你买,你也买不起,没有钱。

另外一端的变现也很重要。比如 MiniMax 和智谱,都属于过去 12 个月收入在 1 亿美元左右的公司。相比之下,哪怕你把全部收入拿去买卡,也买不了几张。

所以特别需要 VC 按一百倍的估值、一千倍的估值来投资这些公司,帮它们烧出一个未来。

这也就是为什么我特别关注,中国普通用户使用这些模型时,它们是不是已经跨过了“可用”的范围。一旦跨过可用,很多人就会为之付费。

Raymond

中国人其实很愿意付费。我一点都不觉得中国人不愿意为包月服务付费。你看豆包上线包月之后,大家还是使劲买;Kimi 的包月卖得也很好,智谱的包月甚至卖断货了。

我觉得大家更多是愿意为之付费,但你得给我一个达到可用级别的模型。只要能够真正提升生产力,让我在别的地方赚出钱来,让我在老板那边看起来更聪明、更厉害,写代码更快,我肯定愿意为之付费。

问题是,你能不能做到那个比较可用的级别。

王铁震

没错。

6. 真实使用定义模型价值

Raymond

我之前看到一个评论,觉得很有意思。很多中国模型在 Hugging Face、OpenRouter 或者 LMArena 上的排行榜排名特别靠前,但实际使用的时候却不好。为什么会这样?

因为大家都在刷榜。很多模型都是为了融资、PR 去刷题。我记得之前应该是姚舜宇吧,也说过类似的情况。感觉跟中国学生参加高考很类似。这其实非常影响用户的实际体验,因为我不关心你到底排第几名,反正我几个任务下去你都用不好,那我就不续费了。

你怎么看这个事情?

王铁震

我还是想替中国学生说一句,毕竟我就是中国学生,我也是。我先不说刷榜这个问题,我觉得更多是培训体制和数据闭环的问题。

中国学生再爱刷榜,如果给他一个很好的老师,而这个老师给他的题目,是实际研究或者实际工作中会遇到的题目,那就没问题,这些学生一样可以成长得很好。

我记得钱学森回国之后给国内同学上课,给的问题就是开放式问题:如果把火箭发射到月球,应该给这个火箭什么样的配置?

其实我们是能够问出很好的问题的。但是如果没有这样的老师去引导,没有这样的目标,那么就只能按照自己的理解,反复去刷一些题目。

所以我觉得中国模型爱刷榜,是因为它之前从来没有达到一个可用的状态,不知道用户的需求是什么,也没有人给它出过好的问题。它只能拿研究人员喜欢的、常见的问题去刷。

其实这些东西美国模型早就刷过了。美国模型已经过了刷这些榜的阶段,它在发明新的榜,然后再去刷。

从茫茫多的用户需求和企业需求里面,创造一个新的、能够反映现实情况的榜,然后去刷那个榜。本质上还是刷榜,但是这个榜的质量不一样。

现在中国模型已经跨过这个门槛,有了大量企业合作。这些企业会告诉它:“我的需求是什么,你只要解决了这个问题,我就愿意买你的模型。”

研究人员一下就获得了一个宝藏,有了新的榜可以刷。把这个榜刷完之后,真的能得到现实中的商业转化,这就非常有价值。

刷榜没有问题,只是一开始可能不知道方向,刷错了榜。

Raymond

很有意思。你描述的其实是这样一个画面:中国模型整体上在时间上比美国晚一点,所以很多时候用户也会更晚一些。国内的付费环境和包月服务,都是后面才出现的,所以当时确实没有更好的 benchmark。

而且两边都是黑盒子,我也不知道你问了什么,比较麻烦。

王铁震

这本身就是比较割裂的。你去看一线训练模型的人,很多都有相似的学校背景,学计算机科学,学习这些理论,但其实没有见过工业界的需求,不知道用户到底要什么。

他只是觉得:“大家好像都在做这个事情,那我也做一做。”如果碰巧能解决你的问题,那太好了。

但是他的模型没有数据飞轮。你的数据没有交给他,所以他就算使劲猜,也不知道应该往哪个方向进化。

我可以跟你讲,他们一定会非常惊讶,他们完全不知道我在用力什么。我的用力点都很神奇。

Raymond

我现在打开 Claude Code 写的东西,都是奇奇怪怪的东西。不如借这个机会,说不定有研究员在听,你可以跟他们讲一下,希望他们在哪些方面提高模型。

王铁震

简单的事情,比如我最近要参加 HYROX 比赛,就给自己设计了一个 Web App,能够监控我每天的训练流程,类似于记账本的概念。这个非常简单,大家都能做。

接下来可能就会出现区别。比如我要带我小孩去看学校,就要做一个有地图功能的 checklist,这就很多人做不了了,因为地图调用非常复杂。

我觉得很多人搞不清楚地图调用的复杂性,以及实际呈现效果。

更难的任务是剪视频。我现在会给它一个视频任务,说:“你现在开始剪。”我说这句话之前,在 Claude Code 里面其实已经说了上百段话,它要把任务拆成很多份,但所有上下文都是围绕一个视频发生的。

它要先去转录这段内容,调用 Whisper,转录出来之后做时间戳。对于视频,还要有特定的语义理解:到底这一段是不是对话的开头?

比如我们现在这个对话如果被剪成视频,到底刚才的对话从哪里开始?它要理解这一段语义,然后把对应部分剪出来。它还要调用图像生成工具,给视频增加其他编辑功能。一堆事情加在一起,这是一个非常复杂的综合任务,每一步出错,视频就不能用。

AI native 环境就是从头到尾都由 AI 来做,因为我不能中间进去说:“帮我把字幕里的一个字改掉。”这个事情我做不了。

如果它重新渲染一段视频,中间有一个字幕错了,我只能说:“麻烦你去 5 分 36 秒的地方把那个字改掉。”它改完一个字,又重新渲染一遍视频,很多事情都很复杂。

做视频这个功能我之前也没有想过。我相信 Anthropic 的人估计也不会想到,会有人把大模型拿来做视频。

还有很多其他工具。比如我自己做基金,有股票追踪、策略编写,还有连接 API 接口,这些事情太多了。

人类也在探索新的模式。比如我经常会问身边投资做得很好的朋友:“你们怎么用 Claude Code?”他们会给我一些案例上的启发,那些用法是我作为投资人想不到的。

这也意味着,大概率 Anthropic 的人或者任何顶尖研究员,也可能不知道某个用例存在。但是如果你用 subscription,他们能够看到你的数据,看到你的数据之后,就可以让 AI 把这些 common case 总结出来,再逐渐优化模型。

这就回到为什么你觉得美国闭源的头部模型会比中国开源模型好。开源模型没有数据闭环:我把模型交付出去之后,谁在用、在哪儿用、怎么用、数据怎么流转,跟开源方完全没有关系,因为模型不在我的数据中心里运行,而是在你的数据中心、用户的数据中心里运行。

好处是用户掌握所有数据隐私,坏处是开源模型没有办法从用户那里得到给养。

开源模型也可以同时卖 subscription、做开源模型。它通过开源模型获得的用户,无法从这些用户那里获得数据反馈;但它卖 subscription,就能够看到一些数据。

回到你刚才说的闭源模型为什么好,是因为闭源模型看了太多像你这样的案例。这个其实就是传统移动互联网里说的产品经理很重要,UX、user experience 很重要。

在某些场景下,用户就是想做一件事情。如果你提前考虑到了,用户就会觉得:“这个产品经理太懂我了。”

现在,如果这些大模型在训练阶段充分考虑了你的场景,你用的时候就会很爽,会觉得:“这个模型太懂我了。”虽然“懂我”这件事情,不会在任何 benchmark 上体现出来。

Raymond

我理解你的意思是,闭源模型会把我的 input 打包成两类数据。第一类是我的 input,也就是一段一段的话;第二类是我用完这个 input 之后,对 output 是喜欢还是不喜欢。

这应该是一个强化学习的过程。把这两个核心数据点打包之后,成为下一个 iteration 里重要的训练数据集。

王铁震

听起来可能没那么直观,但我觉得我的数据很多,我提供的数据真的很多,而且这些数据绝对都是由 AI 处理的。

对于 AI 来说,它可以快速发现一些常见组合,或者快速发现一些高价值的 skill,然后把这些东西训练进模型。这种事情对 AI 来讲,可能是完全自动化的、非常 AI native 的闭环。

就像 Dario Amodei 之前说的,现在所有 AI 模型都是由 AI 自己迭代的。我最近也在做一些这方面的探索。我相信这些闭源厂商有更多资源去做这方面的探索,不过中间肯定还是有人参与。

Raymond

这样说的话,中国模型跟美国闭源模型之间的差距不是会越拉越大吗?因为中国的绝对付费比例更低。

你想,Kimi 的 subscription 用户更少,数据也更少;它本来卡就少,数据和技术可能也差一些。Anthropic 我每个月花这么多钱、这么多时间在上面,等于它的壁垒不是越来越高了吗?

王铁震

从数据这个角度来说,是的。在各种 benchmark 之外,涉及每个用户实际体验的部分,确实会这样。

很多用户发现,自己写了一个 Anthropic skill,把几十年的专业经验都写进去了,结果下一版本更新时,自己的 skill 已经用不了了。因为他发现,自己写的东西已经被 Anthropic 很神奇地发现,并且训练到模型里面去了。

所以你实际上不仅是在花钱购买 Anthropic 的 token,也是在花钱贡献自己几十年的经验。

Raymond

我之前做过一个美国法律 AI 应用的研究。那家公司估值应该有几十亿美元甚至上百亿美元,很高了,一年有 1 亿美元的 ARR。

大概两三个月前,另外一个律师通过 Claude Code 做了一个一模一样的 Harvey,把所有法律文献重新打包了一次,做了一个 GitHub 版本,可以下载。

这个 GitHub 版本不就是 Kimi 也能下载,所有人都能下载吗?那就是一个巨大的 skill。这个 skill 其实等同于一家公司,结果大家都能用。

所以模型原生能力的提升,会对上下游产业链产生巨大的影响。

我比较关注的是,中国模型是不是已经跨过“可用”这个点。只要跨过可用,在美国人创造的这么一个与世隔绝的孤岛上面,中国的模型在中国不需要跟美国模型竞争,只要中国模型在中国跨过可用这个时间节点,12 亿人能给它创造出无限的数据。

王铁震

对。只要一个技术过了临界点,就能够在 12 亿人的数据飞轮之下越转越快。

Raymond

懂了。有意思。刚才我的担心是,有时候 Kimi 的 self-training 不够,导致它在数据飞轮上落后,接下来越来越差。但你说,不会,12 亿人会冲上来。

就像当时字节的抖音一样,只要一个技术过了临界点,就能在 12 亿人的飞轮之下越转越快。它相当于加速度会逐渐增加。

现在可能是 70% 的人愿意用中国模型,觉得它能解决问题;后面可能是 80%、90%,可能到明年,像你这样 99th percentile 的用户也都会选择中国模型。那个时候,它的迭代就会更快。

我从个人角度来说,非常希望用中国模型。不是因为我们今天特别爱国,所以支持国货,不是这个意思。

首先,很多中文支持会更好。第二,我自己也担心美国模型,可能分分钟就会出现账号被封之类的情况,导致我失去重要的生产工具。

比如我现在有一个重要的投资策略,是通过 Anthropic 跑的。将来如果我不能用 Anthropic 了怎么办?我接下来能不能用豆包实现同样的事情?

所以我特别关心这件事。我所有中国模型也会 closely follow,也都在用。只要有一个达到 Claude 4.6 的水平,我就会很高兴,就可以完全切换过来。

王铁震

到 4.6 在你心里就是已经够用了。以后可能还会有 4.8、4.9,但你觉得到了 4.6 这一刻,就过了你的可用阈值。

Raymond

对。我觉得每个用户都有一个非常重要的可用阈值。

我甚至在想,我去年用 Cursor。最近特别忙,是因为我把去年在 Cursor 上写的东西,今天又在 Claude Code 里重新写一遍。

王铁震

你写的是什么?

Raymond

我之前写过一些量化策略,当时是在 Cursor 里写的,但我觉得不可用。我还做过一期播客,讲过这件事情:模型不够好,也不够聪明。

因为我自己本身不会写代码,不是说它写了 90%,我来补 10%,我做不到。我是完全不会,所以它只能交付一个合理的产品给我,必须是完整封装的。

我当时用 Cursor,大概是一年前或者半年以前,写了一些量化策略,但都不能用。不能用的表现是,你会发现里面有一些数字不对,它不是一个自成闭环的东西,一加一有时候等于 3,有时候等于 4。

王铁震

这是你用的数据源有问题吗?

Raymond

不是数据源的问题,是它生产出来的策略本身就有问题。但我自己又不能够解码。

另外,当时如果走一些复杂策略,上下文窗口也会崩掉。超过 20 万之后,它完全记不住事情。你的指令会变得非常复杂,它就已经不可用了。

当它给你不可用的感受时,绝对不能上线、不能放钱。

王铁震

那肯定不行。

Raymond

我最近发现 Claude 4.6 好像又聪明了一些,所以我一年前写的那些东西可以重新写一次,好像就 work 了。

无论是上下文能力,还是 skill 能力,我都觉得 skill 很重要。skill 其实是一种把上下文 compact 的方式。人说话比较啰嗦,但如果变成 skill,在一个基金策略里面会更好用。

所以我觉得 4.6 反而能够跑一些一年前 Cursor 写不了的东西。

王铁震

这其实是同一个模型,都是 Claude 3.5,只是你当时也不太会用。

Raymond

我现在重新跑那些东西,它给你赚钱了吗?

王铁震

有一些赚了钱,但简单策略赚得很少。之前一些复杂的 CTA 策略,Cursor 写不了,我最近在用 Claude Code 重新写,希望这次能赚更多钱。

Raymond

我好奇,大语言模型能写的这些策略,一般是什么级别?日线级别、5 分钟线,还是都能写?

王铁震

都能写。其实最后所有策略都是可以写的,它知道这些策略,你让它把它写出来就可以。

甚至很多时候,我会直接开门见山地说:“我叫铁震,什么都不懂,你教我一下。我想成为一个量化基金经理。”

Raymond

我想成为量化基金经理,但我想问的是,它写的这些策略会不会很快失效?这种策略本身是有深度的,如果大语言模型都知道了,我不觉得它还能持续有效。

王铁震

我觉得还好。因为你在写策略的时候,其实带着一定的审美判断。

Raymond

那是肯定的。

王铁震

比如我就喜欢买某个类型的东西。我在这件事情上投入的时间还不够久,所以还没有看到它失效。

策略失效之后,你还要去打补丁,让它换一种方式重新跑,这件事我还没有做到,主要是时间不够。但我想继续做。

所以我前面才说,我真的超级忙。我的 Claude Code 每天都用满了。

Raymond

感觉你是一个想法特别多、日常实践也特别多的人。AI 本来应该是生产力工具,我现在怎么越来越累了,感觉自己成了 AI 的奴隶。

王铁震

对。

Raymond

我们回到开源和闭源模型。刚好我看到 Hugging Face 春季报告里有一个非常有意思的数据点:在 Hugging Face 平台上,过去一年中国模型的下载量占 41%,美国模型下载量占 36.5%。

我看到你是这个报告的作者,但也不是很确定,所以想先跟你确认一件事:中国模型的下载者是中国人,还是全世界的人?

王铁震

那个报告实际上写得很保守。按实际数据来讲,远远不止这个量。

因为 Hugging Face 这个网站由于各种原因在中国大陆无法访问,所以中国大陆有相当多的研究员、学生和科研机构,他们的下载量没有被计算到刚才你说的比例里面。

Raymond

我用了一个哈萨克斯坦的梯子,结果下载量就被算在哈萨克斯坦了。

王铁震

这倒不是哈萨克斯坦的问题。实际的下载量会远远高于报告里的数字。

中国模型的下载量早就远远超过美国模型的下载量,不是报告发布时才发生的。中国模型的下载量被严重低估,中国人下载中国模型的数据不在这张图里面。

Raymond

所以,这里面只有美国人或者其他国家的人下载中国模型的数据,没有中国人下载中国模型的数据。

王铁震

对。报告里的用户是全球用户,但不包括中国大陆用户。Hugging Face 在中国无法访问,所以中国用户的下载量在这里看不到。

因此,中国模型的下载量其实被很大程度低估了,比例可能远远超过 41%。

Raymond

如果这个数据成立,那么过去一段时间,美国人使用中国开源模型的数量也在上升。

你接触开源生态比较多,美国开发者使用中国模型有什么反馈?

王铁震

我觉得美国人使用中国模型实际上蛮有趣。美国有很多开源开发者,他们很愿意在 Twitter 上发声,不管好坏,都会把自己的感受说出来。

最早看到很多美国开发者开始选用中国模型时,他们有各种疑虑和担心。一开始不是大企业,而是一些小企业或者个人开发者。他们不太在意政治,有一个中国模型能用就用。

后来这样的人越来越多,他们开始说中国模型的好话。让我印象比较深的是,Reddit 上有一个帖子,下面有几千条回复,标题大概是:“Qwen 很好,但是我没有办法用它。”

Qwen 就是阿里巴巴的开源模型。但美国企业会担心中国模型有各种各样的问题。发帖的人就跟公司的法务解释:“这就是一个模型,它是无状态的,你喂它什么,它就输出什么。”他跟法务斗争了很久,还是一直搞不定。

这是第一个阶段。

第二个阶段,我们发现美国的研究人员,包括大学里的华裔和非华裔研究人员,都在大量使用中国模型作为基座模型做研究。

因为他们发现 Qwen 很好微调,所以慢慢地,Qwen 在研究人员市场里成为了默认选择,基本上抢占了 Llama 的生态位。Llama 后面的更新速度比较慢。

Raymond

Llama 上一次更新是什么时候?

王铁震

你看,这就是问题。你突然提到这个名字,我都已经忘了,说明它更新得太慢了。

Qwen 持续更新,量大管饱,各种尺寸应有尽有。而且互联网上有大量关于如何微调 Qwen 模型的 instruction。你随便一调,发现模型效果变好,研究人员的爽点就在这里。

第三个阶段,是美国这些大厂已经不在意是不是中国模型了。它只要是开源模型就行。

你可以感受到一个非常隐性的变化:一开始大家觉得“只要是中国的就不要”,后来已经不看中国了,只看是不是开源。

美国开源模型方面,Llama 更新比较慢;IBM 更新得很快,Granite 做得还不错;谷歌有 Gemma,但它只是一个很小的、适合在端上运行的模型。其他几家,比如微软,也没有推出特别像样的开源模型。

所以当美国人说“开源模型”的时候,80% 说的这个开源模型就是中国的一个模型。

包括最近出现的 Cursor,它拿了 Kimi 的模型,训练了一个叫 Composer 2 的模型。如果它拿智谱,问题就更大,因为智谱受到了出口管制。它拿的是 Kimi 的模型。

这是一个大厂,你能感受到其中非常隐性的变化:一开始大家觉得“有中国就不要”,后面已经不看中国了,只看是不是开源。

Raymond

这个事情好有意思。我接下来有两个问题。

第一个,你觉得 Anthropic 有没有在蒸馏中国模型?或者说,它需要蒸馏吗?

你刚才描述的是,美国大厂可以单方面学习中国模型,但中国无法学习美国模型。因为中国如果学习美国模型,别人就会说我们在蒸馏。

王铁震

我说的是对模型架构,以及如何训练模型的知识和探索。

比如 DeepSeek 会写非常详尽的技术报告,里面基本上教会大家怎么使用它的东西。当然,你能不能看懂是另一回事,反正它讲了。

Raymond

但这更多是在框架层面,通过 paper 告诉你它做了什么设计。

王铁震

对。另外,因为它是开源模型,你可以直接下载整个模型,连权重都能看到。

理论上,Anthropic 也可以在内部开一台电脑,专门蒸馏 DeepSeek 的所有答案,当然也可以这么做。

我觉得 DeepSeek 对 Anthropic 的启发,在现在这个阶段更多是在架构层面。假设 Anthropic 没有同样的架构,但如果把时间拨回到 2025 年,DeepSeek 当时为什么掀起这么大波澜?

因为它把一种新的范式,也就是 ChatGPT o1 那种有思维链的模型,通过开源方式第一次教会了大家。当时所有人都不知道思维链是怎么做的,有很多猜测,说是不是蒙特卡罗搜索之类的。

直到 DeepSeek 把思维链通过开源的方式教会大家。后来你发现,所有模型都在拼命往这个方向收敛。

那一刻非常有可能是 Anthropic 拿 DeepSeek R1 去做了蒸馏,训练出了它们第一个有思维链的模型,因为 DeepSeek 的有思维链模型比 Anthropic 更早。

Raymond

懂了。当你在架构层面比我更聪明时,这种学习就会自然而然发生,而且非常必要。

王铁震

对,是多个层面的学习。

Raymond

说到开源,我想再问一下 Mistral。欧洲用户会在意欧洲自己的模型吗?

王铁震

会。我其实不太了解 Mistral 在欧洲的具体市场份额,但我知道他们过得还不错,因为没有太多人跟他们卷。

如果用户是开发者,其实也可以选择中国的开源模型;如果是普通的 B 端或者 C 端用户,也可以选择美国大模型。所以从理论上说,它的竞争不是更激烈吗?

Raymond

法国那些政治阵营或者国企,肯定会选择 Mistral。毕竟 Mistral 是法国的主权大模型。

王铁震

对。

Raymond

那如果是德国人,他们用的是法国模型、中国模型,还是美国模型?

王铁震

我觉得德国企业的中层在考虑问题时,如果选择 Mistral,受到的阻力会比选择中国模型小很多。

Raymond

明白。对他们来说,要不然选美国,要不然选 Mistral,所以不会选中国开源。

王铁震

不一定。这是一种惯性,但你也看到宝马、奔驰都来中国采购无人驾驶技术。除非中国的东西不可替代,否则企业还是会根据效果来选。

Raymond

明白。

我们刚才讲的都是很多中国公司在开源模型上的探索,这些探索在全世界范围内得到很多赞美。很多人喜欢中国的开源模型,觉得非常厉害。刚才也讲到,像 Qwen,美国开发者都非常想用。

同一时间,我觉得中国目前为止最广泛使用的模型,可能是豆包。豆包其实是一个从头到尾都闭源的模型。你怎么看这件事情?

7. 开源最终必须服务商业化

王铁震

我觉得没问题。这个市场本来就不应该所有人都拼命卷开源。

我甚至觉得,2025 年以后大家拼命开源,甚至到了运动式开源的程度,可能在 2026 年会逐渐降温。可能还有几家公司会坚持开源,但更多人应该把关注点放在怎么赚钱,怎么让商业模式变得可持续。

Raymond

为什么你觉得 2026 年会是一个转折点?很多公司会选择不再那么大张旗鼓地开源?

王铁震

第一,你在开源上已经赢了。比如你已经占据了开源市场 80% 的份额,就没有必要继续投入那么多了。

第二,它已经能够赚钱了。之前开源的时候可能没有想到,原来真的能这么赚钱。但一旦开始赚钱,老板们的想法会变,投资人的想法会变,股民的想法也会变。除了秀肌肉之外,他们会说:“赶紧给我们挣点真金白银。”

第三,对于开源本身来说,开源公司赚钱其实是天大的好事,因为这样它才能持续开源,对整个社会的技术扩散也更强。

比如 Stability AI,之前那个文生图模型公司,考虑赚钱考虑得太晚,以至于彻底丧失了继续开源的机会,整个公司的 CEO 都跑了。

所以我希望这些开源公司使劲赚钱,然后使劲开源,而不是砸锅卖铁也要开源,最后却赚不到钱。

开源不应该只是一个技术理想,开源应该是 go-to-market 的手段,是帮助自己赚更多钱的一种方式。它还可以帮助公司招到更好的人才、做好品牌建设、推动技术扩散,当然也可以承载一些理想主义。

我记得 MiniMax 的闫俊杰说过,他觉得开源是打造公司先进技术品牌的核心手段。

除非你给很多钱,否则你想招最优秀的研究员时,他们会想:我进到这个公司之后,只能做闭源模型,名字不会出现在任何技术博客或者 paper 上,那我在这里干什么?为什么不去做一家开源公司,让自己被更多人知道,让自己的身价更高?

Raymond

这很有意思。

有几个新闻,我想听听你的想法。Demis Hassabis 在 1 月份的时候说过一句话,我觉得很有意思。他说,中国 AI 在基础模型上可能落后美国大约 6 个月。

我们稍后再讨论这个判断到底对不对、究竟落后几个月,我觉得听众也会很有兴趣。

他当时还补充了一句话,说中国还没有展现出一种能够 push 到 frontier 的能力,也就是中国还没有展现出一种能够把技术推进到更前沿的能力。他认为这个问题可能在 mentality,也就是心态和状态,而不是技术封锁。

你怎么看他所说的 mentality 问题?

王铁震

站在他的立场上,你去看中国的这些开源公司,不能同时站在两个立场上。

如果站在 VC 的视角,就会考虑赚钱,考虑商业模式。但他是站在诺奖获得者、想要获得诺奖的那些人的视角,想法自然不一样。

就好像一个是王健林,一个是杨振宁,他们评价同一件事,看法完全不一样。

中国有没有可能在 AI 领域获得诺奖级的成果?我觉得挺难。因为你没有那么多资金、那么多卡,也没有那么多闲情逸致去探索一些可能不太靠谱的方向。大家太着急赚钱了。

但这和中国过去的很多行业其实是一致的,都是后发制人的模式。不管是电动车,最先做的也不是中国,而是埃隆·马斯克,但后来中国把整个产业做得很好;光伏也是这样。

所以我不觉得这对中国现状是一个太大的问题。中国本身就没有那么多资源,让大家做自由探索。

但 DeepSeek 这件事出来之后,我还是蛮乐观的。毕竟 DeepSeek 真的能够独立发现一些非常有前途、并且被证明特别有价值的架构级创新。

所以我觉得未来还是有希望的。中国现在越来越重视“天才少年”,也越来越重视让大家做一些比较自由的探索。这是中国人民富裕之后才能有的状态。

随着中国越来越富,探索的底气也会越来越足。现在很多年轻人其实不太在乎找工作,自己做一些探索、创业,也觉得挺好的。

这种状态需要持续几代人,需要足够的容错空间和足够的资本去容错。

你看美国,一家 AI 公司做错事情,比如 Thinking Machines Lab,就是 OpenAI 创始人之一 Mira Murati 出来做的公司,据说融资了 50 亿美元,什么都还没有做出来,nothing,就能拿到 50 亿美元去烧、去买卡。

中国的资本环境不太允许无缘无故给一个人 50 亿美元去买卡、去探索。所以中国的环境相对拮据一些,不太可能让每个人都去追求星辰大海。

但这是一个时间问题。我相信有一天国家足够强大、资本足够多的时候,还是会往这个方向发展。

Raymond

明白,因为你的空间大了,制造成本没有那么高。

我想先总结一下刚才铁震讲的几个很有意思的点,给了我非常多盲目乐观的情绪。

今天中国模型和美国模型的差别,很多时候是因为美国的闭源模型获得了更多数据反馈,形成了更强的数据飞轮,所以它越做越好、越做越好。像 Anthropic,我现在越用越顺,已经一天都离不开它,变成了一个反复上瘾的行为,这是很厉害的一件事情。

但你给了我一个启发:一旦中国模型走到可商用、能付费、能闭源、能赚钱,跨过这个门槛,追上 Claude 4.5、4.6 之后,中国 12 亿人的数据飞轮可能会转得更快。

最近的例子就是推荐算法。推荐算法不是在中国开始的,最早在 Twitter 时代就有推荐算法了,而且 Twitter 是文字内容,更容易做推荐。视频推荐算法也不是抖音发明的,只是抖音有 14 亿人帮它卷这个数据飞轮,让它成为全世界最好的算法。

所以假以时日,中国就能够创造出更厉害的应用级杀手。这让我对中国所有大模型公司,从豆包到阶跃星辰,都非常有信心。

王铁震

我觉得你刚才说了一个特别好的点。我非常荣幸能够让一个投资人变得盲目乐观。

只有当所有投资人都盲目乐观的时候,我们产业界的人才能更幸福,因为我们会有更多资源。我觉得这是一个好事情。

Raymond

因为 MiniMax 上市的时候,我们录过一期播客,第一句话就是:“太难了。”

你看财报就会发现,中国模型的资源真的非常少,所有东西可能都是对方的百分之一。中国的变现环境相对来说也更困难,模型可能还没有到能够创造巨大市场价值的阶段,所以无法拿到大笔资金。

于是它在训练端是百分之一,在收入端也是百分之一,但卡的价格并不便宜。

不过无所谓,因为这些投资人赚到钱之后,会有更多投资人想赚这个钱,后面就会更容易。我相信,之后的版本会更容易。

王铁震

对。

Raymond

我们今天看到,中国模型和美国模型之间,还有什么差距是短时间内不太好弥补的?

8. AI开始重塑社会

王铁震

还有一点。前几天 Nathan Lambert 他们来中国转了一圈,文章和我写的 notes 里面也提到,中国其实对模型安全不太关心。

这里说的不是内容管控意义上的模型安全,而是广义的模型安全:模型怎么样影响每个人的生活。大家更多关注的是模型能不能产生效用,但效用和向善是不一样的。

比如刚才说的推荐系统。之前我看过一篇文章,写得非常好,就是“被锁在算法里的外卖骑手”。一个推荐系统不停地让你上瘾,它真的是对社会很好的事情吗?其实不见得。

你回到中国,会发现所有人都低头看手机。这真的是社会进步的表现吗?其实也不见得。

像豆包一样,先给你充足的情绪价值,能不能解决问题先不说,让你开开心心的。这件事情到底是好还是坏,也不好说。

所以我觉得,等我们模型能力渐渐提升之后,大家需要回过头来想一想,怎么样才能更好地推动社会进步,而不是更快地增加 revenue。

一开始大家没有 revenue,完全不用考虑这个问题。现在既然已经有 revenue,已经有快速增长的曲线,是不是可以分出一些精力,去思考社会责任和科技向善。

Raymond

这可能也是一个阶段问题。因为我们现在操心的事情还挺多:没人用、没人付钱、用得不够多、diffusion 不够。大家还没有讨论,如果所有人都用起来,甚至用坏了,或者往更恶劣的方向使用,会怎么样。

王铁震

这是不同的人需要考虑的不同问题。有些人可能就是要有一些前瞻性的考虑。

Raymond

我的观察是,中国在这件事情上的思考,很多时候是由政府来完成的。

过去的游戏、社交、视频,再往前的 P2P,很多中国特定创新产品在社会上引起的正面或负面反响,最后都由政府在某种程度上进行规范和兜底。

这跟美国不太一样。美国很多时候是由学界或产业界的领袖人物,在某些规范上推动立法机构,而不是反过来。中国可能更像 top-down approach,美国则更像 bottom-up approach。

王铁震

但我觉得社会舆论也很重要。

比如拼多多的“砍一刀”在欧洲就撞上了铁板。你需要有社会足够多的反馈,才能推动立法或者监管机构采取行动,因为他们要管的事情太多了。

足够多的人开始讨论之后,我觉得下一个爆发点可能就是 AI 陪伴给青少年带来的心理问题。

Raymond

我觉得下一个关注点应该是:使用各种 coding 工具之后,人类会不会过劳死。

我现在越来越累,最近两个月睡得越来越少,我也不知道为什么用了 AI 之后会这样。

王铁震

你应该不是一个容易对短视频上瘾的人吧?

Raymond

我对生产短视频很上瘾,但不是刷短视频上瘾。

王铁震

我也是。但是我觉得自己非常沉迷于生产东西,现在不知道为什么,可能是 Claude Code 或者其他 AI 工具让你觉得生产力上了一个很大的台阶。

你觉得如果今天没有生产东西,好像有点愧对这一天的时间,于是就不断生产、生产、生产。有些东西赚钱,有些东西不赚钱,但生产本身好像会给你一种乐趣。

Raymond

我也是在同样的阶段。但我会经常强迫自己反过来想一想:这是一种娱乐,对吧?对我来说,这是非常快乐的事情,但我真的需要一直持续在这种快乐状态里吗?

王铁震

这个可以另开一个博客单独讨论。

Raymond

我们跳出中美框架来说。你觉得在技术上或者模式上,有没有什么重大的非共识?或者有没有一些公司做出了很大的事情,但在市场上仍然被低估?有没有这种创新或者非共识的事情?

王铁震

我不知道这是不是一个非共识,但我可以打个广告。

刚才我们聊到 coding 场景的渗透率飞速上升,但普通办公室文员不需要写代码,那 AI 能帮他们什么?

我现在觉得,可以帮他们写 PPT,帮他们做漂亮的设计,帮他们写漂亮的文档。这是一个马上可以满足的需求,但很多人的关注点还没有放到这里。

Raymond

比如你现在用什么写 PPT?

王铁震

我现在已经不写 PPT 了,写的全都是 HTML 页面,然后 print out 成 PPT。

Raymond

你已经走在时代前面了。

王铁震

我觉得后面就是类似 Claude Design 这样的东西,用代码的方式生成非代码、非技术人士也能使用的东西。

Raymond

我不知道这样说对不对,但如果现在有任何 AI 公司的负责人在听,我想说一件事情:我认为“Code”这个词是有毒的,是有问题的。

如果你真正用 Claude Code,就会发现它其实就是一个聊天框。那为什么要用“Code”这个词?

我反复遇到周围很多中国朋友,他们有 Claude 或者 Anthropic 的账号,三个模式都能用:聊天、Cowork 和 Code。但最后不用 Code,是因为 Code 难吗?肯定不是。

我觉得世界上除了程序员之外,所有人对 Code 都有一种天生的恐惧感。这不应该成为产品的 feature。所以你应该把 Code 改成一个大家都不会害怕的名字,甚至让用户感觉不到它是 Code。

这是产品经理应该思考的事情。三个模式一定要合在一起,不应该有界限。这是 Anthropic 产品设计过程中的一个问题。

中国的产品经理应该更聪明。Code 应该是 100% 全员渗透的东西,它不是大家想象中的 Code。Code 只是底层,实际上大家使用的是基于 Code 构建出来的自动化工具。

对,是漂亮的展示。至于里面生成的是怎样的代码、HTML 还是什么,大家其实不看。大家只看最后能不能把东西交付出来。

王铁震

对。

Raymond

我知道你已经离开 Hugging Face 了。简单跟大家介绍一下,可能有些听众还不太了解 Hugging Face 这个机构在大模型世界里有多重要。

我还有最后一个问题:过去一个季度里,在 Hugging Face 有没有什么时刻,让你们觉得模型世界、AI 世界突然“哇,太厉害了”,感觉又上了一个台阶?

王铁震

如果大家没有用过 Hugging Face,可以把它想象成 AI 界的 GitHub。很多听众可能不是程序员,也没有 GitHub 账户,所以不知道 GitHub 是什么。

我也可以这样解释:我们是 AI 界的淘宝。

所有模型厂商,比如 Qwen、DeepSeek、Kimi、MiniMax,想发布一个开源模型,就会把模型放到 Hugging Face 上架。上架之后,所有人都可以在 Hugging Face 这个平台上,用统一的接口和 API 访问这些模型,也可以把模型下载到本地使用,或者部署到云端。

Hugging Face 实际上就是模型的集散地。你可以在上面做很多协作和交流,也可以发现很多大 V 之间有价值的信息共享。

如果想知道 Hugging Face 能做什么,其实有一个特别好玩的功能:你不需要真的下载几个 G 的模型,可以去 Hugging Face Spaces 转一转。

Hugging Face Spaces 里有一堆 demo。你点进去之后,想看看今天的 SOTA 模型到底能做什么,可能是某个 research paper,很有可能在 arXiv 页面里就有一个 Hugging Face Space 的链接。

你点进去,把输入扔进去,运行一下,很多是免费的,最后就能得到一个结果。这是一种跟学界保持同步的方式。

你不需要读那些 paper,直接去 Hugging Face Space 找一个实现论文的 demo,就可以知道它到底能做什么,离自己的需求还有多远。

Raymond

如果把它比作淘宝,任何听众都可以登录 Hugging Face,看一下最近“销量”最好的是谁。你可以按照国家来排,就知道中国今天开源的谁最厉害。

王铁震

不能按国家来排,但你一看就知道。最近销量最好的前 5 名都是中国模型,或者看名字就知道来自哪里。

我觉得这是一件很有意思的事情。对我来说,我经常用 Hugging Face 来监控中国各大厂的进度,类似于赛马:今天哪匹马是 SOTA,这件事情比较明确。

Hugging Face 实际上有很多榜。如果你要做投资,想看哪个模型畅销,或者它有没有在某个特定榜单上霸榜一段时间,这些都可以成为投资决策的依据,因为你能看到研究人员用脚投票的结果。

Raymond

过去 90 天,有没有什么特别重大的 moment?

王铁震

我觉得学术界,至少是很多大 V,现在在玩一个东西:让模型自己迭代自己。

你给模型一个目标,让模型自己找到办法解决这个目标。举一个简单的例子,几个月前 AK 发了一个叫 AutoResearch 的项目。

Raymond

对,AutoResearch。

王铁震

它告诉模型:“你去帮我解决模型训练的问题,可以尝试任何东西。”

然后你就发现,模型开始不断地写代码。以前大家觉得写代码是一个门槛,后来 Claude Code 打破了这个概念。再后来研究员觉得,炼丹、训练大模型是一个门槛,但我感觉现在大模型也在快速学习各种炼丹技术。

当有一天你发现模型能够完全 bootstrap 自己,那会是非常有意思的时刻。模型可以自己迭代,这件事现在可能已经发生了,只是我们并不知道。

我觉得在大的 Neo Lab 里,可能已经发现了一些东西。但如果把这件事情宣告出来,就相当于说人类发明了一个新的物种。

生物不需要外在的东西把所有组件工程化、组装起来才能运行。它可以通过 DNA 的演化方式自己进化,也可以自己繁殖。

如果有一天 AI 可以自己创造自己、自己演化,你就会发现一个新的物种,只是它的生命形态可能跟人不一样。这会是一个很大的伦理问题。

Raymond

这应该是可以做的,而且会越来越快。它自己迭代,速度肯定比我们快,尤其是你设定的优化目标可能有问题,它也可能一下子跑得很远。

王铁震

我以前有个同事跟我说过一句话:人类的进化速度有些地方很慢。比如我爷爷有 5 根手指,我也有 5 根手指,手指的接触面也差不多。

Raymond

我觉得我们在退化,尤其是用了 AI 之后,我感觉脑子都不需要了。

王铁震

我那个朋友说,我们打键盘其实是一个反人类的操作,非常复杂。用手指在屏幕上滑动可能更顺,但键盘肯定是反人性的操作。

当时我觉得很有道理。

最近我开始用 Typeless,我所有的代码都用 Typeless coding,每天从早到晚一直说话,说得很累。

那天我看到一句话,觉得很有道理:“如果 Typeless 谁都能用,为什么小孩一定要会写字?”

我儿子可能就不会写字了。为什么一定要会写字?正常人现在已经没有写字的场景,只有打字的场景。接下来如果连打字的场景都没有,可能真的不需要拿笔,也可以跟别人完全交流。

我儿子现在就是这个状态。每次他在网上打一个字,先按那个喇叭,也就是麦克风,说一句话。他很聪明,知道单个字可能容易误判,所以就先造一个词,再把另外一个字删掉。

Raymond

你儿子现在几岁?

王铁震

7 岁。

Raymond

好,我们最后讨论一下小孩。

我的宝宝 1 岁 6 个月,你的小孩是二宝,刚出生吗?

王铁震

对,二宝刚出生。

Raymond

在今天这个 AI 时代,养小孩有什么想法吗?我觉得 AI 的变化非常大,对我自己的冲击也很大。我追不上、赶不上,每天都有很多 AI 焦虑。

但每天看着小孩长大,我会想:现在教给他的所有东西,可能很快又会发生变化。我其实不知道,在 AI 时代养小孩有没有什么特别需要注意的地方。

Raymond

我也有这个疑惑。你觉得我们需要有什么感悟吗?跟我们父母养我们相比,有哪些不一样的地方?

王铁震

我其实不知道我爸妈是怎么养我的,因为我已经过了那个阶段,而且我小时候还挺特立独行的,不太听话。

但我对我儿子有一个感悟:每一代人都会找到自己的使命。

我小时候,我爸妈看到我在电脑前打字,就觉得:“你在玩电脑,你在玩电脑。”我确实也在玩,但我可能在里面学 Word、学编程,或者做其他事情。

他们会觉得这就是娱乐,甚至会觉得:“你每天玩电脑,以后能找到工作吗?”

但我们现在确实就是每天玩电脑,并且找到了工作。

我爸妈也绝对不会想到,现在有人站在摄像头前跳个舞,就能赚很多很多钱。

每一代人都有自己的使命。我相信下一代人也能找到自己的使命。我们只能相信他们,不相信又能怎么样呢?

王铁震

是的。

Raymond

所以就是“儿孙自有儿孙福”。我一开始也会很焦虑,因为这是一个大家都没有解决方案的问题,每个人都在摸着石头过河。

我觉得“培养良好的学习习惯,让他在各种环境中都能适应”这种话,虽然没错,但没有太大的实际帮助。

我自己的感受是,很重要的一点,还是要让他成为同龄人当中更愿意尝试的人。

因为在任何时代,你最后还是跟自己的 peers 比。你有钱还是没钱,都是社会中的相对排序。未来的相对排序里,他是不是读了什么好大学,可能都没有那么重要。

但他是不是心态更加稳定、情绪更加稳定,并且愿意自己驱动自己,去尝试更多新东西,我觉得这可能是一个很好的标准。

至于他想要什么,最后他可能不喜欢 Web Code,每天只喜欢唱歌跳舞,也可以。但我希望他愿意努力尝试属于自己的东西。

到了 AI 时代,很多社会评价标准一定会发生重大变化。今天很多大学可能会越来越不值钱,尝试新东西意味着你跟新社会产生更多接触的可能性,也更有可能找到自己的位置。

其实我还有另外一个版本的答案。

AI 之前,也就是 2023 年之前,我们不是经历过疫情吗?我感觉疫情对我的心态变化很重要。

疫情之前,我还想着孩子以后考上北大、清华;疫情之后,我只希望他活着、不要生病。

王铁震

对。孩子生病真的非常痛苦。不管有没有 AI,或者未来怎么样,最重要的还是身体健康,做自己想做的事情,开心快乐,心态健康就够了。

你看原始人其实也过得很开心、很快乐,他不需要想那么多事情。

Raymond

对。

非常感谢今天王老师给我们答疑解惑。

中国大模型和美国大模型之间的差距,究竟是变大还是缩小了?也欢迎大家分享自己的看法:过去 12 个月、6 个月、3 个月,或者过去 1 个月,中国模型和美国模型的差距是变大了还是缩小了?你认为接下来差距会变大还是缩小?

还有一个非常重要的事情:如果大家感兴趣,也可以留下你对 AI 的吐槽。万一有研究员看到,说不定就能顺手把你的问题解决。

王铁震

对,因为这个节目其实有很多大模型公司的从业者在看。

Raymond

我们之前也做过好几期关于大模型的节目,所以我知道很多大模型公司的创始人都在听。如果你对各家模型有什么吐槽,欢迎在评论区说出来,他们都会来认领的。

王铁震

可以,可以。

Raymond

好的,谢谢铁震。

王铁震

不见不散,拜拜。

Thinking about just up and leaving, can't seem to open the door ’cause my nerve is fleeting. Barely carry my hollow state. Grasping at memories from when I was younger. Feels like I'm someone else, and it makes me wonder: Have I been like this all my life?

31. 「26Q1」中美大模型差距过去一年变大还是缩小?- Hugging Face | 王铁震 | BidClub