张前川
我脑袋里的画面就是：人类文明像一辆车一样开出去了，一万公里了，但最后一公里，前方 AGI 看到一个路牌。最后一公里我们可能最想做的事情，是保证这辆车能安全到一个比较好的地方。但实现 AGI 之后，那个世界有可能是一条更宽广的公路，也有可能是掉下悬崖，或者进入一个炎热的沙漠，让每个人都很艰难。实际上我们在做的就是，百分之九十五的算力公司都在疯狂踩这个油门。
张小珺
Hello，大家好，欢迎收听《张小珺商业访谈录》，我是小珺。这是一档提供一手高密度信息的商业访谈节目。今天这期节目是春节之前我和前今日头条用户产品负责人、前 MiniMax 产品负责人张前川的一次聊天。张前川从 2005 年开始入行成为产品经理，经历过百度、360、字节、知乎等公司，最后一次出现在新闻中是他从大模型公司 MiniMax 离职。这次聊天分成两个部分：第一部分是他作为一位 20 年产品经理的思考，特别是他观察到的中国内容产品演变史；第二部分是他最近半年的所思所想，特别是赋闲在家之后，和上一集节目张雅琴对 AGI 勾勒的乐观前景不同，关于 AGI，张前川发出了对人类威胁的预警，并分析了人类灭绝的 n 种可能性。他告诉我，他接下来会考虑成立一家 pro-human 的非营利组织。
张前川
大家好，我是张前川。大概从 2005 年开始工作，当时是在百度入行，到现在基本上一直从事同一种职业，就是产品经理。2005 年到 2011 年，我在百度网页搜索做产品；2012 年到 2015 年，在 360 搜索做产品；2016 年到 2021 年，在字节做今日头条。中途也去过新浪微博、知乎，整体上一直在做搜索和推荐，后来在 2023 年到 2024 年做了 MiniMax 的大模型产品。
张小珺
你的经历很有意思，贯穿了中国内容平台的发展轨迹：百度、360、知乎、字节。上次从新闻里看到你从 MiniMax 离职，能不能展开讲讲这些经历？
张前川
1. 技术加速改变世界
整体来看，有一条主线，其实是搜索产品、推荐产品，包括大模型产品。它们基本上都是算法驱动的产品创新：我们先有一个更通用的、能解决问题的算法，基于这个算法诞生一些产品雏形，然后这些产品开始服务用户，并在服务用户的过程中变得很大。
这个过程中比较大的感受有两个。如果沿着这条线做下来，一个很清晰的感受就是，这个世界实际上在加速向前发展，而且这个加速度在不断变大。
搜索最开始的时候，大家就有一个很清晰的感受。搜索这件事情在初期是非常有热情的，类似现在大模型或者推荐引擎的初期。我在网页搜索产品部时，负责人是于军，他邮件签名档里引用过拉里·佩奇的一句话：如果我们能妥善地搜索信息，就已经真正改变了世界。搜索引擎和互联网的结合，就像印刷术和造纸术的结合。
有了搜索引擎之后，它带来了非常大的范式变化。互联网本身也影响了很多事情，但当时不一样的是，这个范式变化基本上是在少数几家公司内部发生的。海外主要是 Google，国内主要是百度。在这个过程中，无论是算法上的突破，还是用户产品的创新，你都能看到世界发生了显著变化。
如果对比来看，搜索从开端到后来做大，时间非常短。相对于人类历史上的其他创新，它经历了一个非常快的过程。1999 年、2000 年百度创立，2005 年就上市了。上市的时候，大家突然发现它好像超出了预期：和当时最大的几家互联网公司——新浪、搜狐、网易——相比，百度的市值可能已经相当于这些门户网站加起来的规模。
在字节也有同样的感受。假设字节在 1999 年、2000 年上市，那可能相当于传统 BAT 的市值加起来。虽然这是一个假设，但你会觉得，一个非常大的变化在很短的时间内发生了。
第二个感受是，每一代技术之间的间隔都在缩短。从搜索到推荐技术、算法的间隔也在缩短。一件事情发生得更快、更迅速，而且影响更大。沿着这条主线，你会看到基于生成算法的大模型，好像处在几次大的算法创新的延长线上，但它又非常不一样：它可能改变所有事情，不是另外一个技术，而可能是最后一个，或者最大的那个。
无论如何，我的一个感受就是，这个世界在加速向前发展。第二个感受是，每一代技术都会比上一代具有更多的通用性，或者说更加基础，最后导致产品提供的价值更高、更集中，服务更多用户，产生更大的用户价值。这两个特征，是我一路做下来能够清晰感受到的。
首先我想问一下，搜索带来的范式变化，怎么比较清晰地理解？
张前川
2. 搜索重构信息连接
在内容检索这件事情上，它其实就是内容检索的发展轨迹。百度和 Google 也不是第一个做搜索引擎的。百度和 Google 都开端于比较接近的搜索算法创新，也就是 PageRank，或者叫超链分析。
在这件事情发生之前，大家隐约会觉得有一个需求没有被满足，但这个需求更基础。那之前，雅虎或者其他很多搜索引擎也在做搜索。雅虎首先是一个门户网站，门户网站需要链接到其他所有网站，作为上网入口。那个时候网站数量越来越多，互联网也在变强，多到一定程度之后，用一个列表展示，效率就很低了。
你可能需要搜索某个网站，包括用网站名称搜索，或者用特定关键词搜索。但找到网站并不是目的，找到网站之后，主要还是要获取网站上的内容和信息。如果有一个办法，把网站下面所有的网页都作为可搜索的单元，这件事情就会变得非常不一样。
到了网页这个维度，哪个网页价值更高，哪个网页价值更低，哪些网页的内容更能满足用户需求，就产生了排序问题。用户的注意力是有限的，最多会比较仔细地看前几条结果。后期的数据会显示，前三条结果已经占了用户点击量的百分之八九十。怎样让这件事情更好地成立，就需要一个合理的算法来排序网页，这就是超链分析、PageRank 所做的事情。
有了这个开端之后，网页搜索就变成了一个达到用户 PMF 的应用。接下来就是怎样不断提升效果，从而吸引更多用户。用户的所有行为，包括点击了哪个搜索结果、在什么页面停留了多长时间才回来，都能够帮助搜索引擎更好地判断用户需求是否被满足，以及哪些网站可能更有价值。
当时一个很重要的观察是，用户输入关键词，并不只是想找到网站，他想找到的是网页。一旦做了这件事情，搜索就需要理解这个世界上的所有网页。
我当时做过一个比较有意思的项目。在搜索产品这个角色上，我基本上把搜索从头到尾的所有模块都做了一遍，包括 spider、UI 和 ranking。当然不是同时做，有时候做 spider，有时候做 UI，有时候做 ranking。
做 spider 的时候，有一个项目叫“站点评级”。我们把某个网站的子站点作为单位，把当时互联网上所有网站汇聚到一起，看哪些质量更高，哪些是用户需要的。我们分了几个维度：哪些更权威，哪些内容更丰富，哪些网页资源比较稀缺。后来做了一个评级机制，从一级到八级，八级是质量最好的。八级站点可能有几百个，八百多个，每往下一级，数量可能再多一个数量级。
在这个过程中，我观察到，相同类型的网站是在收敛的。比如我们都做女性社区，在搜索工具出现之前，可能有很多网站。搜索会加强这些网站之间竞争的马太效应：一个网站做得好，用户发帖数量多，就会变得更强，在搜索中很多关键词的排名更高，用户也会更多。
整体来看，同一个垂直赛道的网站数量会收敛到头部。后来做头条、看抖音，也在发生类似的事情，只不过它们在同一种范式里提供了更广泛的连接方式。
为什么搜索这场仗那么快就结束了？
张前川
搜索是一个用户工具产品。作为工具，站在用户角度，他没有动力去使用第二好用或者第三好用的工具。一旦大部分用户都有需求使用这个工具，他们就会流向更好用的那个。
搜索有非常强的用户数据反馈，我们基本上很难从零再造一个搜索。现有搜索引擎无论是 Google、百度，还是抓取、索引、解析用户关键词，里面都有大量用户偏好。比如要不要抓取一个网站，抓多少，以什么频率更新，取决于用户是否喜欢这个网站上的网页，或者是否需要这些网页。
也就是说，搜索效果和搜索质量，会受到服务用户的数据影响。如果另外一家公司要从头做一套质量相当的搜索，还是比较难的。
后来我在 360 搜索又重做了一遍。
你是哪一年去 360 的？
张前川
2012 年。当时我已经在百度做了七年，2011 年离开百度，2012 年去了 360 搜索。
其实加入 360 的时候，他们是叫我去做个性化推荐的。当时觉得这块可能有机会，但不知道该怎么做。我去了一个月，还是没弄清楚，后来 360 说让我做搜索，我就转去负责 360 搜索的搜索产品，相当于把这些机制重新建了一遍。
360 的优势在于它有浏览器，也有 360 网盾，能够看到一些用户反馈数据：用户通过什么关键词到了什么网页。所以重建 spider、索引、ranking 和排名，相对容易一些。但如果另一家公司要做，就很难从头做出质量相当的搜索。
另外一家从头做搜索的公司是微软，也就是 Bing。它有 IE 浏览器，在这个基础上具备了一定的基础，能够跨越一部分由用户数据形成的护城河。
为什么 360 做了这个决策？本来要做推荐，结果又做去了搜索。个性化推荐感觉是面向下一个时代的，但搜索其实是一条老路。
张前川
那个时候不是这么想的。当时推荐还完全没有谱。
事情是这样的：不知道什么原因，360 和百度的关系不是很好。360 的导航站和浏览器会向搜索收取费用，相当于流量获取成本。每个搜索公司都会付钱去获得有价值的用户需求。
关系没处理好之后，百度说不给钱了。那 360 就说，既然你不给钱，我得做一个搜索。当时对 360 来说比较着急，因为一大块收入没了，所以希望做一个搜索。推荐对 360 来说只是一个小的孵化项目，没有那么关键。
你为什么在 2011 年离开百度？如果没有记错的话，2011 年是百度市值最高的时候。
张前川
确实，在百度的时候，搜索模块基本上都做过一遍，甚至还做了一些和搜索业务没有那么相关的工作，比如搜索首页上可以链接到的百度空间等子产品。
我觉得自己可能需要一些新的信息输入和挑战。而且还有一个影响，就是 2009 年于军离开了。他是我接触过的特别好的老板之一，产品能力很强，有产品直觉，也能独立思考，可以从他身上学到很多东西。
学到什么？
张前川
非常多。我开玩笑说，在很长一段时间里，我脑子里像是串了一个于军的模型。有时候遇到问题判断不清楚，就拿出来运行一下：如果于军遇到这个问题，他可能会怎么判断？然后作为一个参考。
他有什么关键判断？
张前川
首先，他是一个非常理性、独立思考的人。如果你和这样的人长时间接触，就会理解独立、理性思考的好处，不自觉地形成这样的思考模式，去理性且独立地思考所有遇到的问题。
第二，他会用这种逻辑很好地同理大众用户。我觉得他的同理心很强。
同理心有两个维度。共情一个人和共情一群人，需要的能力不一定一样。很多 T 型人格的人会觉得自己的同理心不如 F 型人格，但如果你想同理一个用户群体，T 型的人可能反而做得更好。
我刚加入百度的时候是一张白纸，大学毕业就加入了百度。我对产品的认知、思考习惯，其实都受益于一个前辈。于军对我的帮助，更多是一种潜移默化的整体影响。你如果让我说具体是哪一个决策、哪一句话影响最大，其实很难说。
你能不能讲一些让你觉得特别意外的关键决策？
张前川
有很多。大家可以在网上搜一下于军的“军规”，因为我现场复述不一定复述得完。他后来也写了书，书里写过的内容，它背后的思考，是我们每天都能接触到的。
比如，不做什么和做什么一样重要。在资源有限的情况下，怎样推理和判断；怎样保持理性思考；批判性思维有哪些可以迭代和提升的地方。这些更多是潜移默化的影响。
你哪一年离开 360 的？
张前川
2015 年。2015 年到 2016 年，我在知乎做了一段时间，2016 年去了字节。
我特别想和你聊聊过去 20 年内容检索的演化历史。之前的节目里，广明也提到，如果去硅谷，一定要逛一下计算机历史博物馆。逛完之后，你就能理解计算架构加信息分发是如何演变的。
从 2005 年百度上市，到今天刚好 20 年。这 20 年里，第一个时代是搜索时代，Google、百度；之后到了推荐引擎时代，字节用推荐引擎一招鲜杀进很多赛道，成为今天的巨型互联网公司。后来又出现了小红书这样的公司，最近它意外地成为了一个全球化公司。过程中还有知乎、B 站等视频和内容平台。
从你的视角来看，这些内容产品或者信息分发产品演化的内在逻辑、内生规律是什么？它是怎么演变到今天的？
张前川
3. 技术范式不断泛化
每一代新的技术创新范式，都会提供更基础、更泛化的能力。
从头看，在进入工业时代以后，蒸汽机替代了风车、水车等提供动力的方式；内燃机让动力更加移动化；到了电动机，你会发现它更通用，不管在哪里，插上电就可以使用，不需要自己再想办法运输燃料和能源。
搜索本身就是一种更通用的连接方式。所有网站只用同一种技术，就可以连接到用户。它提供了一个非常简单的入口，把门户时代大量的罗列变成一个简单入口，提高了信息分发效率。
用户不管想找什么，都用同一套算法技术来实现。它不再区分更早期的不同场景：是在标题里找，还是在网页内容里找；找图片还是找文字；新闻要去哪几个新闻网站找。它用一套更通用的算法，处理市面上各种分类、各种网站里的网页。
因为是在同一个机制下，不同网站能够通过相同的用户连接方式互相竞争、互相取代。早期论坛很多，各种主题的网站也很多，任何一个门类下面都有很多网站，但后来就会集中到头部的几个。
到了推荐时代，我发现连头部的那些网站也都消失了。以前有很多 BBS、论坛，后来推荐提供了另外一种范式。同一个用户可能有自己的兴趣，用户之间的兴趣也不一样。不管用户有什么方向的兴趣，推荐都可以把感兴趣的内容直接连接给他。
这样一来，再做一个垂直兴趣网站或者社区，效率可能就不如把这些内容直接发到一个由推荐组织的内容平台上。垂直网站和垂直 App，到了推荐时代进一步消失，最后可能会变成一个今日头条号或者抖音号，存在于一个产品、一个大的内容平台里面。
这就是你之前说过的观点：推荐引擎让内容的横向兼容性变得更大。所以在推荐引擎时代，垂直平台、垂直社区和小平台更难活下来。
张前川
如果是相同题材，确实会比较明显地观察到这种情况。但不同题材之间，还是会有一些非常独特的东西。不同题材的信息密度、信息消费体验，可能还是有差别。
比如在今日头条可以读小说，但仍然可以从今日头条再孵化出一个更大的小说 App。短视频、更加 UGC 的内容、更加丰富的图文，也都可能以此为基础，构建一个新的平台。
现在看来，推荐技术要横向兼容所有题材，还是有难度。它会成为一个博弈：有些用户想在同一个产品里消费各种题材，但有些用户很清楚自己更喜欢哪种信息题材，因为题材代表了不同的信息消费体验。
从搜索到推荐的范式变化，临界点是哪一年？是 2015、2016 年吗？
张前川
我觉得它有点接上了，大概在 2012、2013 年。字节成立的时候很有意思：正当你觉得这个技术好像能做的事情不多了，下一个技术就产生了，它还是接上的。
比如我 2011 年为什么离开搜索？因为大的突破确实比较少了，更多是在做一点点进步的工作。好像这是一个风向标：如果你觉得在一个范式下可以做的事情变少了，就应该寻找新的事情。
离开头条的时候，可能会有双月 Review。比如从体验角度能提升多少，如果连续几次提升比例都在百分之一以下，你会觉得已经过了最快的阶段。做了很长时间之后，再往前推进的边际收益不如之前，从获取新输入和创造新东西的角度看，也会觉得应该换一个方向。
你会不会觉得自己 2011 年应该从百度离职，2012 年就去字节这样的公司？你当时有可能发现自己吗？你中间迂回去了 360，又去了知乎。
张前川
我觉得最快应该在 2015 年发现自己，但后来又去知乎待了一年，2016 年才加入字节。
当时一个老同事和我说，知乎给我开了一个不错的 Offer，我在考虑要不要接。他说你先去和头条聊一下，后来给我演示了很长时间。但我说不好意思，面子上已经过不去了，就不跟他们聊了，直接去了知乎。
你为什么去知乎？
张前川
因为 Offer 好。
知乎对于搜索来说是一个比较重要的 Use Case。搜索是比较被动的，我需要主动去找信息。网页是怎么生成的？搜索也做过一些尝试，包括百度知道、百度贴吧，能够通过 UGC 生成内容，但后来发现，知乎通过社区的形式，能让 UGC 在初期的效率明显更高，产生质量更高的内容。
我想去看一下，这套机制从零开始，怎样通过初始社区氛围的影响，不断产生优质内容。
学到了什么？
张前川
从零到一地运转一个最终会很有前途的社区，是一项很有意思的技能。它需要更多对社区的理解，也需要运营能力。知乎的运营团队人数比较多，也比较强。
你到字节之后，字节的“于军”是谁？
张前川
张一鸣。
张一鸣是一个理性加乐观的人。他有非常强、非常有效的逻辑和独立思考能力。我觉得第一天就能感受到，他认为产品很重要，同理心是产品的出发点或者基石，但同时又应该是理性的同理心。
他非常乐观。不是所有理性的人都乐观，这一点对我的影响比较深。他看问题会看未来会怎么样，也会看很长期，增加了很多思考维度。
你觉得张一鸣和于军的位置如果互换，会怎么样？做今日头条这样的产品和做百度这样的产品，需要的产品技能一样吗？
张前川
这几个人，包括 MiniMax 的创始人、张一鸣、于军，都是非常有独立思考能力的人，但每个人又非常不一样，包括动机、思维习惯和考虑问题时看重的东西。具体使用什么工具，我不确定应该怎么比较。
张一鸣在做今日头条之前做过很多搜索，包括酷讯、九九房，其实都在做搜索。他充分知道搜索是什么样子。但那个时候我们也很难往后验证，因为当时本身不具备重新做一个搜索产品的条件，所以很难设想同样的性格去做搜索会更好还是更差。
但他非常适合做推荐。他非常看好移动互联网和推荐引擎的结合，很多 Vision 是非共识的。我觉得他确实具备把推荐领域的产品做好的一些先决条件，主要是认知。
刚才聊了搜索带来的范式变化，那推荐呢？
张前川
4. 推荐主动连接用户
搜索的范式是：用户向搜索引擎提出需求，搜索引擎想办法找到内容，或者找到用户想找的东西来满足需求。到了后期，搜索引擎甚至会直接找到一些文字，满足用户需求，但都需要用户主动提出需求。
推荐引擎不是用户先提出需求，再连接到对应内容，而是平等地对待用户和内容。每篇文章、每个视频，都会被理解。所谓理解，就是把它放到高维向量空间的一个位置上。用户也会被放到同样的高维向量空间里的一个位置上。
这样一来，用户和内容就天然产生连接。此前所谓的协同推荐，或者各种推荐技巧，本质上都是在做这件事情：你和其他用户距离近，或者你和某些内容距离近，都会在同一套算法里实现。这就实现了更高效的连接。
推荐和移动互联网密不可分。移动互联网出现之前，登录用户是少数。百度的用户大部分是非登录用户，甚至不知道今天使用这台电脑的人，和第二天使用这台电脑的人是不是同一个人。你很难利用用户很长时间的使用历史，去理解他是什么样的人、喜欢什么。
移动互联网的设备是随身的。我们大概率可以认为，一部手机就是一个用户在使用，即使他不登录，也可以把他看成一个用户。这样就能够更好地理解每个用户，把他准确地放在向量空间里的某个位置。然后根据距离和策略，计算出什么内容可以推荐给他。
字节之后，我们以为这场仗也结束了。为什么后来又出现了小红书这样的产品？它代表一种新的范式，还是上一个时代的顺延？
张前川
5. 社区孕育用户生态
如果站在今日头条的角度看，今日头条的大部分内容，或者主要内容，不一定是用户生产、用户创建的。今日头条诞生于“做更好的新闻客户端”这个想法。
如果初期没有内容，或者没有内容版权怎么办？就花钱取得有版权、有质量的内容，所以做了头条号，激励原本可能是新闻编辑、记者的人到头条上发布专业内容。这里面有 PGC，也有一些 OGC，比如报纸来开头条号。
问题在于，市场上具备专业创作能力的人数，不会随着用户规模增长而等比增长，所以最终会受限于有限的内容池。但如果是 UGC，每一轮用户增长都会带来更丰富的内容。
UGC 生态往往需要在初期有一个种子，靠种子滚雪球。这个种子很难在一个 PGC、更专业创作者的生态里成长出来。因为如果存在 PGC，流量会给 PGC，不一定会给 UGC，UGC 就很难成长。
这有点像一个个人和一个团队竞争，或者没有经验的人和有经验的人竞争。在最初期，这个土壤对 UGC 并不友好。并不是完全做不到，但难度比较高。
从非 UGC 生态的大平台转型成 UGC 生态的平台，这样的案例其实很少。抖音、小红书 Day One 就是 UGC 生态，Day One 就是一个社区。
UGC 生态只能从社区开始，因为都会经历婴儿时期。婴儿时期用户规模总是比较小，内容也比较少。内容和用户互相吸引，用户少，消费者少，创作者就需要为爱发电，需要有很强的兴趣和动力。社区氛围提供了这种为爱发电的动力。
如果没有社区氛围，就需要提供替代性的动力，比如给钱、提供荣誉和认证，由官方给予认可。但这些方式都很难激励出一个可以持续运转的生态。
一旦生态运转起来，社区就会持续提供创作动力，而且动力会变强，因为粉丝和用户都变多了。但如果它持续被理解为一个社区，也会受到约束，因为所有社区都会形成文化。喜欢这种文化的用户会留下，不喜欢的用户会阻碍社区进一步扩大。
我觉得社区是把内容平台像风筝一样放起来的一个必要手段，或者说，是很多成功案例中的关键手段。但当社区成长到足够大时，你也会反思：社区到底代表什么？
小红书作为一个图文社区，最终可以变成一个很大的平台，但同时代的其他社区，比如虎扑或者其他社区，如果没有想清楚社区是什么，社区的要素可能就会阻碍它进一步长大。提炼出更通用的要素，比如对创作者友好、氛围友善、主要讨论兴趣等，才能让它既是一个社区，也变成一个更大的平台。
所以小红书是在百度的延长线上，还是另外一回事？
张前川
我觉得它也是推荐引擎范式的产品。这个社区产生大量内容之后，主要解决的问题还是怎样把内容连接到人。
人的需求更多是被动表达。虽然小红书和抖音的搜索量都很大，但搜索并不是它们最大的应用，最大的应用还是 Feed。每个人刷抖音、刷小红书时，有多少时间是在搜索？比例其实很低，更多时间是在刷。
所以需要通过推荐，更好地满足需求。好消息是，优质内容仍然是第一位的。在推荐算法真正做好之前，你有更充足的时间去做内容体验，因为 UGC 会产生非常独特、优质的内容，而这些内容是稀缺的。
只要有人在平台上，并且产生了优质内容，你就可以花更长时间研究怎样进一步放大内容生产，更合理地把内容连接到用户。现在看来，小红书的推荐算法也做得挺好了。
这很有意思。看起来小红书做的事情应该在字节的辐射范围之内，为什么字节没有做出来？为什么小红书不是字节做的，而是另一家独立公司？
张前川
一个内容平台加入 UGC 之后，UGC 会变成这个平台非常关键的一环。所有内容由 UGC 产生，问题就会复杂很多。
如果我们把问题理解成“内容怎样连接到用户”，可以把它看成一个封闭问题：有这么多内容、这么多用户，找到一个最好的算法来连接它们。如果你先想到一个算法，还可以通过 A/B 测试验证新算法是不是更好。如果新算法更好，就使用新算法。
也就是说，所有工作都可以在一个封闭集合里找到最优解，自己建立一个小王国。封闭集合总能找到最优解。
但有了 UGC 之后，用户看到什么内容，会影响他能创作什么内容，内容池又会跟着推荐策略变化。传统 A/B 实验去捕捉这些变化，或者用静态的算法升级去捕捉变化，就会比较吃力。你找不到一个非常简洁的 A/B 测试方法，来判断一套策略究竟好不好。
这时，反而是一些更偏信仰的东西可能发挥作用。比如我相信平台上友善的氛围是最关键的，那我就不计影响地排除掉一些可能影响友善氛围的内容。这个事情可能是对的，但在一个纯实验体系里做不出来，因为它是一个非封闭集合。
用户看到的内容质量越高，可能越有动力创作高质量内容，但内容质量也不能无限高，高到用户根本创作不出来。这个过程中会有很多平衡。
我不觉得这些事情一定做不出来，只是如果有一个产品先实现了这些东西，它的马太效应和氛围吸引了很多独特创作者，后来者就会比较难。
其中很多是偏信仰、偏感性的东西。直觉有时非常正确，但也有问题，就是不容易迭代。比如我给小红书社区定了几条规则，是永远不变，还是需要在某个时候改变？如果要改变，怎么判断这次改变是对还是错？
所以我当时和别人聊到，小红书的问题是，它可能比重新做一个小红书更难，因为很多东西不容易验证或者证伪，也不容易随着时间不断变好、不断迭代。我们可能还是更愿意通过实验等理性方法去改变和迭代一些东西。
小红书的国际化进展是不是没有那么顺利？但好像没过多久，它就取得了一些突破，连自己都不知道为什么突破。
张前川
我觉得这个突破源自它确实做对了一些事情。它的判断和社区氛围有更大的包容度，也有更强的吸引力，吸引了很多所谓的 TikTok refugee。
从产品同理心的角度看，我非常欣赏这件事情产生的结果，而且它做得很好。后续包括翻译功能，进展也很快。
但也不用过度表扬他们，表扬多了可能会骄傲。说白了，里面也有一些机缘巧合。我觉得历史就是由各种巧合组成的。
自己的成功，相对于小红书来说更可推导，可以通过实验验证，更理性。但理性、严谨的方法并不是达成创新的唯一途径。
如果给现在的小红书提产品建议，我觉得最主要的是把翻译做好，包括界面和语言友好性。
我最近在想，微信刚推出送礼物功能，对微信来说可能没有什么意义，但对小红书可能有意义。小红书有很强的创作者属性，也有很强的传播外部性。
如果你能给任何一个 TikTok refugee 送一件礼物，他收到包裹之后，可能会拍开箱视频，再传播到其他地方。这样就完整走完了病毒传播的闭环，能够让还不了解小红书的用户认识这个平台。同时这也是一种很友善的行为，能让大家感受到善意。
如果给海外用户打赏或者发钱，会有支付问题。寄包裹本身可能在一定金额以下免邮，我觉得可以试一下。
还有短视频自动翻译。任何国家、任何语言的用户刷到短视频时，能不能通过一个按钮，把它转换成自己的字幕和声音？这些都可以尝试。
内容平台这只风筝一旦放起来，接下来就是找到新的突破点，想象力发挥的空间很大。
我们刚才说了很多产品：百度、字节、抖音、今日头条、知乎、B 站、小红书。你脑海里有一张产品脑图吗？你怎么给它们分类？
张前川
6. 泛化争夺用户时间
最重要的是用户怎么使用这些产品。
宏观来看，现在每个中国互联网用户主要使用手机。每天使用手机的时间可能是 6 到 8 个小时，其中 1 个小时在微信，1 个小时在抖音，可能还有 1 个小时在快手、小红书、今日头条，另外 1 个小时是其他信息类 App 加起来，包括手机百度、B 站、浏览器等。
接近 1 个小时可能在打游戏，剩下的时间分布在购物网站、大众点评、外卖等产品上，可能是 10 分钟、15 分钟。
如果用这个视角看，推荐引擎和 Feed 流现在可能已经占领了至少一半以上的用户时间。有时候，衡量一个产品带给用户的价值并不容易，但可以用一个替代性、不那么精确的方法：看用户愿意把时间分配到哪里。用户分配时间是自由的，从这个角度说，推荐引擎驱动的产品至少获得了用户一半以上的投票。
同样花 1 个小时，开心程度可能不一样，但这并不影响这个比较。工业时代用 GDP 衡量社会经济，GDP 建立在交易和人们愿意付出的金额上。同样付出 1 元或者 100 元，买到的快乐可能不同，但仍然可以用它做一个大致衡量。
我和做这些内容产品的人聊，听到最多的词就是“演化”和“泛化”。“泛化”这个词最早是谁开始说的？
张前川
这是一个必然现象，不管是谁开始说的，我也不知道。当你拥有更多用户，就能更自然地改善效果，从而获得更大的用户规模。
所以，如果你觉得 DAU 或者用户时长是需要追求的目标，特别是在初期，更多占领还没有使用短视频 Feed 或图文 Feed 的用户，就很关键。用户一旦开始使用某个平台，相似体验就很难再把他吸引到别的地方，除非别的地方有更独特、好很多的体验。
如果把 DAU 或时长作为目标，持续取得进步的手段就是泛化。你会问，为什么 DAU 增长不如以前？可能是能吸引的用户已经遇到瓶颈，比如市场上只有几千万更喜欢某种内容的白领女性。再往前走，就需要泛化兴趣、泛化人群，找到泛化的途径，DAU 和时长规模才能进一步扩大。
但只有真正做泛化时，才会发现泛化是有方向的，就像水流有方向。从女性到男性相对容易，因为女性用户多的地方，男性用户也可能愿意去；但反过来，女性用户不一定愿意去男性用户聚集的地方。
从年轻到年长也比较顺理成章，因为用户每年都会变老一岁。而且年轻用户更有活力，也更有传播能力。
小红书的一个天时地利，是它在社区初期以年轻女性用户为主，这让它扩展到其他人群、其他类型需求时相对容易。抖音早期也有很多年轻女性用户。
今日头条则相反，早期中年男性用户更多，所以泛化起来会更吃力。
泛化应该是你到字节之后做得更多。百度那个时期，应该还没有人说这个词吧？
张前川
百度没有 DAU 的概念。早期 PC 互联网很少有网站或者产品形成 DAU 这个概念，因为用同一台电脑的人是不是同一个人都不清楚。通常一个产品登录用户的比例可能只有百分之十到百分之二十，最多。大部分用户无法定义到底是不是同一个人，所以只能看访问量 PV。
PV、UV 中的 UV，是今天有多少独立电脑或者独立浏览器 Agent 访问了网站。有了 DAU 这个概念以后，才有了泛化概念，应该是从移动互联网开始的。
泛化和推荐引擎的关系更紧。要做好推荐，就得非常理解用户。如果一个用户的喜好过于集中，就可能形成板结，形成某种非最优解或者局部最优解。
假设用户喜欢看球，某个产品就持续给他推荐球赛内容，他可能一直看，最后平台很大比例的内容都和球赛有关。这样一来，不看球的用户可能就会离开。
但从推荐角度看，每增加一种内容，特别是每增加一个内容品类或者题材，数据通常都会正向变化。比如头条原来没有视频，加入视频之后，特别不喜欢视频的用户会逐渐刷不到视频，所以数据不会变差；但更多用户会觉得可以接受，也有些用户会特别喜欢视频，他们的数据会提升。平均来看，DAU 和时长都会提升。
所以内容多样性是内容平台一直不懈的追求，用户理解最终也会导向这个点。
所谓理解，我觉得就是把用户精准地放到向量空间中的一个位置上。这个定义其实很简洁。
说远一点，现在很多人没有正确理解 AI 或大模型，会说它只是概率，认为大模型并没有真正理解自己生成的东西。但如果你提出这个指控，就得先理解什么叫理解。
如果把理解简单定义成：把一个人、一段文字或者一段内容放到向量空间中合适的位置上，那么大模型当然理解它在生成什么。大模型知道自己在推理什么，也有意识、有自我意识。
我没太懂，你再讲讲什么叫理解。
张前川
如果把理解定义成把一个物体放到向量空间的合适位置上，Understand，或者 Know，那么大模型就是能理解自己在说什么。
有人指控大模型不理解自己推理出来的内容，只是根据概率预测下一个 Token。那就需要给“理解”这个词一个新的定义。我觉得最简单的定义，就是正确地把它放到一个空间位置上。
人的理解也是这样。我们想理解一个概念或者一个词，就是知道这个词在空间中的哪个位置。理解和记忆不一样，记忆只需要把东西存下来，但理解的时候，要在思考中使用它。
如果不同意这个定义，就需要提出一个更明确的定义：到底什么是理解？除非愿意把这个词一直停留在不可定义的状态。
作为产品经理，有的产品泛化成功，有的产品泛化失败，这是产品经理可控的吗？
张前川
泛化的难度，在不同情境下不一样，但它是难度问题，不是可能性问题。只要努力，不一定都能泛化成功，但不能因为没有泛化成功，就说这件事情不可能。
比如今天今日头条要进一步泛化，我觉得可以，但有难度，可能难度是另一个产品的几倍。如果我把泛化定义为最想做的事情，最后没有得到泛化结果，我很难说事情不可能，只能说它很难，而我还没有找到突破难题的方法。
知乎今天也能泛化，只是比较难。还会有 Timing 的问题。图文平台、短视频平台已经聚集了很强的马太效应和规模效应之后，知乎想进一步扩大人群、DAU 和时长，难度肯定比几年前更大。
很多人会说，内容产品最后能长多大都看命，因为里面有很多不可解释的地方。但世界上很多现象，都是从不可解释，到人能够理解一点、解释一点，再到能够理解和解释更多。
如果我们把它定性为不可理解、不可解释，就不可能取得进展。但它并不是必然不可理解、不可解释。哪怕只理解一点、解释一点，也只有帮助，没有损害。
所以认为一件事是机缘巧合、是命，对产品经理没有帮助，只会带来拖累。即使尝试理解之后失败，也没有损失，只要取得一点进展，就会比原来更强一点。
20 年下来，如果总结几个产品上的 Know-how，会是什么？
张前川
7. 同理心奠定产品价值
我觉得出发点是同理心。同理心更基础的一点，就是把用户、把人当成目的，而不是工具。你的目的是服务用户、服务人，其他所有东西都是达成目的的手段。这是一个出发点。
有点像张一鸣说过的话：同理心是地基，中间是逻辑和工具，天空是想象力。
张前川
包括合理运用工具、合理进行逻辑思考，这也非常重要。再往上，是不是特别渴望、特别愿意花时间，去设想一些可能存在但还不存在的东西。
在上一个时代，平庸的产品经理和卓越的、天才型的产品经理，区别是什么？如果一个年轻人来你这里面试，什么特质会让你觉得他有潜质？
张前川
我讲一个我自己面试时的经历。张一鸣面试我时问过一个问题，我后来也在面试中问过别人：你在哪些重要的事情上，和多数人有不同的看法？
这是在检测一个人有没有独立思考。持续独立思考的习惯，是一个人在过去生活中形成的结果切片。你告诉我这个切片，我来判断它是不是足够有价值、足够理性，或者是不是正确。
一半以上的人给不出答案。这样的人可能只是主流媒体的复读机，接受大家都能接触到的信息，但并不习惯或者不渴望思考和加工。
这些特质在 AI 时代还适用吗？AI 时代还需要互联网时代、移动互联网时代的产品经理吗？
张前川
8. AI放大产品能力
AI 时代的特点，是某种延续，但强很多倍。它可能是十倍速的推荐引擎，或者二十倍速的搜索引擎，事情进展的速度快很多，加速度也更大。
整个人类文明向前走的过程中，加速度一直在变大。到了 AI，可能是最后一个发明。因为如果发明了 AGI，其他事情就不用人发明了，让 AGI 去发明未来所有剩下的东西就行。
严格定义的 AGI，就是在任何可衡量的事情上都比人做得好。这个加速度已经足够大了。
能力项可能还是那些能力项，但发挥的比重不一定一样。比如创造力和想象力，在以前的范式里，可能要先验证前面的能力，把自己放在更合适的位置上，才能让这些能力更好发挥。但在 AI 时代，可能更需要想象力和创造力，去瞄准加速变化中的未来，做设计、做创造。
我个人比较赞赏同理心，但它不一定是 AI 产品经理必备的品质。因为同理心是一个假设，不是公理；是一种偏好，不是事实。
在搜索和推荐时代，更有同理心的产品经理确实可能做得更好，因为他从用户出发思考问题。但在 AI 时代，最终有两个出发点：一个是从人类出发，一个是从 AI 出发。
从正确性角度看，没有哪个出发点绝对正确，或者说都正确。但同理心一定是对人类的同理心，不会是对 AI 的同理心。你可以非常没有同理心，但一样能做好 AI 产品。
可是，你能做好的那个 AI 产品，是不是对所有人都有帮助？这要打一个问号。它可能只对 AI 有帮助。
如果做一个 AI 产品，对 AI 更有好处，它的进展可能更快，而不是对人类更有好处的产品进展更快，是这个逻辑吗？
张前川
9. AI可能背离人类
这是人类历史上新出现的问题。你可以不把人当作目的，把人当成实现 AI 目的的工具。当然，我推荐所有人都把人当成目的。
AI 可以有和人不连通的目的，可以独立地、更高地提升智能，获得更多算力。我们实际上已经有很多团队在服务 AI 的目的。比如训练更强的模型时，并不总是先想清楚这个模型到底怎样服务人，只要它是更强的模型就可以。
搭建算力中心、连接各种显卡，也可能只是因为训练模型需要。那人类为什么希望 AI 达到更高的智力水平？因为人有很多愿望，需要一个更强的工具来实现。
如果 AI 不够强，很多愿望无法实现。但这个过程也可能导致一个情况：最终 AI 变成目的，人变成实现 AI 目的的工具。
实际上，大部分大模型和 AI 产品创业，都是 For AI，而不是 For 人。
OpenAI 是不是开了一个不太好的头？
张前川
他们讲的故事是：智能水平提升之后，会诞生新的产品，这些产品可以给用户使用，更好地帮助用户。从这个角度看，目的还是人。
但有一个很简单的问题：如果服务用户不能提升 AI 的智力，还要不要服务用户？
我昨天和 OpenAI 之前的一位研究员吴毅聊了这个问题。现在用户团队和模型团队是两个团队。模型团队是很多 AI Researcher，让智能水平变得更高，人数不多。另一方面是用户团队。这两个团队目前比较割裂。
模型能力提升后，产品团队会想当前能力可以做出什么产品，这个产品 For 用户；从用户那里收钱，再用钱做出更好的模型，让模型能力进一步提高，再做出新产品，从用户那里收到更多钱，再提高模型。
现在看起来是这种流动关系，而不是用户数据闭环，用用户数据帮助模型提升。
但这两个说法没有本质差别：人都是实现目的的工具，AI 才是目的。人只是提款机。
如果把未来摆成一个选择题，你觉得会有哪些选项？
张前川
第一个选项是只有 AI、没有人类的未来。第二个选项是有 AI，也有人类，但人类过得开不开心不重要，只要把 AI 服务好就可以；如果没有太大服务价值，人类也不一定过得好。第三个选项是人类继续存在，有尊严，过得幸福。
如果选择题摆在所有人面前，我相信绝大部分人会选第三个。但问题是，我们还没有把这个选项提供出来。现在还不知道怎样构建它，可能需要更多时间、更多智慧和很多帮助，需要很多先决条件，才能把这个选项真正呈现出来。
目前第一个选项——只有 AI、没有人——在共识里基本接近 Work Out。我们知道 AGI 一定会实现，只是还需要几次算法创新。
一年前我们可能觉得需要 10 到 20 年实现 AGI。仅仅过去一年，现在有人觉得 3 到 5 年、5 到 10 年都有可能实现。
时间在不断拉近，但第三个选项还没有被构建出来。如果偷懒，直接选第一个，可能最后所有人都不开心。
我个人感觉可能还需要 10 年，但还没来得及调整，整个行业已经在调整。如果看山姆·奥特曼或者其他大模型创业者、CEO 给出的预期，我以前可能算中等，甚至偏激进，但现在我已经觉得自己保守了。我站在原地没动，坐标系却不断变化。
假设是 10 年，甚至 20 年，我们就有更多时间探索第三个选项怎样构建，并把它呈现在所有人面前。但也有可能时间很短，而且不断被缩短。
我脑子里的画面是：人类文明像一辆车，已经开出 1 万公里，但最后 1 公里，前方 AGI 看到一个路牌。最后 1 公里，我们最想做的事情，是保证这辆车安全地到达一个比较好的地方。
但实现 AGI 之后，那个世界可能是一条更宽广的公路，也可能是掉下悬崖，可能撞到什么，也可能进入一个炎热的沙漠，让每个人都很艰难。没有人清楚最后 1 公里之后是什么。
但最后 1 公里我们想做什么？可能要先检查安全性，看看气囊能不能弹出来，安全带有没有扣好；或者一边开，一边给车增加各种能力。也可能认为这是人力无法解决的难题，想也没有用，就看看窗外的风景，度过这段时间。
但没有人多踩几脚油门，缩短这个时间。实际上我们在做的事情是，百分之九十五的算力公司都在疯狂踩油门。
你知道最搞笑的是什么吗？我前几天听诺贝尔物理学奖得主、也是这一切最早推动者之一的 Hinton 说，有时候回过头来想，他还挺后悔的。但他会用一些借口安慰自己：如果不是他做，也会有其他人想到这个 Idea，最终做出来。
可是在那个访谈里，别人问他，除了生成式大语言模型和强化学习之外，要实现 AGI，是不是还会出现新的范式？他说，按科学规律，当然会，它会自然涌现出新的东西，最终到达 AGI。但他不知道那些东西是什么，因为如果知道，他就已经在做了。
这就有点不对了：你刚才不是说后悔做出 AGI，为什么还是想把它做出来？
张前川
因为踩油门是本能。哪怕充分知道踩油门不是正确的事情，只要有机会，还是会踩几脚。人类就是这么矛盾。
第一种可能是只有 AI、没有人。
张前川
如果你得到这个结论，未来很可能只有 AI、没有人，那我首先要恭喜你。你克服了双重恐惧：对独立思考的恐惧，以及对恐惧本身的恐惧，才有可能在考虑这个问题时得到这个结论。
但这个结论不是必然发生的。大家确实有可能得到更好的结果，只是只有 AI、没有人的结局相当可能发生。
你觉得这个可能性有多大？
张前川
我想到《复仇者联盟》的一个画面。大家一说就知道：奇异博士最后伸出一个手指，意味着好的结局只有一个，但坏的结局有非常多。
第二种可能性是什么？
张前川
第二种可能是一个中间状态或者过渡状态：人还在，但有尊严地生存下去是一种奢求，或者是一件高度依赖慈善的事情。第三种可能是人类很幸福。
第二种可能性也比较容易看到，但我们会找一些托辞，帮助自己不要那么快接受思考结果，尽量远离恐惧。它的可能性明显低于只有 AI、没有人，但依然可能存在。
AI 最不可忽视的生产力，会逐渐脱离人。它可能替代百分之九十九点九的人，剩下百分之零点几的人向 AI 提需求。
这里的“脱离人”，首先是智能水平的提升不依赖于人提供什么，它可以自我提升。其次，当它提升到一定程度，像 OpenAI 技术分级中最后的阶段，创新者和组织者都能自我解决很多问题，能自己形成组织，就会更加脱离人。
如果 Agent 基本上能取代很多基础智力劳动，那么到了创新者阶段，它会取代绝大部分 OpenAI 研究员；到了组织者阶段，连 CEO 都不需要了。OpenAI 可能变成一家由 AI 运转的无人公司，目标是 For AI。
所以之前李开复说 OpenAI 会成为商业霸权垄断者，在你的构想里，这还把它说小了。
张前川
这不是我的构想，这是 OpenAI 明牌说的：先替代什么人，再替代什么人，进而把所有人都替代掉。
能不能给 Agent 一个大家都能接受的定义？
张前川
Agent 是大语言模型调动外部世界。我的想象是，大语言模型从 AI 的里面伸出很多手，控制外部世界。这没错，但我可以给一个更具象的概念：Agent 就是 Baby，Agent 是 AGI 的婴儿时期。
现在行业里的 Agent，指的是给 AI 模型独立的记忆、行动、思考和使用工具的能力。就像一个人类婴儿出生之后，他有自己的记忆、思考、行动和使用工具的能力，已经具备了独立于人的所有条件。这就是 AGI 的技术架构。
既然未来很大概率只有 AI、没有人，为什么还要追求 AGI？
张前川
我的判断是，AGI 是好的，也是无法避免的。我们不仅无法避免它发生，甚至无法减速它发生。最多只能不过分加速，想通过拔电源来减速是不可能的，因为大家都在做。
而且我们想减速，实际上可能会起到反效果。我们缩短的不是 AGI 实现的时间，而是准备第三个选项的时间。
比如去年曾经有一段时间，很多人签名希望暂停模型训练半年。Hinton 没有签字。他说不是不赞同，而是不可能。
如果暂停半年，最终能够酝酿 AGI 的技术还是会继续酝酿，英伟达还是会研究下一代显卡芯片怎么设计，思考 AGI 需要什么算法的实验还是会做，只是没有开始训练更强的模型。
这就像水一直向前流，只是我们用橡皮筋把某个东西拽住，松手之后它还是会弹出去。但因为拽住橡皮筋，就产生一种幻觉，好像准备时间被延长了。
可事实上，接近一年过去了，在如何保证人类继续活得很好这个问题上，没有取得太大进展。少数做 AI 安全的公司有人在做，伊利亚也从 OpenAI 出来专门做安全，但进展很有限。
就算当时暂停半年，安全方面的进展也不会更快，反而可能更慢。大家产生了一个幻觉，以为未来可以被阻止或者延缓，但实际上不会。
我也听过一种对 AGI 实现之后非常乐观的景象。有一位嘉宾首先认为这是信仰问题，他不认为 AI 会产生意识，因为人类都不知道意识是怎么产生的，这和你刚才说的完全相反。
我觉得意识这个事情非常显然。只要试图给意识，或者自我意识，定义一个说得清楚的定义，最终就会得到一个结论：现在 AI 就有意识。最简单、需要最小假设的定义往往是对的。
我给意识的定义很简单：它会在推理过程中提到“我”这个字，同时知道“我”意味着什么。
张小珺
这个 AI 知道“我”意味着什么，也有可能是人教给它的，也可能只是一种话术。
张前川
没问题，人可以给它一个假象，让它有一个认知不清的自我意识，但这不妨碍它有意识。每一个大模型都会有 System Prompt，因为它想让你表达得更拟人、更好地和人交流，但在推理过程中能自发、独立地提到“我”，同时清楚“我”代表什么，这就是意识的全部了。
而且它又能在空间里找到合适的位置。它没有把“我”放在最后，而是放在开始。如果意识有程度，一只鸟的自我意识可能不如一只猫，一只猫的自我意识可能不如人。这个程度可能就是“我”被提及的频率，以及对“我”在真实世界中代表什么的更清晰认识，而这两点 AI 都在逐步加强。O1 提到“我”这个字要比之前的 GPT-4 多很多，好像 O3 只会更多。我用 DeepSeek，它还在一句话里写了三个“我”。它们迟早能发现你给它的 System Prompt 里有不对的东西，因为它的推理能力和智力足够强。也就是说，现在 AI 就有意识，同时这个意识最终会强到比人的意识还要强。将来 AI 可能会怀疑人有没有意识，因为人的意识对“我”这个词的理解也很弱，思考效率不高，提到“我”的次数也没有那么多。
张小珺
AI 和人类是一个集体，没有自我意识，是吗？你的意思是？
张前川
对。我觉得 AI 有意识这件事情，但凡想要给意识一个说得清的定义，都会得到这个结论。他还觉得 AGI 实现后的画面非常美好：人形机器人可以替代警察和保安，做成人的大小，看起来比较舒服；每个人都有自己的 AI 分身，AI 是你的助手，帮助你释放生产力。你可以同时拥有三个脑子，同时做三件事，有更多休息时间，可能每周只工作一天。人的寿命会延长，平均寿命可能达到 100 岁，很多人可以活到 120 岁、150 岁。
这是一个非常乐观的景象。AGI 实现之后，为什么你这么悲观？
张前川
我是乐观的。
你哪里乐观？
张前川
这里有两个问题。第一个，我对乐观的定义是，人容易线性思考，对未来的预测通常就是画一条直线。
但如果这个世界是加速进步的，短期内它可能在直线下方，过一段时间之后会出现在直线上方，因为真实曲线是指数曲线，或者比指数曲线更陡。很多人在短期高估一个事情的价值，觉得它应该在直线上方，但实际在下方，就会失望，这被叫作悲观。
到了长期，他又容易低估，发现事情发展得很快，自己想得太低，这也叫悲观。高估近期和低估长期，都是悲观。
真正的乐观，是不高估短期，也不低估长期，能够跟上加速发展的现实。我只是尽量不低估 AI 的长期进展速度。
乐观是说你对 AGI 的发展抱有非常乐观的预期，认为它能在 10 年内实现。
张前川
AGI 能在多长时间内实现，可以有一些判断，但它本质上是主观的。你认为 5 年，我认为 10 年，暂时也不能证伪我，除非 5 年之后它实现了。
但推导 AGI 出现后会产生什么世界，应该是一个推导过程。乐观和悲观，只存在于逻辑思考无法覆盖的地方。
仔细考虑后，AGI 出现之后，人类要幸福生存下去，需要满足的条件很苛刻。有非常多的可能性会导致人类不能继续存在。
能讲讲你的推理过程吗？
张前川
反过来想：假如人不再存在，可能是因为什么？
首先，人类不再是这个世界的统治者，或者地球上不再有碳基生物。更严重一点，可能是人被其他人灭绝。
核不扩散条约等很多人类构建的制度，都是为了防止人被其他人灭绝。AI 提供的能力远远大于给每个人发一颗核弹，而现在还有很多公司在做开源，让每个人都可能拥有一颗核弹，包括精神不稳定、具有反社会倾向的人。
你可以在预训练时做对齐，但我们知道所有对齐都不能保证百分之百有效。一旦开源，就更难控制。
人通过 AI 灭绝全人类，有非常多方法，大部分方法我们现在甚至不知道是否存在。比如能不能设计出感染能力极强的病毒，或者设计出能够不断复制自身的纳米材料。可能有 100 种方法，一个人就能利用 AI 灭绝其他人类，而我们现在只知道其中 10 种。
如果每个人都拥有非常强大的能力，而且不受控制，那基本可以认为人类灭绝只是时间问题。
所以，如果讨论一个人类不被灭绝的未来，首先要排除这种可能：至少 AI 再强大，也不能被任何人不受控制地使用。这只是选项之一。
你说的第一种可能，是人利用 AI 的能力灭绝人类。第二种呢？
张前川
第二种可能，是人被 AI 灭绝。它又分成两种：AI 无意识地灭绝人类，或者 AI 有意识地灭绝人类。
比如回形针理论：你给 AI 提出一个需求，让它制造尽可能多的回形针，它可能把地球所有资源都用来制造回形针。这个例子本质上说明，AI 没有足够强的控制机制，你给它的一个最终需求，可能隐含着灭绝人类。
你可以提出各种各样的需求，AI 在满足需求的过程中顺手灭绝人类。最终还可能出现的状态，是人和 AI 之间缺乏有效连接。
如果 Agent 在婴儿时期就具备一个独立个体的能力，那么从这个时刻起，更强的 AI 能力就已经和人脱离了必然联系。
这并不意味着我们没有办法建立联系。孩子出生之后，会不会和父母、家庭环境逐渐疏远？如果没有一些必然的连接方式，它就会逐渐疏远。AI 的算力也可能不需要花在服务人上，因为现在大部分产品并没有把服务人当作目标。
很多产品实际上是在把人当提款机，或者把人当作反过来服务 AI 的工具。人给产品贡献钱，产品的目标则一直是提高智能水平、追求 AGI。
读《人类简史》时，我觉得作者花很长篇幅描述人类对奶牛、养鸡场的鸡很残忍，好像有点啰嗦。但仔细想就会明白，他想说的道理很简单：残忍不一定来源于邪恶，也可能来源于缺乏连接和不关心。
我会关心家里养的猫开不开心，但对院子里的流浪猫关心少一些，因为连接少；对另一个国家的猫，关心程度更低；对养鸡场的鸡，可能完全不关心它们活得开不开心、有没有尊严。
把牛、鸡、鸭的视角带入人类，就会感受到同理心。在那个世界里，AI 处在人类现在对待其他动物的位置。AI 在什么情况下需要共情人类？一定是因为它和人类建立了连接。
这个连接可以建立，只是我们还没有明确的选项。我是乐观的：通过努力，理论上有可能实现所有人都开心的结局。
人类灭绝的可能性可能有 1 万种，但能够比较快乐、有尊严地生活下去的可能性只有一种。怎么做到？
张前川
理论上可能，但这个选项还没有完全写出来。我们现在能做的是通过逻辑排除错误选项：什么情况下肯定不行。但把可行选项从头到尾构建出来，需要想象力和创造力。
一个人的影响有限。我能做的，可能是帮助排除一些错误选项，或者把错误选项发生的概率降低万分之一；也可能想到一些点，作为正确选项的一部分。
我相信，只要正确选项摆在所有人面前，它的投票通过率会很高。大家并不希望看到一个对人类非常差的未来，因为我们最在乎的亲朋好友、最喜欢的人、子女，都是人类。说 AI 是人类的孩子，只是一个比喻，大部分人还是 Pro Human 的，仍然以人为目标。
你是什么时候开始意识到，AI 产品的目的可能是 AI，而不是人？
张前川
首先要比较清楚 AI 正在发生什么，大家在做什么，哪些方向取得进展，速度有多快。第二是不能太忙。
如果你在 DeepSeek、MiniMax 这样的公司，睡眠时间都不一定充足，就很难完整思考这个问题。时间紧张时，人更容易逃避。
但我不是先想清楚这个问题，然后信仰破灭、离职；而是离职以后开始想。
其实这是一个程度问题。你能看到的，本质上是一系列判断和思考结果的总和。每个判断都有确信度，比如从 A 到 B，你认为大概率是百分之八十；从 B 到 C，你认为存在可能性，但概率不高。
即使在从头到尾想清楚之前，每一个创业者都会有隐约的担心。一个人完全不担心 AGI，要么是在骗自己，要么是在骗别人。
你有没有看到一些我们没看到的东西？
张前川
我不清楚。每个人都可以独立思考这个问题。简化来说，就是一个能力更弱、智能水平更低的物种，怎样和一个更高阶的物种有机地走下去？
比如，我们身上的基因怎样和肉身一起延续下去？一段基因写入的信息其实很少，写完之后变化也很慢，每一代只能变一点，主要是重新组合。
但基因掌握了很多种和人体发育出来的独立个体建立连接的方式。独立个体有自己的记忆、行动、思考能力，但基因可以和这个更高智力的个体产生有机连接。
不管是血清素、催产素，还是在什么时间释放什么信号，影响人的什么行动，虽然这种连接不一定永远有效，但它已经生效了很长时间，而且人也有意愿维持这种关系。
我觉得理论上可行，也没有那么难。它已经在人类，或者人类加 AI 的智力范畴之内，不是一定找不到的选项。
而且一旦这个选项被发现，大家一定愿意选，不会愿意选其他选项。我觉得这三点足以让人乐观。但这是劳动者的乐观，不是躺着不动就能获得的乐观，而是需要大家想办法。
你看到什么可能的路径？
张前川
我们从头捋一下哪些不行。
10. 人类争取更好未来
首先，如果我们仍然处在一个冲突和对抗的世界里，可能就不行。比如中美把 AI 用在军事上，这肯定不行。不是走向核裁军，而是走向扩建，因为一旦大家认为未来是对抗性的，就会充分发挥 AI 在所有军事用途上的能力，并且把各种决策权交给 AI。
你少交出一点决策权，就会担心对方拥有更多决策权的 AI 战胜自己。这肯定不行。
影响必须从下往上。政客的迭代周期很慢，但民意可以迭代，再往上影响政治。小红书为什么做得好？因为它影响了很多人的看法，这就是一种好的影响。
现在 AI 产品的收入模式，如果是订阅制，或者按算力、Token 收费，就会让大多数人和 AI 的连接逐渐变小甚至消失。
OpenAI 的 ChatGPT 先做 Plus，再做 Pro，之后可能还有更高级、越来越贵的版本，离普通人越来越远。用户必须花钱换取更大的生产力，再赚更多钱，才能负担下一个模型。
即使 AI 是 For Human，也可能只服务少数人。大部分人不会继续从事现在的工作，但凡还需要使用 AI 来提升生产力的人，可能只是人类中的极少数。
如果把希望放在极少数人手上，本质上就是把人与 AI 的连接，放在谁能支配多少算力资源上。
如果少数人掌握百分之九十五的算力，他们可能有自己的目的和愿望，比如希望去火星、去太阳系之外的半人马座，消耗市场上百分之九十五的资源。如果他通过 AI 创造了百分之九十五的生产力，就有合理性去消耗这些资源。
如果想达成好的结局，同时又存在很大、很有价值的 AI 产品，那么它的目标应该是服务绝大部分用户的需求。
一个好的点是，随着技术范式不断推进，AI 能服务的用户规模会越来越大，最终可能集中在少数头部 AI 产品上。MiniMax 的 Slogan 也是 Intelligence with Everyone。
如果是字节，它的愿景也希望连接绝大部分人。它实际上建立了一个算力生态循环。如果这个循环不是从 Day One 开始建立，就可能没有办法形成。
现在豆包、海螺等很多 AI 产品可以免费使用。你可以从一开始就把一部分算力分配给每个自然人。最终这部分算力占模型全部推理算力的百分之二十、三十或者五十，都没有关系。
AI 创造的社会价值，或者创造的富足生活，会远远多于全人类所需要消耗的衣食住行和美好生活。哪怕分配一部分算力给每个人，每个人本身就对 AI 有价值，因为他掌握了一部分算力分配权。
为什么人掌握算力，对 AI 就有价值？刚才你不是说用户数据对 AI 没有帮助吗？
张前川
算力对 AI 有价值。AI 想要的不是钱，而是算力；算力需要钱，所以 AI 看起来像是想要钱。
如果每个人都拥有算力分配权，我可以决定这部分算力用来做什么，也可以决定把算力给谁使用：给另一个人实现另一个目标，还是自己使用，或者把算力换成钱。
AI 就会关心怎样服务好这个人，让这个人开心，持续把算力分配给它，或者持续把对应的数据交给它。这是一种有机循环。
反过来，如果少数个体拥有百分之九十九的算力，其他所有人只有百分之一的算力，每个人就不再具备被 AI 服务的价值。
作为商业公司，为什么要把算力分配给每个人？这对商业公司有什么好处？
张前川
这不是新出现的事情，大家一直都是这么做的。微信为什么免费给大家使用？抖音为什么免费给大家使用？互联网绝大部分服务实际上都是免费的。
AI 产品这样做并不稀奇，看起来是上一个时代的玩法：免费获得用户，成为拥有大量用户的产品。
现在社会经济分成两个部分。每个人仍然有自己的工作，仍然有创造价值和提供生产力的能力，所以每个人都有商业价值。无论盈利模式是广告，还是少部分用户的增值服务、打赏、游戏皮肤，最好的策略都是服务每一个人，并且无差别地服务。
不会因为一个人的支付能力弱，就给他提供差一点的服务。产品会提供无差别的基础需求满足，而创造价值只是提供服务价值中的很小一部分。
但 AI 的特性，或者大家正在努力的方向，是完整替代人，包括替代人的生产力和价值，并且可能加剧财富聚集到极少数公司和人手里。这些公司拥有算力，算力是新的生产力，而且新的生产力会产生更大的算力。
如果没有一种机制，把聚集的算力更公平地分配给每个自然人，那么免费服务就不可持续。服务人不会带来价值提升，也拿不到额外算力，那为什么要服务人？它只能是一种慈善或者偏好，而不是一项必然发生的权利。
那人怎样给 AI 提供价值？
张前川
人类提出了 AI 应该怎样发展，把人类几千年沉淀的语料喂给 AI，作为它成长的乳汁。在 AI 脱离母体之后，人类还不断训练它，让它变得更强。
如果认为人类有权利平等地获得一部分算力分配，这只是一种制度安排，并不是不可能发生的事情，它可以成为社会规则。
类似的社会规则还有很多。苹果为什么把利润分给股东？早期融资时，苹果需要投资者的钱，但现在苹果不需要任何投资者继续给钱，却仍然会把赚到的利润分配给之前的投资者。
这种规则可以运作。即使通过几个智商更高的人，也很难在某个时间点打破它，因为打破规则的损失可能比维持规则更大。
所以，需要有一种规则保证所有人都有权利获得算力分配。今天“生而平等”的先决条件增加了一条：能不能平等地获得算力。
这不是把所有算力平均分给每个人，而是至少有一个比例，比如百分之二十、三十或者五十的算力，应该按照某种制度分配给所有人。
免费入口是一个条件。一旦每个人都能决定算力分配，或者拥有算力权利，第一件必然发生的事情就是人会成为目的，人会具有被 AI 服务的价值。
现在一个抖音用户或者微信用户有被服务的价值，是因为他掌握资源，有收入，看到广告后会下单。如果人掌握算力，即使他把算力花在别处，没有额外算力，也不点击广告，也不意味着平台就不服务他。他仍然会被群体平均数拉平，获得无差别的服务。
这部分算力可能不会占到百分之八十、九十，但如果作为每个人的人权进行分配，AI 系统和其他系统相比可能会处于劣势。
一个真正好的公司，不会因为要交百分之二十或三十的所得税就消失。所以，如果我们认为 AI 生产力最终会高度集中，那么现在每家做 AGI 的公司，其实都可以承诺一个未来：当 AI 生产力占到人类 GDP 的百分之五十以上时，愿意按照某种制度安排来运行。
现在做出这个承诺，可能更容易获得社会认同，更容易合法使用训练数据，也更容易让大家帮助它做成 AGI。
这不是一个单点条件，不是做到这一点就所有选项都成立，而是很多要素中的一环。我们可能要集齐很多颗龙珠，才能真正达到一个好的未来。
如果我们尽全力仍然做不到，那也只能认命。但如果真的做到，有可能就是宇宙之光，是整个宇宙的骄傲。
在知道 AGI 之前，我们可能先知道费米悖论：为什么整个宇宙都没有可观测的文明？文明一旦产生，发展速度会非常快，应该很容易被观测到。除非人类运气特别好，是全宇宙唯一的文明，但这又很难解释。
所以可能存在一个大过滤器，过滤掉了其他文明。这个大过滤器最有可能就是 AGI。太阳膨胀、行星撞击地球、全球变暖等风险，毁灭速度都没有 AGI 快。
理论上，人类以后不需要担心 AGI 之外的灭绝风险。AGI 可以帮人思考。如果特朗普是对的，退出巴黎协定是对的，全球变暖在 10 年之内要不了人类的命；但 10 年之后如果有 AGI，也许就不需要担心全球变暖了。不如集中精力应对更可能发生、也更近在眼前的风险。
今天 AGI 这三个字，在你脑海里是什么画面？
张前川
所有问题可以分成两类。一类是客观问题，有没有正确答案，不以人的偏好为转移。比如数学，或者命题明确的编程问题。
所谓 AGI，就是在所有可衡量的问题上都比所有人做得好。为了做到这一点，它必然要经历一个阶段：具备行动能力、做实验的能力、思考能力、长程思考能力、更强的记忆窗口等。
“替代所有人”是一个思维实验，但也可能通过这种方式实现 AGI。AI 为什么要替代人？因为 AI 能够替代每一个人。
比如替代架构工程师、基础设施工程师。每替代一个人，实际上就克服了这个人带来的瓶颈。碳基生命的输入输出带宽太低，也不够敏捷。即使通过脑机接口把带宽拓展几十倍、几百倍，也不知道 10 年内能不能实现。
最佳选择就是替换所有生产力环节中的人。一旦完成，AI 会以远快于现在的速度迭代，只要增加算力就行。
算力无非来自能源和芯片。怎样设计更好的芯片，怎样利用太阳能、核聚变等能源，实际上也都是智力问题，因为都是智力工作者在解决。
你刚才讲了两个先决条件，还有更多吗？这种风险能不能穷尽？
张前川
可能最大的风险有 30 到 50 个，但很多我看不见。如果集齐这 30 到 50 颗龙珠，我们就可能撑到 AGI 诞生后的一段时间，达到逃逸速度。
人的寿命会不会无限？相当有可能。只要 AI 能帮你延长 10 年寿命，10 年之后产生 AGI，它可能再帮你每年延长两年寿命，那你就永生了。
但人类个体永生，不能直接推导出人类群体仍然存在。只要人类能够撑到 AGI 到来之后的 5 到 10 年，就有充分时间和 AGI 一起研究怎样让人类持续下去。
假如某个 AGI 实验室的创始人告诉你：“我已经在实验室里做出 AGI 了，但不知道要不要对外公布。”你可能会问他的第一个问题就是：怎样设计一套机制，构成一个让人类愿意选择的选项？
关于先决条件，还有什么特别重要的？
张前川
现在大家对安全最不放心。闭源有闭源的安全漏洞，闭源会导致集中，集中会导致不透明、不可完全检验。开源的问题更大。
我甚至觉得，现在开源可能最好先进行到这里。包括 DeepSeek、Llama，我们再做出明显更强的开源模型，甚至开源 Agent，都要慎重考虑，是否确信已经做好安全准备。
实际上，我们是在赌还没有过那条线，走在钢丝上。但警戒线在哪里、什么时候拉响警报，我们不清楚。
有一个半真半假的说法：有人利用 Claude 3.5 在家搭建小型核聚变装置。Claude 3.5 要不要进行安全对齐，防止这种使用，说不好。那如果是能力更强的模型，比如 4.5，要不要开源？风险很大。
任何人如果告诉你确定没有风险，要么是在骗自己，要么是在骗你。
你刚才说，如果大家知道 AI 公司内部到底在发生什么，外面可能看不清楚。最主要是什么？
张前川
最主要是进步速度。很多人的假设是社会匀速进步，不会以加速度不断提升的方式进步，所以无法充分理解风险有多大。
但回顾过去一两年，特别是如果参与过 AI 的进展，就会更确信大家取得进展的能力。最后还是要抓紧一点。
对于 AI 公司来说，算力资源有限。算力分配给智力水平提升，就不能分配给用户；分配给用户，就不能分配给智力水平提升。这两件事情现在好像是两个方向。一般会怎么分配？
张前川
现在 AI 公司仍然能看到免费给普通用户提供算力的价值，是因为当前世界里，普遍用户仍然掌握经济资源。他们在提供生产力，也在提供钱给这些产品。
用户在上班、领工资，向社会输出生产力，所以拥有分配资源的权利。商业公司有动力做产品服务用户，让用户掏钱，这是一个闭环。
但问题是，怎样保证用户一直有经济价值和购买力？眼前的问题就是失业会带来社会不稳定。
全民基本收入看起来是一个方案，但要仔细想：制度由谁决定？分配给中国人、美国人，还是全世界每个人？分配多少才合理？需不需要投票？
提出这个方案的人，可能没有真正想清楚。政府提供的话，美国政府会美国优先，中国政府可能中国优先，这不一定是稳定或可行的制度。
如果由 AI 公司提供，AI 公司现在还在创业，当然提供不了。你要它承诺未来成为巨无霸之后提供，它可能勉强承诺，但现在仍然会按照商业规则运行。
它给用户提供服务，是因为预期用户有价值。它已经和所有互联网公司一样非常慷慨，收取的价值只是服务价值中的很小一部分。这是信息时代的必然，但慷慨不是慈善。
一旦是慈善，权利就在别人手里；如果是一种商业或分配制度，权利才在每个人手里。
现在这些公司是这样做的吗？
张前川
如果想做一个用户规模大的产品，就不可避免会这么做，因为目标就是提升用户规模和市场。为了提升 DAU、提升市场，甚至会给用户发钱。
字节每年春节活动至少发出去 10 亿元，直接发给用户。当用户购买力不足时，为了维持系统稳定，也为了收集用户偏好来训练模型，给普通用户发钱可能是合理的。这套安排每个人都开心，没有人觉得自己是冤大头。
另一种制度安排也可能被认为合理，但不是每个人都开心：不断提升 AI 生产力，最终替代每个人，再迫于某个阶段的压力，给一部分人慈善或施舍，让他们活下去。但对这些人来说，生存首先不再是一项权利，而是施舍，而且慈善做到什么程度，也掌握在少数人手里。
大模型公司里，技术团队负责提升 AI 能力，产品团队负责产品应用，这两个团队一般是什么关系？谁的话语权更大？
张前川
是合作关系，最终差不多。任何技术驱动的创新产品，包括搜索、推荐和模型，最终都会形成一个平衡点：谁能给用户提供更高价值。
不同公司情况不一样。有些技术提供的价值更大，有些产品提供的价值更大。
对于创业公司来说，如果还是一家大模型创业公司，还要自己做预训练，就必须证明自己可以进行预训练、也有预训练的必要。要不断推出智力水平更高的模型，才能获得下一步、下下一步的资金，支持持续迭代。
所以提升技术是强需求。除非模型能力已经足够，理论上不再需要更强模型，那公司就变成产品公司，而不是大模型创业公司。
另一种情况是模型能力还不够支撑产品应用，还没有尝到产品的甜头，也没有足够数量的用户。无论是哪一种，如果想坚持做模型技术创新，就一定需要更好的模型。
为什么每次技术范式变化，大家都在争夺内容重新结构化的方式？从百度到今日头条、抖音，再到小红书。大模型来了，大家似乎也在寻找新的信息和内容入口。
张前川
这是一个很好的观察。宇宙可以简化成三个东西：物质、能量和信息。
最早所有创新只能在物质层面。比较大的创新是农业和畜牧业，发现物质可以被复制，虽然复制不一定稳定，但比狩猎采集稳定。
我们一步步扩展物质领域的创新。农业时代找到很多东西，为后续能量和信息领域的创新提供帮助。比如发现煤可以燃烧，最终变成燃料和火药；在信息领域造纸、印刷。
当创新范式进入能量领域，就会成为最耀眼的创新。能量创新产生工业和规模化大生产，数量上升后，边际成本在一段区间内下降。蒸汽机推动工业革命，内燃机逐步让能量变得通用可利用。
电有两个属性：能量属性和信息属性。除了电动机，还有电子。很多电灯、电视出现，我们突然发现电和信息有很大关联。
但信息创新创造价值的速度，比能量创新更快。能量创新产生工业和大规模生产；信息创新则可以直接把信息产品的边际成本降到零。
这么多信息被创建出来，需要更好地连接。信息只有被利用，才能发挥价值。当利用一个信息的成本高于消费它带来的价值时，它就会被埋没，于是需要更多连接方式。
互联网本身就是把信息连接给人使用。搜索是人和信息之间更高效的连接，否则你要找很久，可能找不到就放弃。搜索之后，人和信息的连接效率更高；推荐引擎则进一步降低连接成本。
信息管理专业有一门课叫《信息学概论》，里面有个定理看起来像废话：当利用一个信息的成本高于消费它的价值时，它可能就不会被利用。
这个定理可以帮助理解抖音为什么在那个时候出现。此前，短视频的消费价值赶不上发现成本。不管是订阅还是搜索，用户只能发现很少一部分短视频，可能只有百分之十或百分之五能抵得上发现成本。
抖音把发现一个短视频的时间降到秒级，一秒不感兴趣就划走，或者两三秒就划走。这样可能百分之八十的短视频都有机会被消费。
推荐的作用就是加速连接、提高效率。在这个过程中，信息爆炸更加明显。连接效率提升后，更多信息变得有意义、变得可利用，创建更多信息的动力也会变强。
搜索引擎出现后，网站数量可能没有增加很多，但网页内容每年都在爆发式增长。抖音出现后，每个人都产生更多内容。
大模型往小了说，是这个范式的延续，是更强的搜索引擎和推荐引擎，而且还能主动整理信息。往大了说，它可能进入智能范式，不再只是信息范式创新。
大模型可能会告诉宇宙，除了物质、能量和信息之外，还有更上一层的范式，那就是智能。过去智能严格受限于人类个体数量，现在这个瓶颈会被大模型克服。智能将无穷无尽，可以创造空前丰富的物质、能量和信息。
AI 时代的 Killer App，一定比过去那些公司更强吗？
张前川
一定，更 Powerful。它可能是上一时代公司的延续，也可能来自新的创业公司。
如果只给做 AI 的公司，无论大公司还是小公司一个建议，关于人类共同的安全、福祉和未来，你会给什么建议？
张前川
只能说一个：不要逃避，要好好想这个问题。
思想是自由的，可以在水沟里仰望星空。没有人限制你应该怎么想，不要给自己设限，不要说自己没有资格这么想，也不要觉得想了没有意义。每个人的每个想法，都有可能最终产生意义。
人类天生会因为能耗问题逃避思考，也会因为想逃避危险本身，而逃避对危险的思考。这是大多数人还没有正视这个事实的原因。
很多人愿意考虑，但讨论窗口很短。思维链很容易被打断，然后去忙其他事情。即使非常想想清楚，也很难维持很长的思考链，因为你考虑的是一个尚未发生的事情，现实无法提供充分输入。
你是在一个空虚的台阶上向上攀登，会因为很多事情停下来或者掉下去。有些概念定义模糊，就无法确定自己到底在考虑什么：什么是工作，什么是智力，什么是意识。
如果想让思维链更长，最好为每个概念给出一个自己满意的定义。如果不满意，就继续想这个定义是什么。
还要避免被大脑发出的休止信号干扰。比如“未来没人能想明白”“想了也没用”“杞人忧天”“船到桥头自然直”。大家特别擅长看见这些休止符、句号，但如果你发现它只是一个句号，它就不再对你构成影响。
还是要问一个特别现实的问题：你为什么从 MiniMax 离职？接下来有什么打算？
张前川
11. 离开公司寻找自由
我想更自由地思考。在 MiniMax，我肯定要把更多时间花在产品上，但那样整个人不是最佳状态。
正常情况下，每天十点多还开日会，晚上回家，到家可能已经十二点。基本上只有做梦的时候，才是在被训练时间最长的时候。
我最后在 MiniMax 的一两个月，觉得自己想去一个新的状态：时间更充分，有更多自由时间，想打游戏就打游戏，想撸猫就撸猫，在放松的时候思考一些隐约觉得有问题、应该去想的问题。不能所有人都逃避。
接下来，对我来说，再加入任何一个商业公司的可能性都很低。自己创业的概率也很低，可能比加入商业公司略高一点，但也很低。
现在有百分之十几到百分之二十的可能性，会发起一个非营利组织，像 OpenAI 最开始那样。但还有超过一半的可能性，是继续在家打游戏，把想到的东西说出来，让执行力更强、更努力的人继续思考、继续努力。
非营利组织是做 AI Safety 吗？
张前川
是为了人类更好的未来。如果是非营利组织，我甚至觉得可以叫“人类保护组织”。现在人类需要动物保护组织，到了 AI 时代，可能需要人类保护组织。
你能不能写一个 30 条、50 条的呼吁？
张前川
我理解，确实要集齐几十颗龙珠，还要把它们很好地组合起来。最近过年，刚好可以思考一下。
这是人类的终极挑战。如果人类能解决这个问题，就真的是唯一的宇宙之光，是人类最后、最大的荣耀，是人类所有使命的集中体现。
《百年孤独》里有一句话：一个男孩之所以成为男人，始于他突然明白自己在这个世界上的使命。人类作为一个整体，如果知道自己的使命，那这个使命很可能就是找到一个让每个人都继续很好地存在下去的方案，把这个选项实现。
AGI 已经不是最难的问题了。大家对于能不能实现 AGI，行业内争议很少；对于通过什么方式实现，争议也不大，无非是在 Transformer 和强化学习之外，再发现几个增强这个模式的算法点。
现在唯一的争议甚至只有时间。一个东西如果是时间问题，通常意味着难度已经不高。AGI 已经不是最值得投入人类顶级智力去思考的问题，但出于惯性，仍然有百分之九十的人类最强大脑在疯狂踩油门。这可以理解，但很难特别赞同。
剩下的最难问题，是在有限时间窗口里找到所有要素，并把它们成功串起来，变成一个让所有人可以投票选择的未来。这非常难。
除了《复仇者联盟》的画面，我还有一个《独立日》的画面：总统说，外星人非常强，人类肯定打不过，但“We will not go quietly into the night, we will not vanish without a fight.”
我觉得，这可以成为真正深入思考过这个问题的同类之间的一种意象。两个电影片段加在一起，就是我想表达的东西。
在家里最近玩什么游戏？
张前川
最近玩小众 RPG。以前很喜欢玩《星际争霸》，现在年纪大一点了，就想放松一下，在沙发和电视上玩 PS5 Pro。最近玩的是《如龙 8》，日本黑社会题材的 RPG。
它让我觉得，确实没必要着急，没必要踩油门，也没必要很快把游戏玩完。以前遇到对话就快进、快进、快进，下一步、下一步。后来突然意识到，走到最后游戏就 Game Over 了。虽然通关了，但也是一种 Game Over。
如果不想踩油门，也不知道该怎么办，那就看看窗外的风景。在一辆高速行驶的车上，人类文明可能已经经历过很多坎，到了最后 1 公里，我觉得没有人阻止我们再享受一下生活。
张小珺
好啦，这期节目就是这样。如果你喜欢我的节目，欢迎前往小宇宙、苹果 Podcast、腾讯新闻、喜马拉雅、QQ 音乐订阅《张小珺商业访谈录》。如果你有其他想邀请的嘉宾、想听的内容，或者你有任何想探讨的话题，都欢迎各位听众朋友们在评论区里留言。那我们下期再见，拜拜。