[BidClub_]
硅谷101 · · 47 min

E195|从工具到伙伴:七位AI Agent深度使用者的思考

Sophie鸭哥新琦Kolento课代表立正曲晓音俞舟高宁Jimmy

YouTube
TL;DR
  • AI Agent的分水岭不是会聊天,而是能调用工具、自主决策,并依据中间结果多轮迭代。鸭哥强调,写死步骤的workflow不太算Agent;新琦则把合格产品定义为能端到端承接任务、主动给出决策建议并交付成品的“甲方和乙方关系”,而非等待用户逐步拆解和验收的合同工。
  • 现阶段,不同任务应匹配不同的人机协作强度。Manus、Devin适合简单、hands off的“秘书型”工作,Cursor、Windsurf更适合需要频繁讨论、审计和架构控制的软件开发;用户真正要的也不是替他填信用卡,而是把航班、酒店、家庭安排等复杂取舍整理清楚。“痛点根本就不在最后那5分钟。”
  • 应用层的重要壁垒,是模型公司未必掌握的反馈数据、行业经验和长期“默契”。曲晓音认为,AI像聪明但没上过班的实习生,真正欠缺的是老板对结果“好还是不好、做完了还是没做完、打几分”的反馈;鸭哥举例,Agent记住公司PPT应该用蓝色而非绿色后,便形成竞争对手无法立即复制的“默契”。
  • 传统SaaS的system of record并非不可撼动,但通用Agent长期仍会遭遇模型层替代。高宁以医疗记录为例:语音经AI整理后产生的数据更及时、准确、丰富,新startup可能掌握比旧表格更有价值的新记录;但若Manus、Genspark与模型公司的Agent差异越来越小,长期一定存在替代,应用公司需要靠多模型组合、私有数据和workflow“脏活苦活”拉开距离。
  • Agent经济账应与被替代的人类服务比较,而非只盯token成本。HeyBoss AI面对的是可能收费数千美元的海外开发、设计、文案和SEO团队;在晓音的比较中,AI的速度和价格不会劣于这类团队,真正门槛是效果:“90分”的人工方案不会因为AI只有“60分”、便宜10倍就被替换。壁垒也随交付深度上升——做完网站只是中间一步,帮助客户获客、留存和挣钱才是终点。
  • 多Agent可能把自动化从单一工种推向整个团队,但企业级基础设施尚未准备好。前沿方向包括backtracking、self correction、self learning,以及由“AI CEO”协调多个专业Agent;真正落地还要解决分布式并发、成本、数据库修改与恢复、memory共享边界、权限clearance、governance和安全漏洞。
  • 企业普及的瓶颈既是技术,也是组织学习与工作流重构。俞舟概括为“technology is easy, people are hard”,部署需要top down推动员工教育和生产关系调整;课代表立正更激进地要求用户从user变成builder——Manus前14次出错、第15次成功,说明系统已有潜力,也说明使用者尚未学会调教。
  • Agent时代稀缺的能力将从“会使用工具”迁移到管理、价值判断和环境设计。鸭哥把AI视为team member,人需要学习委派、验收和管理;Kolento主张先做whole person alignment、只在高危例外中确认,同时担忧人机互动越来越“薄”。曲晓音进一步预见,数百万Agent可能形成利益冲突、投票制或“AI CEO独裁”,甚至出现AI管理人的混合组织。
Digest · the substance, structured for research

1. 工具调用只是门槛,自主决策与动态迭代才构成Agent

  • 鸭哥给出三个必要条件:能调用搜索、编程等工具;能自主拆解任务、安排顺序和参数;还能根据前一步结果决定停止、换关键词或继续深挖,而不是执行写死的静态workflow。

  • 新琦从合作关系补上产品定义:合同工需要甲方定义问题、拆步骤、逐项检查;好的乙方则应“端到端地承接整条流程”,在关键节点主动介入、提供建议,接收高层指令后自动执行,最终交付成品而非一堆半成品。

2. Agent的最佳形态取决于用户愿意放出多少控制权

  • 鸭哥把日常产品分成三类:OpenAI Deep Research和ChatGPT的o3是“教练型”窗口;Manus、Devin适合相对简单的hands off秘书工作;复杂开发则交给Cursor、Windsurf这样的搭档,先讨论设计,再逐块实现,由人类架构师组合和审计。

  • 最能体现秘书价值的例子不是办公:鸭哥让Manus基于白雪公主写睡前故事,夹带“好好吃饭、早睡早起”的教育目标,再调用TTS生成音频。“Manus其实非常擅长这样的事情。”

  • Kolento从Cursor、Windsurf转向更能替他决策的Replit;他认为Manus和Genspark都比较惊艳。两者都能规划任务、回放并分享执行过程;他感觉Genspark此前在旅游场景做得不错,可能预设了旅游搜索工具,此外“Call for Me”还能帮用户打电话、预约酒店,带来了小小的aha moment。

3. 垂直Agent的价值在端到端交付,也暴露在细节判断里

  • 新琦测试的CreateWise能从上传音轨开始,直接交付剪辑成品;它甚至会模仿主播声音,把结构混乱的话拟合成更清楚的表达,并高亮before与after。经她反馈,产品又从整段接受改为逐句选择,再衔接show notes、金句、标题和各平台尺寸适配。

  • 这种效率也可能删掉节目的灵魂:三位主播重叠的“9个哈哈哈”会被当成重复词压到两个,集体沉默会被当作silence清除;但新琦认为,问题抛出后的“3秒沉默”,恰恰说明它值得讨论。

  • 多人播客比单人播客困难得多:中文识别与英文能力存在差距,多轨上传后还要精确对齐;抢话既要让每个人可听清,又要保留热闹感。新琦称这种平衡是“非常考验手艺人的手艺活儿”,也是听众决定是否订阅时感知节目调性的关键。

4. 今天的槽点正在快速消失,但产品仍常把自动化用错地方

  • 鸭哥观察到,复杂工具调用不足、写作AI味过重、上下文太短等旧槽点,已在近期版本中明显改善;尚未解决的instruction following,则会产生近乎荒诞的工程绕路。

  • 他要求GPT-4.1按五章提纲先写1—3章、再写4—5章,并要求中段加“未完待续”,随后又要求不要加;模型却总要换种说法加一句结束语。最后他索性让它固定写“未完待续”,再用程序把字符串替换为空,才“完美地解决了这个问题”。

  • 鸭哥对Claude computer use和OpenAI Operator的反问是:订机票最耗时的并非输入信用卡,而是比较前后一天出发对酒店费、票价、早起、送娃等因素的影响。秘书最该整理的是这些选项,“不能为了用AI而用AI”。

  • 更根本的限制是tribal knowledge:咖啡聊天、饭桌上谈生意和客户讨论中的暗信息没有文档,AI只能看到“冰山一角”。把喝酒谈生意的过程录下来并不现实,因此问题不只属于模型,也属于人类社会的信息结构。

5. “产品不好用”与“用户不会用”的冲突不会很快消失

  • 课代表立正直接吐槽了吐槽本身:Agent不是magic,而是大语言模型、工具和protocol逐层搭起的系统,不能沿用GUI时代“点button就必须work”的预期。“AI不是外挂,也不是魔法。”

  • 他曾让Manus尝试同一任务15次:前14次出错,第15次完成。在他的归因里,这证明系统一开始就有潜力,问题也包括自己为何花14轮才调教成功;用户若没有学习和改进路径,就无法稳定复现结果。

  • 他的结论近乎警告:“不能用一个user心态去对待AI,一定要用一个builder的心态。”这与鸭哥、新琦要求产品正视真实痛点并不完全相同,却保留了一个关键变量——Agent能力与使用能力会共同决定交付质量。

6. 应用层掌握的不是更高智商,而是AI的“工作经验”

  • 曲晓音把当前Agent比作“特别牛的小天才”第一次当实习生:什么都答应,却不知道结果是否靠谱、风险在哪里,也不会告诉老板三天做不完。工作5—10年的人更懂预期管理,差距来自经验,不只来自智商。

  • 这种经验要靠用户反馈积累:任务是否完成、老板是否满意、该打几分。曲晓音强调,这些data掌握在AI application公司而非OpenAI手里;聚焦网站和APP等use case,才能从大量重复任务中建立稳定评价pattern。

  • 俞舟的技术路径是把Agent视为复杂系统:除模型和tool之外,还要加入Guardrail、best practice和evaluation,根据评测结果持续调整,必要时用Agent workflow处理这些问题。“如果你不知道什么是好、什么是不好”,随意搭建就不可能有好结果。

  • 可控性不能全交给自然语言。HeyBoss AI既允许AI天马行空,也保留像改PPT一样圈选文字、调整大小、替换图片和添加动画的传统工具;用户在需要可控结果时,仍会选择“可控但是限制性”的界面。

7. 多Agent把能力边界推向团队,也把数据库与权限变成核心风险

  • 俞舟团队探索backtracking,即依据执行表现决定是否进行self correction;也在研究self learning,即让Agent通过自己的方式学习。这些能力都被她视为重要的新方向。

  • 曲晓音认为,解决方案将从卖一个Agent走向多个Agent协作,再由“AI CEO”或leader Agent统筹不同技能。她把这视为可能的发展趋势:自动化对象不再只是某个工种,而可能扩展到“整个公司、整个团队”。

  • 俞舟的提醒是,多Agent分布在不同机器后,会立即遇到并发、分布式协同、效率和成本问题;若要进入大型企业,最大关口仍是安全。

  • 数据库原本按人的权限设计,如今多个Agent可能同时修改同一个数据库,企业还必须支持必要时恢复原有设置。还要规定哪些memory可共享、哪些Agent具备clearance、哪些系统outward facing或inward facing,并建立相应governance layer。

8. 行业know-how、品位与组织改造决定企业ROI能否兑现

  • AI适配度取决于被替代工作的性质。曲晓音指出,网站外包本来就在网上完成,AI与Fiverr团队之间的差距并没有那么大;大企业销售和线下服务却可能在高尔夫球场或包厢成交,Agent的input data天然不足。

  • 大模型升级更像智商提高,不等于掌握技能、行业变化和用户语境。HeyBoss AI还要训练“品位”:健身博主、水电工和AI创业公司说“太土”,含义并不相同;用户只能说“不对”时,应用公司必须透过模糊反馈识别品牌预期。

  • 俞舟承认企业真实ROI和部署量目前有限,但把它判断为时间问题。真正困难的是“technology is easy, people are hard”:企业必须重构流程和生产关系、教育员工,并以top down方式慢慢推进,而非期待产品今天发布、明天全面使用。

9. 应用层护城河来自新数据、长期默契与最终业务结果

  • 高宁挑战传统SaaS对system of record的垄断:医生过去手填的访谈表格,可能被语音经AI整理后的记录取代;后者更新、更准确、更丰富,新startup由此掌握客户真正需要、旧系统未曾拥有的数据。

  • 渠道也不是永久固化。高宁认为,startup若陪伴高速增长客户从独角兽走向超级独角兽乃至上市公司,就能形成自己的客户关系;在outsourcing和服务驱动行业,Agent尤其适合把人工summary与数据处理变成更结构化、高价值的输出。

  • 鸭哥把持续记忆形成的壁垒称为“默契”:Manus或Devin记住公司PPT必须从绿色改成蓝色,未来面对同一组织便无需反复纠正。新竞争者即使模型更聪明,也会因“不知道老板喜欢什么”显得很傻。

  • 曲晓音把壁垒推进到end to end:表面在写代码,实际是在塑造品牌、获客、留存并帮助客户挣钱。只完成网站开发,解决的是变现链条中的一步;继续掌握流量、停留和转化数据,才更接近用户最终目的,也更难被替代。

10. 模型公司会扩张边界,应用公司必须靠中立性与脏活苦活生存

  • 高宁判断,GPT的Deep Research与Manus、Genspark中短期仍会共同教育新增用户;长期若差异不明显,同时使用两款产品的人“一定会有一些替代”。应用层的反击,是自由选择不同模型及组合,在成本与效率间优化。

  • 俞舟强调企业不愿与OpenAI或任何单一厂商深度绑定,正如大型企业会采用Multi cloud并准备backup;因此能跨模型切换的中立第三方平台,更容易进入企业采购与长期架构。

  • 高宁认为,大模型公司无法拥有每家企业的私有数据,也未必愿意磨合具体workflow、上下游系统和定制需求。这些“脏活、苦活”给垂直应用留下空间;偏通用产品则应尽快向核心用户的workflow-based SaaS或大客户解决方案深入。

  • token成本不是HeyBoss AI的首要压力:客户原本可能为海外开发、设计、文案和SEO团队支付数千美元,AI只要交付同等效果,已经更快、更便宜。“90分”人工与“60分”AI之间,不会因为后者便宜10倍就自动成交;效果达到“跟人一样出色”才是定价前提。

11. 人机关系将从使用工具转向管理成员、校准价值与设计制度

  • Kolento认为未来的检查方式应改变:先完成价值观、记忆、偏好乃至whole person alignment,随后放手执行,只在高危或极端情况要求confirm。他提到在rapid身上看到了这种形态,而未开auto模式的Windsurf仍要求每一步确认。

  • 鸭哥主张把环境改造成AI native:面向人的文档被拆成许多网页,AI更需要all in one、code-heavy的完整材料。Agent也不再像螺丝刀或汽车,而是可以delegate任务的team member;人的核心能力因此从“会用工具”转向“会管理AI”。

  • 新琦仍把人定位为形成想法、发出指令、精雕细琢并保障成品的核心;真正增量来自尚未被AI消化的深度研究、未结构化的个人经验,以及三位主播身处三个时区和不同人生阶段所产生的观点张力。Kolento则坚持,价值判断和不可放弃的个性化应由人保留,并设想可拥有、可迁移的personal大模型来对抗centralized AI。

  • 曲晓音把问题推向社会制度:若AI能像人类一样组织数百万、上千万Agent,不同success metric也会制造利益冲突。届时可能需要Agent投票,也可能由“AI CEO”要求其他Agent“都听我的,闭嘴”;更近的现实是,人会管理Agent,Agent也可能开始评价和管理人。

Sophie

Hello,大家好,欢迎收听硅谷101,我是关注 AI 应用的特约研究员 Sophie。关于 AI Agent,也就是人工智能体,相信节目的老朋友们大多数并不陌生。我们之前也从爆款产品 Manus 切入,对这个话题有过不少讨论。

今天这期节目,是一场关于 AI Agent 的观点大拼图。我们邀请到了几位不同背景的嘉宾,他们有的是 Agent 的日常用户,有的是 Agent 产品搭建者,还有的是从商业和投资角度观察这个领域的参与者。我们希望用这些来自不同立场的观点,尽力为大家呈现一幅客观、立体的图景,展示 AI Agent 的现状和未来。

首先,让我们从最基础的问题开始:到底什么是 AI Agent?我们先来听听一位典型极客的看法。

鸭哥是大型物流软件公司 Samsara 的 AI 应用科学家,也是活跃在开源社区的 AI 达人。他在 GitHub 上改造 Cursor 的开源项目,获得了超过 5000 个星标。在鸭哥看来,AI Agent 需要满足 3 个必要条件。

Speaker 2

第一个条件是,它需要能使用工具。比如,它可以调用搜索引擎来搜索,或者调用编程语言来进行编程。

第二个条件是,它需要能够自主做决策。它需要知道,当我拿到这个任务之后,怎样把任务进行分解,通过什么顺序、使用什么参数来调用这些工具,最终完成我们的目标。

第三个条件是,它的决策需要是多步的,需要能够自我迭代。比如,它不能像一个静态的 workflow 一样,我先做这个,再做这个,整个流程都是定死的,这其实不太能算是 Agent。

真正算 Agent,应该是根据前一步的结果,动态决定下一步做什么。比如,前一步搜索已经得到了很多信息,那我就停下来;或者前一步搜索让我觉得另外一个地方很有启发,那我就要深挖,换个关键词再进行进一步的搜索。

所以,满足这 3 个条件——工具调用、自主决策和多轮迭代——我觉得才能算是一个 Agent。

Sophie

另一位非 AI 技术背景的嘉宾,在世界 500 强公司担任数据策略总监,业余时间也是一位播客主播。新琦对 Agent 的定义,重点在于人与 AI 的合作关系。

Speaker 3

我自己的定义,是从一个合作视角来说的。我觉得它是真正的甲方和乙方的关系,而不是聘用合同工的关系。

我们聘用一个合同工,要做的工作是先定义好问题,然后拆解它的关键步骤,并且在它完成之后检查它的交付。这是我们和合同工合作的流程。

但我觉得,真正的甲方和乙方的关系是,一个好的乙方能够端到端地承接整条流程,并且在关键节点主动介入,提供决策建议。在提供完决策建议、我给它一些非常高层的指令之后,它又能自动执行,最终交付的是一个成品,而不是一段一段的半成品,让我自己再把它们拼凑成一个成品。

Sophie

下面,我们来听听他们各自使用 Agent 产品时那些惊喜、震撼的时刻。

鸭哥告诉我们,他从上班写代码到下班带娃,都离不开 3 类 Agent 的帮忙。

Speaker 2

我喜欢或者经常使用的 AI Agent,主要可以分为 3 类:教练型、秘书型和搭档型。

第一种类型的 Agent,比如 OpenAI 的 Deep Research,或者 ChatGPT 的 o3。我用它们,主要是希望从它们那里找到一些调研信息,帮助我进行深度思考,把它当作一个了解我不熟悉领域的窗口。

还有另外一种用法,是把它当作秘书来用。比如最近比较火的 Manus,还有 Devin,我都有订阅。它们比较适合一些相对简单、比较 hands-off 的工作。

第一个例子是,我平时要哄孩子睡觉,很多时候就要给她讲故事。有时候确实可以从 YouTube 上找一些故事来讲,但我希望在这个过程中带入一些私货,比如“你要好好吃饭”“你要好好睡觉”“要早睡早起”之类的东西。

那我就直接跟 Manus 说:“你给我写一个故事,这个故事要基于《白雪公主》,但是你往里面夹带一些私货,教育小孩要好好吃饭。”写完以后,再调用一个 TTS,也就是文本到语音的转换,把它变成一个音频文件给我。

Manus 其实非常擅长这样的事情。它可以写出一篇相当好的文章,然后再调用 TTS,把它变成语音。我就可以在孩子睡觉前播放这个语音来哄她睡觉。

Speaker 2

如果真的要去做一些正儿八经的软件开发工作,其实我并不会去用 Devin 或者 Manus。这主要不是因为它们的产品做得不够好,而是因为它们产品的设计思路更倾向于这种秘书性质的、hands-off 的工作。

如果真的要做那种科班的、复杂的软件开发任务,我还是比较喜欢用 Cursor、Windsurf 之类的工具。因为从设计角度上,它们允许或者鼓励你进行频繁的交互,做手把手的指导。

这个时候,我希望先跟它讨论得到一个设计,然后再让它把一个个小积木搭起来。我作为架构师,再把这些积木组合起来,审计它的结果,确保它实现了我的目标。这个就更符合科班工作的高标准要求。

Sophie

那么,作为副业播客主理人的新琦,又有怎样的体会?她是如何利用 Agent 来辅助节目后期工作的各个环节的?

Speaker 3

现在有一个新的 AI 软件,我正在做它的内测。其实是我自己加入了他们的内测群,叫 CreateWise。

它的好处是,你只要一键上传音轨,它直接呈现给你的就是一个完全剪辑完的东西。也就是说,哪些地方需要剪辑的决策建议,它都已经完成了,所以最后呈现出来的是一套剪辑完的音频。

它甚至有一个非常厉害的做法。比如说,如果你有一句话,结构比较混乱,它甚至能够用 AI 的方式,通过模仿你的声音,拟合出一段结构相对清晰的话。你听完之后就会觉得,它已经强大到可以站在我的视角,以我的声音来输出了。

它针对修改过的语句会做高亮,所以你可以去听 before 是什么样,after 是什么样。刚开始他们是选择整段输出,也就是说,剪辑完之后你要么要整段音频,要么就不要这个剪辑版本。

后来我跟他们提了这个需求:你需要给到我逐句剪辑的空间,否则我无法使用。因为有的剪辑是我喜欢的,有的剪辑不是我要的。

他们现在已经把这个需求的优先级提升了,也已经上线,形成建议之后你可以选择要或者不要。选择之后,它能够直接帮你串联到第三个模块,也就是文案生成和宣发。

Speaker 3

尤其是它的文案生成,是针对不同的平台生成不同的文案。比如小宇宙、YouTube 等等。

如果是音频平台,它会帮你生成 show notes、金句和标题建议。如果是视频平台,它甚至会根据你使用的是 YouTube 还是 Instagram,以及视频的大小、长宽比例等非常细的细节,生成可以让你一键转发、直接发布的内容。

Sophie

另一方面,有几款通用型 Agent 产品,也在一般性任务的执行上收到了用户的好评。纽约大学心理学专业大三学生 Kolento,分享了他的使用体验。

Speaker 4

我说几个不同的场景。第一个可能是在 general 层面上,我最近一直在用 Manus。前两天 Genspark 也推出了 Super Agent 模式,我觉得这两个产品对我来说都比较惊艳。

它们能够帮我完成一些我之前不太想完成的事情,这是通用层面上的体验。然后在 coding 层面上,我比较喜欢用 Replit。我之前可能用 Cursor 和 Windsurf,但后来觉得 Replit 可能更像一个 Agent,它能帮我做更多决策。

在学术层面上,我最近在用 Elicit。但 Elicit 还没有达到我心目中对 Agent 的定义,其他产品我也暂时没有看到真正达到这个定义的。

Speaker 4

我先说一个最直观的。因为我最开始用 Manus 时,最被它吸引的是它的 UI 和 UX。我觉得这是第一个差距,也就是用户体验上的差距。

本质上来说,Genspark 和 Manus 都支持 Agent 执行过程的链接分享和回放。你可以看一遍完整的对话过程,甚至可以基于这个上下文继续对话。

它们都会对任务进行很好的规划和拆解,然后调用很多不同的工具。这些工具可能是它们自己设计的,彼此之间会有一些小差别。

我感觉 Genspark 之前在旅游场景上做得已经很不错了,所以它可能会预先设定一些旅游搜索工具。

还有一个比较有意思的差距是,Genspark 有些功能可能 Manus 还没有。比如它们有一个叫 Call for Me 的功能,可以帮你打电话、预约酒店之类的,这还挺有意思的。

当时这让我有一个小的 aha moment,主要就是在用户体验和功能上,AI 还是会给人带来一些惊喜。

Sophie

AI 有惊喜点,当然也有槽点。在听具体槽点之前,我想先分享鸭哥的一项有意思的洞察。

他说,随着各种 Agent 产品不断发布,他的槽点也在飞速进化。很多他以前吐槽过的问题,现在已经吐不了了,比如复杂任务中的工具调用能力不足、写作的 AI 味太重、上下文窗口不够长等等。他在近期发布的产品新版本中,都看到了很大程度的改善。

所以,用户今天的槽点和痛点,也将是 Agent 搭建者下一步重点攻坚的方向。先从鸭哥的槽点开始。

Speaker 2

现在 AI 模型的 instruction following,虽然比以前有了很大的进步,但还是不太行。

比如我想让 GPT-4.1 做这样的事情:我给你一个 5 章的提纲,你先写第 1 到第 3 章,再写第 4 到第 5 章,这样最后我就可以把它拼起来。然后它一定要在第 1 到第 3 章写完之后,加一个“未完待续”。

我不知道它为什么会有这种冲动。我跟它说“你不要加未完待续”,它就换一种说法,比如“你有什么其他想写的,我们下一次再继续写”。我试了很多 prompt engineering 的方法,都不太行。

最后是怎么解决的呢?我们用了一种逆向思维:你不是特别想要、一定要在那儿加一行字吗?那我们就把这行字定死,你就说“未完待续”,然后回头我再用一个程序把这个字符串替换掉,替换成空。最后就完美地解决了这个问题。

但如果它的 instruction following 做得足够好,就不会有这么多乱七八糟的事情。

Speaker 2

第二个槽点是,在我使用 AI 产品的过程中,感觉很多产品还是为了用 AI 而用 AI。

举个例子,不论是 Claude 的 Computer Use,还是 OpenAI 的 Operator,它们都会说:“我可以帮你订机票,我很厉害吧?我可以帮你订机票,帮你输入信用卡号,帮你输入各种信息,再帮你点击 Book Flight 按钮。”

但其实我的痛点根本不在这里。如果你看一下,一个人订机票花费时间最多的地方,其实不是填写信用卡号和个人信息,而是决定我到底什么时候出发。

比如,如果我前一天晚上走,就要多花一晚酒店钱,但机票可能便宜一点;或者我就不用早上起那么早,也可以去送孩子。如果后一天走,又要考虑送孩子的行程,时间能不能来得及,总的来说酒店加机票的价格是更高还是更低,等等。

这些才是最麻烦的地方。如果有一个秘书能帮我整理出各种选项,这对用户来说才是最有价值、最能解决痛点的事情,而不是最后那 5 分钟帮我把信用卡号敲进去。

所以这是给 AI 产品开发者的建议:还是要针对用户痛点来做,不能为了用 AI 而用 AI。

Speaker 2

第三个问题是,AI 很强,但人类社会,by definition,是一个 human-friendly 的东西,是针对人类自己设计的。很多东西只有人类能够接触到,AI 根本没有 access。

比如,不论是在公司内部和别人讨论设计,还是在公司外部和客户谈生意,很多时候都没有书面文档。大家可能出去喝杯咖啡,在喝咖啡的时候把一些重要决策定下来;或者谈生意时去吃饭,在饭桌上把事情定下来。

但是 AI 拿不到这些信息。像这种 tribal knowledge,也就是没有付诸文字的 knowledge,AI 是完全拿不到的。

这不是 AI 本身的问题,但你也不可能在跟客户喝酒的时候,架一台摄像机把整个过程录下来,再喂给 AI,这根本不可能。所以这是一个人类社会的问题,我也不知道怎么解决,但它确实是一个槽点。

AI 能拿到的信息,还是有点像冰山一角。有很多暗信息,或者我管它叫“废墟信息”,AI 还是拿不到。如果能够拿到的话,又会有很多应用场景可以实现。

Sophie

新琦则通过亲身体会,解释了 Agent 产品缺乏人情味的问题。

Speaker 3

我现在看到很多 Agent 或者 AI 产品所不具备的,是一种真实性。

我举个例子。比如我们的 3 人主播,在多人播客里面我们会笑场,对吧?但是我会发现,比如我用 CreateWise,它会认为主播 1 哈哈哈、主播 2 同时叠加哈哈哈、主播 3 哈哈哈,一下子就是 9 个哈哈哈。在它看来,这就是一个重复词,所以一下子全都剪掉了,可能只保留 2 个哈哈。

可是,在我看来,这恰恰是节目很有意思的地方。或者说,集体沉默,这个东西在很多 AI 软件里面会被认为是一段 silence,这个 gap 是需要压缩掉的,因为要保持一定的信噪比,或者保持一定的信息密度输出。

但是集体沉默很多时候是非常有意思的。当一个主播抛出一个问题,如果出现了 3 秒沉默,就说明这个问题非常值得探讨。因为它能让另外 2 位主播沉默的问题,一定是很有意思的。

但目前在 AI 软件里面,这也会被识别成应该去掉的部分。所以,这就是真实性的保留问题。

Speaker 3

当我们说音频剪辑时,首先要看你做的是中文还是英文。因为我知道,不同的 AI 产品或者 Agent,在识别中文、转译中文,以及形成中文音频剪辑建议方面,和英文之间有很大的差别。

第二点是,你的音频节目是单人播客还是多人播客,这里面有非常大的差异。如果是单人播客,相对来说是最简单的。

但如果是多人播客,它会碰到两个问题。第一个问题是,以我自己的剪辑经验来说,我希望音频处理时分多轨处理,而不是合并成一条音轨处理。因为如果 3 个人有抢话,怎么在抢话时保持平衡?一方面要让听众听得清楚,同时又要保留大家抢话过程中的氛围和热闹感。

这个东西非常考验手艺人的手艺活儿。但在现在大量的 AI 软件,或者我们所谓的 Agent 里面,目前还没有看到这样的能力。

Speaker 3

要么它允许我上传多轨,但上传之后,连多轨对齐都很难做到精准;要么它不允许我上传多轨,只允许上传单轨。

但单轨就涉及一个问题:我没有办法消化在单轨里面如何剪辑多人抢话的环节。而这恰恰是我认为一档播客画龙点睛的那一笔。

内容质量当然很好,但这档播客会不会让我选择订阅,节目调性是不是和我匹配,恰恰就体现在这种抢话环节。

Sophie

面对我的吐槽邀请,有一位嘉宾却出人意料地吐槽了这个环节本身。这位嘉宾是 Statsig 的数据科学家、博主,也是 AI 社区 Superlinear Academy 的发起人。课代表立正是这么说的。

Speaker 5

我能吐槽一下这个吐槽吗?我觉得这个吐槽的做法本身是错误的。

第一个错误是理解上的错误,第二个是使用上的错误。理解上的错误是,Agent 没有 magic,对吧?它是过去的大语言模型,加上一些现有工具,包括这些 protocol,一点一点做出来的。

所以,你不太可能指望它今天就做好。如果你觉得今天做得不够好,这其实是理所应当的事情。

大家的心态是从上一个时代带来的。大多数工具是 GUI,GUI 就是你点一个 button,这个 button 就应该 work。如果你点了一个 button,它不 work,你可以吐槽它。

但 AI 不是这个样子的。AI 不是外挂,也不是魔法。所以,你要学会怎么用好它,才能真正用好它。

泓君

在探索如何用好 Agent 工具这件事上,课代表曾经在他本人的博客里分享过一段经历:他用 Manus 反复尝试一项任务 15 次,终于成功。

Speaker 5

Manus 出了 14 次错,但问题是第 15 次做成了。所以,它一开始就有做成的潜力,只是我前 14 次的使用不够好。

那我应该吐槽 Manus,还是应该吐槽我自己?Manus 已经在它的能力范围之内做得最好了。我应该吐槽我自己,为什么我花了 14 次迭代才把它做好,而不是一次就把它调教成功。

这说明我使用 AI 的能力还有问题。

第二个问题是,如果大家没有一个学习路径,或者说改进路径,肯定是用不好的。你不能用一个 user 的心态去对待 AI,一定要用一个 builder 的心态去对待 AI。

你一定要去使用它,然后用它去 build。如果你还是以一个 user 的心态,今天吐槽这个产品没有设计到位,明天吐槽那个产品没有设计到位,那你会被这个时代落下。

Sophie

听了这么多用户的喜悦也好、困惑也罢,这些问题从开发者的角度看,又是怎样的呢?我们把视角转向搭建者。

我把这个问题抛给了 Agent 搭建者曲晓音。她创立的 HeyBoss AI 今年年初刚刚上线,下面是她的看法。

Speaker 6

我觉得这个问题,当然首先存在 AI Agent 的大模型本身在某些情况下不够智能,但更多情况下,它是工作方式的变化。

举个例子,一个特别牛的小天才来到公司当实习生,他从来没有工作过。你让他做什么,他都说“没问题,包在我身上”。结果你会发现,他做出来的东西不太靠谱。

到底能不能做,他认为自己什么都能做,但实际上做出来的东西又不符合你的预期。他觉得这个事情有风险,却意识不到风险,也无法跟你沟通,说“老板,这个可能在一定时间内做不出来”。

但这可能来自工作经验,不来自智商。我们会发现,工作 5 到 10 年的人,通常会非常明确地跟老板讲预期是多少,比如“我认为这个 3 天做不完”。所以,更多的是来自工作经验。

对应到 AI 上,我觉得更多的是,它可能同样的事情做过很多遍,知道做得好还是不好,知道做没做出来。准确地说,不仅是它自己有没有做出来,而是用户觉得它有没有做出来。

AI 做完之后,用户的反馈是好还是不好,这当然需要更多这方面的数据。

Speaker 6

这些数据掌握在 application layer 的 Agent 创作者、AI Agent 公司手里,并不掌握在 OpenAI 手里。需求本身、老板满意不满意,这些数据掌握在像我们这样的 AI application 公司里。

如果我们有足够的数据,就可以知道预期有没有得到满足。但预期本身需要老板来定。当我们没有老板的数据时,就不知道老板的预期是什么。

所以,我觉得现在 AI 最大的问题就是没有工作经验。我们需要给它提供工作经验,以及老板的反馈:做得好还是不好,做完了还是没做完,打几分。这样的话,我觉得 AI 会更加准确。

Speaker 6

还有就是,你的 use case 要有一定的聚拢。比如有些 Agent 什么都能做,从给孩子订饭到解决宇宙问题,什么都能做。在这种情况下,你的 use case 不够聚焦,每个用户的评价体系也没有什么 pattern。

像我们这种比较聚焦的产品,就是做网站、做 APP,帮助小企业主、创业公司和营销部门。这样一来,每个 use case 都可以评判我有没有达到用户的需求。

本身招我们的目的是什么?我觉得就是因为这种聚焦,我们可以获得大量重复性数据,来判断我们做得好还是不好。但如果不聚焦,评判体系本身就比较困难。

Sophie

俞舟是哥伦比亚大学计算机副教授。她的创业公司 Arklex.AI,为新东方、沃尔玛这样的企业级客户提供内部 Agent 应用开发的框架和工具,同时也面向终端用户提供自营 Agent 产品。

她从技术层面给出了“如何让 Agent 更听话”的应对策略。

Speaker 7

其实 Agent 不是只有一个东西,它包含很多部分。比如我们要做 guardrail,防止各种各样不好的事情出现。

它不是一个单纯的 tool,我们把它卖给你就结束了。实际上,我们会教你完成一整套流程:如果要完成这个任务,什么样的方式是最好的,也就是 best practice。

而且非常重要的是,一定要做测试,也就是 evaluation。如果你不知道这个 Agent 做什么是好、什么是不好,随便做的话,最后肯定不会有好的结果。

我们会根据评测结果做各种调整。在这种情况下,就可以用 Agent workflow 来处理这些问题。

Sophie

在工作流方面,晓音则从产品设计角度提出了一种具体的解决方案。

Speaker 6

我们也提供了很多 tool,但并不是通过 AI 来修改,而是让用户像改 PPT 那样,圈一下这个字,把它弄大弄小,改一个动画。

我们发现,很多情况下虽然 AI 也可以改,但用户还是希望得到更可控的结果。所以,他们会选择替换某个字、某个词或者某张图片,或者加一个效果。他们倾向于用老的方法,也就是 PowerPoint 的方法,而不是 AI 的方法,因为觉得 AI 不太可控。

所以,在 AI 天马行空、能力更强、定制化更强但可能不可控的功能,和可控但具有限制性的功能之间,我觉得这两者都需要。

Sophie

最后,关于鸭哥提到的“AI 缺乏人类暗信息”这一根本性挑战,晓音的看法是:

Speaker 6

因为我们本身的工作,以前也是在线上完成的。比如你要做一个网站,联系一家巴基斯坦的外包公司,或者在 Fiverr 上找一家外包公司,本身也是线上完成的,很少会跟你握手,更不会通过握手的力度判断对方是不是喜欢你。

对我们来说,这些事情没有那么重要。所以,相比人与人之间的沟通,我们可能和 AI 的差距也没有那么大。这是我们所在的赛道比较适合 AI 超越人类的一个点。

但是,有一些行业,比如线下服务行业,或者大企业销售,很多事情可能是在高尔夫球场、包厢里完成的。这个情况下,AI 在这方面的 input data 确实不够。

所以,我觉得这更多取决于 Agent 本身的性质,以及它要取代的人类工作本身是什么性质。

Sophie

除了应对这些用户痛点,我们也很好奇,Agent 搭建者们目前还在哪些方向上寻求突破?

俞舟教授介绍了她和团队正在探索的前沿技术。

Speaker 7

在我自己的实验室里,我们也在研究一些我认为非常重要的新能力。

比如我们称之为 backtracking,也就是 self-correction 的能力。它可以根据自己做得怎么样,来选择是否进行自我纠正。自我纠正的能力非常重要。

还有我们称之为各种各样的 self-learning,也就是通过自己的方式来学习,这也很重要。

Sophie

晓音则透露,未来可能不只是讨论一个 Agent、卖一个 Agent 给用户,而是提供多个 Agent 协作的解决方案。

Speaker 6

为了让多个 Agent 合作得更好,我们需要一个 AI CEO 或者 AI leader Agent,来领导其他 Agent。我觉得这可能是一个发展趋势。

这个趋势的好处是,我们可以通过多个人的力量、多个技能以及不同的合作方式,解决一些本来单一技能无法解决的问题。

AI 的合作,可以取代很多原本由人组成的团队。不仅是取代某一个工种,而是取代整个公司、整个团队。我觉得这是一个很大的趋势。

Sophie

但俞舟也提醒我们,这条路上还有不少技术挑战。

Speaker 7

有很多 Agent 同时在一台机器上工作,就会出现问题。很多 Agent 需要分布在不同的分布式系统机器上工作,这又会带来更多问题:如何更高效、更低成本地处理这些事情。

还有很多并发问题,会导致我们有很多工作要做。真正要应用到大型企业中,并且提高整体能力,最大的一关就是安全。

比如,一个大型企业最简单的系统问题就是数据库。以前数据库是给人用的,人有权限去修改数据库里的东西。现在智能体 Agent 也要去修改数据库,如果同时有很多 Agent 修改同一个数据库,我们怎么办?

万一它把数据库改掉了,搞了半天又要恢复原来的设置,但现有数据库还无法提供一种高效的方式来存储数据,以及和 Agent 建立连接。

Speaker 7

再比如,一个 Agent 和另一个 Agent 交互时,哪些 memory,也就是记忆,需要分享给对方?哪些可以分享,哪些不可以分享?

数据库还会涉及 governance layer。有些 Agent 可以接触某些数据,有些 Agent 不可以接触某些数据,就像人一样。你没有这个 clearance,就接触不到核心数据。

如果存在 safety vulnerability,就不能执行某些操作。哪些是 outward-facing,哪些是 inward-facing,这里面有很多非常具体的工作需要完成。

Sophie

除了技术层面,产品设计同样是搭建者们关注的重点。

Speaker 6

大模型的变化,有点像一个人的智商水平。但大模型更聪明,并不代表它更懂这个技能,因为技能本身除了聪明之外,可能还有行业 know-how,或者对用户具体 use case 的理解。

这个东西不一定是智商导向的,也有可能是经验导向的。所以对我们来说,这两点都非常重要。

比如你是一个创业者,要做一个公司官网;或者你是一个小企业主,想卖课,或者想卖咖啡店的订单。很多情况下,你需要了解这个行业,还要知道这个行业最新的玩法,以及你的竞争对手都在做什么。

所以对我们来说,更重要的是确保在你的行业里,你的网站或者 APP 能够帮你带来更多商业价值。

第一,我们需要了解你所在的行业。第二,我们需要与时俱进,了解这个行业的新变化,也要跟得上。第三,就是 AI 要具备一定的品位。

Speaker 6

这个品位更多的是 AI 本身的设计。即使你自己不懂设计,AI 给你的方案也要有一定的调性、个性,并且符合你的品牌预期。所以品位非常重要。

这不一定是大模型越强,品位就越好。品位更多时候来自我们的训练,也来自设计 Agent 的人本身的品位,还来自我们对客户及其行业所需要的品位的理解。

有些客户说不清楚自己要的品位是什么,只会告诉你:“这个不对,太土了。”但“太土”是什么意思?对我们来说,比如一个用户说“这个网站太乱、太土、不够直观”,这些词都非常虚。

我们要透过现象看本质。这个小企业主如果是健身博主,他说的“土”是什么意思?如果他是做水电的,他说的“土”是什么意思?如果是 AI 创业公司,它说的“土”又是什么意思?每个人的“土”都不一样。

所以,对用户洞察的理解,不一定跟模型本身的优劣有关。

Sophie

最后,在市场培育方面,俞舟提出了一项经常被技术人忽视的关键挑战。

Speaker 7

我觉得最重要的还是,大家现在都说这个好像炒得很火,但真实的 ROI 还没有体现出来,在大企业中部署的也很少。

但其实我觉得这只是时间问题。因为大企业很多事情推进都比较慢。我们可以看到,technology is easy, people are hard。

我们要重构工作的流程,需要说服大家,重构生产关系是非常困难的。所以我们通常要了解如何教育员工,让他们更好地利用 AI。

这部分需要慢慢做,不是说产品今天出来,明天就能用上。企业需要从上到下,以 top-down 的方式来解决这个问题。

Sophie

那么,这些技术和产品如何转化为拥有壁垒的长期商业模式呢?我们切换到商业视角,一起来听听投资和创业领域的观点。

我们先请教 AI 产品出海社区 Linkloud 的创始人、前高瓴投资人高宁,听听他对 Agent 创业公司如何打破传统 SaaS 壁垒的看法。

Speaker 8

新的数据这一方面,现在已经可以看出来,它并不完全掌握在传统 SaaS 公司手里。

比如,我是帮助医生做医疗诊断记录的。以前这些数据也不在传统 SaaS 公司手里,因为过去是医生手动把访谈后的数据填到表格里。有很多做门诊 SaaS、病例管理的公司。

但现在变成了语音数据,经过 AI 整理之后,这些数据更新、更准确,也更丰富。这意味着传统数据根本就是落后的、不需要的了。

这个时候,新的 startup 掌握了新的数据,而这些新数据才是客户真正想要的价值。就这一点来说,我觉得这很好地打破了传统 SaaS 的一些垄断。

大家都说 data 才是 SaaS 公司最重要的东西,能够作为所谓的 system of record。但我觉得,很多新的数据其实已经不在传统公司手里了。

Speaker 8

第二点,大家会说 distribution,也就是渠道和客户。我觉得这是所有 startup 成长起来都会面临的问题。

但问题在于,如果你服务的是一些高速增长的客户,伴随着这些客户发展起来,他们未来可能会成为平台型巨头,或者未来的大公司。你陪伴这些独角兽变成超级独角兽,变成上市公司之后,不就掌握了新的渠道或者新的客户关系吗?

所以我觉得,传统公司的优势也不是永远那么牢固。尤其是在一些大家所说的 outsourcing 领域,或者以前高度服务驱动的领域,人本来就在做很多和数据处理、summary 相关的工作。

当你的 Agent 或者 AI 能够更好地处理输入数据,输出更结构化、更丰富、更有价值的结果,甚至直接完成任务时,这对 startup 来说,就是一个很好的挑战 incumbent 的路径。

Sophie

鸭哥则从了解用户偏好和使用习惯的角度,提出了“默契”这个有趣的护城河概念。

Speaker 2

最浅显的一个护城河可能在数据方面。比如 Manus 或者 Devin 有一个功能,可以记住你对它的纠正,并且把这些知识用到以后的对话中。

比如我是一个公司,我用 Manus 做 PPT。它第一次给我使用的主色系是绿色,我跟它说:“不行,你帮我把主色系改成蓝色。”这就是一个数据积累的例子,它会把这个知识记下来。

未来,不论是我还是公司里的其他人,让它做 PPT 时,它就知道要用蓝色。这样的事情多了之后,会逐渐产生一个东西,叫作默契。

你会觉得这个东西很好用,它知道我老板喜欢什么,也知道我们公司内部的各种规章制度,我不用天天去纠正它。

这时候来了一个竞争对手,就算它再厉害,也不知道我们公司内部那些文档里没有的东西。它可能一上来还是用绿色做 PPT,我们就会觉得:“这东西吹得那么厉害,怎么其实这么傻?它跟我一点默契都没有。”

Speaker 2

像这种东西,就是一个非常大的护城河。哪怕它真的很聪明,我们也不愿意去用。

在这种情况下,就意味着创业者或者产品经理要思考一个问题:我们到底怎样通过数据构建这样的护城河,怎样让用户和 AI 之间产生一种默契?这才是最有效的竞争手段。

Sophie

晓音还进一步指出,表面上看是在写代码,实际上是在帮助用户运营自己的 business。

Speaker 6

表面上我们是在写代码,实际上是在帮用户 run 他的 business。我们通过软件,或者通过他的 APP、website,帮他塑造品牌形象,吸引用户,更好地留住用户,也帮助他更好地赚钱。

所以最终来说,我们的目的还是帮助用户挣钱,而不只是给你做一个东西、做一个软件,让你拿去用。

在这种情况下,我们就需要更多地了解后面的数据,包括它引流得怎么样,用户有没有在这个网站上停留,等等。我们需要了解更多这方面的数据。

我们在这个垂直领域做得越深,不可取代性当然就越强。如果我们只是纯粹设计、开发一个网站,做完就结束,也不考虑最终有没有人使用、有没有转化,那我们的护城河可能也不是很高。

我觉得护城河也取决于,整个事情是不是做得足够深,是不是能够 end to end 地解决用户最终的目的,比如挣钱。

这最终目的之前的环节,都是一步一步的。如果我们能直接解决最终目的,就更难被取代。如果我们提供的只是中间某一步,比如要 3 步才能挣钱,而我们只解决了第 1 步,那就更容易被取代。

Sophie

像 OpenAI、Anthropic 这些大模型公司,自己也在加强 Agent 能力。它们会不会最终挤压创业公司,尤其是通用类 Agent 创业公司的生存空间呢?高宁对此有一个很辩证的看法。

Speaker 8

现在 GPT 的 Deep Research,和 Manus、Genspark,就是这样的通用型 Agent。理论上,它们之间多少会存在一些竞合关系。

但因为它们都在不断增加用户,让越来越多的小白用户知道 Agent 能做什么事情,所以在中短期内,我觉得问题还不大。

长期来看,模型的用户越来越多。如果用户同时使用两款产品,而大家表现出来的差异化不那么明显,一定会出现一些替代。

但从长期角度来说,应用型产品的好处在于,它可以选择各种各样的模型,选择哪个模型更好,甚至选择怎样的组合更好,同时让成本和效率更优,这是非常有可能的。

所以我觉得,这两方面其实都有 pros and cons。

Sophie

俞舟教授也从企业级应用角度,进一步强调了应用层中立性的价值。

Speaker 7

中立的第三方平台,像我们这样的平台,其实更容易、更快速地推进。因为谁也不知道将来是不是要和 OpenAI 绑定,没有人想和任何一家公司做深入绑定,大家都想要有一个 backup。

我们这样的中立平台,就能提供这种方式。我们知道,大企业 enterprise 都要做 multi-cloud。那为什么我要和 AWS 绑定、一定要用它的 framework?万一它突然不行了,我需要换一个,怎么办?

所以,像我们这样中立的第三方平台是非常有优势的。

Sophie

那么具体而言,Agent 创业公司应该如何避免与大模型公司正面竞争?高宁给出了一个很实际的建议。

Speaker 8

其实 VI 自己也会跟 Harvey,或者跟垂直的一些应用去合作,而不是完全的去做。

因为这里面一方面涉及你不太可能拥有每家公司私有的数据,另一方面还涉及和工作流的磨合与打通。这些都是脏活、苦活。

你要搞清楚对方在日常工作中是怎么使用的,workflow 是什么,上下游是怎样的,系统层面又是怎样的。我觉得这些事情,大概率大模型公司不会去做。

尤其是在现在大家越来越 focus 在以 AGI 为目标,或者以提升模型基础能力为目标的情况下,更是如此。

但如果你是偏通用型的产品,多少就会有这个隐患。就像不管是文生图还是 Agent 这个方向,作为应用型产品,你更需要围绕核心用户,做成越来越 workflow-based 的 SaaS 工具,或者越来越多地和大客户合作,做定制化解决方案。

这些可能是 startup 在面对大模型公司对应用产品的冲击时,可以做出的选择。

Sophie

最后我们来聊一个很现实的问题。Agent 由于需要多轮交互和调用工具,经常会消耗大量 token,这会不会带来严重的成本压力?对此,HeyBoss AI 创始人晓音的回答很有意思。

Speaker 6

因为我们是以结果为导向的。用户的比较是这样的:以前我要找一个巴基斯坦工程师,或者一个开发团队,里面有设计、文案和 SEO,可能要花几千美元。

我们再怎么贵,也不会比巴基斯坦的团队更贵;再怎么慢,也不会比巴基斯坦的团队更慢。所以对我们来说,用户的预期是,只要你能给我 deliver 结果,价格和速度就已经足够让我惊艳了,我要的是效果。

在这种情况下,我觉得其实不太需要担心 token 本身的成本,因为用户原本在这项服务上花的钱就更多。

用户不是说:“你们便宜。虽然巴基斯坦团队能打 90 分,你们只能打 60 分,但你们便宜 10 倍,所以我也用。”不是这样的。

用户是说:“你至少要和他们一样好看,我才会考虑。”一旦我考虑使用,价格可能就不是问题。

所以对我们来说,最重要的是效果要达到和人一样出色的水平。

Sophie

技术发展从来不仅仅是技术本身的事情,它往往也会带来深远的社会影响。随着 Agent 技术普及,它可能会重塑人与机器的关系,甚至影响社会结构。

接下来,让我们一起听听嘉宾们对于 Agent 时代的哲学思考和未来展望。

Kolento 分享了他对 Agent 与人交互方式演变的思考。

Speaker 4

传统 AI 的 workflow 是,人类先给 AI 搭建好一步一步的操作,然后 AI 给出一个 response,让人类来检查。

你会发现,人类有两个审核点。一个是最开始搭建时,过程中要审核;第二个是 Agent 给出结果之后,再审核那个结果。审核完之后,又返回到第一步去修改。

这其实有点麻烦,因为你要看两次。我不觉得审核次数一定会变少,但我觉得检查的方式应该发生变化。

未来的 Agent,第一步应该是先和你对齐价值观、对齐记忆、对齐所有偏好。第一步应该是做 alignment。这个 alignment 不只是行为上的 alignment,而是它对你这个人的全人,也就是 whole person,进行 alignment。

然后你就可以放手,让 AI 在识别清楚你的意图之后去完成所有事情。

Speaker 4

那什么时候 AI 来找你,什么时候你需要审核?应该是在出现高危情况或者极端情况的时候,Agent 来找你,让你确认一下。

我在 rapid 身上看到了。如果你输入一个 query,它不会每一步都叫你来 confirm。相反,如果你使用 Windsurf,又没有打开 auto 模式,就每一步都要 confirm。

很多事情其实不需要 confirm,应该让它放手去做。

Sophie

这是一个宏观层面的解释。鸭哥则从更广泛的社会匹配角度,讨论了在他看来对 Agent 赋能有关键影响的环境因素。

Speaker 2

AI 到底能够在人类社会,或者日常工作中发挥多大作用,很大程度上取决于这个问题到底有多 AI-friendly,或者说有多 AI-native。

就像蒸汽机的例子一样,如果我们把整艘船的工作方式都围绕蒸汽机来构建,很可能这就是实现工作流程最优化的关键。

从数字世界的角度来说,哪怕 AI 没有物理世界的隔阂,我也觉得很多东西都不是 AI-native 的。

比如我写了一个代码、写了一个库,希望别人来用;或者我写了一个产品,希望别人来用。现在的产品说明书或者文档,都是面向人类的,而且比较零散。

因为人类很弱,阅读速度很慢,所以文档会被拆成很多页,需要自己点击超链接才能继续阅读。但 AI 完全没有这个问题,你可以把几万字直接扔给它,它一下子就读完了。

Speaker 2

所以 AI 需要的,恰恰是一个 all-in-one 的形式。同时你可以贴很多代码,因为它完全没有障碍,可以阅读大量代码。不像人类,最适合 AI 的可能是这种 code-heavy、all-in-one-place 的东西。

如果有两个库或者两个软件,一个是 AI-friendly 的,它把内容提供给 AI,Cursor 看完之后立刻就能写代码;另一个是 human-friendly 的,那么在未来,我觉得 AI-friendly 的产品竞争优势会很大。

这就是另一个非常现实的 AI-native 价值。

Sophie

在 AI 面前,人应该扮演怎样的角色?又有哪些 AI 难以替代的价值?Kolento 表达了这样的忧虑。

Speaker 4

我们跟机器之间的交互变得越来越薄了。

举个例子,原本你用 Google Search,发一个 query,它给你一个 response。这个过程其实有点平等,虽然它可能会给你一个 result,但你还可以自己选择。

现在你和 GPT 进行的是无边界的交流,直到 token 耗尽。你发一个 query,它给你输出一长段内容。你给 Manus 一个 query,它就工作 80 分钟,帮你完成一个任务。

那你的意义在哪里?你只是给出高层引导。未来是不是连你也可以被替代掉?我会很担心一个人自己的价值所在。

Sophie

面对这种担忧,新琦提出了她对人类创造价值的理解。

Speaker 3

我会觉得,我依然是那个能够首先形成想法、提供指令、精雕细琢并保障成品的人。我是这个核心的人,而 AI 是我的一个合伙人,我需要它来出力。

如果内容是结构化的、能够被 AI 轻易获取的东西,那就不能成为增量价值。

真正有价值的,在音频世界里更多可能来自两个方面:要么是在某个非常深入的领域,有非常深度的商业洞察或学术研究,这些内容尚且没有被 AI 消化;要么就是来自我们个人身边的例子,而这些信息还没有以结构化的方式上传到互联网上。

Speaker 3

第三点,尤其是在多人播客里,以我们的节目为例,我们 3 位主播处在 3 个不同的时区,也处在不同的人生、成长和发展阶段,因此观点之间有一种差异化的张力。

这种张力给节目带来的效果是,我们的讨论通常更加立体、多元,也更有火花碰撞。

我觉得这是 AI 时代非常好的东西。我们要不断鼓励有观点的碰撞和认知的迭代提升,而这件事可能不是我们和 AI 一对一合作就能够实现的。

Sophie

鸭哥则从人与 AI 的工作关系角度,提出了一个很有启发性的观点。

Speaker 2

你可以把 AI 想象成一个 team member,而不是一个工具。也就是说,我们和 AI 之间的关系正在逐渐发生改变。

以前说到工具,你会说“我用我的螺丝刀”“我开我的车”,但你不太会说“我把一件事 delegate 给我的车”。

可是,当你说“我把这件事交给 AI 来做”,大家会觉得非常自然。这就是 AI 这个工具和以前的工具不一样的地方,因为它能做的事情越来越多,所以我们和它的关系也在发生变化。

我们更多地变成了领导和下属之间的关系。这意味着,人类的核心竞争力正在从“会不会使用计算器”,变成“会不会管理 AI”。

这是一个很大、但经常被忽视的问题。其实会管理人的人非常少,而管理本身是一个博大精深的领域,需要大量培训和学习。

这恰恰也是我们管理 AI 时需要学习的东西。它不是螺丝刀一样的工具,拿到手、看完说明书就会用,而是需要会管理才能用好。这是另一个需要完成的 mindset change。

Sophie

最后,Kolento 还强调了人类在价值判断上的不可替代性。

Speaker 4

我觉得在哲学层面上,AI 没有办法代替人做价值判断。

如果回看整个计算机发展史,你会发现一直是分久必合、合久必分。整合往往是以牺牲个性化为代价的。

所以我会越来越思考,什么东西是我们应该放弃的,什么个性化是我们不应该放弃的。我认为,人本身是绝对不能放弃的。

所以我会觉得,应该有一个属于个人的大模型。现在你可以看到,所有的 GPT Cloud,或者说是纯 Gemini 这边,都是中心化 AI。

想要打败魔法,只能用魔法。想要打败这些所谓的 centralized AI,就要给每个人一个 personal 的 centralize AI,让每个人可拥有、可迁移。

所以我会很关心 AI 如何和人对齐,以及如何做 responsible AI。如果拿硅谷的两派来比喻,我更像是 Geoffrey Hinton 那一派,而不是 Sam Altman 那一派。

Sophie

最后,晓音则从更宏观的社会学角度,思考了 AI 社会可能出现的新型关系。

Speaker 6

我之前看过一个心理学研究,说人和其他物种的区别在于,我们能够组织大量的人。

很多动物的族群里,可能有 100 头大象,或者 50 头大象,就已经很多了。但我们可以组织几百万人、几千万人。这是人类和其他动物的一个本质差别。

下一个问题是,AI 能不能组织更多的 AI Agent?能不能像人一样,组织几百万、上千万个 AI Agent 去做各种各样的事情?那 AI 是不是就可以迸发出更强大的能力?

我觉得这确实存在这种可能,只是我们可能需要大模型的能力更强,context window 更大,tool use 更完善,并且 AI 的 evaluation 能够管理更加复杂的架构。

Speaker 6

还有,AI 和 AI Agent 之间会不会存在所谓利益上的不一致?就像人多了总要打架一样,AI 和 Agent 之间会不会打架?

我觉得其实也会,因为每个 Agent 的 success metric 不一样,所以会存在利益不一致的地方,就像人一样。

在这种情况下,AI 和 AI Agent 之间发生冲突,要怎么评判谁对谁错?我们究竟是期待一个民主的投票制,让 AI Agent 投票,还是期待一个独裁政府,由 AI CEO 说“你们都听我的,闭嘴”?

我觉得我们可能马上就会处理类似于人类社会架构的问题。

还有一点,有可能 AI Agent 会管理人,人也会管理一些 AI Agent。我们马上就会遇到这个问题。

其实我们现在就在思考,如何设计这个体系:AI CEO 如何评判一个人做得好不好,如何和这个人对接,如何帮助他提升技术能力和工作水平。我们现在已经发现了这些问题。

Sophie

好啦,今天的讨论真是太丰富了。就像嘉宾所说那样,我们可能需要学习“管理”而非仅仅是“使用”AI,也需要重新设计环境,创造更加“AI 友好”的系统。更重要的是,我们需要找到自己在 AI 时代的定位。感谢各位嘉宾今天的精彩分享,也谢谢大家的收听。如果你对今天的话题有任何想法或反馈,欢迎在评论区留言,或者通过社交媒体联系我们。我是 Sophie,我们下期再见。

E195|从工具到伙伴:七位AI Agent深度使用者的思考 | BidClub