硅谷坐标 x Datadog首席产品官｜HYSTA主席李严冰: AI 落地进入 ROI 时代
- 李严冰判断，AI落地已从验证“能不能用”进入衡量“能不能管、能不能信、能不能产生ROI”的阶段。 企业既要确认输出正确、安全、可靠，也要控制远超预期的 token 成本与整体预算；她认为，能够解释 AI 在做什么、实体如何关联、最终创造何种价值的可观测性，正成为规模化部署的关键环节。
- 李严冰将“AI需要更高可观测性”视为Datadog走出SaaS估值低谷的重要机会。 她称，公司市值自年初以来翻番、达到历史新高，全球十大AI公司均依赖Datadog；市场此前担心AI会取代可观测性，如今共识反转为“人工智能实际上需要更高的可观测性”。
- 产品边界正从网页仪表盘扩展至人类与AI代理共同参与的每一个工作流。 Datadog过去围绕人类用户设计丰富界面，未来则强调“无论我们在哪里工作，我们的工具也应该在那里”：工程师在CLI写代码、团队在Slack协作时，都应原地调用可观测能力。
- 面对OpenAI等前沿模型可能自行完成更多任务，李严冰把运营复杂度、领域经验、专有数据与垂直模型视为Datadog的护城河。 她以自动驾驶作对比：车辆只有加速、减速、转向三个控制点，而大规模软硬件基础设施叠加AI代理后复杂得多；她表示，Datadog的专用模型质量接近顶级前沿模型，成本则“至少降低了一个数量级”。
- 未来不会由单一前沿模型包办所有场景，post-training与企业数据将成为差异化来源。 一家顶尖AI实验室甚至询问Datadog能否标注并出售运营数据，反映通用模型在专业场景中的积累仍不足；Datadog也于去年收购强化学习公司AdaptiveML，加速内部模型投资。
- Datadog内部AI投入的最大部分可能是编码代理，但真正的考核指标不是token消耗，而是工程产出。 公司把使用量与PR速度、产品稳定性、功能交付和安全改进对应起来；更现实的风险来自员工自制的“业余级别”代理，它们可能泄露业务数据或API密钥，而非“人工智能杀死人类”的末日情景。
1. 中国AI影响力正从研究人才外溢至创业与商业化
- 李严冰引用一份三天前发布的卡内基研究报告：研究分析NeurIPS的10,000位作者，发现57%在中国接受本科教育，涵盖目前身处中国、美国及其他地区的研究者。
- 她强调，中国人的影响力已不止于前沿研究，而是在把AI转化为企业：美国已有41家估值超过10亿美元的公司由中国人创立或联合创立，其中多家参与了本届华源人工智能大会。
- 因此，今年大会的议题从技术前沿和企业应用进一步延伸至规模化落地与商业成功，核心问题不再只是AI是否可行，而是如何真正扩大应用。
2. AI进入ROI时代，可观测性成为规模化关键环节
- 李严冰对企业决策链的概括是：最初问AI“是否真的可行”，随后追问能否信任其安全性与可靠性，今年又发现token成本和整体预算“远远超出了预期”。
- 她所说的可观测性，是深入理解AI“实际在做什么”、实体间如何关联以及创造了什么价值；这使企业能够更好地进行治理、成本控制与商业回报评估，从追逐潮流走向可控部署。
- 她称，Datadog可能是SaaS板块中“第一个走出低谷的公司”，市值自年初翻番。支撑这一判断的不只是叙事：全球十大AI公司都依赖Datadog，可观测性没有被AI取代，反而因AI而变得更重要。
3. AI代理重塑产品边界，但距离完全自动化的大规模生产运营仍很远
- Datadog过去通过精美界面和仪表盘服务人类用户，未来则由人类与代理共同使用；交互入口也从Web和移动端转向工作发生之处，包括CLI与Slack。“无论我们在哪里工作，我们的工具也应该在那里。”
- 曹卿云的追问值得保留：既然OpenAI的模型已能编写代码，Datadog的不可替代性在哪里？李严冰的回应是，编码主要生成代码，而运营涉及多样、任务关键且相互关联的系统，复杂度并不在同一量级。因此她表示并不担心被AI取代，尤其是Datadog自身也在开发AI技术。
- 她以曾任职的Aurora为例：这是一家领先的自动驾驶卡车公司，她称其为美国第一家、也可能是全球唯一一家在公共高速公路运营商用自动驾驶卡车的公司。自动驾驶只需理解视野内的局部环境，并控制加速、减速和转向；大规模生产系统却同时包含软件、硬件、基础设施与AI代理。
4. 垂直模型的经济性与专有数据构成Datadog的护城河
- 李严冰把护城河拆成三层：多年积累的运营领域经验、全球规模庞大的运营数据，以及对研究和基础模型的持续投资。
- 通用大模型覆盖面广，却可能速度慢、成本高，也未必能回答高度专业的问题。她称，Datadog基于可观测性数据构建的专用模型，质量与顶级前沿模型非常接近，成本则至少低一个数量级。
- 她并不认为企业应一律只依赖或弃用前沿模型，而是认为“最终取决于具体需求”；市场不会由一种或少数模型提供全部答案，post-training已非常普遍，因为它能把企业自己的数据“变成真正的护城河”。
5. 企业AI投入可量化，安全风险却集中在“业余代理”
- 李严冰称，一家顶尖AI实验室与Datadog彼此互为客户，并询问Datadog能否把运营数据标注后出售给它。她由此判断，即使最前沿的实验室也缺少垂直场景积累；Datadog去年收购AdaptiveML，以加速强化学习方向的投入。
- Datadog为下一年度研发或AI支出做预算时发现，AI支出增速远超直觉，其中编码代理可能占预算最大部分。公司不仅追踪token在哪里被使用，还把投入映射到PR速度、产品稳定性、功能交付和安全改进；面向客户的AI产品使用量则实现数倍增长。
- 知识型工作的用例仍处于“黑客”式探索：销售或HR可能自行制作面向自身需求、未经优化的工具或代理。李严冰认为，近期真正的企业安全问题不是成千上万代理逃出沙盒攻击其他公司的末日情景，而是这些非专业工具意外泄露业务数据或API密钥；缺少审查与控制，正是进一步普及的现实障碍。
完整逐字稿
人工智能推广的最大障碍，是如何有效管理和控制其运行。今年年初，整个 SaaS 市场的估值大幅下降，Datadog 也未能幸免，但我们可能是第一个走出低谷的公司。市场普遍认为，人工智能需要更高的可观测性；无论我们在哪里工作，你的工具也应该在那里。
曹卿云
严兵你好。你觉得今年的H大会与往年有哪些不同之处？
您好。我觉得H大会每年都在不断提升到一个新的高度。尤其近几年，我们的主题一直是人工智能。随着中国人在人工智能领域的影响力不断增长，今年的活动在参与者、主题和嘉宾方面，都感觉有了质的飞跃。
曹卿云
今年的主要主题有哪些？
1. 中国人的人工智能崛起
今天，我们的重点主要集中在真正扩大人工智能规模这一主题上。我知道你，青云，也非常关注中国人在人工智能行业的影响力。事实上，几天前我看到了一些非常令人惊讶的数据——一份卡内基研究报告，该报告于 3 天前发布。
它分析了来自人工智能领域最重要的研究会议 NeurIPS 的 10,000 位作者，发现其中 57% 的人在中国接受了本科教育。这其中包括目前在中国的作者，以及在美国和其他地区的作者，这表明中国人现在在人工智能领域的重要性。
当然，我们中国人不仅仅是在做人工智能研究；我们也在把人工智能转化为创业精神和企业。我还看到另一个令我惊讶的话题：美国已有 41 家估值超过 10 亿美元的公司是由中国人创立或联合创立的，其中许多公司今天都参加了我们的活动。
因此，今天华源人工智能大会的主题不仅仅局限于前沿研究和企业应用；它还介绍了许多取得真正商业成功的创始人。
曹卿云
作为 Datadog 的首席产品官，同时也是硅谷中国女性的杰出代表，我想请教您：您如何看待人工智能时代人工智能运营的发展趋势？您认为未来最大的机遇在哪里？
2. 人工智能需要可观测性
是的，我认为这是一个很好的问题。从我作为 Datadog 首席产品官的角度来看，目前人工智能实施、扩展和广泛应用的最大障碍，是如何有效地管理和治理它。
最初，每个人都对人工智能感到非常兴奋，只是想知道它是否真的可行。然而，人们很快意识到：“我们知道人工智能运行得非常好，但我能相信它的安全性和可靠性吗？”
今年年初，人们意识到，即使他们可以信任人工智能，其 Token 成本或整体人工智能预算也远远超出了预期。所以，无论是人工智能能否产生正确的结果，我们是否觉得它可控且值得信赖，还是我们能否从中获得真正的商业价值，而不仅仅是追随潮流，我认为能否带来商业投资回报率，是每个人目前最关心的问题。
这些担忧背后隐藏着一个非常重要的点，我们称之为可观测性：即深入理解人工智能实际在做什么、实体之间的关系，以及它正在创造什么价值的能力。因此，Datadog 目前处于非常有利的地位，因为人工智能可观测性已成为人工智能大规模生产和大规模应用的关键环节。我们看到 Datadog 的市值飙升，达到了历史新高。我们看到，可观测性以前是工程师用来进行监控的，但未来它将用于人工智能代理。
曹卿云
随着可观测数据量的增长，产品形式可能会发生哪些变化？
3. SaaS危机后的反弹
例如，今年年初，整个 SaaS 行业都面临着“SaaS 危机”，市场价值全面大幅下降，Datadog 也未能幸免。然而，我们可以说是第一个走出低谷的公司，而且自年初以来，我们的市值已经翻了一番。
但这其中很多并非仅仅是“人工智能需要更多可观测性”这种主观共识；它实际上是由真实数据驱动的。例如，我们看到全球十大人工智能公司都在依赖 Datadog 来实现可观测性。人工智能可以取代可观测性的想法已被彻底摒弃；当前的市场共识是，人工智能实际上需要更高的可观测性，这正是我们的机遇。
当然，从产品角度来看，我们可以看到 Datadog 的产品历来都提供了非常丰富的用户体验，拥有专为人类使用而设计的精美用户界面和仪表盘。我认为未来在于人类和代理共同使用这些产品。
此外，交互模式正在从以网络和移动设备为中心，转向“无论我们在哪里工作，它都能发挥作用”。这意味着无论我们在哪里工作，我们的工具也应该在那里。如果你在命令行界面中编写代码，你可以在那里访问它；如果你正在使用 Slack 与团队聊天，也可以在那里访问它。
所以，我认为人工智能已经彻底改变了我们原有的固定产品边界，使其可以在任何时间、任何工作流程中被访问。
曹卿云
今年早些时候，人们都在想 OpenAI 是否会自己完成这项工作，尤其是在他们的模型现在已经具备编写代码的能力的情况下。您认为 Datadog 未来的护城河在哪里，或者说它是否具有不可替代性？
4. 运营才是核心护城河
没错。关于护城河，我认为有几点需要说明。首先，运营不仅仅是任务关键型的，它们也极其复杂。
我曾在一家名为 Aurora 的公司从事自动驾驶方面的工作。它是一家领先的自动驾驶卡车公司，是美国第一家，也可能是世界上唯一一家在公共高速公路上运营商用自动驾驶卡车的公司。
当然，当我们研究自动驾驶技术时，我们问自己：从有人驾驶系统到无人驾驶系统，突破点是什么？这确实感觉像是一个非常棘手的问题，但如果你仔细想想，与维护大规模生产软件和系统相比，自动驾驶的复杂性实际上相当低。
想想开车这件事，你只需要了解视野范围内的局部情况即可。此外，开车时，你只有 3 个控制点：加速、减速和转向。
在一个拥有高度复杂的软件、硬件和基础设施的大型系统中——尤其是在现在集成了复杂的人工智能代理之后——其复杂程度远远超过了自动驾驶。因此，我们距离真正实现完全自动化、大规模生产运营还有很长的路要走。
所以，我想表达的观点是，运营是一个极其复杂的领域。编码虽然也有技术上的困难，但却是一项相对简单的任务，主要只是生成代码。然而，运营是一个极其多元化的领域，因此我们并不担心会被人工智能取代，因为我们自己也在开发很多人工智能技术。
回到“护城河”这个话题：首先，这个问题非常复杂，所以我们积累了多年的领域专业知识。其次是数据；我们拥有全球最庞大的运营数据。第三，我们也在投资情报领域。
例如，通用大型模型可以解决许多问题，但它们有时速度很慢、成本很高，而且偶尔难以为高度专业化的领域提供最佳答案。例如，我们有自己的人工智能研究。
我最近看到了一个结果：与大多数前沿模型相比，我们使用可观测性数据构建了自己的模型，我们可以看到，与那些顶级前沿模型相比，我们专门的模型的质量非常接近，但成本至少降低了一个数量级。
因此，我们相信我们的护城河——无论是我们的专有数据、我们对研究和基础模型的投资，还是我们在该领域积累的专业经验——构成了我们真正的竞争优势。
曹卿云
那么，您认为像 Datadog 这样的企业最终会选择使用开放模型，然后利用自己的数据构建自己的模型，而不是依赖前沿模型吗？
5. 模型不会一统天下
我认为，这最终取决于具体需求，因为不同的模型各有不同的优势。我认为目前业界的共识是，未来市场不会只由一种前沿模型主导，也不会由少数几种前沿模型提供世界上所有的解决方案。
大家都在进行后训练，这已经非常普遍了。因为这样一来，你就可以把自己的数据变成真正的护城河。
事实上，几天前，我参观了世界顶尖的人工智能实验室之一。因为我们是他们的客户，他们也是我们的客户，但我们讨论中最有趣的话题是，他们说：“Bin，我们真的很想在这些运营场景中做得更好。你能把你的数据标注出来卖给我们吗？”
因此，可以看出，即使是世界上最尖端的实验室，在某些高度专业化的场景中也缺乏这种积累。当然，我们也认为，即使每个人都有数据，也很难使用通用模型来最好地服务于所有应用场景。
因此，我们在这个领域有自己的有机投资。去年，我们还收购了一家名为 AdaptiveML 的领先强化学习公司，以帮助我们加速在这个领域的投资。
曹卿云
像 Datadog 一样，您在自己的企业中采用人工智能时是否遇到过任何挑战？贵公司目前人工智能应用率的大致比例是多少？
6. 企业AI安全仍是障碍
是的，我认为我们面临的挑战与其他许多企业面临的挑战类似。或许是因为我们是一家开发工程产品的公司，所以我们起步可能比较早，但就人工智能的应用而言，当我为明年的研发或人工智能支出做预算时，我们真的大吃一惊，因为其增长远远超出了我们的直觉预期。
当然，我认为这项人工智能投资旨在提高内部效率，并将其外部整合到我们的产品中。这两个领域都取得了非常显著的进展，而且产品方面实际上非常简单。
这种简单的增长是一个非常积极的现象，因为它表明我们的客户对我们人工智能产品的使用率要高得多。我们看到了数倍的增长，所以大家都觉得对人工智能的这项投资非常值得。
当然，我们的产品投资也包括研发投资，而这项投资必须有长期回报。因为从研发投入——无论是购买 GPU 还是构建人工智能基础设施——到训练运行次数，这一切都是一笔非常大的投资。
关于提高内部效率，我认为有两个方面需要考虑。其中之一是工程师对编码代理的使用，我认为这可能是预算中最大的一部分。在这个领域，我们主要关注的是如何真正将这项投资转化为工程速度。
最棒的是，这是我们的专长，所以我们不仅知道每个人使用了多少 Token 以及在哪里使用，而且还知道最终结果是什么。例如，在 PR 速度、产品稳定性、功能交付和安全改进方面，我们可以清楚地看到这项人工智能投资所取得的成果。
我认为目前令人担忧的是知识型工作的用例，因为许多人仍然处于“黑客”状态。例如，一位非工程师出身的销售人员可能会编写自己的销售工具，或者我们的人力资源团队可能会编写一些针对他们自身情况量身定制的工具。
我认为现在实际上有很多这样的代理，更多的是业余级别的代理。它们通常没有经过优化，最重要的是，它们可能对安全性不够重视。
我认为人工智能安全是一个非常热门的话题。人们会想象一些世界末日的场景，比如人工智能杀死人类，或者成千上万的人工智能代理从沙盒中逃脱出来，攻击其他公司；最近的新闻标题都是这类内容。
但实际上，从企业人工智能的角度来看，我们考虑的安全问题要实际得多——例如，业余人工智能代理意外泄露业务数据，或者缺乏适当人工智能审查或控制的非专业工具泄露您的 API 密钥。
事实上，我们现在考虑的许多安全问题都更为根本。这还不是“世界末日”式的问题，我认为这也是人工智能在企业中更广泛应用的一个重大障碍。
曹卿云
感谢您今天与我们分享。
谢谢你的提问。