张宇昕
所有的 B 端企业都意识到了,这一次真的是狼来了。过去我们做一次气象预报,得用几千台高端服务器算半天,现在用一张卡,10 秒钟就能出来。山东一个矿井,我们一年帮它多生产了2,000 吨煤。
企业可能是有一些焦虑。技术的每一层都在变化,这么多年积累的代码,谁都不想说要改,甚至于有些代码要抛弃掉。但是华为公司有一句话:优势挡不住趋势。
卫诗婕
大模型的淘金热,卖铲子的人最高兴。
张宇昕
我们是一个使能者,拿您的话来说,是一片黑土地。我们这几年派了几百个科学家深入田间地头,深入工厂车间。全球600多个工业行业里面,我们国家有220多个是全球领先的。这些技术、经验、工程能力用数据沉淀下来,就是人工智能最好的数据集。
卫诗婕
还记得2023年年初,国内的大模型浪潮兴起时,热情和焦虑感几乎相伴而生。那时我供职于一家科技媒体,一边感受到整个创投圈对于新技术的热情,另一边也看到了产业界的焦虑。划时代的技术已经来了,可企业应该如何使用它?这不是一件容易的事。
大模型的三大要素——算力、算法、数据——对许多企业来说,连生产要素都未配齐,更何况新技术本身的认知门槛也极高。凑齐这一切要素的,只有云厂商。于是放眼中外,云厂商成为大模型剧目中的绝对主角。他们既是辅导员,帮助企业用上大模型,在过程中也售卖出自己的算力、基础设施和服务;同时也是攒局者,凭借对产业上下游的连接,有条件充分地观察、统筹并整合。
而在中国众多的云厂商中,只有华为坚定地选择了 AI for Industry,要将大模型率先运用于工业领域。如果将华为视作一扇窗口,便能窥见千行百业在新技术浪潮下的众生相。本期节目我在海南创原会现场专访了华为云 CTO 张宇昕。
我们谈到了新的人工智能浪潮下,中国产业里的集体性焦虑及其对策,以及华为对于 AI Native 的思考。大模型为什么是云市场的 game changer?这项技术在哪些行业已经率先落地,具体如何应用?华为所倡导的大模型 To B 路线如何理解?有关这些关键问题,以及大量华为的内部视角,都蕴藏在这次高密度的访谈之中。
很荣幸今天可以邀请到宇昕总来做客商业内参,能不能先跟我们的听友打个招呼,也介绍一下您在华为的这个历程?
张宇昕
大家好,我叫张宇昕,是华为云 CTO。我是1999年加入华为的,从最基层的软件开发工程师做起。在公司的头些年,主要是在做通信领域的工作。2011年,我们成立了2012实验室,我在2012实验室下面创立了欧拉部。今天的欧拉操作系统,我是第一任部长。
当时的欧拉操作系统里面,既有电信设备所用的嵌入式操作系统,也有 IT 行业所用的服务器和虚拟化支持服务器,当然也有支持今天手机终端的操作系统。所以从这个时候开始,我个人的职业生涯是从通信领域逐步转向了 IT 和云。2013年,我正式进入公司的 IT 产业,作为存储产业的研发主管。到了2017年,公司决定成立云 BU,开始公有云业务,我就开始负责华为云 CTO 的工作。
卫诗婕
如果用一句话概括,华为对您的影响是什么样的?
张宇昕
因为我是做研发出身的,我们公司的价值观是“为客户创造价值,这样我们自己才能获取价值”。所以从研发、技术的角度来讲,就是要用技术为客户创造价值,从而获取自己的价值。
卫诗婕
我们今天这期播客的录制,其实是在华为创原会万宁的现场。今年大模型浪潮还是一个主叙事,所以我们开篇先来捋一下时间线。
1. 华为选择产业智能
如果我们姑且把 ChatGPT 的诞生作为这一波大模型浪潮的源头,那么这两三年的时间里,华为云内部是怎么去回应这股浪潮的?有哪些关键的决策和判断?
张宇昕
其实,华为对于人工智能机会的捕捉,或者说我们的准备,比这个时间更早。如果你有印象的话,在2018年华为的全联接大会上,就已经发布了人工智能相关的战略。我们认为,人工智能未来会成为一个通用技术。
到了2021年的时候,实际上我们跟 ChatGPT 几乎是同步的。2021年,在华为云开发者大会上,余承东余总发布了我们的盘古大模型。应该是2023年,我们把盘古大模型升级到了3.0版;今年华为开发者大会上,我们把它升级到5.0版,基本上是跟 ChatGPT 差不多同步。
但是,我们所走的这条路,可能跟美国大模型的路不完全相同,包括跟国内其他业界大模型的路也不完全相同。
卫诗婕
我们一开始就定位要做 AI for Industry 这样的一个战略,这是基于华为的基因——你们本身就是连接千行百业的,对不对?
张宇昕
对,也是结合中国的产业特点。我早上的演讲里也讲了,中国在人工智能上要构建优势,一定是要充分发挥中国制造业领先的优势。我们在全球600多个工业行业里面,首先,我们国家是最全的;第二,这600多个工业行业里面,有220多个是全球领先的。
在这些领先的行业里,其实就蕴含了我们国家在这些行业里面领先的技术、经验和工程能力。这些技术、经验、工程能力,如果把它用数据沉淀下来,就是人工智能最好的数据集。这是人工智能大有可为的地方。
卫诗婕
我也留意到一句很有意思的话,他们说中国是 AI 发展的黑土地,您认同吗?
张宇昕
我认同。我们的结构决定的,我们的产业特点决定的。
2. 企业为何必须拥抱人工智能
卫诗婕
如果把华为云作为一扇窗口,中国企业在拥抱新的技术浪潮时,呈现出来的心态和姿态是什么样子的?
张宇昕
我觉得不同的客户有不同的特点。当然,有一些客户对于新技术的敏感性,或者对于新技术变革的意愿度不是太高。因为他们有大量我们讲的 legacy 系统,有传统的业务、传统的模式,以及传统的软硬件包袱,所以很难改变。他们希望一种平缓的、渐进式的变革。
但是,很多创新型企业在新技术来临的时候,可能会有一些焦虑。首先,新技术来临的时候,他们是很敏感的,认为这些技术一定会带来新机会,带来市场的变化,带来价值分配的变化,可能会有一种急迫感或者渴望。
但是技术肯定是有门槛的。对于很多企业而言,获取、掌握和运用这些技术存在很多困难。不见得所有企业都像华为这么大,有很大的力量长期投入研发,持续跟踪和掌握这些技术。很多企业可能希望用一些快捷、低门槛,但是能够支撑自己业务诉求的方式,来了解、掌握与运用这些技术,这种心情也是很急迫的。
卫诗婕
因为华为的整个技术栈是非常深的,技术积累很厚。很多企业其实没有这样的财力,也没有这样的技术积累,所以他们可能想做一件移植的事:在华为这片很深的土壤当中,长出什么样的技术、什么样的工具,我直接拿来用,就可以把 AI 的果实摘到。
张宇昕
对,这也是我们的职责。我们要搭一个台,把基础能力构建好,然后把业务所需要的能力做成服务。所以我们提出来叫“一切皆服务”。
包括基础设施,客户需要很多种类的技术——数据库、大数据、人工智能平台、安全等等——这些技术我们帮你准备好,也把它做成云服务。行业里面还有一些共性的经验,我们也帮客户沉淀下来,做成一种服务。这样客户就可以在这个服务基础上,比较快捷、方便地使用这些技术和服务,搭建自己的业务系统。
卫诗婕
其实您刚才介绍了两大类客户画像。第一类是希望能够渐进、平缓地拥抱技术浪潮,也许他们的规模也都挺大,牵一发动全身。另一类是非常渴望抓住新的技术浪潮,实现颠覆。
这两类客户如果从比例上看的话,哪一类占比更大?
张宇昕
现在来看,我觉得起码五五开,甚至拥抱新技术的还超过一半以上。
卫诗婕
这也是我想问的:这波技术浪潮跟过往的技术浪潮会有什么不一样吗?感觉大家好像更热情、更乐观、更兴奋,或者说大家更觉得这个浪潮难以抵挡,是所有企业可能都必须采纳的。
张宇昕
你看,我们国家在云化的过程当中,实际上比美国的节奏至少晚5年。我们还有很多企业觉得,我是不是可以不上云,或者我不一定要拥抱公有云,建一个私有的、专属的云也可以。我们国家还有各种形态。
当然,我们看到美国绝大部分企业、绝大部分政府机构都已经拥抱,尤其是公有云了。在这个节奏上,中国和美国还有明显的、5年左右的差距。
但是人工智能这个浪潮起来以后,没有一个企业说“我不用人工智能”。大家都觉得必须拥抱这个浪潮。如果我不拥抱它,就会被这个浪潮打翻,可能就会被这个浪潮淘汰掉,几乎所有企业都是这样。
卫诗婕
为什么呢?
张宇昕
我觉得首先是人工智能这一波浪潮来了以后,大家已经看到了人工智能泛化、广泛应用,或者变成通用技术的前景。所谓通用,就是大家都能用,各行各业都能用,这是首先看到了这种可能性。过去这么多年,人工智能其实一直是在一个比较小众的范围里。
第二,大家看到了人工智能如果应用于业务和技术,会带来很多新的、颠覆式的商业模式和创新体验,他们是很担心的。要么我去做,改变我自己;要么我就可能被别人颠覆掉。所以这种颠覆性,大家已经看到了。
卫诗婕
我看人工智能这个词出现已经70年了。在这个过程中也有一些热点和高潮,比如当年的 AlphaGo 下棋、人脸识别,但是感觉好像昙花一现,热情一下子脉冲到很高的地方,然后又回落了。
是不是因为这种泛化、通用的能力,让千行百业看到它其实可以离我很近?
张宇昕
过去70年,人工智能的科学理论和科学原理有很多进步,但是这些科学原理始终难以落地到实际产业当中去,都是在一些局部环境、局部场景里面有一些应用。
比如过去我们也有专家系统,也有人脸识别、图像识别,但是它们只能用于很小的范围,影响的都是很小的一些客户或者很小的一些场景。
而这一次 ChatGPT 让大家达成了一个共识。这个共识是什么呢?大家终于意识到,通过海量 AI 算力的计算,用这种无监督或者自动化的训练方法,是完全可以实现人工智能通用化的。
ChatGPT 给大家最大的震撼就在这里。以前大家觉得人工智能都是一个局部真理,在你这儿适用,到我这儿未必适用。但是这一次,一旦它是一个通用技术,那所有人都与此相关了。
卫诗婕
“通用”这个词,可以用一个通俗的比喻。我们经常说,训练大模型就像训练一个大学生。华为有那么多就业岗位,很多人也是从校招大学生开始培养起来的。
如果可以培养一个人,我们也可以培养一个机器,把它训练成一个大学生。
张宇昕
是的,完全可以这样。
卫诗婕
所以,一个是企业在自己的场景里面看到了技术落地的实践,另外一个就是它带来的想象空间很大,可能会有非常直观的成本节省。可能是成本节省,也可能是效率提升;效率提升意味着以前做不了的事情现在能做了。
您刚才也讲到,这波技术浪潮跟互联网、移动互联网都非常不一样。您在业界跟行业上下游伙伴接触的时候,有从他们的所思所想当中感受到这种巨大的差异吗?有没有一个对比?
张宇昕
移动互联网跟我们所专注的 To B 有关联,但是关联性不是那么强。所以后来国家也在提“互联网+”或者“工业互联网”。之所以要提工业互联网,就说明互联网其实跟原来的这些产业有点远,它毕竟还只是 To C 的。
这一次人工智能浪潮,当然仍然是 To C 的产业,他们也比较积极、比较敏感。但是所有的 To B 企业都意识到了,这一次真的是狼来了。这个新的技术会深刻改变 B 端企业,这是他们又兴奋又焦虑的非常重要的原因。
3. 企业必须先下场实践
卫诗婕
那您觉得,这当中有没有什么泡沫、幻想或者误解是需要戳破的?
张宇昕
当然也会有。新技术来了,大家可能期望很高。首先,人工智能不是无所不能。人工智能沉淀的毕竟是人的知识、经验和技能,人不会的,不能指望大模型会;人所不具备的知识和经验,它一样不具备,这是第一点。
现在,哪怕是大模型解题,可能也就是一个大学生的水平。我们输入哥德巴赫猜想给它,它还是解不出来,因为人没解决这个问题,对吧?
另外一个例子是,今年推出了 Sora。Sora 虽然可以生成视频,大家觉得很新奇,但是相比我们现在通过拍摄、制作这种方式,可能还差太远。它也不具备思想,美学观点可能也不行。它毕竟不太懂现实世界的物理规律,包括光、流体动力学这些,它都不懂。我们叫可控性比较差,离真实也比较差,这是人工智能当前的局限,技术还要进步。
当然,还有幻觉问题,生成的可控性也比较差,人工智能可能还不成熟。但是,如果等人工智能已经特别成熟,到了100%可以产业化的阶段再去用,你可能就已经落后于这个时代了。
先下场练习很重要。我觉得应该拥抱 AI,与人工智能技术共同成长。因为这个产业的成熟,要靠产业实践不断推动。新技术一定会带来新应用,反过来,新应用又会给技术提要求,给它提供场景和练兵场。所以它是像 DNA 一样螺旋式循环成长的过程,绝对不是说等一个新技术成熟以后才落地。
卫诗婕
把技术前瞻性、专业性的理解,传递到比较滞后的产业当中,华为是不是很擅长这件事?
张宇昕
我觉得华为服务 To B 客户这么多年来,这就是我们最擅长的事情。
卫诗婕
我不知道用“教育”这个词合不合适,这次教育的过程是不是更顺利?
张宇昕
我觉得客户的积极性应该是空前的。几乎我们谈到的所有客户都想拥抱人工智能,只是他们不知道该从哪里下手,或者该如何应用。他们不知道具体方法,但是这种愿望非常强烈。
卫诗婕
但你们会帮他们迈出第一步。
张宇昕
对。回顾整个大模型浪潮,我们会发现,不管是中国还是美国,云厂商其实都在这个过程中扮演了最关键的角色。我觉得原因在于,人工智能要消耗大量算力;第二,人工智能的原料是大量数据;第三,人工智能还需要很多客户的应用场景和业务,这些要素加入进来,客户才能使用成功。
我们看看在哪一个平台上,能让人工智能把这些要素聚集到一起?想来想去只有云上。云上有规模化的算力,汇聚了海量数据;通过云的生态,我们可能还有一个企业所需要的上下游所有伙伴。所以,云是最好的人工智能黑土地。
除了云,我还想不出来其他地方能够做到这一点。当然,个别大厂商也许能自己攒一个局,让所有要素齐备。但是对于绝大部分企业客户,包括政企客户,依托云平台把这些要素聚集起来,进行协同创新,是非常现实、便捷的手段。
卫诗婕
这也是我很好奇的。过去如果我们作为外行,很粗略地去看云做的事情,会觉得云就是卖算力、卖存储,帮大家把底层基座做好。但是大模型来临之后,云厂商是不是会有额外的角色,或者说额外的价值凸显出来?
张宇昕
当然。在云的最早期,我们是卖算力、卖计算、卖存储,帮助客户搭建基础设施,这是云最初级的价值。
我们给客户提供的第二层价值是技术及服务,包括软件开发技术、数据库、大数据、安全,以及媒体相关的技术。到了人工智能来临的时候,技术及服务这一层就会做得更加厚实。
早上我们讲过,比如数据库和大数据,我们过去虽然使用了数据库,但是数据库和大数据系统并不理解数据本身的价值,不理解数据里面的含义。当然客户知道,但是我们用了人工智能以后,就可以帮助客户把沉淀在数据库、大数据、数仓、数据湖里的数据价值进一步发挥出来。
他们的数仓、大数据、数据湖里面的数据,要变成人工智能数据集,通过人工智能训练出模型。模型表达的是什么?模型表达的是这些数据里面的知识、经验,以及它们之间的相互关系。
这些东西原来是停留在各行各业专家、企业专家的脑海里的。比如财务专家看财务报表,像我这个不懂财务的人,给我一个财务报表,可能就是一些阿拉伯数字而已。但是财务专家一看这些数据,就知道数据背后的含义。对我而言,我脑海里没有这些知识;但是财务专家有这些知识。
我们现在做的人工智能,就是帮助企业进一步把这些知识数字化,通过软件的方式让它发挥价值。过去我们用人来做各种各样的数据分析、洞察和决策支撑,现在可以用机器来辅助。辅助成本要低一些,效率要高一些,精度可能也要更高。
作为一个专家,我可能理解50个维度、100个维度的经验,但是另外的专家可能还有另外的50个、100个维度。我一个人掌握不了这么多,但是机器可以掌握。所以这样的话,机器就能够帮助大家提升质量、提升效率,这就是人工智能的价值。
过去,云能够提供基础设施和基础技术;现在,它还能帮你把经验传承下来,帮助你发挥宝藏数据的价值。这意味着云的价值也在提升。
卫诗婕
我留意到你们有一个主张:呼吁企业能够基于模型来改造自己的应用和软件,把原本行业里面各个专家含金量最高的经验喂给人工智能,然后让它产生更大的效率。
张宇昕
对。以刚才您所说的“大学生”为例,一个大学生进到企业,他只学了课本上的知识,同时,他的职业生涯就是由老师傅、老专家们把他培养成一个专家。但是培养成专家以后,他还是一个人,知识和经验还在他脑子里。
通用大模型可能把他训练成一个大学生水平,但是如果我们能够把行业知识注入大模型,就相当于把一台计算机变成了一个行业专家。当然,行业专家不知道的事情,它也不知道,这没关系。但是至少它懂得更多,能够帮助行业专家从繁重的劳动里面解脱出来,让他们去探索那些未知的东西,而把已知的东西交给机器来做,不是更好吗?
卫诗婕
我之前看到一句话:过去的云厂商提供的价值就像水、电、煤气,你不可能缺少它,但是好像也不会为它付出太高的交易价格。
现在云厂商能做的事情可能更丰富、更多了,提供的价值在某种程度上也更大,变成类似于你业务上的咨询顾问,提供更有价值的决策判断。这跟过去云发挥的价值层次就不一样了。
那我们来回顾一下过去一年行业的竞争。我们说大模型的淘金热,卖铲子的人最高兴。过去一年,在你看来,整个行业经历了怎样的竞争?
4. 大模型竞争分化两条路径
张宇昕
如您所说,整个行业里面,我觉得有两个层面的竞争。一个是卖铲子,就是卖算力。
卫诗婕
这是你们的擅长。
张宇昕
这是我们擅长的。第二个层面是大模型本身。
从我来看,未来几年,基于客户需求的变化,大模型可能会走向不同的路径。我还是讲,美国以及中国的互联网厂商,因为他们做的是以 To C 为主、以服务为主的业务类型,所以他们还是倾向于在通用大模型里面放更多知识,放更多通识内容。因为它本来就服务于 To C、服务于大众,这样的话,它会让大模型更大,让大模型里面的通识更多、更广,这是一条路。
所以我们看见现在国内、海外很多云厂商,都提供了类似 ChatGPT 的对话能力,大家调用这个 API,小厂商基于这个 API,很快就能做出自己的对话系统。
但是我们也看到,尤其是华为服务于 To B,我们看到很多企业客户关心的可能是:你给我提供一个对话机器人又如何呢?当然,你能帮我们解决一些问题,比如客户服务、内部交流沟通,但是我们更关注自己的生产系统,人工智能能不能发挥价值。
这就是这两年华为探索的一条道路,也是我们走的一条道路。简单来讲,叫 AI for Industry:要让每一个企业都拥有自己的大模型,让每一个开发者都有自己的人工智能助手。说白了,我们就是要把人工智能 To B 和行业应用、行业知识结合起来,做行业大模型。
我觉得慢慢地,这两条路径可能会分叉开来。
卫诗婕
那我接下来就沿着您讲的这两大竞争趋势来聊一聊。
其实这次来见您之前,我也在行业里面做了一些访谈。业内很多人还是会认为,算力是华为云最大的优势。据我所知,一些友商也会购买你们的芯片。我们刚才谈到,在美国对中国芯片禁售的背景之下,一些友商的政企客户也只能买国产芯片,而国产芯片里面,毫无疑问华为是最优解。
所以第一个问题是,您认可算力是华为云目前最大的优势吗?
5. 算力需求仍将持续增长
张宇昕
在云厂商里面来讲,算力肯定是我们的优势之一。当然,如您所说,我们这个算力不是华为自己独有的。我们也卖给友商、卖给行业,也要支撑国家的产业发展。
所以我觉得这是优势,但不是独特优势,也不是唯一优势。在算力这块,我们要和友商一起把算力生态做大。
如果说华为云有什么独特优势,我觉得是我们能实现软硬件协同。所谓软硬件协同,就是我们能驱动芯片和硬件的定义,能结合客户业务的要求和场景,来设计整个系统,再基于整个系统的要求,驱动硬件和芯片进步。这种我们叫作软硬件协同设计,能够发挥整个系统的优势,这是华为云的优势。
卫诗婕
简单来说,就是自家既做硬件又做软件,而且可以把它们协同起来。
张宇昕
对。所以对于政企客户而言,这是最省心、最优的。
卫诗婕
关于算力的需求,我再多问两句。我们如果看硅谷那边,有看到两个趋势。一个趋势是,感觉 scaling law 的追求有所放缓,可能是基于数据的一些局限;但与此同时,我们又看到一些世界大厂仍然在算力豪赌这条路上狂奔。
国内前阵子袁静辉老师也提出了一个观点:大家之前总是提训练成本,如果跟推理成本比起来,训练成本是一池游泳池的池水,但是推理成本可能是汪洋大海,是无止境的。
所以我比较好奇,您有观察到中美两边对于算力的需求趋势发生变化吗?如果说推理成本是无限的,是不是意味着算力这门生意也是无限的?
张宇昕
我只能这样说:推理的算力需求远远大于训练的算力需求。
我们早就判断,这个世界上未来能做或者持续做大模型训练的,可能中国和美国各有几家,夸张一点说,各5家就差不多了。因为没必要每一个厂商都从头开始做模型训练。模型训练是很高投入、很辛苦的差事,而绝大部分客户使用大模型,主要就是推理。所以推理的市场空间远远大于训练的市场空间,这是第一点。
第二个就是关于成本的问题。我的观点是,scaling law 还会持续发展。为什么?因为基于当前的人工智能技术,我们可以看到,单位人工智能计算成本仍然太高,效率还是太低。
以我们人脑为例,首先,现在还没达到我们人脑的算力水平;第二,我们人脑计算消耗得并不多,我们就消耗一点吃的、穿的,这个成本能有多高?但是你想想,要堆起一个跟人的思维能力相同的算力系统,还要多少钱?
如果人工智能要真正替代人的一些基础工作,它必须把成本降到跟人相当,甚至更低,才是真正符合经济规律的。就像您手上拿的这个 PC,如果还处在大型机阶段,我们绝对都拥有不了。
要做到这样的成本水平,意味着什么?其实算力规模还要继续扩大。在算力规模扩大的情况下,我们才能够攻克新的技术,使单位成本更低、效率更高。
所以从长期来看,未来5年、10年,可能还有几十倍、数百倍的增长。但是现在我们看到大家的理性,是因为在当前的成本结构下,一味扩大算力意味着高代价,这不是所有厂商都负担得起的。
所以必须有人考虑,能不能在现有条件下,提供一些低门槛、高效率、低成本的方案,让那些愿意吃“头啖汤”、愿意吃螃蟹的客户能够及早应用人工智能技术,及早产生效益。
更重要的是,他们应用人工智能技术以后,会给技术以反馈、给技术以要求,推动技术进步。
卫诗婕
您觉得这种正反馈发生了吗?
张宇昕
我觉得时时刻刻都在发生。第一批吃螃蟹的人吃完螃蟹之后,你看我们这几年做了30多个行业,服务了几百到上千个客户。其实每一个客户在构建大模型的过程中,都会提出很多新的要求,这些能力是当前大模型还没有马上具备的。
所以这几年我们派了几百个科学家、博士和专家,深入田间地头,深入工厂车间,深入人家的生产一线。原因就在这里:不是说我们做好一个东西拿给人家用,人家马上就能用,而是要到人家的业务系统里、到现场去看到业务问题,提出新的挑战,再来攻克这些技术。
这个过程其实就是人工智能技术发展的过程。
卫诗婕
您刚刚其实讲到,大模型现在成本还是不够低,效率还是不够高。周鸿祎前不久在演讲当中讲了一句话,我觉得还挺有意思。他说,希望把大模型拉下神坛,让大家能够用得上;不要一上来就谈星辰大海,先用一个模型解决一个具体的问题,他觉得这是最重要的。
我觉得您应该挺认同这个观点吧?
张宇昕
我非常认同他的观点。他的观点表达了两个含义。
第一,大模型要高,但不能贵。华为过去也经常讲这句话,叫“高而不贵”。因为一个技术如果又高又贵,就只能飘在天上,落不了地,大家也用不起来。
第二,在大模型的早期,不要贪图大模型能够无所不能。如果大模型能够聚焦解决生产系统当中的某一个问题或者某一类问题,把人工成本降下来,把自动化水平提上去,把质量提升上去,那也是一件好事。
卫诗婕
这里我想提一个有一点尖锐的问题。华为其实也自研大模型,但我们仿佛不会在社交网络或者媒体宣传当中,高频地看到盘古大模型,如果跟其他模型厂商相比的话。
第二,我发现华为好像不太参与刷榜,而是沿着行业,就像您说的,做了很多小模型。我比较想知道,这两方面华为是怎么思考的?
6. 华为成为行业智能使能者
张宇昕
这个其实我刚才已经提到了。大模型现在有两条路,一条是 To C 的路,一条是 To B 的路。华为可能是走 To B 这条路走得早一点、最坚定的践行者之一。
基于这个选择,我们没有必要跟人家去刷榜。现在绝大部分刷榜,是基于 NLP、基于通用能力的评测榜。这种通用能力当然不能说没用,但是榜刷得好,到企业里就能解决企业的问题吗?也解决不了,也未必。
因为企业不是用通识、通用能力来解决问题,而是要用它的专业、专长和这个行业的 know-how 来解决问题。所以我们不太热衷于刷这些榜。这些榜刷了以后,对我们支持 To B 客户没有太大帮助,可能对营销有点帮助,但是对解决客户问题并没有太大帮助。
不如沉下心来,踏踏实实地帮助客户构建他们的人工智能系统,这是第一点。
第二个方面,我们在人工智能这件事情上,可能跟其他一些云厂商不一样。其他云厂商可能基于他们的业务特点,希望把大模型平台做成类似互联网平台一样,汇聚流量,也就是说消费者、使用者直接来调用我的大模型就行了。只要使用,流量就聚集起来了,这符合互联网业务特点。
但是在 To B 的行业里面,我们并不是做应用。因为我们没有流量生意,也不做流量生意。我们构建的是大模型底座以及大模型的一套工具链。这个东西都不是客户最终使用的,客户最终使用的是自己的大模型。
我们提供这个底座,只是让客户不用去做重复性的工作,打地基的事情不用做了。同时,我们提供一套工具链,里面沉淀了如何训练大模型的工程方法和经验。客户拿自己的行业 know-how,在我们的底座之上做增量训练、做微调,结合自己的业务系统,训练自己的大模型,这才是我们的目的。
所以我们是一个使能者,或者拿您的话来说,是一片黑土地。我们并不是黑土地上最后长出来的那棵树或那朵花,树和花是客户的。
对于互联网,或者对于 To C 业务来说,他们本身就是树、就是花;我们只做黑土地,各自的定位不一样。所以这些指标没有必要去比。比如说对于基础大模型而言,在特定情况下,我可能要考虑行业数据和基础数据的配比,才能使整体效果最优。一味追求某个指标,可能反而是浪费。
卫诗婕
这当中就有一个细节问题,就是您刚才讲的配比。据我所知,在训练大模型或者推理的全链路当中,有一组矛盾:模型的泛化能力高低和它的专业性是相牵制、甚至相悖的。
专业数据训练得越多,泛化性可能就会受到影响;如果要追求很好的泛化性,专业能力可能就会比较差。这是目前的难题,有解吗?
张宇昕
这还是要随着技术发展,不断去攻克,看有没有新的工程方法去训练。当然,也取决于未来算力是不是足够大。也许未来算力大了,这个问题就不成问题了。
我为什么有这个猜测?就像小学生一样,一次教得太多,他消化不了;你把这个东西教给他,他可能把其他东西忘了。但是如果他是一个大学生,你会发现一次教他3件事,他是记得住的。小朋友可能一次只能教一件事,这就是我们现在的人工智能大模型技术还不成熟。
如果未来还有更新的技术、更强的算力,也许这种泛化性和专业性的矛盾就不会这么尖锐。方向大概有两种可能:一种是 AI 芯片或者算力本身得到提升,或者效率提升,或者量级更大;另一种是技术发生变化,比如模型架构、模型结构发生变化,或者训练数据的处理方法发生变化。兴许这个问题就能解决。
卫诗婕
另外一个细节问题是,我今天也看了你们台上的一些客户案例。我觉得有个很有意思的点:至少拿出来讲的都是巨无霸,体量都挺大的,都是大企业。
所以第一个问题是,我会有点怀疑您刚才所说的,希望把成本、价格打下来,让大家都能用得起。但我们现在看到的案例都是巨无霸企业的代表,他们肯定很有财力。
如果把你们的服务放在整个市场去衡量,是不是一个普通企业也能够应用的状态?
张宇昕
这也是我们大模型层次结构的一个考虑。我们率先提出来,大模型的层次结构里面,L0 叫通识大模型、通用大模型,是一个底座,其实并不是客户最终使用的。
我们希望构建 L1 的行业大模型,以及 L2 的特定场景大模型。这里其实隐含了一个理念:我们也希望行业客户能够把行业通用能力做成大模型,对外提供服务。
提供服务以后,意味着不仅仅是行业领头羊能够使用 AI,它同时也可以服务本行业上下游的客户,或者同类型的客户。
为什么现在只有大企业在使用人工智能?因为人工智能三要素里面,一个是算法,要靠技术、靠专家;第二是算力;第三是数据。算法和算力的问题,也许华为能帮客户解决。我们有足够多的专家和博士,算力也可以帮他建设。
但是数据这件事情,只有大企业有足够的数据。一个行业里面的小企业也很想赶紧拥抱人工智能,但是自己的积累太少,手上掌握的数据,也就是知识和经验太少。
我们也提倡在行业里面做行业通用大模型。行业通用大模型做出来以后,行业领头羊掌握的数据足够多,只要这些数据是行业通用的,就可以开放出来给中小企业使用。实际上,这就降低了中小客户的门槛。
卫诗婕
这有点像传帮带。
张宇昕
必须这样。大家在不同的生态位做不同的事情,产业只有这样才能做大,中小企业才能看得到自己的未来在哪里。
当然,我们也号召行业共建开放数据集。同一类型的企业,你有一些数据,我有一些数据,只要这些数据不涉及各自企业的隐私或保密内容,通用数据或者脱敏数据就可以拿出来。这些行业经验大家能够共享,共同建立一个行业通用数据集。
卫诗婕
那我作为一个行业领头羊、一个大企业,为什么要来做这个看起来像公益的事情?
张宇昕
每一个行业里面都有大企业,也有中小企业,各自的市场定位不同,看似竞争,其实我认为是竞合关系。
大企业的成本可能很高,只能做大项目,小项目养不活它。但是它也会面对大量客户:我做不了,我的人可能到不了那个地方;或者我的成本覆盖不住;或者这些细小场景我并不专业。反而是一些小厂商专注于某一个领域,可能比我还专业。
那为什么不提携一下这些客户,来补充我的能力呢?所以我觉得,市场上的竞合一定是一体两面,不会只有绝对的竞争。当然,同行企业之间也不会只有合作,一定是竞合,是一个很好的动态平衡。
大的企业把经验分享出来,也是很正常的事情。你像软件开发有开源,开源典型的就是同行之间相互提携。为什么要提携同行?因为同行也能给我做贡献,也能补我之不足。
卫诗婕
还有一个观察是,今天上午讲的一些案例里面,我发现拿出来讲的模型,从参数量级来看并不算大。我甚至看到了一个特别有意思的案例,是一个药物分子大模型,它是亿级参数。
其实我们今天在公共叙事当中,很少去提亿级参数的模型。所以我很想问,一个小模型的价值有多大?模型现在越做越小,或者说把小模型做好,会是一个趋势吗?
张宇昕
其实我不认为这些是小模型。我们过去的小模型,说白了只是对特定数据集进行特定训练后抽取出来的,它不具有泛化性。
您提到的,在2021年发布大模型之前,我们也在做人工智能,也给很多企业做过一些模型。那个时候就是小模型:把企业的数据拿来,帮企业训练一下,生成一个模型。这个模型可能只对这个企业,或者只对这个企业的一部分业务场景有用,那叫小模型。
而大模型首先有一个通识教育的过程,也就是通用数据训练的过程,然后我们再把专用数据叠加进去。它整个模型的训练方法和工程,跟过去的小模型完全不一样。
所以不能看参数量大小就说它是小模型。我认为它可以是“小的大模型”,对,我是这个意思。
为什么会有小的大模型?我觉得业界很多客户也容易被误导。参数量大的主要是自然语言模型,也就是 NLP 模型。现在 NLP 模型起步就是百亿级、千亿级,大家都觉得还不够,千亿级甚至万亿级。
但是如果到了视觉模型,也就是 CV 模型,可能几十亿参数就够了。如果是推理决策模型,几十亿、几亿参数,我觉得都够。药物分子大模型就是典型,它不是自然语言模型,那为什么要做得那么大?不需要那么大。
华为做的气象大模型也是一样的,它不是自然语言模型,为什么要那么大?所以这是我早上提到的一个具体实践问题。
对于企业而言,第一,要求大模型具备专业能力;第二,一个企业要选择多种模态,不只是语言,可能也要视觉。比如用视觉做交通路况观察、气象观察,可能是视觉;但也可能需要决策推理,或者优化。
像分子药物和气象大模型,我们叫科学计算大模型。说白了,这类大模型的核心原理是一系列科学计算方程。过去我们是通过解方程的方式算出来,现在用学习的方式加速计算,说白了就是加速计算。
过去做一次气象预报,得用大概3,000台到5,000台高端服务器,可能要算半天才能得到一次结果。算错了,还要再迭代。现在用一张卡,10秒钟就能出来,这就是用人工智能、用小的大模型来加速科学计算。
分子药物也是一样。过去研制一个药物要10年,现在一次药物筛选,可以由月的时间缩短到天,甚至缩短到小时,就是因为用人工智能的方法加速科学计算。
所以,科学计算大模型没有必要像自然语言模型那样做到几千亿、几万亿参数,没有必要。小的大模型也有价值。
对于企业而言,关键是选择哪一种模态,或者多种模态的组合,当然也要选择尺寸。同样一个能力的大模型,尺寸越小,成本当然越低。这就需要技术,比如做量化、蒸馏,能不能尽量降低算力成本,在精度下降不多的情况下实现低成本使用,这些都是企业要综合考虑的问题。
卫诗婕
这让我想到,2023年年中我跟人大一位前沿学者交流时,他说过一句话:我们现在一直在谈大参数模型,但实际上,相对来讲,参数小一点、能够真正应用好在行业里的模型,他还没有见到过。
但我想可能到今年为止,已经有一些行业取得了一些应用成效。如果做 To B,这种场景会比较多,小参数、但精度非常好的大模型,可能是未来企业不断追求的结果。
7. 工业场景带来实际增效
其实您刚才提到了很多行业应用,我们能不能再细化一些?比如你们现在跟那么多客户贴身合作这些模型的应用,有没有发现哪些比较高价值的 AI 场景?
张宇昕
我刚才讲过气象,您也提到了医疗。其实,跟工业企业合作时,我们在煤矿上就有很多场景。
挖煤是一个高风险场景,过去主要靠人值守。现在可以通过远程摄像头,用 CV 来看煤层、采煤工作面的工况,甚至还可以通过声音来听采掘的声音,判断背后是水、煤还是岩石。
过去都是老师傅站在那里听,老师傅听得不对,就不能继续挖,因为再挖可能就挖透了。现在这些事情完全可以用人工智能的方式进行判断。
挖出来的煤毕竟不是纯煤,里面有煤渣、石头和其他东西。在传送带上要做分拣,过去还是靠人,效率又低,成本又高。如果现在用摄像头识别哪些是煤、哪些是异物,就能很快自动完成分拣,生产效率会大幅提升。
煤矿还有精煤生产的场景。精煤需要进行各种配比,过去也是按一个比例配出来,生产之后还得把煤烧掉,再分析煤渣里面的成分。如果成分达不到预期,就要重新配,人工重新调整。
现在我们把过去这么多次配煤的数据综合起来,进行模型分析,模型就能给出一个最佳参数,省去反复试验的过程。反复试验会浪费很多成本。
所以,光是一个煤矿就有很多这样的场景。比如山东某一个煤矿,一个矿井一年我们可能帮它多生产2,000吨煤。如果推广到全国,那么多煤矿,可以想象能够多生产多少煤。
同样也有钢铁的场景。钢铁最难的是炼钢这个环节。炼钢原来是一个纯化学过程,要把钢炼好,温度、原料以及各种微量元素的配比,都需要非常精确。过去主要靠炼钢师傅的经验,一炉钢60吨,浪费多少?一炉钢几十吨就去了。我不能让高炉一直在那里做试验,而且还不能停。
我们把炼钢的各种参数数字化,基于炉温、湿度以及各种情况训练模型以后,就不用花很长时间反复试验,炼出来的精度和质量会比原来好很多。
一吨钢哪怕降低成本一块钱,我们初步达到的效果可能还不止一块钱。我们可以看一看,国家一年生产多少亿吨钢。
卫诗婕
您刚才能够讲得这么细,我还挺意外的。因为您是 CTO,是最顶层的决策者角色。我比较好奇,华为接触了那么多客户,我相信你们肯定从客户和产业里面挖掘了非常多的场景和需求。
但是不可能一上来把所有需求都做了,肯定有一个排列优先级的过程,以及选择做什么、不做什么。在华为内部,这个过程是什么样的?可以分享一些吗?
张宇昕
首先,第一步还是我讲的,我们得深入客户、到客户一线。因为不到客户一线,我不知道什么东西是客户那里最着急的,或者对客户价值最大。
假设在人力有限的情况下,以煤炭为例,煤矿企业有3种场景。如果我只能给它做一种场景,就必须知道哪一个场景条件最成熟、产生的价值最大,那我首先就从这个场景做起。
这些东西必须到客户一线,看客户的生产系统现场,基于客户自己的经验以及我们的经验结合起来,才能做判断。我们做了30个行业、几百个客户,每个客户可能都有3到5条需求,每条需求都有它的价值,但是终归我们的人力是有限的。
所以我们的专家和主管都在不断碰撞:手上有限的人,怎么能够把这些需求里面的共性抽取出来?我们也要不断鉴别,从价值大、能够快速帮客户创造价值的事情开始排序。
我们的工作过程就是不断先理解业务、识别需求,在这些需求里面去抽取。我们讲的叫去粗存精、去伪存真,然后由表及里、由此及彼。这样的话,客户也许没有提出来的问题,我们做完以后可能也能解决。
这就是技术专家的价值。不只是客户让你做一,你就做一;而是要能够把很多客户提出的一二三四,背后的规律抽取出来,把这些需求最大限度地通用化、共享化。这是技术团队最大的价值。
卫诗婕
如果把这个流程粗略地概括一下,大概就是你们的技术专家真正深入客户内部去搜集需求,然后回来在内部不断碰撞、筛选,再把产品带到客户现场去验证做得对不对。
张宇昕
对,是一个持续迭代的过程。
卫诗婕
而且会做 dirty work。
张宇昕
对,一定要去。我们叫“双手沾泥”。不到客户现场,根本不知道最终需求对不对,做出来的效果是不是满足客户需求。所以做 To B 企业的气质,可能跟其他行业不一样,比较实干。
卫诗婕
您刚才讲了收集一波需求、内部碰撞、筛选出第一批次要做的事情,确定第一批次目标。这样的流程周期大概经历多久?
张宇昕
我倒觉得这是一个快速的过程。当然,对于大颗粒需求,我们有年度规划;实际上还有迭代性版本,以季度或者月为单位,把需求识别出来并纳入进去。对于很多紧急需求,我们还可以走紧急判断和决策流程。
卫诗婕
大模型浪潮来临之后,对于一家云厂商要定义的新目标,这个目标的确立大概花了多久?属于你们华为云的目标。
张宇昕
我觉得不太好说。这几年我们还在不断学习,也在不断调整目标。有些调整是觉得方向偏了,有些调整是觉得目标低了;有些调整是要重新排目标的优先级,有些事情当前要实现,有些事情远期实现。这也是一个迭代过程。
卫诗婕
“方向偏了”和“目标低了”可以举一个例子吗?
张宇昕
比如大模型走的路线,我们到底是要走哪一条?从我来看,大模型 API 其实是一个类 To C 的业务。
我们绝大部分政企客户,如果提供一个大模型 API,这个 API 主要是类似 ChatGPT 的对话 API。对于企业应用,尤其是生产类型的应用,帮助并不太大。
而且企业希望自己的数据是专属的,问题背后的知识可能是机密。比如政府的机密数据,或者医疗行业涉及医疗、病人的隐私数据,这些都不能开放在外面。
所以,提供一个公开 API 到底该不该提供,优先级高不高,公司内部其实有过争论。经过一段时间思考,我们觉得不要走这条路,要走 AI for Industry,做一个使能器,提供大模型底座和大模型工具链,帮助客户构建自己的大模型。这其实就是修正方向。
卫诗婕
修正方向以后,你们也在不断调整。比如可以看到,在华为开发者大会和全联接大会上,张平安总每次都会发布一些新的大模型。到底先做汽车、煤矿、能源,还是先做其他行业?这个目标是怎么调整的?
张宇昕
我们基于对行业的理解程度,以及我们和客户各自的准备程度,不断调整这些目标。
卫诗婕
那哪些目标定低了呢?
张宇昕
定低的目标,当然仍然是大家最关心的性价比。我们每一回都觉得,自己对性价比的追求还不够,还要继续挖掘。
还有可靠性。尽管现在我们的大模型训练集群稳定度已经在业界算比较好的了,但是我们还是希望中断时间能不能更短一点,客户恢复的时间能长一点,最好不要影响客户业务。这些目标都在不断调整,每次都要给自己加码、再提升。
8. AI Native推动全面重构
卫诗婕
我们之前说三四年前还在提云原生,但今天所有人都在提 AI 原生。华为云怎么理解 AI Native?
去年李彦宏提到 AI Native 的时候,说要在内部抛弃所有旧有认知,完全解构之后重新做。他还说,大厂在这件事情上的反应肯定会慢,可能是基于很多过往经验,或者体量的原因。
我比较好奇,您认不认同他的看法?华为有没有经历过这样一个解构又重构的过程?
张宇昕
这是两个大问题。我先说 AI Native 的认知。
通过这几年跟 To B 客户的合作和实践,我把 AI Native 总结成4个方面。不一定全面,但这是我们现在看到的比较主要的4条实践路径,或者说4个实践范式。
第一,如果要做人工智能,因为当前人工智能浪潮是算力驱动的,所以一定要选择 AI Native 的算力。换句话说,要用新型算力。这种新型算力一定要能够支持大算力、大带宽、低时延,能够支持人工智能训练和推理中的大量数据同步,满足训练和推理的要求。传统算力是解决不了的。
第二,因为客户的要求是构建智能化应用,让业务系统智能化,所以业务系统必须构筑于一个已经智能化的底座之上。
我们过去提供的这些底座,包括传统数据库、数仓、大数据、安全等技术,以及软件开发这些基础技术,自身都要升级。如果这些支撑性技术自己都不能智能化,怎么可能支撑客户业务的智能化?
所以第二部分就是要采用 AI Native 云服务来构建客户业务系统。
第三个很关键的一点,是要构建行业或者企业大模型。这是人工智能的核心路径。一个企业能不能把自己的知识和经验人工智能化,核心就在于能不能把这些知识和经验做到大模型里面去。
第四,如果既用了 AI Native 算力,也用了智能化底座服务,还构建了自己的大模型,那么整个应用系统就要改造,要基于大模型构建应用系统,我们叫作大模型系统。
这4个方面,是企业必须要做的事情。如果这4个方面做得比较好,我们觉得这可能就是走向 AI Native 之路。
至于第二个问题,我相信也就不言自明了。我们发现每一层都在变化,所以李彦宏说要重构,这是很自然的。
华为云这两年也在重构自己的基础设施。你如果看我们自己的战略,会发现我们已经把基础设施全部重构了,甚至数据中心的设计都已经改了,再到芯片、硬件设计,以及底层软件设计,已经全部改了。
第二,我们把云服务全部用人工智能升级了一遍,叫作 Reshape Cloud Service,把云服务全面升级。所有云服务都用人工智能加持,有的增加了 Intelligent Assistant,也就是智能助手;有的为大模型提供了很多功能,比如安全;有的则用人工智能提升自身能力,比如数据库管理、数据库运维,以及安全态势感知、漏洞攻击感知等。
我们已经把云服务全部升级了一遍。当然这个升级过程还没有完成,是一个长期、不断迭代的过程,我们还在持续做这些事情。所以,重构已经开始了,我们已经在做了。
卫诗婕
重构和解构这件事情,对华为来说是不是没有包袱?阻碍存在吗?
张宇昕
包袱肯定是有的。因为这么多年积累下来,比如技术团队、研发团队,以及我们过去积累的代码,谁都不想说这些代码要改,甚至有些代码要抛弃掉。
但是华为公司有一句话,叫“优势挡不住趋势”。如果不想变革,可能就会被这场变革颠覆掉。与其被这场变革颠覆,不如及早拥抱它,成为改革红利的享受者。
所以,如果有一个新变化的机会,技术团队反而是很兴奋的。苦是苦一点,因为很多东西又要重新升级,还要考虑客户怎么从老系统迁移到新系统,对技术团队要求很高。
但是我觉得,这也是技术团队必须追求的,否则我们不能保持领先。
卫诗婕
那您觉得,应该先有模型再有产品,还是先有产品再用模型?这个问题最近被业内讨论了很多。
我们看今年的明星公司 Perplexity,它有一个非常有名的主张:不是先想模型再想产品,而是先有产品。
张宇昕
这个我刚才已经讲过了。模型是技术成分更多的东西,产品更看重商业成分,是业务的东西。这两个是相辅相成的,像 DNA 的螺旋一样。
技术会带来产品升级,但是产品反过来又定义、牵引技术的方向。这肯定不是先后的关系,绝对不是先后的关系,而是伴生的关系。
所以一个产品要及早应用新的技术,新的技术又要在产品里及早得到验证,然后这些新技术又被产品推动,发展到下一个阶段。这种相互协同的发展,是新产业、新技术成功的关键。
卫诗婕
就在我们谈话的今天,行业里面也发生了一件大事,就是 ChatGPT 之父离开了 OpenAI。我们也看到,美国现在人才流动非常剧烈。在中美大模型、AI 的竞争道路上,您有什么自己的主张和判断吗?
张宇昕
首先,我有几个想法。
9. 中国人工智能走自己的路
第一个,中国人工智能发展的道路一定要走中国特色,结合中国自己的产业特点去走。如果走美国的道路,不一定能成功。所以我们要发挥自己的优势、扬长避短,另辟蹊径。
以语言大模型为例,我个人认为,英语语言大模型我们无论如何很难超过西方世界,因为英语是西方世界的主流语言。工业革命以来,人类最主要的文化、知识和经验,公开的基本上都是英语的,包括公开论文、公开技术文档,可能也都是英语的。
如果我们走这条路,可能不太现实,可能赶不上。中文我们可能有优势,但是英文方面我们赶不上。所以作为一个企业,走这条路不见得是成功之道。
但是在我们自己的行业里,我们是领先的。
第二,美国现在在打压我们的人工智能,在技术上打压,甚至未来可能也会在人才上打压。中国学生想去美国学习计算机、人工智能相关专业,可能会越来越困难。
这就更加要求中国的产业界协同起来。在人工智能这件事情上,更多的是协作而不是竞争,发挥各自的优势。To C 企业发挥 To C 企业的优势,To B 企业发挥 To B 企业的优势,大家协同起来,才能把整个人工智能产业带起来,才能跟美国进行全面竞争。
我早上有一页胶片已经提到了,从底层到上层应用,中国和美国其实都有对位的企业。但是我们可能在某些环节上还有差距,这需要大家一起协同。
第三,我觉得产业界和学术界也要协同起来。比较好的一点是,人工智能的学术研究,除了美国就是中国,世界上很难再找到其他地方了。
所以中国的产业一定要给学术界提出问题,给他们场景,给他们理论发展的空间和机会。当然,他们研究出技术、研究出理论以后,也要快速到产业里进行验证。
如果我们能够把这样的循环做起来,中国人工智能这个产业就不怕谁,也没有谁能够封锁我们。
卫诗婕
本期节目就到这里,你从这期节目中获得哪些有价值的认知?有何不同见解?都欢迎在评论区留言分享。有关本期独家访谈的文字内容也已经在我的公众号“魏诗杰商业漫谈”上发布,欢迎前往阅读。好啦,我们下期再见。