田奇，国际欧亚科学院院士、华为云人工智能领域首席科学家、IEEE Fellow

以下是田奇院士的演讲实录：

2021年3月，我国发布了“十四五”方案和2035年远景目标纲要，聚焦十大数字化运用处景，从聪慧交通、聪慧医疗到聪慧农业、聪慧政务等；重点发展七大数字经济重点家当，如云打算、大数据、人工智能等；在人工智能方面全要素的布局紧张有几点，如攻关AI根技能、发展AI家当、培植AI根本举动步伐、构建公共数据集等。

下面紧张先容华为云在攻关AI根技能，以及发展AI学术和人才生态方面的事情。

一、盘古大模型

众所周知，人工智能已经进入了千行百业，开始创造更大代价。
在华为云600多个人工智能的实践项目中，有30%进入了企业核心系统，帮助客户均匀盈利18%。
人工智能进入各领域面临很多寻衅，最大的寻衅之一是AI运用处景碎片化的问题，也便是过去的这种定制化的、作坊式的开拓难以规模化复制；第二，难以把行业知识与AI技能相结合；第三，行业对付普通的AI模型在攻击、隐私、安全方面的一些担忧。

我们的事情紧张是针对第一个场景碎片化的问题。
一个场景、一个模型指的是过去这种定制化的、作坊式的开拓，碰着任务后从零开始，困难迭代，如果达不到哀求就要推倒重来，局限于特定的场景和数据。
这样的开拓办法导致高本钱、高门槛，没有履历和数据的积累。

在人类社会工业化的过程中，机器起到了至关主要的浸染（如蒸汽机、智能生产线），工业化使生产效率大大提高。
今年4月，华为云发布的盘古大模型是对过去定制化的、作坊式的开拓迈向AI工业开拓的一个考试测验。
盘古大模型，首先它是大模型，设计了超大的神经网络来吸取海量的知识，找出数据之间的共性。
其模型的演习包括三个阶段，第一个阶段叫做预演习阶段，也是算力花费最大的阶段；第二个阶段是基于行业数据的微调，以及端侧、边侧、云侧的支配；第三个阶段便是新数据会不断产生，如何根据新数据让大模型进行迭代，实现终生学习。
同时我们开拓流水线的工具集成，让模型的演习更快，效率提升10倍以上。

盘古大模型包括NLP大模型、CV大模型、多模态大模型和科学打算大模型四大类。
我们在设计大模型时有三个核心的设计原则，一个是希望这个网络规模要大，以是NLP是首个千亿级参数量的中文大模型；第二，模型大，但不能大而臃肿，希望有强壮的网络架构，也便是希望它是百米冠军，系统的性能要做到极致，综合性能提升10%以上；第三，希望它有精良的泛化能力，也便是场景覆盖率要高，不仅是单项的百米冠军，也希望是10项全能冠军。

盘古大模型有很多运用，比如工业毛病检测、图像审核、内容审核、工业质检、知识图谱、证券，以及银行方面的一些风控等，均匀的开拓效率提升了90%，在性能上有5%~10%的提升。
大模型的打造过程中涌现了非常多的创新研究，比如视觉的一些分类、检测和分割，很多单点技能得到了业界寻衅赛的冠军。
其余，模型压缩与量化、多模态和小样本学习、视觉预演习模型等都沉淀到了盘古大模型。

（一）NLP大模型

这几年， 自然措辞处理，尤其在预演习模型取得了打破性进展。
2018 年 10 月发布的 BERT 达到了3.4亿的模型参数；2020年1月，微软的图灵T-NLG模型达到了 170 亿参数；2020 年 5 月，OpenAI GPT-3 达到了 1 750 亿的参数；今年华为发布了 1 100 亿和 2 000 亿的盘古大模型；10 月 12 日微软和英伟达也发布了威震天 - 图灵大模型，达到了 5 300亿参数。
以是，大模型近年引起了业界极大关注，也得到了发达发展，在今年 4 月我们发布的盘古大模型便是业界首个千亿中文大模型。

在实际的华为盘古NLP模型中，运用了通用知识和行业履历，实际发卖场景中，金融的发卖转化率提升了2倍以上，客户满意度提升了15%；由于具有兼顾天生与理解的能力，以是它的天生与理解性能当时也达到了领先；在CLUE榜单上内容理解和分类方面，榜单上都达到了第一；同时天生任务也达到了天下第一，小样本学习能力超越了之前的GPT系列。

NLP盘古中文大模型在医疗场景也做了命名实体的提取。
医疗业务场景的寻衅，由于医学术语和通用措辞之间的差别比较大，而且医疗知识比较繁芜，知识抽取困难，我们在医疗语料和通用语料上做了多领域领悟的多任务预演习。
在实际场景中诊断效率提升了10%~20%。

盘古NLP中文大模型在聪慧文旅的运用，紧张是借助阅读理解系统和旅游知识图谱，实现对用户讯问的多轮实时回答。
基于大模型预演习的意图理解和知识提取的能力，可扩展并适用于多种现实的运用处景。

在客服发卖系统方面，紧张是银行、保险线上线下的网点发卖场景，借助发卖的实时赞助系统，通过话术挖掘，提升低级发卖产能50%以上、中级发卖产能10%~30%。

（二）CV大模型

盘古 CV 大模型也是业界最大的 CV 预演习模型，发布时有 30 亿参数，也是首个判别与天生联合预演习的模型，在 100 多个场景得到了验证，并且其小样本学习性能在 10% 的标签分类上精度达到了业界第一，研发本钱降落了 90% 以上。
盘古 CV 大模型分为预演习、微调和支配、迭代三个阶段。

盘古CV大模型在国网电力巡检中的运用。
比拟过去传统用20多个模型做电力毛病识别，现在只用一个盘古CV大模型。
并且盘古CV大模型让毛病样本的筛选效率提升了30倍以上，筛选质量提升了5倍以上，识别精度均匀提升了18%，一个模型的通用性达到了过去20个效果，开拓效率提升了10倍以上。

高铁作为必不可少的出行办法，其运营线路已经达到2万余公里，在如此弘大铁路网的背后，须要极大的人力本钱维修或掩护。
但是当前设备存在数量和类型浩瀚、人工实时监测困难、长期监测难度大等亟需办理等问题，研究和设计智能实时监控和预警办理方案，完成针对铁路智能检测和实时预警，保障铁路的安全稳定运行势在必行。
铁路故障检测哀求识别上百种故障类型（比如脚蹬破损、端墙板破损等），这些故障发生的概率也大不相同，由于发生概率低，难以得到故障样本，乃至有些故障还没有发生过，标注困难、样本不屈衡，以及未知故障的预测成为紧张寻衅。
华为云确定基于盘古视觉大模型，利用大量铁路无标注样本预演习，使其在小样本的故障获取更优的性能；同时基于毛病检测算法，打造未知故障预测流水线，为铁路故障检测设下第二道关卡。
通过盘古预演习模型做智能故障识别，故障召回率达到90%的情形下，准确率提升了7%以上；正常的样本滤除率降落了8.9%。

盘古CV大模型在内部的工厂场景也有一些运用，紧张是对手机元器件、零部件关键元器件的检测识别，要知足超高的召回和精度的哀求，同时也要知足模型在耗时和大小方面的哀求。
盘古CV大模型自动化地抽取任意耗时的需求模型，同时自动化天生算法来得到办理方案，总体是一个低本钱、高效和可靠的方案。
与之前的标准模型比较，同样是40个标注样本，Recall都是在99%以上，准确率从85%提升到了99.5%，精度提升了14.5%，上风非常明显。

盘古CV大模型在工业毛病检测方面也有运用，比如钢板和电池板原来存在漏检、误检和定位不准确的问题。
面对毛病情形繁芜、标注本钱高、效率低、不同批次数据存在差异，以及准确率低落严重等问题，盘古大模型的办理方案便是预演习模型 + 数据挖掘。
与之前的标准模型比较，在同样达到90%召回率的情形下，第一批次中准确率提升了6%；第二批次的质检中，准确率提升了14%。

（三）多模态大模型

盘古多模态大模型是让AI懂得更多的模态。
与过去的单模态比较，多模态是未来一定的发展方向之一。
盘古多模态大模型希望让多模态信息的交互成为可能，让AI具备更多的理解能力和创造力。

盘古多模态大模型能够处理跨模态检索、跨模态天生、视觉问答、视觉推理等下贱任务。
个中跨膜态检索包括以文搜图、以图搜文等。
这些任务验证盘古多模态大模型的理解能力；同时跨模态天生包括以文生图、以图生文，这验证着盘古大模型的创造能力；其次、视觉问答、视觉推理是更为高阶的任务，能够让AI具备低级思考能力。

因此，从这些任务我们可以看出，多模态是迈向通用智能的主要途经之一。
在时尚领域，我们可以用多模态判别模型来进行以文搜图，也可以用多模态天生模型设计更多服装。
在其他场景，我们可以利用多模态天生模型的“无中生有”，来创造更多人物形象。

（四）科学打算大模型

盘古科学打算大模型便是AI与科学打算的领悟，希望为传统的科学打算带来新思路、新方法和新工具。
传统的科学打算非常严密，具有很好的可阐明性，希望能够提升人工智能技能的可阐明性，它们之间的结合可以在模型、算法、软件和硬件四个层面表示。

在模型层面，比如通过AI建模实现分子力学中的大规模分子仿照。
在算法方面，比如物理学中，AI求解用神经网络求解薛定谔方程；生物学中，通过AI算法，实现蛋白质构造预测这样的事情。
在软件层面，AI框架加速优化。
在硬件层面，AI芯片适配，人工智能对芯片、处理器、系统等都有深刻的影响。

下面先容盘古科学打算大模型的一个最新事情——环球海浪浪高的实时预测，包括三个部分。
第一，多模态的数据建模，多模态数据包括地形数据、气候数据和台风轨迹，从海量的多模态数据中提取海量的知识和规律；第二，把传统的科学打算问题，便是偏微分方程求解问题，等价编程进入AI模型；第三，虚实数据领悟，把仿真、实时的不雅观测数据与行业知识相结合。
末了我们得到了盘古海洋大模型，实现了高精度、可阐明、多模态和实时预测，实现了环球覆盖和高精度预测。
可预测地区覆盖了环球90%以上的海疆，海浪浪高绝对偏差小于10厘米，精度和覆盖范围与传统科学打算的方法相称；但AI的求解相对付传统方法，加速超过了1万倍。
传统方法，比如用超算中央，像太湖之光预测一次可能须要3~6个小时，预报结果滞后；AI模型仅需1秒，可以进行实时预测。

在科学打算方面，今年9月华为云盘古家族再添新“丁”，发布了“盘古药物分子大模型”，旨在帮助医药公司开启AI赞助药物研发的新模式。
此模型研究了17亿个小分子的化学构造，实现了对小分子化合物的深度表征。
从而可以高效天生药物新分子，打算蛋白质靶点匹配，预测新分子生化属性，并对筛选后的先导药进行定向优化，实现全流程的AI赞助药物设计。

我们也在基因组测序做了AI加速。
第三代基因组测序中，有一个步骤叫做电旗子暗记转换成碱基序列，这是一个AI算力花费最大，影响测试精度最主要的步骤。
目前精度最高的是美国的Bonito系统，但Bonito系统速率较慢，无法知足实际运用的需求。
我们对Bonito做了一个全栈的协同加速，紧张包括软件优化、模型优化和硬件优化。
比如，模型优化做了数据增强、模型蒸馏，也做了搜索硬件亲和、高精度的神经网络构造等。
从结果看出，FastBonito比过的速率提升了5倍以上 , 过去10万个样本耗时1 000万GPU小时，经由全栈协同加速，剖析韶光减少到200万NPU小时。

二、AI 学术和人才生态方面的进展

华为的智算中央希望为科学研究供应充足的算力，支持试验区计策目标达成。
这里的科学研究包括AI+多模态、AI+遥感、AI+医疗、AI+气候等，智算中央包括成都、西安、武汉超算中央和鹏城实验室。
华为云希望培养 30万开拓者，目前完成的情形是，华为云开拓者社区的数量、流量均排 BG第一，引入了外部专家40多人，举办了开拓者活动200多场，并且 ModelArts在80多个高校开课。
2020年华为云还发起了经典的论文复现活动，覆盖25所高校（C9院校全覆盖），累计发布51篇论文，已经在华为云的AI运用市场上线；同年举办了13场AI大赛，有6万多人参赛，提交作品超过9万个。

人才生态方面来讲，智算中央助力高校传授教化互助和模型众筹的开拓互助，发布了新一代人工智能系列教材，让昇腾成为高校理工科学生必备技能；同时环绕人工智能云基地、超算中央等，组织开拓者技能沙龙，让商业用户看到云上软件平台和用户生态代价的各种技能沙龙，增加云和客户的技能黏度。
华为云的AI演习营供应了云AI根本课，供应了盘古大模型的一些培训***，包括自然措辞处理，还有知识图谱、各种线下的沙龙，以及举办AI的实战营。
在生态补齐方面，通过论文勉励+模型众筹开拓操持，勉励开拓者进行根本软件的创新。
此外，我们内部的EI特战队和外部的高校老师、外部的专家定期举办活动，分享最新研究成果，包括网络架构搜索、视觉语义理解、GAN 等；还有项目需求剖析会，挖掘业务的难题。

三、人工智能打算中央赋能全场景

算力是引擎，为智能升级供应澎湃的动力。
成都人工智能打算中央如何赋能全场景聪慧。

四川省的“十四五”方案和2035远景目标包括培植具有全国影响力的科技创新中央，加快培植国家新一代人工智能创新发展试验区和国家人工智能创新运用先导区，因此成都的人工智能打算中央是依托智算中央打造一个中央三个平台。
一个中央便是一体化的大数据中央，目前一期300P的AI算力已经启动培植，大概到2021年底完成；总体方案1000P的算力，操持在2023年完成。
三个平台包括城市智脑平台、人工智能算力平台和科研创新平台，希望成都的智算中央助力四川打造人工智能的家当高地。

四、结束语

大模型是当前中美在人工智能技能竞争方面的一个热点，希望通过大模型构筑中国特色的AI技能竞争壁垒。
中国华为今年4月发布了盘古大模型，北京智源发布了悟道2.0，百度、阿里也发布了各自的大模型，9月中中科院自动化所研发了紫东太初大模型。
我们认为，大模型是AI家当发展底座的主要一环，大模型收编高度定制化的小模型，让市场向大企业集中。
大模型可以重新定义AI的家当模式、制订AI的家当标准、主导AI的家当规则、做大AI家当空间，乃至是构筑AI的伦理标准。
而且在竞争方面，中国是有一定上风的，由于中国拥有弘大的数据量，在演习大模型方面可以取得很好的成效和构筑竞争的壁垒。
当然，大模型也面临着许多风险，比如安全方面的、可阐明性方面的一些问题，包括在公正、安全、法律等方面都有一定风险，因此在研究过程中也要慎重考虑。

（本报告根据速记整理）

CAAI原创 丨 作者田奇院士

未经授权严禁转载及翻译

如需转载互助请向学会或本人申请

转发请注明转自中国人工智能学会