广告

除了世界第一、千亿参数的盘古大模型,华为开发者大会还有哪些亮点?

2021-04-26 15:23:31 综合报道 阅读:
第一次与全国各大高校联办,连发六大创新产品及服务,全球最大、千亿参数,逼近人类神经元的华为云盘古大模型,向“沃土计划2.0”投入2.2亿美元,这届的华为开发者大会都有那些亮点?

华为开发者大会(Cloud)如期而至,但与往年不同的是,今年大会在深圳大学城设立主会场,此外,华为联合鲲鹏生态创新中心、华为云产业云创新中心和智能基座高校同步在全国36座城市,开设超过70个分会场。分享ICT技术在行业内的深度创新和最佳实践等话题,覆盖机器学习、深度学习、鲲鹏、昇腾、量子计算等热门领域。除主题演讲外,还有“扫地僧”见面会,以及面向高校的互动展区,参会者有机会与业界专家、华为科学家、“天才少年”等深入切磋。J27ednc

会上,余承东发布了6大创新产品及服务,包括华为云CCE Turbo云容器集群、CloudIDE智能编程助手、GaussDB(for openGauss)数据库、可信智能计算服务TICS、华为云盘古系列大模型(包含全球最大规模的中文NLP大模型及CV大模型等)、多样性计算基础软件。J27ednc

同时,华为宣布2021年将向“沃土计划2.0”投入2.2亿美元,包括发布“沃土云创”计划、以及鲲鹏众智计划和昇腾众智计划等。J27ednc

华为云盘古大模型:世界第一、千亿参数,逼近人类神经元

其名盘古,开天辟地。J27ednc

据介绍,盘古大模型横揽AI领域四大热门方向:J27ednc

  • 自然语言处理(NLP)大模型
  • 计算机视觉(CV)大模型
  • 多模态大模型
  • 科学计算大模型

华为云盘古大模型包括4大系列:J27ednc

  • 华为云盘古NLP大模型:是业界首个千亿参数中文语言预训练模型,预训练阶段学习了40TB中文文本数据,是最接近人类中文理解能力的AI大模型。
  • 华为云盘古CV大模型:是目前业界最大的视觉预训练模型,包含超过30亿参数。
  • 未来将持续推出多模态和科学计算大模型。

具体而言,盘古NLP大模型在权威的中文语言理解评测基准CLUE榜单中,总成绩及分类、阅读理解单项均排名第一,刷新三项榜单世界历史纪录,总成绩得分83.046。J27ednc

而盘古CV大模型,则在ImageNet 1%、10%数据集上的小样本分类精度上,达到了业界最高水平。J27ednc

J27ednc

盘古NLP大模型的三大突破J27ednc

盘古NLP大模型是全球最大的千亿参数中文语言预训练模型,由华为云、循环智能和鹏城实验室联合开发,预训练阶段学习了40TB中文文本数据,并通过行业数据的样本调优提升模型在场景中的应用性能。J27ednc

盘古NLP大模型在三个方面实现了突破性进展:J27ednc

第一,具备领先的语言理解和模型生成能力:在权威的中文语言理解评测基准CLUE榜单中,盘古NLP大模型在总排行榜及分类、阅读理解单项均排名第一,刷新三项榜单世界历史纪录;总排行榜得分83.046,多项子任务得分业界领先, 向人类水平(85.61)迈进了一大步。J27ednc

J27ednc

盘古NLP大模型位列CLUE榜单总排行榜第一J27ednc

在NLPCC2018文本摘要任务中,盘古NLP大模型取得了Rouge平均分0.53的业界最佳成绩,超越第二名百分之六十。J27ednc

第二,盘古NLP大模型在预训练阶段沉淀了大量的通用知识,既能做理解又能做生成。除了能像GPT-3等仅基于端到端生成的方式以外,大模型还可以通过少样本学习对意图进行识别,转化为知识库和数据库查询。通过功能的模块化组合支持行业知识库和数据库的嵌入,进而对接行业经验,使能全场景的快速适配与扩展。比如在华为云和循环智能合作构建的金融客服场景中,盘古NLP大模型能更好地赋能销售环节,帮助服务人员快速提升业务水平,重塑消费者体验。J27ednc

第三,盘古NLP大模型采用大模型小样本调优的路线,实现了小样本学习任务上超越GPT系列。比如在客户需求分析场景中,使用盘古NLP大模型生产语义标签时,得到目标结果所需的样本量仅为GPT系列模型的十分之一,即AI生产效率可提升十倍。J27ednc

30亿参数,全球最大视觉预训练模型J27ednc

盘古CV大模型是目前业界最大的视觉预训练模型,包含超过30亿参数。盘古CV大模型首次兼顾了图像判别与生成能力,从而能够同时满足底层图像处理与高层语义理解需求,同时能够方便融合行业知识微调,快速适配各种下游任务。盘古CV大模型性能表现优异,在ImageNet 1%、10%数据集上的小样本分类精度上均达到目前业界最高水平(SOTA)。J27ednc

盘古CV大模型致力于解决AI工程难以泛化和复制的问题,开创AI开发工业化新模式,大大节约研发成本。此外,盘古CV大模型提供模型预训练、微调、部署和迭代的功能,形成了AI开发完整闭环,极大提升AI开发效率。目前,盘古CV大模型已经在医学影像、金融、工业质检等100余项实际任务中得到了验证,不仅大幅提升了业务测试精度,还能平均节约90%以上的研发成本。J27ednc

华为云盘古大模型,是如何炼成的?J27ednc

左手CANN算子,右手MindSpore框架,主要依托的便是这两大“基本功”。J27ednc

CANN是华为推出的异构计算架构,2018年推出1.0版本至今,已经迭代到了3.0版本。J27ednc

目前不仅使用于推理、训练场景,还能够实现“端边云协同”。这就意味着不必在不同的终端,再去开发不同的算子,大大提高了效率。J27ednc

例如基于CANN,就能让ResNet-50模型的训练时间降低到28s。J27ednc

MindSpore则是华为于2019年推出的全场景AI计算框架,其中的一大特色,就是具有全自动混合并行方案。J27ednc

而华为云盘古大模型,基于二者之外,还融合了三种并行技术:模型并行、数据并行和流水线并行。J27ednc

如此一来,开发者就只需要编写单机算法代码、添加少量并行标签,就可以实现模型训练的自动切分。J27ednc

举个实战例子,用盘古训练超大模型静态图,性能直接提升了40%之多!J27ednc

向“沃土计划2.0”投入2.2亿美元

同时,华为宣布2021年将向“沃土计划2.0”投入2.2亿美元,包括发布“沃土云创”计划、以及鲲鹏众智计划和昇腾众智计划等。J27ednc

华为Cloud BU总裁、华为消费者云服务总裁张平安表示,华为云沃土云创计划将投入1亿美元,重点赋能SaaS和ISV伙伴,提供云资源、技术赋能和商业推广支持,覆盖容器/微服务、SaaS化、大数据、AI、视频、智能边缘等6大技术领域。J27ednc

华为云最早在2015年提出了“沃土计划”,并在2019年发布了“沃土计划2.0”,华为坚持“硬件开放、软件开源、使能伙伴、发展人才”,推动产业繁荣发展。J27ednc

截至目前,围绕华为云、鲲鹏、昇腾累计发展了240万名开发人员。J27ednc

数据显示,华为云所保持的增速高达168%,而且已经连续四个季度位居中国公有云服务市场第二。4月21日,在国际知名研究机构Gartner的报告中指出:2020年,华为云全球IaaS市场排名上升至中国前二、全球前五,主流厂商增速最快,成为全球五朵云之一。J27ednc

伙伴基于鲲鹏主板的产品发货量达到2020年总量的52%。J27ednc

围绕操作系统、数据库、AI框架等技术,建设了openEuler、openGauss和MindSpore三大开源社区,如今已初具规模。J27ednc

2020年,华为在沃土计划2.0计划上,总投入已经达到了2亿美元 (约13亿人民币)的规模。J27ednc

另外,华为与中国教育部合作,共同建设“智能基座”产教融合协同育人基地,如今已经与72所高校开展合作,累计开设1000多门课程,培养了1500多名教师,计划5年培养300万高校开发者。J27ednc

第一次与全国各大高校联办

值得一提的是,今年这届的华为开发者大会有一个非常鲜明的特色:第一次与全国各大高校联办。J27ednc

不仅一改以往办会地址,将主会场放到了深圳大学城之中与此同时,还设置了超过20所中国985/211高校分会场。J27ednc

这也不难从侧面反映出华为云对开发者(尤其高校)的重视。J27ednc

而且从此次大会的议程设置方面,也能体现这一点:J27ednc

1场Keynote、10场峰会、70+场扫地僧见面会、100+场专题演讲、40+场开发者训练营……J27ednc

完完全全就是围绕“开发者”而展开。J27ednc

毕竟,华为云认为“每一个开发者都了不起”:J27ednc

在数字时代,开发者就是时代的弄潮儿,是改变世界的力量,更是企业创新的动力和产业的灵魂。J27ednc

余承东演讲全文:

各位来宾,各位开发者朋友,大家早上好,欢迎参加我们的开发者大会。借此机会也特别感谢深圳市政府、深圳大学城提供这么好的场地。希望大家这几天能够在青春、美丽的大学城,开启一段难忘的旅程。J27ednc

我们也在全球40座城市的华为云、鲲鹏、昇腾创新中心和高校,开设了超过70个分会场,线上同步直播,欢迎全球开发者一起参加这场年度盛会。J27ednc

因为有你,虽然艰难 但仍昂首向前

2020年在十分困难的情况下,华为云逆风飞翔。感谢全球超过20000家合作伙伴,超过240万开发者的支持。因为有你,虽然艰难,但我们仍昂首向前。谢谢大家!J27ednc

在市场进展上,鲲鹏/昇腾增长了六倍,存储也继续位居中国市场份额第一、全球前四。华为云继续保持全球主流云服务厂商中的最高增速(168%)。Gartner公有云全球IaaS市场报告显示,2020年,华为云全球IaaS市场排名上升至中国前二、全球前五,成为全球五朵云之一J27ednc

华为云:做智能世界的黑土地

华为云的战略是做智能世界的黑土地,致力于为开发者打造最佳应用构建平台,让应用茁壮成长。J27ednc

坚持云优先,优先选择用云方式为客户提供IT基础平台服务,具体来说就是云解决方案优先、云服务商业模式优先、云伙伴优先。J27ednc

持续聚焦系统和架构创新,强化软件,让黑土地更肥沃。J27ednc

全力支持开发者基于“黑土地”构建面向千行百业的应用。J27ednc

根植沃土 每一个开发者都能了不起

根植华为云的黑土地,每一个开发者都能了不起。J27ednc

基于华为云ModelArts平台,西安交通大学第一附属医院的开发者,用AI筛选超级抗菌药,有望解决广谱抗菌药物研发的世界难题。J27ednc

基于华为云AI技术,哈尔滨亿时代数码科技的开发者,开发了“畅听无碍”应用,让2780万听障人士沟通更容易。J27ednc

云是ICT产业的未来 企业数字化转型的底座

全面云化已不可阻挡,云一定是ICT产业的未来,是每一个企业数字化转型的底座。J27ednc

到2025年,全球企业云技术使用率将达100%;Gartner预测企业传统数据中心将关闭90%。所以,云一定是未来的趋势。J27ednc

没有云原生 就没有真正的数字化和智能化

《经济学家》杂志曾经评价说“没有集装箱,就没有全球化”。同样,没有云原生,就没有真正的数字化和智能化。J27ednc

华为流程IT全面运用云原生技术,新应用100%采用容器,研发系统部署和资源使用率提升10倍以上。预计到2023年,云原生应用占比将达80%。J27ednc

AI已成为新的生产力 全面进入企业的生产系统和作业流程

2018年,华为成立AI使能部,每年投入十亿美金,当前已在所有主业务流程和场景应用。2025年,大企业AI使用率将达97%,企业生产流程AI的使用率也将达到75%。J27ednc

举个例子,华为每年交付站点300多万,超过5000万安装项需要验收。过去需要分批上站,多次检查,费时费力。引入AI后,单站点验收效率提升8倍,年节约成本超过60亿人民币。J27ednc

千行百业加速智能升级 迈向全场景智慧

去年华为全联接大会,我们发布了政企智能升级参考架构:智能体。J27ednc

在智能升级的过程中,我们认为有三大趋势:J27ednc

应用现代化:应用的架构、开发和运营全面现代化。J27ednc

数据资产化:数据从资源变为资产,实现数据驱动。J27ednc

AI工业化:让AI可以真正普惠千行百业,成为新生产力。J27ednc

发布6大创新技术 帮助开发者抓住智能升级的黄金机会

为了帮助开发者抓住智能升级的黄金机会,今天我们带来6大创新技术发布:J27ednc

J27ednc

1.云基础设施——华为云CCE TurboJ27ednc

以容器为核心的云原生基础设施,不仅让资源利用率更高,还能解放运维人员,聚焦应用和业务创新。但是,容器的规模化应用,也对性能、弹性、调度能力提出了更高要求。J27ednc

没有容器化,就没有应用现代化。以容器为核心的云原生基础设施,不仅提供更高效的资源,还能把开发运维人员从资源的调配和运维中解放出来,聚焦于应用和业务创新。容器全面规模化应用的同时也对性能、弹性、调度能力提出了更高的要求。J27ednc

今天我们带来一款革命性的容器集群——华为云CCE Turbo。J27ednc

J27ednc

华为云CCE Turbo容器集群在计算、网络和调度上全方位加速,让容器真正成为企业应用创新的强劲引擎。J27ednc

计算加速:业界独家实现容器100%卸载,让VIPKID音视频服务性能提升40%,在线课堂零卡顿。J27ednc

网络加速:独创容器直通网络,两层网络变一层,实现秒级扩容千个容器,业界最高,帮助新浪平稳应对每一次热点事件。J27ednc

调度加速:感知AI、大数据、Web等不同应用特征,实现混合业务智能调度,让美图容器集群资源利用率提升40%。J27ednc

2.应用使能——华为云CloudIDEJ27ednc

二十几年前,我加入华为的第一份工作就是写代码,搞开发。相信每一个开发者都有一个梦想,能否有个开发工具,让程序自己写程序?今天很高兴,梦想成为现实。J27ednc

华为云CloudIDE是为开发者而生的智能编程助手,可以为开发者提供轻量、随时随地的在线智能编程体验。J27ednc

J27ednc

基于智能代码补全技术,华为云CloudIDE可以找到所有的补全结果,大幅提升代码的准确性;其次,支持复杂上下文进行补全;第三,避免推荐过期、弃用、危险的API。华为云CloudIDE,让代码更健壮、更安全。J27ednc

3.数据使能——华为云GaussDB(for openGauss)J27ednc

企业上云,实现数据驱动,核心是数据库上云。为了帮助企业开发者更好的应对几何级增长的数据规模和数据流量洪峰,让业务“始终在线”无中断,今天,我们正式发布企业核心数据上云的信赖之选——华为云GaussDB(foropenGauss)数据库。J27ednc

J27ednc

它经受了金融业务全场景的严苛考验,在性能、可用性、弹性方面全面提升:J27ednc

高性能:交易型事务处理能力比友商高出54%,复杂查询时延比友商低82%。J27ednc

高弹性:面对流量洪峰,可实现秒级扩容,业务无感。J27ednc

高可用:单点故障10秒内切换,只有友商不到三分之一的时间。举个例子,在工商银行,GaussDB已全面应用到A类到D类全场景业务,稳定服务于上亿用户。J27ednc

4. 数据使能——TICS可信智能计算服务J27ednc

数据作为关键生产要素,一定要流动才能发挥更大的价值。释放数据价值的关键是可信安全流通,但开放难、共享难、流通难是亟需解决的三大挑战。J27ednc

今天,我们发布TICS可信智能计算服务,使能数据可信流通,安全释放数据价值。J27ednc

J27ednc

它具有以下三大特性:J27ednc

基于多方数据联邦探查和建模,让隐私数据不出域,可用不可见。J27ednc

通过联邦AI算法和同态加密算法协同,实现模型批量计算,训练性能提升10倍,无须加速卡,也能大幅提升计算性能。J27ednc

支持主流大数据源,无须转换即可适配。J27ednc

5. AI使能——华为云盘古大模型J27ednc

今天的AI开发仍处于作坊式,我们认为,未来的AI开发必须告别作坊式,走向工业化、通用化。J27ednc

过去的4年,围绕华为AI战略,我们推出了华为云EI、HiAI能力开放平台、昇腾处理器、全场景AI计算框架MindSpore、Atlas 900集群等一系列全球领先的产品和服务。J27ednc

今天,华为全栈全场景AI解决方案迎来一款在AI产业界非常、非常、非常震撼的产品——华为云盘古大模型J27ednc

J27ednc

它具备极强的泛化能力,一个模型适用大量复杂行业场景,少量样本也能达到高精度;基于预训练+下游微调的工业化AI开发模式,让全球领先的AI真正进入千行百业。J27ednc

华为云盘古大模型包括4大系列:业界首个千亿级生成与理解中文NLP大模型、业界最大的CV大模型,未来我们将持续推出多模态和科学计算大模型。J27ednc

华为云盘古NLP大模型在中文语言理解测评中,在总榜、分类榜、阅读理解榜获得三项第一,大幅刷新业界纪录。总排行榜领先第二名1分,这是什么概念?就如同百米赛跑的世界纪录,每次0.01秒的突破,都是在超越极限。J27ednc

J27ednc

6.计算基础软件持续创新,使能多样性算力J27ednc

根深方能叶茂,云的创新离不开操作系统、数据库、中间件等基础软件根技术的支撑。如果说处理器是计算产业的“心”,基础软件就是计算产业的“魂”。J27ednc

J27ednc

我们会坚定不移的,在操作系统、数据库、AI计算框架等全套计算基础软件栈上持续投入,使能多样性算力,支撑华为云的产品和服务创新。J27ednc

创新无止境,让黑土地更肥沃J27ednc

与开发者一样,创新一直是华为的DNA,华为公司的成长史就是一部创新史。开放华为三十多年积累的创新能力,华为云持续投入,不断进步,为开发者提供更加肥沃的黑土地。J27ednc

今天,我们发布6大创新技术,希望能够帮助开发者抓住智能升级的黄金机会,站在华为的肩膀上创造未来。J27ednc

最强的智,是众智;最大的力,是合力。每一个开发者,都在创造一往无前的奔腾时代。世界有你,了不起!J27ednc

责编:DemiJ27ednc

  • 微信扫一扫
    一键转发
  • 最前沿的电子设计资讯
    请关注“电子技术设计微信公众号”
  • 将锂金属电池寿命提高750%,竟然只需要“水”? 随着新能源汽车、移动设备等领域的快速发展,高性能电池的需求日益旺盛,锂金属作为新一代阳极材料,因具有高能量密度、轻量化等优点,备受关注。然而,锂金属电池所存在的寿命短、易起火或爆炸等问题,限制了其广泛的商业应用···
  • 按下ON还是按住OFF,将这种开关电路升级到交流电 2024年10月14日,Nick Cornford发布了一个名为“按下去再按上来,这种开关有哪些门道?”的设计实例(DI)。对于直流电压来说,这是一个非常有趣的DI,但对于交流电压呢?
  • 协同创新,助汽车行业迈向电气化、自动化和互联化的未来 汽车行业正处在电动化和智能化的转型过程中,而半导体企业站在这一变革的最前沿。这一转型带来了重大发展机遇,也带来了诸多挑战,需要颠覆性的技术以及更短的开发周期。加强半导体制造商、一级供应商和汽车制造商之间的合作,对于应对这些复杂情况及推动行业迈向电气化、自动化和互联化的未来至关重要···
  • 将单电源单端输入改成伪A/B类差分输出放大器 该放大器采用Barrie Gilbert的微混频器拓扑结构可将单端输入转换为单电源A/B类电流输出···
  • 加强低功耗FPGA的领先地位 在快速发展的技术领域,从以云端为中心到以网络边缘为中心的创新转变正在重塑数据的处理和利用方式···
  • 打造下一代家用机器人:精心构建智能化、集成化和电源优 ​​​​​​​今天的家用机器人不仅仅是工具,它们已经成为人们的生活伙伴,为日常生活增添了便利性和互动性。设计这些结构紧凑、功能强大的机器需要克服连接性、电源和外形尺寸等方面的严峻挑战,每一次突破都使我们更接近全面集成的智能家居体验···
  • 用LM337改造,让PWM DAC获得1.5 A输出能力 DAC是一种低功耗设备,其功率和电流输出能力仅限于毫瓦和毫安范围。当然,从根本上讲,它们没有理由不与合适的功率输出级配合使用,这确实也是常见的实际做法。不过,为了好玩,这个设计实例采用了不同的供电方式···
  • 意法半导体:让可持续世界从概念变为现实 最近,意法半导体人力资源和企业社会责任总裁Rajita D’Souza分享了意法半导体的可持续发展战略和近期工作重点···
  • 如何制作双变频的航空波段接收机? 随着互联网的发展,中波和短波频段的接收机已成为过去式,更不用说长波了。不过也许在无线电领域中最有趣的活动之一就是收听服务发射机,对于我这个与航空相关的人来说,主要指的是飞机的发射机和空中交通管制塔···
  • 用4200A和矩阵开关搭建自动智能的可靠性评估平台 在现代ULSI电路中沟道热载流子(CHC)诱导的退化是一个重要的与可靠性相关的问题···
  • 新一代MCU向着边缘AI和实时控制发展 在工业和汽车领域,电机驱动和数字电源转换是典型的实时控制系统,要求处理器具有高实时性和强大的数学计算与处理能力。这些应用需要优质的ADC和PWM功能,并通过联动机制,形成高效、有机的实时控制系统。
  • 英特尔Ultra处理器,用普通内存也能超频到10000 MT/s+? 目前内存超频的世界记录是12666MT/s,而想要达成这样的频率不光需要降低CPU频率,还需要辅助液氮等特殊的冷却方案,对内存进行降温。但已有主板可以在没有特殊冷却方案的情况下,超频到10000 MT/s以上···
广告
热门推荐
广告
广告
广告
EE直播间
在线研讨会
广告
面包芯语
广告
向右滑动:上一篇 向左滑动:下一篇 我知道了