向下扎根,向上生长,探寻华为云的“根”力量

核心提示摘要:从根技术读懂华为云AI布局。“道生一,一生二,二生三,三生万物”,老子在《道德经》中将道视为孕育万物的根本。同理,科技树的发展也离不开最底层的根技术。当前,AI处在加速行业落地的关键阶段,但仍然面临很多挑战,比如:各行业的AI应用门槛

摘要:从root技术理解华为云AI布局。

“道生一,一生二,二生三,三生万物”。老子在《道德经》中将道视为万物之本。同样,科技树的发展也离不开最底层的技术。目前,AI正处于加速行业落地的关键阶段,但仍面临诸多挑战。比如AI在各行业的应用门槛依然不低,AI与行业知识的结合有待提高,开发者在开发、培训、部署模型方面的效率不高。

在推动AI落地方面,华为云的战略布局非常清晰——基于“万物服务”战略,聚焦三大根技术。如果把华为云的AI布局比作一棵大树,预训练大模型、知识计算、AI求解器三大树根技术就是深埋在沃土里的根。

7月22日,在第三届华为云AI院长峰会上,华为云人工智能首席科学家乔春明、国际欧亚科学院院士田琦分享了华为云AI布局的最新进展,并介绍了全新的华为云网模型。从这些根技术的迭代中,我们可以一窥华为云AI的发展。

向下扎根:从L0到L2,完成从学术大模型到产业大模型的转变

目前,预训练大模型已经成为AI行业的热点。通过一次前期训练+下游任务微调,大模型让AI模型开发从“作坊式”升级到“产业化”。近两年来,国内外科技巨头纷纷加入“培养大模型”的队伍,每个大模型的参数从千亿到万亿甚至更高。

“模体量的‘大跃进’不可取。”田琦认为,大模型要面对产业落地的挑战,完成从学术模型到产业模型的转变。

华为云人工智能领域首席科学家乔春明,国际欧亚科学院院士田琦

回顾华为云盘古模型的发展历程,2020年开始研发,2021年4月正式发布,2022年专注行业应用。在这个过程中,华为云盘古模型不断迭代,其演进路径可分为L0-L1-L2三个阶段。L0-L2不是替代关系,而是共存的,上层由下层演化而来。这也使得盘古的大模型一步一步从实验室走向了千万个行业,走向了更为细致的实际场景。

L0指的是基础大型号。目前,华为云已经推出了五个层次的基础大模型,分别是:NLP大模型、CV大模型、科学计算大模型、多模态大模型和最新的图大模型。

其中,NLP大模型是NLP领域首个拥有千亿级参数的中文大模型。具有很强的文本理解和生成能力,能够理解文本背后的含义,并从文本中提取关键信息。

CV模型首次兼顾了图像的判别和生成能力,在ImageNet 1%和10%数据集上的小样本分类准确率达到业界最高水平。它可以对各种行业的图像进行识别和检测,可以广泛应用于工业质检、物流管理等领域。

科学计算模型主要解决各种科学问题,如天气预报、海浪预报、分子动力学预报、求解微分方程等。,旨在用AI推动基础科学的发展。

多模态大模型具有跨模态理解、检索和生成图像和文本的能力,通过跨模态语义联想实现视觉-文本-语音的统一多模态表示。一个大模型可以灵活支持整个图-文-话场景的AI应用,可用于产品设计、艺术创作、语音播报、海报创作等领域。

Graph是第一个大模型的图网络融合技术,广泛应用于流程优化、时间序列预测、智能分析等场景,如预测企业财务风险、优化制造企业流程等。

L1指的是大工业模式。想要充分发挥盘古模式的能力和优势,就需要盘古模式和行业相结合。华为云推出了盘古金融模型、盘古矿山模型、盘古电力模型、盘古制造质检模型、盘古药物分子模型等行业模型。

例如,药物分子模型可以帮助研究人员加快药物研发进程,将严谨复杂的分子化合物生产过程可视化、智能化,高效筛选“老药”新用,研发“新药”。药物分子宏观模型通过对17亿个小分子化学结构的预训练和学习,实现了大模型赋能药物发现全链条的任务。

L2指的是更细分场景的推理模型。以电力行业为例,华为云基于盘古电力模型,通过对下游任务的预训练和微调,推出盘古电力巡检模型,解决了小样本学习、主动学习、增量学习等问题。在无人机智能巡检系统中,解决了海量数据标注工作量大和各种缺陷的问题。

此外,在华为云AI生态中,通过开源和开放,盘古大模型将借助开发者和合作伙伴的力量,比如向ISV合作伙伴开放L1工业大模型等,进一步将大模型的能力下沉到场景,惠及更多企业。

“未来我们是两条线,一条是实践大模型,一条是使用大模型,利用好大模型。”

作为盘古模型的“总设计师”,田琦分享了自己未来的发展道路。他说,大模型的实践涉及很多前沿的技术创新,需要联合高校和科研院所,充分发挥产学研一体化的作用。比如大模型架构的创新,解决大模型资源消耗和缺乏逻辑等问题。在利用好大模型方面,“大模型不是万能的,不一定能解决所有问题。我们必须找到高价值的场景,找到更适合大模型发挥作用的地方。”

“现在大部分大型号的架构都是基于Transformer等。大模型应该是什么样的结构,数据驱动如何与知识结合来训练大模型?这些都是‘培养好大模特’值得探索的地方。”中国科学技术大学信息学院常务副院长李说。

李中国科学技术大学信息学院常务副院长

向上生长:五大优势,解决行业个性化难题

有了强大的根系,要想不断向上延伸枝叶,就必须把大模型放在特定的行业,放在企业的核心生产系统中进行测试。目前虽然很多科技公司都推出了前期训练大模型,但是在落地应用方面,“智能进化论”认为华为云盘古是最快的大模型之一。

“盘古大模型今年的一个重要目标就是在落地产业上创造更大的价值,形成一些关键技术的壁垒,为煤矿、水利、电力、金融、农业等行业创造更大的产业价值。”田琦说。目前,盘古模型已经在工业、城市、能源、金融、气象等多个行业得到应用。,并已应用于100多个场景,如电路检测、制造工艺优化、工业质量检测等。

在探索大模型的落地方面,每个科技企业的策略和路径都不一样。有的以技能划分大模型,有的推出很多细分行业的大模型。华为的云盘古模式走的是加强通用性和通用化的路线。“就行业而言,我们本质上并不希望一个行业有一个模式,而是希望建立一些通用的模式。”田琦说。

以新推出的图网大模型为例。一个大的模型可以适应很多场景,比如过程优化、时间序列预测、智能分析等。,并被应用于许多行业,如金融、煤矿、制造业等。

例如,在智能分析的场景下,图网大模型帮助广发证券将异常财务识别的准确率提升至90%,比原来的小模型方法提高了20%,实现了行业领先。

在时间序列预测场景下,图网模型帮助中央空调度系统预测挥发气体浓度和智能监控空气体质量,也帮助零售企业预测销量。

在流程优化场景下,图网络模型可以帮助制造业优化流程,降低成本,提高效率。

田琦介绍,经过两年的迭代,华为云盘古模型形成了五大优势,包括:AI开发门槛低、泛化性能高、样本标注快、模型准确率高、场景普适性强。在这些优势的加持下,越来越多的企事业单位正在将盘古模式应用到核心生产环境中。

比如CV模型,之前已经成功应用于铁路巡检、国电巡检等场景,现在正在被更多的制造企业应用于工业质检。华为南方工厂的PCB质检是借助盘古CV模型进行的。

在NLP大模型方面,盘古RD团队还在尝试通过跨语言的模型迁移来加快其他小语种大模型的训练,比如阿拉伯语大模型和西班牙语大模型。

根系互补:大模型+知识计算+AI求解器形成合力

在AI落地的道路上,大模型不是孤立的一对一,因为人工智能算法必须结合行业诀窍和企业专有数据,才能完成从一般到特殊的转化。

知识计算是指利用AI技术将人类的知识转化为可计算的模型。以前各个行业都有各种形式的知识,存在于不同的媒介中,比如各种专业书籍的学科知识,百科网站的基础知识,专家头脑中的经验沉淀。知乎是行业知识与AI结合的新途径。

在煤焦化行业中,配煤优化是一项技术含量相当高的技术,是工厂煤耗和焦炭质量的关键保证。过去传统的配煤只能依靠配煤师的个人经验,主观性强,不稳定,难以继承。基于盘古图模型和知识计算,华为云为鞍钢集团打造了智能配煤解决方案。现在,操作人员只需将配焦的四种原料的相关比例输入系统,系统就能自动计算出焦炭的结焦质量。配煤仅需1~2分钟,质量预测准确率达到95%。在保证焦炭质量的前提下,平均配煤成本下降了5元以上。以年产200万吨焦炭为例,企业可节约资金数千万元。

此外,华为田芸raise AI solver将运筹学与人工智能相结合,帮助突破行业的运营优化极限。支持亿级规模问题的求解,求解速度最高可达100倍,建模效率最高可达30倍,求解效率最高可达30%。

“大模型、知识计算和求解器不是对立的,而是相辅相成的。他们可以互相结合,互相帮助。”田琦说。

写在最后

如今,人工智能已经深刻改变了我们的生产生活。但从独立学科的发展来看,人工智能仍处于发展初期。

“人工智能的发展处于初级阶段。研究人员需要充分利用知识、数据、算法和计算能力这四大要素,建立可解释的、健壮的人工智能理论,开发可控的、可信的、可靠的、可扩展的人工智能技术,探索适合人工智能的新型发展道路。”中国科学院院士、清华大学人工智能研究院名誉院长张工在会上表示。

只有根系强大,才能枝繁叶茂,结出累累硕果。华为专注于AI root技术的RD和应用,探索AI产业落地的关键路径。

“华为云对AI技术和应用进行了体验和云化,让更多企业像水电一样使用世界领先的数字技术,推动AI高效进入企业。”华为董事、科学家顾问委员会主任徐文伟说。

本文部分图片来自图片网。

目标

本文为“智能进化论”原创作品。

 
友情链接
鄂ICP备19019357号-22