算力芯片的特点

核心提示【来源:贵州省大数据发展管理局_国内】 随着“东数西算”国家战略在2022年2月启动,全国一体化算力网络国家枢纽节点的建设步伐进一步加速。算力网络基础设施的普及是智能时代标志之一,而高效的算力资源层就是算力网络这座大厦的根基,根基的牢靠程度

【来源:贵州省大数据发展管理局_国内】

随着2022年2月“算东算西”国家战略的启动,国家综合计算网络国家枢纽节点建设进一步加快。计算网络基础设施的普及是智能时代的标志之一,高效的计算资源层是计算网络的基础,基础的牢固程度将直接影响计算网络的愿景能否实现。

尤其是在当前低能耗的要求下,计算力网络建设受到低碳的制约,间接制约了直接扩大规模换取计算力增长的技术路线。可以逐步完善软件生态,调整运行模式,逐步规范各种抽象层次的接口标准。但核心问题是,物理层现有的产品和技术,比如底层的处理芯片、数据传输等,能否支持“计算力网络”的思想?

本文主要从计算力芯片的角度分析,计算力网络建设的最大挑战不仅是资源整合和服务创新,更是新的核心技术的突破。

现有的计算资源仍然难以支撑计算网络的愿景。

对计算力网络的直观认识包括两个关键部分:一是“计算力”,二是“网络”。但“计算力网络”的效用不应该是两者的简单相加,而是“相乘”,可以通过网络放大计算力的价值,承载更多的应用。没有计算能力的网络只能作为数据传输网络,没有计算能力其使用价值会大打折扣。

根据梅特卡夫著名定律,网络的价值等于网络中节点数量的平方。对于计算网络来说,宏观的观点是“节点”包括各种计算中心和服务的终端应用。互联网的发展显示了梅特卡夫定律的巨大威力,将人类带入了信息时代。如果梅特卡夫计算网络定律能够继续发挥作用,必将把人类带入一个新的时代——也许是智能时代。

然而,新酒需要新瓶。现有的计算、网络和存储基础设施可能无法完全支持计算网络愿景成为现实。

研究表明,在1940年至2010年的60年间,我们看到计算能耗的效率随时间呈指数增长,这一效率指数每1.6年左右翻一番——这要归功于摩尔定律和登纳德标度定律在此期间的基本有效性。计算效率的持续指数级提升,使得线性计算节点的规模和能耗水平增加,从而可以获得指数级的计算能力。于是,在本世纪的第一个十年,我们能够在一部手机中安装一台电脑的计算能力,这直接促成了移动互联网的快速发展。

相对于计算能力的增长速度,数据量的增长速度并不逊色,甚至已经形成了赶超之势。自2005年以来,数据量每两年翻一番,IDC预测到2025年将达到175千兆字节。然而,摩尔定律在2015年开始放缓,单位能耗计算能力的增长速度已经被数据量的增长速度逐渐拉大。现有的网络化计算能力可以部分解决利用率不均衡的问题,但无法从本质上解决计算能力增长放缓的局面。

应用层计算能力和基础层计算能力

为了分析与计算能力相关的核心基础技术,我们将计算能力分为两类:应用计算能力和基础计算能力。应用层计算能力,顾名思义,是指用来执行业务层应用的计算能力,如视频分析、数据查询、路径规划、图像渲染等。,一般对应整个系统分层架构的SaaS和PaaS层;基础层计算能力是指用来做资源池化、数据转发、压缩存储、加密解密、文件系统、网络功能虚拟化等基础层负载的计算能力,一般对应IaaS层。预计应用计算能力的提升将主要来自于专用服务器的采用,虽然在本地,应用级计算能力一方面将受益于更高性能CPU和GPU的采用,另一方面将受益于通用计算向专用计算过渡期间各种FPGA和ASIC芯片的引入。虽然引入了大量的专用计算单元,但从宏观角度来看,得益于CPU的核心地位,计算能力的通用性依然可以保持。

基础计算能力主要和网络、存储、安全有关。预计基础计算能力的提升将主要受益于DPU、5G移动边缘计算技术、超高速光电混合网络技术、NVME-of等技术的采用。和网络存储依赖于各种协议和不同的物理层。基础计算能力不仅要帮助提高带宽,降低IO的延迟,还要保持访问方式的一致性,匹配应用的需求。更灵活的网络可编程性和更高效的硬件虚拟化技术支持这些复杂的需求。

例如,对于带宽窄但延迟低的应用和带宽高但延迟不敏感的应用,显然要适配不同的网络资源。对于突发的高并发,数据量小,稳定性低,但是数据量大的业务,也需要网络和IO来分配不同的资源。根据计算力网络“匹配应用需求”的观点,对软件定义网络、软件定义存储、软件定义加速器等一系列“软件定义”技术路线进行了大幅改进空。

计算网络底层技术的三大突破

从以上分析,预计计算力网络基础层将有以下三个技术突破。

第一个方面是用专用架构继续计算能力的指数级提升。

简而言之,如何增强应用计算能力。短期内,专用架构的广泛采用有望保持2 ~ 3个数量级的计算能力提升潜力。这也是领域特定架构的技术路线被重视的原因。

DSA技术的采用必然导致计算能力来源的异构性。在现有架构下,如何充分发挥DSA的能效优势,屏蔽其差异性,是一个很大的挑战。

现在,一些“非冯诺依曼架构”,如内存计算、网内计算、类脑计算等。,都在尝试使用非传统的计算架构来提高计算效率。从技术成熟度来看,用于深度学习训练和推理的通用GPU和通用AI芯片最有可能在短时间内发挥增强计算能力的作用。有报告预测,到2025年,配备GPGPU和AI芯片的AI服务器有望达到总计算能力支出的25%。

第二个技术突破是通过DPU释放应用计算能力,拓展基础计算能力的管道。

基础计算层的核心功能之一就是为计算力流通搭建“管道”。在传统的系统架构中,网络和计算是分离的:计算的主体是服务器,网络的主体是网卡、路由器和交换机。随着DPU技术的逐渐成熟,我们可以看到大量原本运行在服务器上的基础层负载可以卸载到与服务器CPU直接相连的DPU上,维护网络特性的功能将不再由服务器CPU来维护。

DPU的存在将本地物理资源虚拟化,并将远程访问本地化。DPU在不改变现有路由器和交换机的前提下,开始承担基本计算能力的角色。此外,DPU的出现进一步提高了网内计算的成熟度。

第三个技术突破是通过数据平面代理实现无服务器服务和云原生应用。

随着云原生微服务架构的普及,服务网格作为微服务通信的专用基础设施层,可以实现微服务架构中服务之间可靠、快速、安全的调用,同时提供优秀的可观测性、流量控制能力和安全保障。然而,服务网格也有一些局限性,主要是因为它增加了网络的复杂性。

服务网格的性能依赖于数据平面代理。为了保持应用和服务之间的解耦,采用了一种非侵入式的数据平面代理“sidecar机制”。任意两个微服务之间的通信增加了两跳七层应用代理。而基于CPU软件的七层应用代理,数据处理周期长,微服务之间的通信延迟显著增加,限制了云原生应用的大规模部署。

针对目前云原生服务网格存在的这一问题,可以通过DPU实现服务网格的数据平面代理,进而解决微服务之间的CPU和内存消耗、访问延迟等问题。

摘要

计算网络是实现计算基础设施的重要载体,是从技术到运营的一整套系统化技术综合的结果。如果成功,“新瓶装新酒”必将推动中国数字经济的跨越式发展。

目前,我们已经具备了建设计算网络的良好基础,如基础设施程度、网络覆盖、运营水平、整体业务能力等。FTTH比远高于国际平均水平,但在技术层面仍存在一些关键挑战,尤其是核心计算芯片自主化率低,核心光电器件主要依赖进口。在“由东向西算数”、建设国家综合计算基础设施等相关政策的指引下,我们可以看到通过突破计算网络底层的核心问题来“盘活存量、优化增量”的巨大机会,让计算能力早日成为普通大众的生产力。

声明:本文版权归原作者所有。如有出处错误或侵犯您的合法权益,可以通过邮件联系我们,我们会及时处理。电子邮件地址:jpbl@jp.jiupainews.com

 
友情链接
鄂ICP备19019357号-22