转载自IT168
作者:浪潮存储叶

简而言之,存储如何以更高效、更低成本的方式围绕数据的生成、存储、保护、优化和利用,直到数据成为资产,满足数据对存储的要求?
相关关键词有十个:分布式存储、云存储、容器存储、全闪存存储、AI存储、区块链存储、边缘存储、量子存储、生物存储或基因存储等。
剑网石
我们先回顾一下历史。过去十年,存储发生了什么变化?
2010年:EMC以22.5亿美元收购Isilon
2010年:惠普以23.5亿美元收购3Par
2011年:戴尔以9.6亿美元收购Compellent
2011年:希捷以13.75亿美元收购三星硬盘;
2011年:西部数据以48亿美元收购日立GST
2012年:VMware提出了SDDC和SDS的概念,随后推出了SDS产品的预览版——Virtual SAN;
2013年:Avago以66亿美元收购LSI
2014年:闪迪以11亿美元收购Fusion-io;
2015年:戴尔630亿美元收购EMC
2015年:西部数据以160亿美元收购闪迪;
2016年:IBM以约13亿美元收购对象存储;
2016年:HCI概念的提出者Nutanix上市;
2016年:博通以59亿美元收购博科;
2016年:OpenText以16.2亿美元收购戴尔EMC企业内容部门;
2017年:HPE以10.9亿美元收购Nimble Storage
2018年:微软收购混合云数据存储公司Avere Systems
2019年:AWS收购E8存储,估值在5000万-6000万美元之间;
2019年:谷歌以2亿美元收购存储公司Elasticifile
2019年:IBM以340亿美元收购RedHat。红帽有两款开源存储产品:Ceph和Gluster。
从企业存储系统的角度来看,有几件事值得注意:HCI、SDDC和SDS的融合,戴尔收购EMC,西部数据收购SanDisk,HPE收购3Par和Nimble Storage,云计算厂商微软、AWS和Google的收购。这些事件反映了全球存储发展的几大趋势:分布式、云、闪存、智能等。
1.分布式存储
软件定义的存储,为云而生。软件定义存储是指硬件的可控组件根据需求通过编程接口或服务逐步暴露给前端应用,以满足应用分阶段对资源不同程度、不同方面的灵活调用。软件定义的存储实际上是一个过程,而不是一蹴而就的目标。它分为不同的阶段:抽象、池化和自动化。目前,软件定义存储最明显的特征是其分布性。根据近几年IDC的报告,软件定义存储按照访问方式可以分为三类:分布式块存储、分布式文件存储和分布式对象存储。未来十年,分布式存储的相对市场份额将继续增长,预计将超过集中式存储的市场份额。但是,两者将长期共存。
戴尔收购的Compellent和惠普收购的3Par都实现了块级虚拟化,硬盘与RAID解耦。Vmware SAN和Nutanix不同于以前的专用存储。它们将文件系统软件与服务器分离,反映了分布式存储旅程的不同阶段。
回顾2015年7月Gartner发布的技术成熟度曲线,当时正处于曲线的最高点,也就是第二阶段。大概用了四五年的时间才得到市场的广泛认可,但要占据主流市场份额还需要一段时间。好消息是分布式存储发展迅速,远远超过平均水平。
2.云化
据介绍,2017年全球云存储市场规模为307亿美元,预计到2022年将达到889.1亿美元,CAGR为23.7%;2017年中国云存储市场规模为88.68亿人民币,同比增长率为71.8%。2018年同比增速将升至72.8%,市场规模158.5亿人民币。
Gartner的2019年报告显示,到2024年,40%的企业将实施至少一种混合云存储方法,高于2019年的10%。
上面说的云存储主要是以AWS S3、EBS、阿里云块存储、OSS为代表的公有云存储。在本文中,云化的概念更广泛,包括公共云和私有云。
云的特点包括灵活性、按需交付、按需付费等。除了众所周知的公有云,我们还应该看到私有云。AWS首席执行官安迪·鞠波在AWS 2019 re:Invent大会上分享了以下消息:公共云的总支出仅占IT总支出的3%。也就是说,全球IT支出是总量,私有云仍然占绝大部分。我曾经在2017年看过一篇文章提到,预计到2040年,公共云将占IT总支出的1/3到1/2。如果是这样,也就是说,即使二十年后,私有云依然占据半壁江山。
1)私有云的云对接
存储如何更好地服务于私有云已经成为企业存储的一个重要问题。除了存储本身的池化和自动化,向上提供API以方便私有云管理平台按需驱动存储资源的创建、调整、优化甚至回收也将逐渐成为必要配置。云对接由两个块组成。一种是对接开源云管理平台,如Cinder、Manila、Swift和AWS S3,OpenStack的block接口。二是对接业务的云管理平台,首当其冲得到主流Hypervisor的认可,如VMware ESXi、微软Hyper-V等,在国内存储厂商中,浪潮的AS13000在云对接方面做的比较完善。
集装箱对接也可以看作是云对接的一部分。我们看到越来越多的用户,包括互联网、金融、电信等行业,开始部署容器技术。因此,支持CSI接口的存储将逐渐成为企业存储的必要配置。
超融合可以看作是私有云的一种部署形式。当计算资源池和存储资源池在初期购买和后续扩容过程中,计算和存储的比例相对适中,即不会有少量的计算资源去匹配大量的存储空;用很少的存储空不会有很多的计算资源来匹配,所以超融合是个不错的选择。
2)公私之间的相互渗透
在云计算领域,To C和To B的融合开始出现。

早期的公有云用户主要是C端或者小型B端用户。随着云计算的深入和普及,云巨头们开始希望吸引大的B端用户。但由于隐私保护、安全、政府合规、管理、兼容、惯性、迁移成本等因素,原有大B用户向公有云的迁移进度比预期要慢。
所以早在几年前,云巨头们就开始通过搭建混合云或者私有云来瓜分B端IT市场的大蛋糕。收购AWS E8并推出前哨,微软收购混合云数据存储公司Avere,阿里云推出混合云存储解决方案,腾讯云、金山云、京东云也不甘落后。
此外,因为成本、空时间、能耗等因素,越来越多的用户逐渐希望To B的存储厂商能够支持将历史数据备份或归档到公有云存储。
3.闪存
根据IDC 2019年12月31日的报告:“2019年前三季度,中国企业级全闪存存储阵列市场同比增长超过60%。IDC预测,2019年全闪存存储市场仍将增长近50%”。
报告显示,闪存颗粒的价格正在逐年下降,如下图所示。
中国长江存储可能加速闪存颗粒下降趋势;
当全闪存和机械盘价格差异不大时,更多用户愿意为缩短延迟付费;
硬盘逐渐退化成类似磁带的介质。
而且在当前背景下,由于机械硬盘核心技术的缺失,大力发展和推广闪存具有重要意义。在国内主要的存储厂商中,华为和浪潮都推出了自己的NVMe闪存盘。
在闪存的进程中,必然会推动全闪存阵列的发展。相关技术NVMe Over Fabric可以借助RDMA等超低时延传输协议远程访问SSD,解决了下一代数据中心在水平扩展中遇到的性能、功能和容量的权衡问题。
4.智力
这里有两个方面,一个是存储的智能化;二是存储如何针对智能应用进行优化,即AI存储应该如何优化。
1)智能存储
智能存储希望实现的是根据业务负载、运维管理等历史记录,预测未来可能发生的事情。,然后相应地动态调整存储资源池,做到物尽其用;以及提供早期警告信息和执行动作,以便在问题发生之前防止问题。但是这条路很长,因为厂商需要在安全稳定性和性价比之间做一个权衡;另外,如果想根据负载自动调整存储,难度不亚于将AI算法嵌入存储系统。目前存储厂商中,HPE的Infosight和浪潮的InView做得比较好。
2)人工智能存储
根据Gartner的报告,到2022年,超过一半的企业高管将规划AI技术的部署,而这一数字在2018年仅为4%。
IDC数据显示,2018年上半年,中国AI基础设施市场销售额和出货量分别增长176%和129%。
AI所需的存储可以分为准备、训练、推理、存档等阶段。每个阶段都有不同的IO特征和不同的存储要求。比如推理阶段,IO的特点是读写混合,要求存储延迟低,响应快。
#FormatImgID_4#
国内AI公司针对不同行业的不同细分领域,将通过AI训练输出的模型卖给终端用户。很多AI公司为了增加收益,降低部署难度,把模型和需要的软硬件打包,作为一体机出售。大部分存储系统都是贴牌或者转售,因为AI的主营业务是其算法和针对场景的持续优化,自研存储并入一体机,性价比不高。
综上所述,在过去的几年中,数据的存储、保护和优化都得到了解决,尤其是在数字宇宙快速膨胀的过程中,如何低成本、高效率地存储数据。
未来十年,随着云计算、大数据、人工智能、物联网等新技术的快速发展。、分布式和全闪存将迎来市场的快速发展。此外,还有区块链存储、边缘存储、量子存储、生物存储或基因存储。下面来看看这些新存储技术的发展趋势。
志来
2019年12月27日,在2019国际超级计算产业博览会上,中国工程院院士、浪潮集团首席科学家王恩东提到:“在智慧时代,计算能力就是生产力,计算能力指数是衡量一个国家、一个地区甚至一个企业发展水平的重要指标”。
“从全球GDP和服务器出货量的分布来看,全球GDP排名前四的美国、中国、日本和德国,服务器采购量也位列前四。数字经济在整个国家GDP中的比重越高,这个国家的经济就越发达。”
“同样,在企业领域,10年前全球市值最高的十家公司,如埃克森美孚、中石油、沃尔玛、中国移动、中国工商银行,都来自能源、金融、通信等传统领域。今天全球市值最高的10家公司都是互联网公司,谷歌、微软、亚马逊、腾讯、阿里巴巴,只有一家来自传统行业的沃尔玛。全球市值排名靠前的企业也是计算能力消耗最多的,市值排名和服务器购买排名基本相同”。
王院士还分析了计算的发展史。“从计算发展来看,云计算、智能计算、科学计算三种典型的计算场景已经成为信息化的主流形式。其中,科学计算主要用于完成空间探索、石油勘探、海洋开发、工业模拟、基因测序等前沿科技领域。云计算已经成为当今经济社会发展的‘水电煤’。
智能计算包括人工智能计算、大数据、云计算和边缘计算。
有计算就会有存储,只是区别是多还是少,快还是慢,过渡性还是长期保存。
在第一篇文章《回望过去》中,我们讨论了AI存储和分布式存储。未来在边缘计算和量子计算的场景下,是否会催生边缘存储和量子存储的需求?比如不同于云存储,边缘存储应该具有低功耗、小占用空和低延迟的特点。
华中科技大学谢长生教授在2019中国数据与存储峰会上分享了“长数据”,即应对长时间存储的挑战。他提到有一个国际研究课题如何保存信息100年?如何将信息保存一百年。
我觉得这个需求可能会催生生物存储,或者说基因存储?
并不是空洞风大或者异想天开。2019年7月,美国布朗大学的研究人员在新一期的《科学公共图书馆综合》杂志上发表了一篇论文,其中提到,他们已经用基于小生物分子的存储系统积累了超过10万比特的数字图像信息,从中获取图像的准确率可以达到98%以上。
一百年太长了,只有十年。
个人认为,未来十年,第一篇《往事回顾》中提到的分布式、基于云、基于flash、智能化的特征还会继续。同时还会出现一些新的趋势,其中一个趋势会随着数字化转型逐渐显现。这背后的原因是数据就是资产,数据就是力量。无论作为企业还是政府,当意识到数据的重要性时,都不会轻易共享数据,或者放弃这个权利。如何促进数据共享?
物理学家张首晟曾提到:“人工智能现在遇到了一个很大的瓶颈,因为如果AI要取得巨大的进步,必然需要大量的数据,而目前的数据提供者没有足够的激励机制来提供海量的数据”。如何激励数据提供者提供数据,尤其是私有数据?
如何在保护隐私的同时,鼓励数据提供者分享数据?
答案是区块链和存储的结合。

在《区块链技术是互联网世界的新转折点》一文中,张首晟这样回答自己:“一旦有了区块链,如果创造出来的数据能够被重视和认同,就会形成一个大的数据市场,让人工智能走得更远。”
区块链解决了数据确认、激励共享、数据资产交易和流通的问题。然而,要发展区块链,区块链的基础设施必须先行,尤其是其中的重要部分——区块链仓储。区块链存储最重要的一种类型是公共链存储,这是一种全局存储池+令牌激励机制。我们可以将其视为分散式云基础架构或分散式云存储的一部分。它仍处于非常早期的阶段,但它已逐渐向我们走来。
2018年7月,Gartner在其技术成熟度曲线中将区块链存储列入技术诞生的驱动期。预计2023~2028年左右,将进入成熟应用的技术阶段,大量主流用户开始接受。
#FormatImgID_5#
最后总结一下:未来十年,存储发展趋势的七个关键词是:分布式、云存储、容器存储、全闪存、AI存储、区块链存储、边缘存储。量子存储、生物存储、基因存储可能为时过早。


