曾有一场关于存储优化及更好地利用存储容量的经典讨论。根据Wikibon用户反馈信息,我们看到众多存储供应商已成功营销了其离线/备份软件的重复数据删除技术(这一技术可将备份数据量显著减少,减少比率为5-15:1)。
主流在线存储精简技术
用于备份的重复数据删除技术(de-duplication)与通过算法来实际更改数据量的压缩技术(采用算法创建一个计算副产品,并写入少量字节)不同。有了重复数据删除技术,数据未发生变化,而是约2-N倍的复本数据被删除,指示器被插入数据的一个“主实例”。单实例即可被视作重复数据删除。
传统的重复数据删除技术通常不适合在线软件或主存储软件,因为进行重复数据删除所需的算法不可避免的会加长响应时间,这样就导致了费用增加。举例说明,流行的重复数据删除方案比如那些来自Data Domain、ProtecTier (Diligent/IBM)、Falconstor和EMC/Avamar的解决方案并未被用于减少在线存储器的容量。
有三种主要方式实现在线存储器优化、减少容量需求并提高整个存储效率。尽管业内通常使用如重复数据删除(例如针对NetApp A-SIS)和单实例这样的术语,通常,Wikibon所提到的在线数据压缩或主存储压缩是从一个较宽泛的角度来说的。这些数据删除技术指的是如下类型的解决方案:
NetApp A-SIS和EMC Celerra或采用“data de-duplication light”或采用嵌入存储阵列的单实例技术;
主机管理的离线数据精简方案,例如Ocarina Networks;
来自Storwize的在线数据压缩设备;
与某些备份数据精简方案不同,这三种方式采用无损数据压缩算法,这意味着从数理角度看,可经常进行字节重组。
这几种方法都有自身的优点和缺点。最显著的优点是降低了存储成本。然而,每种解决方案都在网络上增加了新的技术层级,导致系统的复杂性和风险增大。
1.基于阵列的数据精简技术
基于阵列的数据精简技术,例如,在数据被写入时,A-SIS在线运行,减少主存储容量。WAFL(NetApp的任意位置写入文件布局技术)的重复数据删除功能可实现写入时对4K数据块复本的识别(创建4K数据块的32-bit弱数字信号,接着一个字节一个字节地进行对比以保证不出现hash冲突),并将其放进元数据的一个签名文件。这一复本识别任务与快照技术相似;在控制器资源充足的情况下,是在后台进行的。其默认每24小时进行一次,每次更改的数据量可达20%.
A-SIS解决方案有三个主要缺点,包括:
采用A-SIS,重复数据删除技术仅能在单一flex-volume(而不是传统数据卷宗)内实施,这意味着候选数据块必须是位于同一数据卷宗中的可对比数据块。重复数据删除是基于数据量为4K的固定数据块,而非IBM/Diligent任意数据量的数据块均可实施这一技术。这就限制了重复数据删除技术的潜力。
当把A-SIS和其他多种依赖软件的快照技术一起采用时,限制较多。快照在重复数据删除之前进行,在这种情况下,重复数据删除的候选数据块就被限定,以保持数据的完整性。这就制约了空间节约的潜力。尤其是,NetApp的重复数据删除技术无法实现空间有效的快照。
上述重复数据删除的运行费用意味着A-SIS将不再是高利用率(可实现利益最大化)的控制器。这使得进行元数据精简的费用增加了近6%.
为充分利用功能优势,用户被锁定采用NetApp存储器。
IT经理应该注意到A-SIS是ONTAP(公司存储操作系统)的NetApp Nearline组件不收费标准。
2.主机管理的离线数据压缩方案
Ocarina是主机管理数据精简技术的一种。其包括一个脱机流程——通过设备读取文件,压缩这些文件然后写回磁盘。当需要某一文件时,另一设备重组数据并将其传给应用软件。这一方法的好处在于压缩水平很高,因为这一流程是离线的,采用了更多robust算法。精简比率的合理假设是只读网络环境和最初ingest比率为3-5:1.然而,由于在数据写入时有重组需求,经典产品环境的精简比率为2-3:1.
主机管理的数据精简方案有以下五个缺陷:
方案花费并不小,这是基于购买数据压缩所需设备和服务器成本。在只读或write-light环境中,这些成本支出是必须的。
为了获得上述功能优势,所有的文件必须经过ingest处理,这一过程速度很慢。
在所有的文件被读取和修改后,再像未压缩一样重新写入磁盘。为了实现成本节约,文件必须重新压缩。这种情况下,可采用这一方法只能是只读或者write-light环境。
Ocarina当前只支持文件,不像NetApp A-SIS既支持文件也支持基于数据块的存储器。
解决方案的伸缩性不强,因为其精简流程与备份、再生相关,因此数据转移过程相当复杂。
为了平衡,类似Ocarina的解决方案适合读取密集型应用软件,且应该避免用于更新速度较快的环境(包括打印)。
3.在线数据压缩
Storewize提供了在线数据压缩技术,一个设备位于服务器和存储网络之间(详见Shopzilla的结构)。Wikibon成员指出依据经验,合理的压缩比例为1.5-2:1.
Wikibon调查显示,Storwize数据精简方式的主要优势在于响应时间很短(大约为几微秒),同时性能有提高。存储器性能得以提高,因为压缩过程是在数据进入存储网络之前进行。因此,存储网络中的所有的数据都被压缩,这意味着被发送到存储区域网络、内存、内置阵列和磁盘的数据量变少,将存储资源需求和备份窗口减少了40%甚至更多。
Storwize数据精简方式有两个主要缺陷:包括:
设备和网络重新设计以配置压缩设备的成本。Wikibon协会估计净投资收益将高于30TB.
灾难恢复过程过于复杂,对于有数据重组(re-hydration)计划的用户尤其如此。
为了平衡,Ocarina或Storwize数据精简的优势是其可用于任何基于文件的存储器(例如不同种类的设备)。NetApp和其他基于阵列的解决方案限制了用户采用其他供应商的产品。但这也有好处。比如,由于已经整合,因此配置简单。
因为其后处理/集中ingestion方式,Ocinara的精简方式最适合读取密集型环境,可获得最佳精简比率。Storewize的压缩水平最高,而企业数据中心的投资回报一般来说为30TB或更高。
在线数据精简正以很快的速度成为主流存储设备。存储系统主管应该熟悉上述精简方式和这一领域的供应商技术,继而提高对存储供应商提供容量最优化技术的要求,以控制存储成本。