基于简单再生码的带宽感知的分布式存储节点修复优化
本文选题:分布式存储 切入点:简单再生码 出处:《软件学报》2017年08期 论文类型:期刊论文
【摘要】:分布式存储系统为了保证可靠性,会采用一定的存储冗余策略,如多副本策略、纠删码策略.纠删码相对于副本具有存储开销小的优点,但节点修复网络开销大.针对修复网络开销优化,业界提出再生码和以简单再生码为代表的局部可修复码,显著降低了修复网络开销.然而,现有的基于编码的分布式容错存储方案大都假设节点处于星型逻辑网络结构中,忽略了实际的物理网络拓扑结构和带宽信息.为了实现拓扑感知的容错存储优化,相关研究在纠删码和再生码修复过程中结合网络链路带宽能力,建立树型修复路径,进一步提高了修复效率.但是,由于编码和修复过程的差异性,上述工作并不适合于简单再生码修复.针对该问题,结合实际物理网络拓扑结构,将链路带宽能力引入到简单再生码的修复过程中,对带宽感知的简单再生码修复优化技术开展研究.建立了带宽感知节点修复时延模型,提出了基于最优瓶颈路径和最优修复树的并行修复树构建算法,并通过实验对算法性能进行了评估.实验结果表明,与星型修复方式相比,该算法有效地降低了节点修复时延,提高了修复效率.
[Abstract]:In order to ensure the reliability of distributed storage system, some redundant storage strategies are adopted, such as multi-replica policy and erasure code strategy. Erasure code has the advantages of less storage overhead than replica. However, the network overhead of node repair is high. In order to optimize the cost of repairing network, the regenerative code and the local repairable code, represented by simple regenerative code, are proposed in the industry, which significantly reduces the cost of repairing the network. Most of the existing distributed fault-tolerant storage schemes based on coding assume that the nodes are in the star logic network structure, ignoring the topology structure and bandwidth information of the actual physical network. In the process of erasure code repair and regenerative code repair, the related research combines the network link bandwidth ability, establishes the tree repair path, and further improves the repair efficiency. However, because of the difference of coding and repair process, The above work is not suitable for the repair of simple regenerative codes. In view of this problem, the link bandwidth capability is introduced into the repair process of simple regenerative codes in combination with the actual physical network topology. In this paper, the simple regenerative code repair optimization technology for bandwidth awareness is studied. The bandwidth sensing node repair delay model is established, and the parallel repair tree construction algorithm based on the optimal bottleneck path and the optimal repair tree is proposed. The performance of the proposed algorithm is evaluated by experiments. The experimental results show that the proposed algorithm can effectively reduce the node repair delay and improve the repair efficiency compared with the star repair method.
【作者单位】: 计算机软件新技术国家重点实验室(南京大学);上海市电力公司;
【基金】:国家自然科学基金(61373014) 国家电网科技项目(521104170019)~~
【分类号】:TP333
【相似文献】
相关期刊论文 前10条
1 黄仲伟,罗昕,李莲治;一种支持线索迁移的分布式存储结构[J];小型微型计算机系统;1995年01期
2 王征;刘心松;李美安;;企业信息分布式存储的热点处理策略[J];计算机集成制造系统;2006年09期
3 李磊;沈海斌;黄凯;严晓浪;Han Sangil;Ahmed A Jerraya;;分布式存储管理在多核设计中的高层建模[J];电子与信息学报;2008年11期
4 刘翔;汪海玲;;分布式存储中的一种数据放置策略[J];计算机与数字工程;2009年05期
5 陈卫卫;吴海佳;胥光辉;;分布式存储中文件分割的最优化模型[J];解放军理工大学学报(自然科学版);2010年04期
6 崔忠强;左德承;张展;;在云间可重构的分布式存储[J];系统工程理论与实践;2011年S2期
7 郝杰;逯彦博;刘鑫吉;夏树涛;;分布式存储中的再生码综述[J];重庆邮电大学学报(自然科学版);2013年01期
8 唐京伟;;基于云计算的分布式存储技术[J];中国传媒科技;2013年15期
9 郭栋;王伟;曾国荪;;基于一致性树分布的数据分布式存储方法[J];计算机应用;2013年12期
10 苏李亮;王云福;侯斌;;海量设计文档分布式存储及负载均衡的研究与实现[J];电信科学;2013年12期
相关会议论文 前4条
1 苏李亮;王云福;侯斌;;海量设计文档分布式存储及负载均衡的研究与实现[A];2013电力行业信息化年会论文集[C];2013年
2 郑文武;李先绪;黄植勤;邱红飞;;云存储关键技术[A];2012全国无线及移动通信学术大会论文集(下)[C];2012年
3 付伟;肖侬;卢锡城;;QoS感知的副本放置问题研究综述[A];第15届全国信息存储技术学术会议论文集[C];2008年
4 张彦;刘欣然;徐慧彬;;一种基于虚拟计算环境的分布式存储体系结构[A];2009全国计算机网络与通信学术会议论文集[C];2009年
相关重要报纸文章 前4条
1 京东架构委员会主任 云平台首席架构师 系统技术部负责人 刘海锋;京东:分布式存储体系成为业务基石[N];中国信息化周报;2014年
2 《网络世界》记者 于翔;京东分布式存储体系研发历程[N];网络世界;2014年
3 《网络世界》记者 于翔;融合一体机投入大规模商用[N];网络世界;2013年
4 本报记者 郭涛;华为帮用户定制HANA一体机[N];中国计算机报;2013年
相关博士学位论文 前8条
1 吴思;容错分布式存储系统扩容机制研究[D];中国科学技术大学;2016年
2 胡q,
本文编号:1584819
本文链接:https://www.wllwen.com/kejilunwen/jisuanjikexuelunwen/1584819.html