基于网络编码的二层分布式存储及数据修复算法
本文选题:网络编码 + 分布式存储系统 ; 参考:《西安电子科技大学》2014年硕士论文
【摘要】:随着互联网的发展与宽带的普及,数据量日益爆炸式的增长,分布式的数据存储采用可扩展的系统结构,使用多台存储服务器进行数据的存储降低了每台存储服务器的存储负荷,存储信息通过定位服务器进行定位,分布式存储方式不仅提高了系统的可靠性且其可拓展的系统结构满足海量数据的存储要求。 分布式数据存储是数据收集型无线网络的关键技术之一,传统的基于数据备份的数据存储方法因存储开销大、无线节点可靠性差等原因不适合于分布式的无线网络,而将网络编码引入到分布式存储中,经证明在冗余度相同的情况下,相比于数据备份,基于网络编码的分布式存储可以取得更大的数据可靠性。虽然基于网络编码的分布式存储,可以以最小的存储开销获得最大的数据可靠性,但网络编码的引入,也引起了因编码数据失效而造成的数据修复问题。在基于网络编码的分布式存储中,为保持数据的可靠性,需对失效的编码数据进行数据修复。而传统的数据修复算法将产生巨大的通信开销,造成网络资源的浪费。为减少数据修复通信开销,本文提出了一种基于二层数据结构的分布式数据修复模型和方法。此方法以增加一部分存储开销为代价,降低数据修复所产生的修复开销。相比于MSR(Minimum Storage Regenerating Codes),基础的干扰联合和组干扰联合方法,本文所提出的修复方法具有更少的通信开销,经证明可证明所提议的方法可将数据修复开销降低到传统数据修复算法的o(1/(?))倍,适合于资源受限的无线网络分布式存储。
[Abstract]:With the development of the Internet and the popularization of broadband, the amount of data is increasing explosively. The distributed data storage adopts extensible system structure.The use of multiple storage servers for data storage reduces the storage load of each storage server, and the storage information is located through the location server.Distributed storage not only improves the reliability of the system, but also the extensible system structure meets the storage requirements of massive data.Distributed data storage is one of the key technologies in data collection wireless networks. Traditional data storage methods based on data backup are not suitable for distributed wireless networks due to high storage overhead and poor reliability of wireless nodes.When network coding is introduced into distributed storage, it is proved that the distributed storage based on network coding can achieve greater data reliability than data backup when redundancy is the same.Although distributed storage based on network coding can obtain maximum data reliability with minimum storage overhead, the introduction of network coding also causes data repair problems caused by the failure of encoded data.In distributed storage based on network coding, the invalid coded data should be repaired in order to maintain the reliability of the data.The traditional data repair algorithm will generate huge communication overhead, resulting in a waste of network resources.In order to reduce the communication overhead of data repair, this paper presents a distributed data repair model and method based on two-layer data structure.This method reduces the cost of data repair at the cost of increasing part of storage cost.Compared with MSR(Minimum Storage Regenerating Codesh, the proposed method has less communication overhead than MSR(Minimum Storage Regenerating Codesh, and it is proved that the proposed method can reduce the cost of data repair to 1 / 1 of the traditional data repair algorithm.It is suitable for distributed storage in wireless network with limited resources.
【学位授予单位】:西安电子科技大学
【学位级别】:硕士
【学位授予年份】:2014
【分类号】:TP393.02
【相似文献】
相关期刊论文 前10条
1 王征;刘心松;李美安;;企业信息分布式存储的热点处理策略[J];计算机集成制造系统;2006年09期
2 李磊;沈海斌;黄凯;严晓浪;Han Sangil;Ahmed A Jerraya;;分布式存储管理在多核设计中的高层建模[J];电子与信息学报;2008年11期
3 刘翔;汪海玲;;分布式存储中的一种数据放置策略[J];计算机与数字工程;2009年05期
4 陈卫卫;吴海佳;胥光辉;;分布式存储中文件分割的最优化模型[J];解放军理工大学学报(自然科学版);2010年04期
5 崔忠强;左德承;张展;;在云间可重构的分布式存储[J];系统工程理论与实践;2011年S2期
6 郝杰;逯彦博;刘鑫吉;夏树涛;;分布式存储中的再生码综述[J];重庆邮电大学学报(自然科学版);2013年01期
7 唐京伟;;基于云计算的分布式存储技术[J];中国传媒科技;2013年15期
8 郭栋;王伟;曾国荪;;基于一致性树分布的数据分布式存储方法[J];计算机应用;2013年12期
9 苏李亮;王云福;侯斌;;海量设计文档分布式存储及负载均衡的研究与实现[J];电信科学;2013年12期
10 谢然;;敢问存储之路在何方?见分布式存储摇曳在数据枝头[J];互联网周刊;2014年02期
相关会议论文 前7条
1 苏李亮;王云福;侯斌;;海量设计文档分布式存储及负载均衡的研究与实现[A];2013电力行业信息化年会论文集[C];2013年
2 苏李亮;王云福;侯斌;;海量设计文档分布式存储及负载均衡的研究与实现[A];2013电力行业信息化年会论文集[C];2013年
3 郑文武;李先绪;黄植勤;邱红飞;;云存储关键技术[A];2012全国无线及移动通信学术大会论文集(下)[C];2012年
4 蒋轶林;郭淑琴;;分布式存储在数字集群移动通信系统中的应用[A];浙江省电子学会2013学术年会论文集[C];2013年
5 姜继忱;陈钢;;P2P之路——缔造“分布式对等”的Internet3.0[A];全面建设小康社会:中国科技工作者的历史责任——中国科协2003年学术年会论文集(下)[C];2003年
6 付伟;肖侬;卢锡城;;QoS感知的副本放置问题研究综述[A];第15届全国信息存储技术学术会议论文集[C];2008年
7 张彦;刘欣然;徐慧彬;;一种基于虚拟计算环境的分布式存储体系结构[A];2009全国计算机网络与通信学术会议论文集[C];2009年
相关重要报纸文章 前8条
1 京东架构委员会主任 云平台首席架构师 系统技术部负责人 刘海锋;京东:分布式存储体系成为业务基石[N];中国信息化周报;2014年
2 《网络世界》记者 于翔;京东分布式存储体系研发历程[N];网络世界;2014年
3 《网络世界》记者 于翔;融合一体机投入大规模商用[N];网络世界;2013年
4 记者 余荣华;大数据,,催生大变革[N];人民日报;2014年
5 本报记者 张佳星;新生产业布局如何“云”中索骥[N];科技日报;2014年
6 本报记者 甘露;物联网让管理更美妙[N];计算机世界;2013年
7 本报记者 郭涛;华为帮用户定制HANA一体机[N];中国计算机报;2013年
8 临江;手机浏览器,3G时代的采矿机?[N];人民邮电;2009年
相关博士学位论文 前8条
1 胡q
本文编号:1760809
本文链接:https://www.wllwen.com/guanlilunwen/ydhl/1760809.html