当前位置:主页 > 科技论文 > 计算机论文 >

基于分数阶Fourier变换的云存储系统重复数据删除算法

发布时间:2018-07-02 15:48

  本文选题:分数阶Fourier变换 + 云存储 ; 参考:《计算机科学》2015年07期


【摘要】:云存储系统的重复数据作为大量冗余数据的一种,对其有效及时地删除能保证云存储系统的稳定与运行。由于云存储系统中的干扰数据较多,信噪比较低,传统的重删算法会在分数阶Fourier域出现伪峰峰值,不能有效地对重复数据进行检测滤波和删除处理,因此提出一种改进的基于分数阶Fourier变换累积量检测的云存储系统重复数据删除算法。首先分析云存储系统重复数据删除机制体系架构,定义数据存储点的适应度函数,得到云存储节点的系统子集随机概率分布;采用经验约束函数对存储节点中的校验数据块分存,通过分数阶Fourier变换对云存储系统中的幅度调制分量进行残差信号滤波预处理。采用4阶累积量切片后置算子,把每个文件分为若干个块,针对每个文件块进行重删,进行重复数据检测后置滤波处理,实现存储资源上的重复数据检测及其删除。仿真实验表明,该算法能提高集群云存储系统计算资源的利用率,重复数据准确删除率较高,有效避免了数据信息流的干扰特征造成的误删和漏删,性能优越。
[Abstract]:The repeated data of cloud storage system is one of the redundant data which can be deleted effectively and timely to ensure the stability and operation of cloud storage system. Because there are more interference data and lower signal-to-noise ratio in cloud storage system, the traditional redelete algorithm will appear pseudo peak value in fractional Fourier domain, which can not effectively detect, filter and delete repetitive data. Therefore, an improved algorithm based on fractional Fourier transform cumulant detection for repeated data deletion in cloud storage systems is proposed. Firstly, the structure of repeated data deletion mechanism in cloud storage system is analyzed, the fitness function of data storage point is defined, and the random probability distribution of system subset of cloud storage node is obtained. The empirical constraint function is used to separate the check data block in the storage node and the amplitude modulation component in the cloud storage system is preprocessed by fractional Fourier transform. The fourth order cumulant slice post-operator is used to divide each file into several blocks. The repeated data detection and postfilter processing are carried out for each file block to realize the repeated data detection and deletion on the storage resources. The simulation results show that the algorithm can improve the utilization of computing resources in cluster cloud storage system, and the accurate deletion rate of repeated data is higher. The algorithm can effectively avoid the error deletion and omission caused by the interference characteristics of data information flow, and the performance of the algorithm is superior.
【作者单位】: 广西科技大学计算机科学与通信工程学院;武汉理工大学信息工程学院;
【基金】:广西自然科学基金青年基金项目(2013GXNSFBA019268) 广西科技大学自然科学基金项目(校科自1261126) 广西特色专业建设项目(GXTSZY217) 广西教育厅一般项目(YB2014208) 广西教育厅立项项目(LX2014182)资助
【分类号】:TP333

【参考文献】

相关期刊论文 前6条

1 付印金;肖侬;刘芳;;重复数据删除关键技术研究进展[J];计算机研究与发展;2012年01期

2 李渊;;智能PID控制器优化仿真研究[J];计算机仿真;2012年12期

3 谢平;;存储系统重复数据删除技术研究综述[J];计算机科学;2014年01期

4 敖莉;舒继武;李明强;;重复数据删除技术[J];软件学报;2010年05期

5 蒋海波;王晓京;范明钰;肖宜龙;袁琦钊;;基于水平纠删码的云存储数据布局方法[J];四川大学学报(工程科学版);2013年02期

6 谭鹏许;陈越;兰巨龙;贾洪勇;;用于云存储的安全容错编码[J];通信学报;2014年03期

【共引文献】

相关期刊论文 前10条

1 邓亮;胡晓勤;梁刚;;基于重复数据删除技术的SQL Server数据库备份系统[J];计算机安全;2011年07期

2 吴晓勇;李慧娜;;基于文件类型的远程文件备份系统[J];计算机安全;2012年03期

3 吴晓勇;李慧娜;;基于Internet的共享式灾备中心[J];计算机安全;2012年05期

4 张清松;梁智强;;基于硬盘的主机防客体重用性能的检测方法[J];广东电力;2012年07期

5 李向前;;一种基于重复数据删除的Oracle数据库备份系统[J];电脑知识与技术;2013年01期

6 谢垂益;钟红君;;Rabin指纹算法在重复数据检测中的应用研究[J];电脑知识与技术;2013年21期

7 王灿;秦志光;杨磊;杨皓;;基于改进Sparse Indexing的多负载消冗方法[J];电子科技大学学报;2013年05期

8 张志杰;何利力;;烟草工业数据灾备中重复数据删除技术研究[J];工业控制计算机;2013年12期

9 赵铁华;高贵芝;王莹;;基于物联网的风电自动预测系统[J];仪器仪表用户;2013年06期

10 林晓君;;信息系统数据自动备份技术研究[J];电脑知识与技术;2014年08期

相关会议论文 前4条

1 彭成;王树鹏;贾志凯;;基于纠删码的数据消冗存储系统可靠性增强研究[A];2010年第16届全国信息存储技术大会(IST2010)论文集[C];2010年

2 吴朋朋;黄玮;杨璐皓;;移动终端通讯录数据同步去重算法[A];2013年中国信息通信研究新进展论文集[C];2014年

3 胡宁玉;杜秀丽;刘焱;卢刚;王运明;;基于快速消冗方法的增量备份策略研究[A];2014第二届中国指挥控制大会论文集(上)[C];2014年

4 吴朋朋;黄玮;杨璐皓;;移动终端通讯录数据同步去重算法[A];2013年中国信息通信研究新进展论文集[C];2014年

相关博士学位论文 前10条

1 谭玉娟;数据备份系统中数据去重技术研究[D];华中科技大学;2012年

2 王灿;基于在线重复数据消除的海量数据处理关键技术研究[D];电子科技大学;2012年

3 魏建生;高性能重复数据检测与删除技术研究[D];华中科技大学;2012年

4 蒋海波;海量数据存储系统的高可靠性关键技术研究与应用[D];电子科技大学;2013年

5 秦智超;无线传感器网络中节能关键技术的研究[D];北京邮电大学;2013年

6 王军平;基于物联网的服务提交关键技术与系统的研究[D];北京邮电大学;2013年

7 钟祥喜;基于竞争力培育的物联网产业发展研究[D];南昌大学;2013年

8 杨浩;面向不确定环境的物联网压缩感知问题研究[D];中国科学技术大学;2013年

9 金彦龄;基于生物智能的物联网协同自治机理研究[D];东华大学;2013年

10 熊大红;基于本体的农业物联网信息智能管理机制研究[D];湖南农业大学;2013年

相关硕士学位论文 前10条

1 丁跃进;网关型病毒防火墙的设计与实现[D];电子科技大学;2011年

2 胡盼盼;在线重复数据删除技术的研究与实现[D];华中科技大学;2011年

3 曾涛;重复数据删除技术的研究与实现[D];华中科技大学;2011年

4 张鹏;在线备份系统中存储服务器的研究与实现[D];华中科技大学;2011年

5 周国惠;支持重复数据删除的网络备份系统中存储服务器的设计与实现[D];华中科技大学;2011年

6 张航;文件同步服务中数据同步传输消重策略研究[D];国防科学技术大学;2011年

7 武铨;广域网数据冗余消除TCP透明代理的设计与实现[D];南京邮电大学;2012年

8 郭永安;网络协议栈下TCP队列管理研究[D];南京邮电大学;2012年

9 毛允亭;广域网数据压缩算法的研究与实现[D];南京邮电大学;2012年

10 肖红凤;基于数据中心的数据访问服务模型研究[D];东北石油大学;2012年

【二级参考文献】

相关期刊论文 前10条

1 李广军;张晶;曾安平;;基于改进RBF神经网络的PID整定[J];长春大学学报;2008年06期

2 付印金;肖侬;刘芳;;重复数据删除关键技术研究进展[J];计算机研究与发展;2012年01期

3 ;A CASCADING LATIN SCHEME TO TOLERATE DOUBLE DISK FAILURES IN RAID ARCHITECTURES[J];Journal of Electronics(China);2010年02期

4 宋道金;;单神经元自适应PID控制器的性能优化设计[J];计算机工程与应用;2007年12期

5 董欢庆;李战怀;林伟;;RAID-VCR:一种能够承受三个磁盘故障的RAID结构[J];计算机学报;2006年05期

6 万武南;吴震;陈运;王晓京;;一种基于3容错阵列码的RAID数据布局[J];计算机学报;2007年10期

7 应明峰;鞠全勇;高峰;;基于粒子群优化的PID控制器设计与应用[J];计算机仿真;2011年11期

8 吴宏鑫,沈少萍;PID控制的应用与理论依据[J];控制工程;2003年01期

9 敖莉;舒继武;李明强;;重复数据删除技术[J];软件学报;2010年05期

10 郭庆鼎,李蒙,郭威;PID控制器参数的遗传算法优化设计[J];沈阳工业大学学报;2000年01期

【相似文献】

相关期刊论文 前10条

1 卢敏;;点亮“重复数据删除”[J];软件世界;2008年06期

2 拜路;;重复数据删除技术分析及其对存储系统性能的影响[J];电脑编程技巧与维护;2012年06期

3 为民;;分析:采用重复数据删除技术十项注意[J];网络与信息;2012年03期

4 宋雨;易璐;王凤霞;;基于云存储的重复数据删除架构的研究与设计[J];计算机系统应用;2013年01期

5 段梦博;蔡兴旺;;基于内容的重复数据删除技术的研究[J];电脑知识与技术;2010年22期

6 黄志良;;新型硬盘用于重复数据删除技术[J];湛江师范学院学报;2012年03期

7 李超;王树鹏;云晓春;周晓阳;陈明;;一种基于流水线的重复数据删除系统读性能优化方法[J];计算机研究与发展;2013年01期

8 王龙翔;张兴军;朱国峰;朱跃光;董小社;;重复数据删除中的无向图遍历分组预测方法[J];西安交通大学学报;2013年10期

9 阎芳;谭毓安;孙志卓;刘靖宇;;重复数据删除系统元数据存储布局研究[J];北京理工大学学报;2014年05期

10 付印金;肖侬;刘芳;鲍先强;;基于重复数据删除的虚拟桌面存储优化技术[J];计算机研究与发展;2012年S1期

相关会议论文 前3条

1 贾志凯;王树鹏;陈光达;彭成;;一种并行层次化的重复数据删除技术[A];2010年第16届全国信息存储技术大会(IST2010)论文集[C];2010年

2 杨廷梧;;基于重复数据删除的靶场试验信息存储技术[A];2009年西部光子学学术会议论文摘要集[C];2009年

3 肖钧;黄亮;;虚拟化搭配去重,双剑合璧更给力[A];2011年CAD/CAM学术交流会议论文集[C];2011年

相关重要报纸文章 前10条

1 中国传媒大学计算机学院 朱立谷;重复数据删除:改写存储行业经济规则?[N];中国计算机报;2007年

2 张群英;重复数据删除技术异军突起[N];网络世界;2006年

3 郭涛;重复数据删除技术同样适用于主存储[N];中国计算机报;2008年

4 本报记者 郭平;重复数据删除进入主存储[N];计算机世界;2009年

5 ;如何购买重复数据删除产品?[N];网络世界;2009年

6 本报记者 郭平;惠普创新重复数据删除2.0[N];计算机世界;2012年

7 杨洋;指纹算法推动重复数据删除发展[N];网络世界;2009年

8 ;重复数据删除技术可降低存储成本[N];人民邮电;2009年

9 北京威视数据系统有限公司解决方案中心技术总监 潘增;重复数据删除技术的四大优势[N];中国计算机报;2007年

10 SEPATON技术支持中心 杨涛;SEPATON:重复数据删除五步走[N];中国计算机报;2007年

相关博士学位论文 前5条

1 王国华;高效重复数据删除技术研究[D];华南理工大学;2014年

2 付印金;面向云环境的重复数据删除关键技术研究[D];国防科学技术大学;2013年

3 周正达;信息存储系统中重复数据删除技术的研究[D];华中科技大学;2012年

4 朱锐;重复数据删除技术中的并行性能优化算法研究[D];华中科技大学;2013年

5 叶鹏迪;云存储系统资源管理关键技术研究[D];北京邮电大学;2014年

相关硕士学位论文 前10条

1 沈瑞清;云存储中避免重复数据存储机制研究[D];云南大学;2013年

2 石俊杰;基于云存储的重复数据删除文件系统设计与实现[D];华中科技大学;2013年

3 胡盼盼;在线重复数据删除技术的研究与实现[D];华中科技大学;2011年

4 曾涛;重复数据删除技术的研究与实现[D];华中科技大学;2011年

5 王兴;重复数据删除系统的性能优化研究[D];华中科技大学;2013年

6 戈星晨;面向移动终端的数据去重研究[D];山东大学;2014年

7 易璐;重复数据删除技术在基于云存储的智能电网中的应用研究[D];华北电力大学;2013年

8 张甲燃;重复数据删除技术研究[D];山东大学;2013年

9 曾杰南;基于文件访问模式的重复数据删除方法研究[D];华中科技大学;2013年

10 韩帅军;面向归档存储的重复数据删除优化方法研究[D];华中科技大学;2013年



本文编号:2090584

资料下载
论文发表

本文链接:https://www.wllwen.com/kejilunwen/jisuanjikexuelunwen/2090584.html


Copyright(c)文论论文网All Rights Reserved | 网站地图 |

版权申明:资料由用户29d80***提供,本站仅收录摘要或目录,作者需要删除请E-mail邮箱bigeng88@qq.com