当前位置:主页 > 科技论文 > 计算机论文 >

NVM存储系统的性能优化研究

发布时间:2020-03-19 22:07
【摘要】:非易失性存储器(Non-Volatile Memory,简称NVM)是一种拥有传统DRAM内存级别读写速度,同时兼具HDD、SSD等外存材料一般的数据持久安全保存性能和大密度存储特性的新一代存储材料。由于这些优点,NVM近年来正受到越来越多来自学术界与工业界人士的青睐。然而,由于NVM诞生时间并不长,其相关理论与技术并不完善,无法进行大规模生产。同时,随着研究的不断深入,NVM自身的一些缺陷也在逐步暴露。若直接将NVM引入到当下的存储系统,不仅不能保证NVM的优异性能得到充分发挥,还可能因为不恰当的使用,使得NVM的缺点被放大,从而反过来伤害当前系统的性能。针对这些问题,本文从NVM与当下热门应用的角度切入,对NVM在当下计算、存储环境下的恰当使用以及针对性优化,进行了一些探索。首先,本文使用NVM优化了当下流行的HDD+SSD混合存储系统结构设计中,利用NVM的优异特性,提高混合存储系统的相关性能。以充分利用每一块NVM存储单元为原则,在传统存储管理机制上引入了一个额外的存储单元“数据桶”,降低NVM存储空间的碎片率。另外,根据数据的读写特性、历史访问信息等将NVM按存储单元使用寿命进行数据分区存储,以提高NVM存储单元利用率和NVM设备实际使用寿命。然后,针对分布式缓存系统的持久化问题,本文先探讨了影响分布式缓存系统持久化性能的几个关键因素。根据对影响持久化性能的关键因素进行分析,对当前持久化机制进行了一些针对性修改。最后,本文针对Spark平台的不足,将一种基于NVM设计的共享缓存结构引入Spark平台的硬件体系中。通过修改Spark的持久化机制、RDD分区管理算法,使Spark能正确识别并使用NVM。同时通过NVM共享缓存结构,提升Spark任务处理能力,强化了Spark对存储空间内数据的管理能力,进一步提高了空间的利用率。本文通过对几个当前常用应用场景与NVM的结合,探索了NVM在当前存储计算环境下的合理应用方式。通过对已有存储的适当改造,在基本特性不改变的前提下强化了NVM在当前环境下的性能与优势,同时避免了NVM的一些缺点。为NVM迈入实质性应用提供了一些参考依据。
【图文】:

应用结构,存储系统


图 1-1 存储系统应用结构(1) 针对存储系统的碎片处理,对基于 NVM 的混合存储系统的数据存储策略进行优化因为碎片是存储系统的一个无法回避的问题,理论上讲完全避免碎片的最优文件切片解是不存在的,我们所能够做的就是尽可能的降低碎片产生的几率,,并减小碎片的大小。而 NVM 在存储单元寿命上要优于一般 SSD,但和 DRAM与 HDD 相比还有很大差距。为了充分利用每一块 NVM 存储单元,我们在原有均衡擦写方法的基础上,综合前面的存储管理机制优化方案,对 NVM 存储设备进行分区管理。针对 HDD 和 SSD,传统存储机制主要采用数据切片映射和数据替换方法来降低存储系统的碎片情况。从两者的实施结果来看,均起到了很好的效果,然而代价也很明显。针对上述难题,本文以传统 DRAM 的段页式内存管理为基础设计了一个对 NVM 特性更加友好的存储空间管理机制。通过对 NVM 存储空间进行二次组织,使得保存于其中的数据能够以更为紧凑的形式存放在 NVM 存储单元内。最后通过仿真实验,检验算法的有效性。对

共享内存,进程


源消耗相差不大。2.5 共享内存技术图 2-1 给出了一个简易的共享内存结构。共享内存是一种在多处理器环境下,为了加速某些数据的交换速度,而在内存空间里开辟的一块区域。由于内存内的数据可能被多个 CPU 共同使用,而各个 CPU 之间的计算、处理并不一致,导致这些数据可能会被同时修改。如果不加以处理,会对多进程、多处理器等计算环境造成非常严重的逻辑混乱。为此而诞生了共享内存技术,其主要方式包括:以 Linux内的 mmap()函数为代表的进程、处理器缓冲区访问方法,和通过数据映射使用共享数据等方法。通过共享内存,可以实现计算机系统内各个进程,以及各个处理单元之间的高速通信,同时保证了数据的一致性以及计算处理结果的逻辑性。共享内存相比其他数据一致性方法具有更好的数据控制性能,数据读写过程更加透明。进程与处理器通过类似指针的方法便可访问共享内存内数据。共享内存的缺点是,数据写入进程或数据读出进程中,需要附加的数据结构控制。
【学位授予单位】:电子科技大学
【学位级别】:硕士
【学位授予年份】:2018
【分类号】:TP333

【相似文献】

相关期刊论文 前10条

1 王卓;张美玲;康健;方瑶;贾军;郝永梅;;虚拟化平台与存储系统结合在地震台网中的部署和应用[J];防灾减灾学报;2018年02期

2 王龙江;陈越;严新成;黄恺翔;;网络编码云存储系统差分数据更新方案[J];通信学报;2017年03期

3 陈震;刘文洁;张晓;卜海龙;;基于磁盘和固态硬盘的混合存储系统研究综述[J];计算机应用;2017年05期

4 李阿妮;张晓;张伯阳;柳春懿;赵晓南;;公有云存储系统性能评测方法研究[J];计算机应用;2017年05期

5 王国庆;;安全云存储系统综述[J];科技视界;2017年05期

6 沈海灵;;移动云存储系统的关键问题与技术方案[J];福建电脑;2017年08期

7 王海涛;李战怀;张晓;;一种云存储系统分层性能监测和采集方法[J];西北工业大学学报;2016年03期

8 齐婵颖;李育超;聂睿;覃杨森;;基于开放云存储协议的云存储系统性能评测方法研究[J];电子设计工程;2016年19期

9 赵文敬;吴彦波;;一种云存储系统安全扩展框架设计[J];黑龙江科技信息;2014年31期

10 汤赫男;;云存储系统的分析与应用[J];信息技术与信息化;2014年07期

相关会议论文 前10条

1 黄敏;;安全云存储系统与关键技术研究[A];《教师教学能力发展研究》科研成果集(第六卷)[C];2017年

2 ;以数据,成就未来![A];第25届中国数字广播电视与网络发展年会暨第16届全国互联网与音视频广播发展研讨会论文集[C];2017年

3 孙哲;李昌银;;构建核电高可用云存储系统[A];2012电力行业信息化年会优秀论文专辑[C];2012年

4 赵志刚;;存储系统在企业信息化中的应用[A];2005年安徽通信论文集[C];2006年

5 苏秀红;;多路并行存储系统的坏块管理策略研究[A];第七届四川省博士专家论坛论文集[C];2014年

6 陈鹏涛;;云存储在广播电视监测工作中的作用[A];第23届中国数字广播电视与网络发展年会暨第14届全国互联网与音视频广播发展研讨会论文集[C];2015年

7 焦超;周天彤;李祥学;李建华;;面向灾备的高性能可信存储系统设计[A];第十一届保密通信与信息安全现状研讨会论文集[C];2009年

8 程鹏;刘伟;;电力SCADA系统运行平台的存储系统设计[A];2010年第16届全国信息存储技术大会(IST2010)论文集[C];2010年

9 罗志明;张大华;王铁军;李凡;;面向智能电网的分布式云存储系统实现[A];2012电力行业信息化年会论文集[C];2012年

10 胡维;刘光明;李琼;刘欣;;基于智能预警的自恢复存储系统研究[A];2010年第16届全国信息存储技术大会(IST2010)论文集[C];2010年

相关重要报纸文章 前10条

1 ;人工智能时代高性能存储受热捧[N];中国信息化周报;2017年

2 刘永梅;如何选择存储系统[N];光明日报;2001年

3 本报记者 刘丽丽;Oracle构建业务就绪存储系统愿景[N];计算机世界;2011年

4 ;企业存储系统选购要素[N];中国计算机报;2002年

5 方粮;存储系统何时自我管理[N];中国计算机报;2003年

6 张伟;NetApp FAS3100系列存储系统[N];中国计算机报;2008年

7 本报记者 李瀛寰;朗登:存储系统设计院[N];中国计算机报;2001年

8 ;存储系统:市场增幅回落[N];中国计算机报;2003年

9 特约撰稿 张冬;传统外置存储系统或将迎来冬天(上)[N];计算机世界;2011年

10 本报记者 郭平;同有飞骥自主研发统一存储系统[N];计算机世界;2010年

相关博士学位论文 前10条

1 曾坤;事务存储系统:事务冲突与事务并行[D];国防科学技术大学;2011年

2 刘科;内容感知存储系统中的信息检索关键技术研究[D];华中科技大学;2012年

3 刘劲松;关于存储系统性能的测试、仿真与评价的研究[D];华中科技大学;2004年

4 侯方勇;存储系统数据机密性与完整性保护的关键技术研究[D];国防科学技术大学;2005年

5 王俊伟;大规模多媒体存储系统中数据放置与调度策略的研究[D];国防科学技术大学;2005年

6 郇丹丹;高性能存储系统研究[D];中国科学院研究生院(计算技术研究所);2006年

7 刘晓光;二级网络条纹数据布局及其相关问题的研究[D];南开大学;2002年

8 胡风华;基于以太网的存储系统研究[D];中国科学院研究生院(计算技术研究所);2005年

9 田敬;对等存储系统中的数据可用性与安全性研究[D];北京大学;2007年

10 李怀阳;进化存储系统数据组织模式研究[D];华中科技大学;2006年

相关硕士学位论文 前10条

1 韩召宝;A公司ETV行李存储系统项目的敏捷开发和进度管理研究[D];华东理工大学;2018年

2 王峻龙;NVM存储系统的性能优化研究[D];电子科技大学;2018年

3 肖肇宇;基于节能与可靠性的并行存储系统模型的设计与分析[D];湖南大学;2017年

4 邓俊杰;云存储中基于非均匀保护策略的纠删码技术研究与实现[D];湖南大学;2017年

5 朱继生;基于MIC架构的内存键值存储系统的设计与实现[D];湖南大学;2017年

6 弯勇辉;面向审计领域的云存储技术的研究及应用[D];哈尔滨工程大学;2015年

7 万进;一种自适应分级存储系统的设计与实现[D];华中科技大学;2017年

8 程帅;云存储系统中密文检索与访问控制技术的研究[D];武汉理工大学;2015年

9 朱林;基于MPI的高性能云计算平台的优化与存储系统研究[D];武汉理工大学;2015年

10 孙东东;容错存储系统校验更新及修复优化技术研究[D];中国科学技术大学;2017年



本文编号:2590784

资料下载
论文发表

本文链接:https://www.wllwen.com/kejilunwen/jisuanjikexuelunwen/2590784.html


Copyright(c)文论论文网All Rights Reserved | 网站地图 |

版权申明:资料由用户470f8***提供,本站仅收录摘要或目录,作者需要删除请E-mail邮箱bigeng88@qq.com