面向Lustre文件系统的存储系统模拟器的设计与实现

发布时间：2017-09-12 11:32

  本文关键词：面向Lustre文件系统的存储系统模拟器的设计与实现

  更多相关文章： 存储系统 Lustre 模拟器

【摘要】：近年来,高性能计算机技术和应用技术飞速发展,在科学研究与国民经济建设中正发挥着日益重要的作用。以国家超级计算天津中心为例,该中心使用的天河一号超级计算机(TH-1A),应用领域广泛,主要应用领域包括石油勘探数据处理、生物医药研发、气象气候和海洋环境研究、航空航天飞行器研制、工程仿真等。TH-1A超级计算机在天津超算中心运行已4年多,实际运行表明:系统设计合理、综合性能好,系统稳定可靠,成功地完成了许多大规模、典型和复杂的计算任务。TH-1A采用Lustre文件系统作为存储系统,实践表明,Lustre系统为TH-1A的存储系统提供了良好的性能支撑,Lustre配置的灵活性使得TH-1A在面对不同应用时可以通过不同的配置参数实现应用性能的调优,特别是在超大规模的石油数据处理中的应用,获得了较好的应用,对充分发挥TH-1A系统的整体应用性能起到了非常重要的作用。同时,随着TH-1A应用服务范围的不断扩展,以及应用程序所处理的数据量的不断增加,TH-1A存储系统在海量数据存储和处理上也表现出了一些问题。如某些I/O密集型应用要求存储系统具有较快的读写速度,而Lustre文件系统易于在元数据存储和处理上形成瓶颈,影响存储系统整体的读写速度。另外,由于受限于内部高速互连网络端口的数量,使得OST的数量难以大幅扩充,以大容量磁盘(如3TB或者更大容量)替换目前的1-2TB磁盘来扩大存储系统的容量又会在磁盘失效时带来过长的数据恢复时间,影响存储系统的可维性,这两个原因使得TH-1A的存储系统在扩充存储容量时遇到了困难。TH-1A作为目前先进的高性能计算机,在存储系统方面表现出来的问题具有一定的代表性。在当前HPC TOP50的超级计算机,存储系统多采用Lustre,在面对相同的应用情况时也会表现出与TH-1A相类似的技术问题。由于超级计算机的Lustre系统在数据密集型应用时表现出一些问题,同时,我们又在研制新一代的超级计算机,为了了解现有的存储系统在各种典型的应用过程中出现不同问题的原因,研究解决问题和优化性能的技术方法,并为研制新一代超级计算机的新型存储系统提供研究和分析手段,有必要构建面向存储系统的功能和性能的模拟器,对目标系统进行模拟,分析存储系统的运行特性,研究分析存储系统的各种设计参数,优化现有存储系统,指导新的存储系统的设计。本文设计并实现了一种基于Lustre存储系统的存储系统模拟器,主要进行了以下几项研究工作:(1)研究目前典型I/O密集型应用对存储系统的性能要求,结合Lustre文件系统的组成结构和I/O操作流程,分析Lustre文件系统在I/O密集型应用时可能表现的问题。(2)分析目前软件模拟器设计的主要方法,提出了本文的Lustre系统模拟器的设计方法。(3)设计并实现了以Lustre文件系统为目标系统的存储系统模拟器Lustre Sim,并通过与TH-1A超级计算机Lustre系统性能测试和逆时偏移抽道集应用程序运行的对比分析,验证了其正确性与可用性。(4)研究了影响Lustre文件系统性能的关键因素,并提出了这些因素对性能影响的评估方案,在此基础上设计了实验,并使用Lustre Sim模拟器进行实验,明确了这些因素对Lustre文件系统I/O性能的影响,提出Lustre文件系统的一些配置建议。
【关键词】：存储系统 Lustre 模拟器
【学位授予单位】：国防科学技术大学
【学位级别】：硕士
【学位授予年份】：2014
【分类号】：TP333
【目录】：

• 摘要9-11
• ABSTRACT11-13
• 第一章 绪论13-26
• 1.1 研究背景13-23
• 1.1.1 高性能计算机的发展情况13
• 1.1.2 超级计算机的基本组成13-14
• 1.1.3 高性能计算机存储系统的基本结构14-16
• 1.1.4 典型的面向高性能计算机的集群文件系统16-20
• 1.1.5 高性能计算应用对高性能计算机存储系统的主要技术要求20-21
• 1.1.6 高性能计算机存储系统面临的技术问题21-23
• 1.2 课题研究的意义23-24
• 1.3 课题内容和章节安排24-26
• 1.3.1 课题内容24-25
• 1.3.2 本文的组织25-26
• 第二章 模拟器技术分析和Lustre系统技术分析绍26-37
• 2.1 模拟器的设计方法26-28
• 2.1.1 系统模型模拟概述26-27
• 2.1.2 软件模拟技术27
• 2.1.3 软件模拟器的分类27-28
• 2.2 典型软件模拟器28-30
• 2.2.1 OMNe T++28-29
• 2.2.2 NS229-30
• 2.2.3 Disk Sim30
• 2.3 Lustre文件系统30-37
• 2.3.1 Lustre体系结构31-32
• 2.3.2 Lustre文件系统I/O流程32-33
• 2.3.3 Lustre网络通讯33-34
• 2.3.4 Lustre的可用性34
• 2.3.5 Lustre的数据存储结构34-37
• 第三章 Lustre文件系统模拟器Lustre Sim的设计与实现37-60
• 3.1 模拟器的设计目标37-39
• 3.2 Lustre Sim模拟器的系统结构设计39-42
• 3.2.1 Lustre文件系统的总体模块组成39-40
• 3.2.2 Lustre Sim模拟器系统结构40-41
• 3.2.3 模拟器各模块可扩展性41-42
• 3.3 模拟器的核心模块设计42-55
• 3.3.1 RAID磁盘阵列模块42-43
• 3.3.2 MDS模块43-48
• 3.3.3 OSS模块48-51
• 3.3.4 Client模块51-55
• 3.4 模拟器的I/O流程55-56
• 3.5 模拟器的正确性验证56-60
• 3.5.1 全系统IOR测试56-57
• 3.5.2 来自石油勘探逆时偏移抽道集程序trace的模拟结果57-60
• 第四章 Lustre文件系统性能研究60-72
• 4.1 分布式文件系统性能的影响因素60-62
• 4.1.1 元数据服务器相关的性能因素60
• 4.1.2 文件数据服务器相关的性能因素60-61
• 4.1.3 客户端/应用相关的性能因素61
• 4.1.4 网络相关的性能因素61-62
• 4.2 Lustre关键性能因素详细分析62-65
• 4.2.1 条带化配置参数62-63
• 4.2.2 读/写缓存效应63-64
• 4.2.3 服务进程数量64-65
• 4.3 使用Lustre Sim评估Lustre性能65-72
• 4.3.1 Lustre性能评估方案65-66
• 4.3.2 性能评估实验设计66
• 4.3.3 性能评估结果66-71
• 4.3.4 Lustre文件系统配置建议71-72
• 第五章 总结和展望72-74
• 5.1 工作总结72
• 5.2 下一步工作展望72-74
• 致谢74-75
• 参考文献75-80
• 作者在学期间取得的学术成果80

【相似文献】

中国期刊全文数据库 前10条

1 李红;蓝光存储系统 光盘容量高达23G[J];信息记录材料;2004年01期

2 ;存储系统 金融行业应用卓越奖 医疗行业应用卓越奖[J];每周电脑报;2004年20期

3 诺拉;EMC Symmetrix DMX-3存储系统 超大容量 高速存取[J];中国计算机用户;2005年31期

4 谢世诚;;浪潮推出4Gb光纤存储系统[J];微型机与应用;2006年07期

5 ;昆腾分级存储系统[J];软件世界;2009年11期

6 ;超低功耗云存储系统或被地方政府看好[J];中国有线电视;2013年08期

7 汤赫男;;云存储系统的分析与应用研究[J];计算机光盘软件与应用;2013年24期

8 谌伟;;云存储系统的分析与应用探讨[J];数字技术与应用;2013年10期

9 雅君;跟上企业的匆匆脚步——利用HP SureStoreEXP256构筑企业存储系统[J];中国计算机用户;2000年08期

10 贾莉;;Symmetrix8000实现19TB存储[J];每周电脑报;2000年18期

中国重要会议论文全文数据库 前10条

1 赵志刚;;存储系统在企业信息化中的应用[A];2005年安徽通信论文集[C];2006年

2 黄晓峰;张杰;;矿井信息中心存储系统设计[A];安全高效矿井机电装备及信息化技术——陕西省煤炭学会学术年会论文集（2011）[C];2011年

3 孙哲;李昌银;;构建核电高可用云存储系统[A];2012电力行业信息化年会优秀论文专辑[C];2012年

4 焦超;周天彤;李祥学;李建华;;面向灾备的高性能可信存储系统设计[A];第十一届保密通信与信息安全现状研讨会论文集[C];2009年

5 汪位龙;;设计院存储系统建设初探[A];中国公路学会计算机应用分会2004年年会学术论文集[C];2004年

6 梅松竹;李宗伯;;Storage 7000系列混合存储系统分析[A];2009年中国高校通信类院系学术研讨会论文集[C];2009年

7 王克敏;张玺;胡江凯;王毅涛;;NWP资料归档方法及其存储系统的应用[A];中国气象学会2006年年会“中尺度天气动力学、数值模拟和预测”分会场论文集[C];2006年

8 孙哲;李昌银;;DeDu:基于云计算的冗余删除存储系统[A];电力行业新一代信息技术研讨会论文集[C];2011年

9 高小伍;党齐民;林晨;;校园网存储系统的研究与实现[A];中国高等教育学会教育信息化分会第十次学术年会论文集[C];2010年

10 宫海林;郭长国;苑洪亮;王怀民;;支持事务的非结构化数据聚合存储系统GSL[A];2006年全国开放式分布与并行计算机学术会议论文集（三）[C];2006年

中国重要报纸全文数据库 前10条

1 ;第三季度中国存储系统市场达19.1亿元[N];中国高新技术产业导报;2005年

2 本报记者 薛斐;服务：存储系统的灵魂[N];计算机世界;2002年

3 单群一;惠普推出全新一体化存储系统[N];中国税务报;2007年

4 ;浪潮推出4Gb光纤存储系统[N];人民邮电;2006年

5 ;今年第二季度 存储系统市场价值达12.6亿元[N];人民邮电;2006年

6 郭;日立推出普及型存储系统[N];计算机世界;2007年

7 陈耀光;朗登 扛起存储系统设计院的大旗[N];中国企业报;2001年

8 ;富士通存储系统全面升级[N];网络世界;2009年

9 ;EMC亚洲生产制造中心落户深圳[N];网络世界;2009年

10 临履;存储系统有了“设计院”[N];网络世界;2001年

中国博士学位论文全文数据库 前10条

1 赵雨虹;云存储系统资源调度技术研究[D];华中科技大学;2015年

2 王福伟;列存储系统的数据安全与网络性能优化模型研究[D];燕山大学;2016年

3 张菁;大规模分布式纠删码存储系统中的高效数据传输技术研究[D];国防科学技术大学;2015年

4 沈志荣;纠删码存储系统性能优化研究[D];清华大学;2015年

5 陆承涛;存储系统性能管理问题的研究[D];华中科技大学;2010年

6 聂雪军;内容感知存储系统中信息信息生命周期管理关键技术研究[D];华中科技大学;2011年

7 罗东健;大规模存储系统高可靠性关键技术研究[D];华中科技大学;2011年

8 聂雪军;内容感知存储系统中信息生命周期管理关键技术研究[D];华中科技大学;2010年

9 王鹏;低密度奇偶校验码应用于存储系统的关键技术研究[D];华中科技大学;2013年

10 刁莹;用数学建模方法评价存储系统性能[D];哈尔滨工程大学;2013年

中国硕士学位论文全文数据库 前10条

1 冯汉超;基于Hadoop的分布式副本策略研究[D];河北工程大学;2015年

2 俞新杰;跨数据中心容错的云存储系统[D];浙江大学;2016年

3 王振升;可重构堆叠存储系统的设计及实现研究[D];太原理工大学;2016年

4 王海群;面向数字社区的云存储系统的研究与实现[D];中国海洋大学;2015年

5 范海震;基于Linux的MPEG-4图像压缩存储系统[D];西安电子科技大学;2008年

6 陈运海;编码容错的云存储系统与性能优化[D];南京大学;2013年

7 卢义婉;基于网络编码的云存储系统中负载均衡技术研究[D];南京大学;2013年

8 王谦;云存储系统基于属性的数据访问控制研究[D];江苏大学;2016年

9 蔡京津;基于Orleans的块存储系统的设计与实现[D];吉林大学;2016年

10 王丹丹;数字射频存储系统中高速DAC电路的设计与实现[D];燕山大学;2016年

，

本文编号：836973