机群文件系统性能与正确性研究
发布时间：2020-06-02 07:46
【摘要】： 计算机存储系统,特别是相对慢速的外存储系统一直是影响计算机整体性能的“瓶颈”。目前,机群系统已经逐渐成为超级计算机与超级服务器的主流结构,但外存储系统仍然是它进一步提高性能与可靠性的主要障碍。近年来,随着网络技术的飞速发展,基于机群节点间高速互连网络的机群文件系统已成为解决机群外存储系统问题的有效策略之一。然而在机群系统中,不同类型应用在文件存取性能及语义需求等方面存在较大的差异,如何为具有不同需求的应用提供足够的文件I/O性能,并保证其文件存取操作的正确执行已成为机群文件系统设计的关键问题。 本文结合曙光机群文件系统DCFS的设计与实现,对如何有效提高机群文件系统性能、保证应用的正确执行方面进行了较有成效的研究,主要内容包括:以COSMOS文件系统为原型系统,研究了机群文件系统中通信子系统对整体性能的影响;研究了机群文件系统结构优化对元数据操作的性能影响;以支持MPI-IO并行计算为目标,研究了在支持客户端缓存情况下,如何实现文件系统客户端缓存一致性语义的协议。具体研究成果如下: (1)首次提出并发带宽利用率的概念,以量化的方式来评价系统整体效率与服务器外存储子系统及节点间通信机制间的关系,有助于人们更加合理地设计与部署机群文件系统。 (2)提出了改善并发带宽利用率的一些策略,在基于曙光3000的机群文件系统原型中,着重研究了通信子系统对并发带宽利用率的影响。在原型系统中应用了基于Myrinet高速交换网络的精简通信协议BCL-3,性能测试的结果表明,相对于使用Ethernet网络与TCP/IP协议的系统,机群文件系统客户节点文件I/O带宽得到了显著提高,系统并发带宽利用率从40%以下提高到了90%左右。 (3)提出了FPLS及FPLS+路径解析优化协议,通过调整元数据分布结构以及改进客户节点核心路径解析操作算法,来提高信息服务类应用中大量元数据存取操作性能。 模拟实验结果表明,在最佳情况下,新型路径解析协议可将路径查找时间减少到普通路径解析协议所用时间的20.2%。 (4)提出了一种可直接操纵文件系统客户端缓存的扩展文件锁协议。 这种协议可以使机群文件系统在支持客户端缓存的情况下,能满足并行计算应用接口MPI-IO对底层文件系统的并发共享文件I/O的语义需求。与一些现有系统中的相关实现策略相比,该协议具有简单可靠的优点。
【图文】：
据传输率可以达到 160MB/s[79]。另外，随着半导体技术的发展与成本的下降，人们试图给磁盘设备增添更多的能，，如卡内基.梅隆大学的 Active Disk[5]和 ANSI 的 T10 委员会提出的 OBD[86]都试将更多的控制权赋予磁盘控制器，让它来更加合理地分布数据，另外还期望这种术获得更好的可扩展能力[116]。为了有效发挥智能控制器的作用，目前一般磁盘的内置缓存容量已经在 2MB 以上，4MB 甚至 8MB 的驱动器也已经出现，如昆腾司的 Atlas 10K II 系列硬盘。.2.2 磁盘阵列技术1988 年加州大学 Berkeley 分校的 David A. Patterson 等人首次提出了廉价磁盘冗阵列（Redundant Arrays of Inexpensive Disks，RAID[16][17]）等级划分的概念（也人认为应该是独立磁盘冗余阵列，Redundant Arrays of Independent Disks）。他们根容错级别与数据分布方式的不同，提出了五种不同的 RAID，即 RAID1——RAID5 5 级，并把传统的无冗余结构的磁盘阵列结构定义为 RAID0 级。RAID 由于采取据分块技术，即在多块磁盘上交叉存放数据，使得多个磁盘可以并行工作，从而改 I/O 响应时间。另外，采用冗余技术，极大地提高了磁盘阵列的可靠性和可用性。过去一些年里，又产生了一些新的磁盘分级，如 RAID10、RAID6 与 EVENODD。图 1.1 给出了几种典型的 RAID 结构。
6图 1.2 SCSI-3 体系结构示意图（来自参考文献[79]）从图 1.2 中可以看出，SCSI-3 协议支持的设备类型包括了块设备（包括磁盘驱动器）、精简块设备、流设备（磁带机）、可更改媒体、多媒体设备（如 DVD）、控制器设备（RAID 设备）以及可封装服务，此外还提供了对基于对象的存储（OSD）与不同协议族的 SCSI 桥接器之间命令集支持。从 SCSI-3 的体系结构模型来看，它同时支持串行接口（IEEE 1394）与并行接口（SPI-2~SPI-5），光纤通道协议、IBM 的 SSA（Serial StorageArchitecture）、SCSI overST（Scheduled Transfer）、SCSI RDMA（InfiniBand）与 iSCSI 等协议。总的来看，SCSI 外设接口是一种配置灵活、可扩展、支持多任务操作的通用接口总线技术，可期望在将来相当长的一段时间内还将继续得到发展。1.2.3.2 ATA/IDEATA/IDE 协议则从开始起就与 SCSI 协议定位完全不同，在初始时它仅仅支持磁盘驱动器设备
【学位授予单位】：中国科学院研究生院（计算技术研究所）
【学位级别】：博士
【学位授予年份】：2002
【分类号】：TP333;TP338
本文编号：2692837
【图文】：
据传输率可以达到 160MB/s[79]。另外，随着半导体技术的发展与成本的下降，人们试图给磁盘设备增添更多的能，，如卡内基.梅隆大学的 Active Disk[5]和 ANSI 的 T10 委员会提出的 OBD[86]都试将更多的控制权赋予磁盘控制器，让它来更加合理地分布数据，另外还期望这种术获得更好的可扩展能力[116]。为了有效发挥智能控制器的作用，目前一般磁盘的内置缓存容量已经在 2MB 以上，4MB 甚至 8MB 的驱动器也已经出现，如昆腾司的 Atlas 10K II 系列硬盘。.2.2 磁盘阵列技术1988 年加州大学 Berkeley 分校的 David A. Patterson 等人首次提出了廉价磁盘冗阵列（Redundant Arrays of Inexpensive Disks，RAID[16][17]）等级划分的概念（也人认为应该是独立磁盘冗余阵列，Redundant Arrays of Independent Disks）。他们根容错级别与数据分布方式的不同，提出了五种不同的 RAID，即 RAID1——RAID5 5 级，并把传统的无冗余结构的磁盘阵列结构定义为 RAID0 级。RAID 由于采取据分块技术，即在多块磁盘上交叉存放数据，使得多个磁盘可以并行工作，从而改 I/O 响应时间。另外，采用冗余技术，极大地提高了磁盘阵列的可靠性和可用性。过去一些年里，又产生了一些新的磁盘分级，如 RAID10、RAID6 与 EVENODD。图 1.1 给出了几种典型的 RAID 结构。
6图 1.2 SCSI-3 体系结构示意图（来自参考文献[79]）从图 1.2 中可以看出，SCSI-3 协议支持的设备类型包括了块设备（包括磁盘驱动器）、精简块设备、流设备（磁带机）、可更改媒体、多媒体设备（如 DVD）、控制器设备（RAID 设备）以及可封装服务，此外还提供了对基于对象的存储（OSD）与不同协议族的 SCSI 桥接器之间命令集支持。从 SCSI-3 的体系结构模型来看，它同时支持串行接口（IEEE 1394）与并行接口（SPI-2~SPI-5），光纤通道协议、IBM 的 SSA（Serial StorageArchitecture）、SCSI overST（Scheduled Transfer）、SCSI RDMA（InfiniBand）与 iSCSI 等协议。总的来看，SCSI 外设接口是一种配置灵活、可扩展、支持多任务操作的通用接口总线技术，可期望在将来相当长的一段时间内还将继续得到发展。1.2.3.2 ATA/IDEATA/IDE 协议则从开始起就与 SCSI 协议定位完全不同，在初始时它仅仅支持磁盘驱动器设备
【学位授予单位】：中国科学院研究生院（计算技术研究所）
【学位级别】：博士
【学位授予年份】：2002
【分类号】：TP333;TP338
【参考文献】
相关期刊论文 前3条
1 贺劲,徐志伟,孟丹,马捷,冯军;基于高速通信协议的COSMOS机群文件系统性能研究[J];计算机研究与发展;2002年02期
2 贺劲,孟丹;曙光机群文件系统DCFS负载平衡策略[J];计算机工程与应用;2002年14期
3 吴思宁;Linux机群文件系统的研究与实现[J];微电子学与计算机;2002年05期
本文编号：2692837
本文链接：https://www.wllwen.com/kejilunwen/jisuanjikexuelunwen/2692837.html
