集群计算环境全局通讯优化的研究与实现

发布时间：2020-04-25 23:50

【摘要】： 随着高速网络技术和高性能微处理器技术的发展，集群计算从局域网扩展到园区网甚至广域网，它正成为一种极具吸引力和挑战性的分布式并行计算平台。集群计算要达到实用化，首先需要解决的关键技术是提高通讯性能，包括点对点通讯和全局通讯的性能。本文主要研究如何在不改变硬件的前提下提高全局通讯性能。全局通讯的性能受计算机结点性能、网络性能、网络拓扑结构、全局通讯路径等因素影响，其中优化全局通讯路径是提高全局通讯性能的一个重要手段，尤其是对消息传递库的设计者而言。在集群环境中，计算机结点和网络存在着异构性，主要表现为计算机结点性能和网络性能各有差异、网络拓扑结构也不规则。这种异构性增加了全局通讯路径有效优化的难度。如果在优化全局通讯路径时不加以充分考虑，忽略了某些因素，，往往会导致优化的效果不佳，甚至在某些情况下出现相反的效果，反而降低全局通讯的性能。而常见的消息传递库大多存在着这个问题。针对此问题，我们提出了全局通讯的多粒度优化解决方案，它包括LobP通讯模型、HLC(Hierachical Label Cluster)拓扑结构模型、多粒度优化MGO算法(Multi-Granularity Optimization)、全局通讯模拟器CCSim以及多粒度优化的MPICH-MGO实现。本文从理论研究和工程实现两方面系统地描述了我们所做的上述工作。通讯模型描述了通讯的基本过程，它是全局通讯优化的基础。本文首先对通讯模型进行分析，指出已有通讯模型在完备性、描述的层次一致性等方面的不足，提出了LobP通讯模型。拓扑结构模型描述了网络的拓扑结构，它是全局通讯优化的重要依据。在分析两层结构及简单多层结构的基础上，根据分布式集群环境物理拓扑结构的特点以及全局通讯优化的需求，本文提出了适合于分布式集群全局通讯优化的HLC拓扑结构模型，并描述了实现该模型的算法。基于LobP通讯模型和HLC拓扑结构模型，本文提出了全局通讯的多粒度优化算法，简称MGO算法。MGO算法经过优化分别生成广播、分布、聚合、全聚合等全局通讯操作的通讯路径。在优化时MGO算法利用LobP通讯模型和HLC拓扑结构模型，充分考虑了集群中计算机结点性能、网络性能以及网络拓扑结构，适用于分布式集群环境。我们实现了多粒度优化的全局通讯库MPICH-MGO。MPICH-MGO基于MPICH，是对MPICH原有全局通讯层的修改和扩充，使得它能够通过分布式测试获得集群的计算机结点性能、网络性能以及网络拓扑结构等信息，利用这些信息进行全局通讯路径的多粒度优化，并根据优化结果对涉及全局通讯的消息进行路由。我们还实现了针对集群环境全局通讯的模拟器CCSim。模拟器CCSim可以生成不同配置的集群，调用不同的全局通讯优化算法来优化生成相应的全局通讯路径，并利用全局通讯路径模拟全局通讯过程的执行。利用该模拟器可以比较不同优化算法在不同集群配置下的优化效果，它已成为我们研究集群环境下全局通讯优化的一个重要分析工具。模拟结果表明MGO算法优化效果显著。MGO算法与相关的BT、FEF、FCEF、LA算法相比，在广播、分布、聚合、全聚合等全局通讯操作的性能上，均有不同程国防科学技术大学研究生院学位论文度的提高，并且性能提高百分比基本上随着集群中计算机结点数目的增加而加大。
【学位授予单位】：国防科学技术大学
【学位级别】：博士
【学位授予年份】：2001
【分类号】：TP338

【引证文献】