SIMT线程调度模型分析及优化

发布时间：2019-07-12 08:29

【摘要】：随着信息时代的发展，计算机处理器处理的信息量日渐增大，其数据处理能力要求越来越高，传统的微处理器体系结构已经逐渐无法有效的适应大信息量的高效处理，从传统的指令级并行发展到线程级并行，成为提高处理器性能的一个趋势。多线程的探索研究中，单指令多线程（SIMT）技术成为业界高度关注的体系结构之一，其中以SIMT技术为基础的图像处理器（GPU）最为所知，，其多线程调度技术经过多年在多媒体领域的发展已经充分适应数据密集型应用程序的特性。现有的针对SIMT技术的研究都是基于完整的GPU体系结构，尚且缺乏将SIMT调度模型独立于GPU的单独研究。本文分析GPU中的SIMT调度技术，将SIMT调度模型从GPU中提取出来，为SIMT调度技术的研究和该技术的应用发展奠定基础。本文对SIMT调度模型进行了详细测试分析，发现线程的组织管理对SIMT调度模型性能有较大影响，同时SIMT调度技术对使用者要求很高，要求该技术的研究人员有较高的软硬件水平，在其上编写的负载必须充分匹配SIMT硬件特性，同时对SIMT调度体系结构的改动必须充分适应其上运行的负载特性，不同的负载特性对SIMT硬件结构的要求会有较大差异。通过对SIMT调度模型的分析，本文发现现有SIMT调度技术中单一线程的执行能力低下，必须依靠大量线程隐藏其单线程性能低下的劣势，对线程数目的依赖性强，是该技术发展亟待解决的问题。本文通过研究不同的计算机体系结构，发现一种创新性的显示数据图执行（EDGE）体系结构的特性同SIMT调度技术的特性有相似之处，在EDGE中实现SIMT调度技术既可以发掘出EDGE中潜在的多线程特征，又可以利用EDGE中高效的单线程执行能力弥补SIMT调度技术中存在的单线程执行性能低下的劣势，优化SIMT调度技术。本文在实验室自行开发的M5-EDGE模拟器上实现SIMT调度功能，并通过一系列测试程序验证实现SIMT调度功能的M5-EDGE模拟器的功能正确性，同时分析了SIMT调度技术在M5-EDGE模拟器上实现后的性能，发现EDGE分布式结构中单一线程的甚块并行性同SIMT调度技术中的多线程并行性可以良好的结合，充分发挥了EDGE和SIMT两种体系结构的优势。
文内图片： NVIDIAFermi结构图

图片说明：单一线程在 SIMT 调度执行技术中执行内部的并行性并没有开发出来，致使拥有少量线程何在保留 SIMT 调度执行优势的同时提升内部单一IMT 调度执行技术的其中一个重要研究方向。EDGE（tion）体系结构[9,10,11]的出现使上述问题的解决成为了DGE 体系结构中实现 SIMT 调度执行的功能，将 GP型同 EDGE 体系结构结合，彼此互补优化，既发掘性又弥补了 SIMT 调度执行时单线程性能低下的缺中 SIMT 调度执行技术原理的 Fermi 结构是 GPU 的一个典型代表[12]，见图 1-1处理器，每组流多处理器的特殊结构决定了 GPU 计算器中有 32 个计算内核，每个核都可以执行一个线程可以同步执行 32 个线程，16 组流多处理器便可以可见其并行计算强度很大。
文内图片： warp调度GPU中的SIMT线程调度技术基于NVIDIA公司的CUDA平台[14]

warp调度GPU中的SIMT线程调度技术基于NVIDIA公司的CUDA平台[14]

图片说明： T 调度机制的高效实现。一个 SIMT 调度过程分为软其中硬件调度过程的 warp 调度是该结构并行执行高算时，不是以线程为单位取指，而是以一组线程组p 为单位进行取指运算，如图 1-2 所示[13]，warp 的调配相关性尽量小一组线程，如果一个 warp 与另一个 warp 要等候另一个 warp 执行结果，则该 warp 可暂一个不相关的 warp 越过该 warp 去执行，这样在该 w理器并没有空闲，等于隐藏了线程执行的延时时间，零。
【学位授予单位】：哈尔滨工业大学
【学位级别】：硕士
【学位授予年份】：2013
【分类号】：TP332

【相似文献】