众核加速器的缓存管理

发布时间：2022-01-02 21:58

　　为了延续摩尔定律,半导体产业开始向高效能的异构芯片或系统的方向发展。以GPU为代表的众核加速器得到广泛应用,并且开始集成到通用微处理器中。GPU采用SIMT执行模型,对于很多访存模式规则的应用程序,GPU能够通过大规模多线程来隐藏访存延迟。为了支持更多不规则访存模式的应用程序,片上缓存层次结构被加入到GPU体系结构中,来捕捉时间和空间局部性,从而缓解不规则访问对系统性能的不利影响。然而,GPU缓存的效率不高,制约了系统的性能和效能。GPU缓存低效的主要原因是其管理策略同面向吞吐率的执行模型不相适应。GPU生成的大量访存请求引起了缓存冲突和资源拥塞。现有的CPU缓存管理策略是针对多核系统设计的,直接应用到GPU中效果并不好。这主要是因为CPU缓存管理策略无法有效控制工作集和其它资源使用情况。不仅如此,当大规模并行受限于片上资源时,计算部件长时间处于等待数据的状态,系统效能也会因此降低。为了尽可能地减少访存延迟和带宽需求,程序员往往需要对GPU代码进行复杂而繁琐的优化,这在很大程度上增加了程序员的负担。为了解决上述问题,本文提出针对GPGPU的执行模式定制其片上缓存管理策略。对线程束调度和... 

【文章来源】：国防科技大学湖南省 211工程院校 985工程院校

【文章页数】：148 页

【学位级别】：博士

【文章目录】：
摘要
ABSTRACT
符号使用说明
第一章 引言
    1.1 研究动机
    1.2 研究内容
        1.2.1 缓存替换和旁路
        1.2.2 线程调节
        1.2.3 功耗控制
    1.3 本文主要贡献
    1.4 本文结构
第二章 研究背景
    2.1 众核加速器
    2.2 GPU架构
        2.2.1 线程调度
        2.2.2 流水线微体系结构
        2.2.3 GPU存储层次
        2.2.4 实验方法
    2.3 编程模型和应用
        2.3.1 GPU编程模型
        2.3.2 高级编程语言和编译支持
        2.3.3 GPU应用
    2.4 本章小节
第三章 相关研究工作
    3.1 替换和旁路策略
    3.2 线程调节
    3.3 功耗控制
    3.4 其它缓存管理策略
第四章 自适应替换和旁路策略
    4.1 缓存属性和行为分析
    4.2 缓存冲突特征化
    4.3 CPU缓存管理策略的局限性
        4.3.1 缓存替换策略
        4.3.2 缓存旁路策略
        4.3.3 LLC管理策略
    4.4 自适应保护策略
    4.5 本章小节
第五章 协同旁路与线程束调节
    5.1 线程束调节的性能潜力
    5.2 面向吞吐率的自适应资源管理
        5.2.1 访存模式监测
        5.2.2 最优并发度预测
        5.2.3 硬件开销和复杂度
    5.3 实验结果
        5.3.1 对比纯旁路策略
        5.3.2 对比其它缓存管理策略
        5.3.3 缓存容量敏感性分析
        5.3.4 MSHR敏感性分析
    5.4 本章小节
第六章 缓存感知的功耗优化
    6.1 活跃核调节
    6.2 DVFS调节
    6.3 资源监控与功耗控制
    6.4 本章小结
第七章 总结
    7.1 本文的主要贡献
    7.2 未来工作
    7.3 结束语
致谢
参考文献
作者在学期间取得的学术成果
附录A DVFS对系统平均功耗的影响
附录B 访存暂停比例



本文编号：3564950