基于使用行为的Cache设计和运行时Cache性能优化

发布时间：2020-05-10 10:36

【摘要】： 内存已成为当前计算机系统性能的主要瓶颈之一,它的访问速度通常比处理器慢上数百倍。为缩小内存和处理器间的速度差异,cache得到了普遍应用。它对计算机性能的影响也随内存延时和程序内存需求的持续增加而日益增大。Cache工作的基础是程序对数据访问的局部性。现有的设计较少关注各级cache数据访问的本地局部性特征以及不同程序或者程序的不同阶段对数据的不同访问行为,因此,难以使cache充分适应多样化的局部性,限制了cache的性能。本文从新的角度分析了程序对各级cache的不同使用行为特征,提出了基于使用行为的cache设计和运行时cache性能优化。 针对L1 cache,本文研究了它的缺失局部性。采用本文提出的短缺失周期作为程序阶段的标尺,本文观察到L1 cache的缺失主要来自少数几个泄漏组,并且,这些泄漏组具有良好的连续性和可预测性。基于上述现象,本文提出了使用泄漏组缓存结构来减少低关联度cache的缺失局部性。通过预测泄漏组的出现位置,泄漏组缓存于运行时动态地缓存这些泄漏组,在不影响访问延时的前提下减少冲突缺失。 在L2 cache中,传统的LRU替换策略对大于cache容量的工作集表现极差,导致了大量较少重用块的出现,此时,可通过只在cache中保留一部分工作集来提高性能。现有解决方案通过过滤未重用块来实现这一目标,但是受到未重用块数量的严格限制,它们可能由于未重用块的缺乏而失效。本文提出了一种新的基于重用频率的过滤机制。该过滤机制通过预测和过滤掉较少重用块而不单单是未重用块,可以增加将程序工作集最频繁访问的部分容纳入cache的可能性,克服了现有的只过滤未重用块的机制的缺陷。本文还提出了较少重用过滤器(LRF)结构来实现上述机制。LRF利用重用频率预测器从数据访问流中准确识别出较少重用块。同时,基于本文观察到的较少重用块的生命周期较短的特性,LRF将过滤出的块放入过滤缓存以充分利用,防止它们引发额外的缺失。 实验结果表明,LRF在不对L2 cache的替换策略做任何修改的情况下,可提高有不同使用行为的程序性能。为一个传统结构的512KB LRU管理的L2 cache增加包含512单元过滤缓存的LRF,平均能够降低27.5%的MPKI,缩小LRU和OPT间74.4%的性能差距。比较表明,在相同的硬件代价下,LRF在性能上优于最新的其它方案。
【学位授予单位】：浙江大学
【学位级别】：硕士
【学位授予年份】：2010
【分类号】：TP333.1

【相似文献】

相关期刊论文 前10条

1 谭雪松,吕庭豪,刘土光;Pro/ENGINEER的典型设计思想及建模方法评价[J];船海工程;2003年01期

2 ;Socket 939一统天下 精英KN1 Extreme主板[J];电脑数码采购周刊;2005年11期

3 ;政治[J];全国新书目;2005年19期

4 彭文;童若锋;钱归平;董金祥;;使用特征点与曲线配准医学图像[J];计算机辅助设计与图形学学报;2007年09期

5 何克抗;;用DJS-130汉字处理系统编排大学课程表[J];北京师范大学学报(自然科学版);1982年04期

6 杨晓明;陶富莲;左俊;喻明姬;;基于Web使用挖掘和结构挖掘的个性化网络教学系统的设计与实现[J];新疆石油天然气;2007年01期

7 鲜学丰;杨雪;;基于Web挖掘的个性化网络教学系统的设计与实现[J];计算机应用;2007年S1期

8 杨振舰;;一种基于Web挖掘的推荐系统框架[J];制造业自动化;2011年02期

9 吴鹏;介绍可信软件[J];广东印刷;1996年04期

10 方智;窦文华;邓爱林;;基于Web挖掘的个性化服务[J];湘潭大学自然科学学报;2006年03期

相关会议论文 前10条

1 唐建军;刘丰德;蔡学玲;赵霞;张瑛秋;;乒乓球11分赛制下中外优秀运动员技战术特征研究[A];中华人民共和国第十届运动会科学大会论文摘要汇编[C];2005年

2 淑琴;艳花;;蒙古语构形附加成分重叠使用特征及其模型[A];第十届全国少数民族语言文字信息处理学术研讨会论文集[C];2005年

3 嵇晓宇;徐兵;郁向东;杨玉明;;薄壳结构非线性屈曲有限元分析[A];中国工程物理研究院科技年报（2002）[C];2002年

4 任明武;胡明昊;杨静宇;;一种快速实用的特征点匹配算法[A];全面建设小康社会：中国科技工作者的历史责任——中国科协2003年学术年会论文集（上）[C];2003年

5 郑航月;王亚同;;汉语概念的特征结构初探[A];第十二届全国心理学学术大会论文摘要集[C];2009年

6 张爱华;靖红芳;王斌;徐燕;;文本分类中特征权重因子的作用研究[A];第五届全国信息检索学术会议论文集[C];2009年

7 祁凯;吴秀清;王鹏伟;尹叶飞;;一种基于高斯尺度空间的遥感图像匹配算法[A];第十三届全国图象图形学学术会议论文集[C];2006年

8 阿提开木.吾布力;鲍彦平;刘志民;;我国五个地区海洛因成瘾者多药使用特征和方式调查[A];中国毒理学会第五次全国学术大会论文集[C];2009年

9 卢俊之;;基于机器学习的分词不一致自动识别研究[A];第三届学生计算语言学研讨会论文集[C];2006年

10 陈义刚;吴光辉;;SL系列新型上罗拉轴承外壳锯齿形环形槽的使用特征解析[A];2008首届中国纺织技术与经济发展高层论坛论文集[C];2008年

相关重要报纸文章 前10条

1 王鹏;扯掉MSN“升级”的遮羞布[N];中国电脑教育报;2007年

2 记者 张海志;自主知识产权飞机亮相北京航展[N];中国知识产权报;2007年

3 本报通讯员　石小媛;美丽的三江[N];中国邮政报;2005年

4 缪缤;识包浆质地[N];人民日报海外版;2006年

5 管学军;荣威550登场高举低打[N];中国工业报;2008年

6 谢征;重视青少年业务的情绪体验[N];通信产业报;2008年

7 记者 张冉冉;2006中国移动通信产业高峰论坛在京召开[N];大众科技报;2006年

8 记者 谷慧;平板电视尺寸选择有据可依[N];民营经济报;2006年

9 主持人 任光会;高效促销管理创造客流神话[N];医药经济报;2006年

10 刘鑫邋朱虹 苏志明;美国能源部将制定商用冷藏设备标准[N];中国质量报;2007年

相关博士学位论文 前1条

1 朴昌姬;中韩初中教科书惯用语的比较研究[D];延边大学;2012年

相关硕士学位论文 前10条

1 项凌翔;基于使用行为的Cache设计和运行时Cache性能优化[D];浙江大学;2010年

2 吴翠平;关于「～にもらう」和「～からもらう」的比较[D];东北师范大学;2010年

3 赵晓丽;网络在线聊天语篇的衔接与连贯[D];吉林大学;2006年

4 周权雄;疾病基因密码子使用特征分析及致病基因预测[D];华中科技大学;2006年

5 封齐楚;中外英语硕士毕业论文中使用元语篇手段的对比研究[D];南京师范大学;2008年

6 姜s，

本文编号：2657173