面向访问模式的多核末级Cache优化方法

发布时间：2019-07-29 13:14

【摘要】：多核处理器架构已经成为当前处理器的主流趋势,应用程序中访问模式的多样性给多核处理器的末级Cache带来了许多挑战。提出了访问模式的多核末级Cache优化方法,它包含"可配置的共享私有Cache划分"、"可配置的旁路Cache策略"和"优先权替换策略"三个协同递进的层次。通过使用该方法,程序员能够灵活地改变末级Cache执行行为,从而高效地适应应用程序访问模式的变化。实验结果表明,提出的方法能够显著降低末级Cache的缺失率,进而提高系统的整体性能。
【图文】：

上下移动。考虑到实际应用需求以及实现复杂度，整个DDＲ空间以2的幂分成8种高低位地址交叉区间比例。假设整个外存空间大小是S，那么对应的高位地址交叉编址区间的大小分别为S，S/2，S/4，S/8，S/16，S/32，S/64，S/128，剩余区间采用低位地址交叉编址。程序员可以通过设定外存空间的编址方式来实现共享Cache与私有Cache空间的划分。其中，私有Cache空间可以通过高位地址交叉区间映射到LLC来实现，即程序员将不同核的私有数据分别放置在不同的DDＲ上，DSP核就可以高效地通过本地LLC就近访问这一区间，不仅可以减图1DDＲ空间的高低地址交叉编址方式Fig．1High-lowinterleavedmodeofDDＲspace少互连网络的负担，而且可以减少访问延迟。共享Cache空间则通过低位地址交叉编址方式将共享数据段分散放置在不同的DDＲ，这样的设置可以使DDＲ的访问比较均匀，同时能充分发挥多个LLC子体和多个DDＲ的带宽。1．2可配置的旁路Cache策略上述可配置的共享私有Cache的划分策略提高了LLC的整体空间利用率。然而应用中普遍存在的零重用数据块访问(如只会对数据块访问一次的流式访问模式)，将会严重破坏高重用数据块的访存行为，造成整个LLC性能的极大损失。为了尽可能地削弱这些低重用数据块对整个LLC的影响，通过可配置的旁路Cache策略使之不缓存在Cache中，并且在实际处理中，驻留Cache请求与旁路Cache请求隔离，前台的可Cache请求不会被后台旁路Cache请求干扰。具体实现如图2所示:每一个子LLC提供一组旁路寄存器，包括旁路使能寄存器、旁路起始地址寄存器与旁路字偏移寄存器，程序员根据需求通过设置这三个寄存器来配置其旁路地址区间。每个请求源根据请求地址和旁路寄存器的内容判断请求是否旁路LLC，对于旁路Cache的请求直图2

面向访问模式的多核末级Cache优化方法

，同时能充分发挥多个LLC子体和多个DDＲ的带宽。1．2可配置的旁路Cache策略上述可配置的共享私有Cache的划分策略提高了LLC的整体空间利用率。然而应用中普遍存在的零重用数据块访问(如只会对数据块访问一次的流式访问模式)，将会严重破坏高重用数据块的访存行为，造成整个LLC性能的极大损失。为了尽可能地削弱这些低重用数据块对整个LLC的影响，通过可配置的旁路Cache策略使之不缓存在Cache中，并且在实际处理中，驻留Cache请求与旁路Cache请求隔离，前台的可Cache请求不会被后台旁路Cache请求干扰。具体实现如图2所示:每一个子LLC提供一组旁路寄存器，包括旁路使能寄存器、旁路起始地址寄存器与旁路字偏移寄存器，程序员根据需求通过设置这三个寄存器来配置其旁路地址区间。每个请求源根据请求地址和旁路寄存器的内容判断请求是否旁路LLC，对于旁路Cache的请求直图2可配置的旁路Cache的实现流程Fig．2FlowoftheconfigurablebypassCache·80·
【作者单位】：国防科技大学计算机学院;
【基金】：国家自然科学基金资助项目(61133007,61402500)
【分类号】：TP332

【共引文献】