数据值预测与存储器预取技术研究

论文摘要

现代制造技术的发展并未缩小处理器与存储器之间的速度差距,而高性能处理器中指令并行技术的使用,使处理器与存储器之间原来就存在的这种剪刀差有继续扩大的趋势。无论采用大容量的Cache,还是采用多层次的存储器体系结构,有两个问题始终难以解决:如果处理器要访问的数据不在Cache中,则无论在容量和存储器层次结构方面如何调整,都只能将流水线停顿下来;其次,如果Load指令所需要的数据已经取入Cache,由于指令间存在数据相关问题,只要产生指令(Producer Instruction)没有执行完毕,在消费指令(Consumer Instruction)所需要的结果产生之前,流水线都只能停顿。从目前的研究成果来看,解决上述问题的最佳手段是对数据进行预取。根据预取解决问题的对象不同,可以将其归纳为两类。一类是研究如何在Load指令的有效地址计算产生之前,对指令的执行结果进行预测并取入流水线,本文定义为数据值的预测技术;另一类是如何在Load指令发出之前,将所需要的数据由Memory取入Cache中,本文定义为Memory预取技术。本文针对数据值的预测技术和存储器的预取技术进行了深入研究,具体包括:1、利用马尔可夫模型来解决数据值的预测问题。本文从指令流的分析入手,给出了数据值预测的数学描述,建立了相应的马尔可夫模型。由于状态的提取方法不同,计算复杂度和产生的结果亦不相同,因此对状态的定义是数据值预测数学描述中的关键问题之一。根据数据流的特征,将马尔可夫模型的状态定义为滑动窗内一组数据组成的特征向量,通过状态的转移概率进行数据值预测,克服了单纯根据数据值出现的概率大小进行预测的缺陷。仿真结果表明,与采用二级值预测方案以及基于程序语句相关的预侧方案相比,在预测指令的覆盖率上分别提高了9.51%和2.02%,在预测精度上分别提高了12.9%和8.2%,而在IPC上,则分别提高了16.7%和7.4%,构造的马尔可夫模型适用于数据值的预侧。2、基于块最后访问指令跟踪技术,提出了一种混合的Memory预取方案。本方案融合了连续的预取技术以及Cache中块的跟踪技术。它将数据块

论文目录

• 摘要
• Abstract
• 第1章 绪论
• 1.1 课题背景和研究的意义
• 1.2 数据值预测技术
• 1.2.1 预测技术产生的背景
• 1.2.2 数据值局部性的概念
• 1.2.3 基于值局部性预测技术的分类
• 1.3 Memory的预取技术
• 1.3.1 产生的背景
• 1.3.2 基于软件的预取技术
• 1.3.3 基于硬件的预取技术
• 1.3.4 混合的预取技术
• 1.4 本文的主要研究内容
• 1.5 论文结构
• 第2章 马尔可夫模型的数据值预测方案
• 2.1 数据值的局部性
• 2.2 马尔可夫链
• 2.2.1 马尔可夫过程
• 2.2.2 马尔可夫链与转移概率
• 2.3 数据值预测的马尔可夫模型建立
• 2.3.1 数据值预测的数学描述
• 2.3.2 数学模型中的参数设计
• 2.4 预测器的设计
• 2.4.1 预测执行单元
• 2.4.2 重发射机制
• 2.4.3 过滤单元
• 2.4.4 数据值预取的工作过程
• 2.5 实验及结果分析
• 2.5.1 仿真平台与测试基准程序
• 2.5.2 数据流的方向性
• 2.5.3 滑动窗的大小对预测精度的影响
• 2.5.4 数据槽的深度对预测精度的影响
• 2.5.5 入口地址容量大小的选择
• 2.5.6 过滤器对预测覆盖率的影响
• 2.5.7 不同预测器的性能对比分析
• 2.6 本章小结
• 第3章 块最后访问指令跟踪预取技术研究
• 3.1 存储器的数据预取
• 3.2 基于块最后访问指令跟踪的预取技术
• 3.2.1 对及时性问题的预测方案
• 3.2.2 及时性问题的预测器结构
• 3.2.3 准确性的预测方案
• 3.2.4 LBAI中的连续预取
• 3.3 LBAI预取的Cache系统结构
• 3.4 实验结果分析
• 3.4.1 块的访问间隔与沉寂态时间分布
• 3.4.2 主－缓冲Cache结构对缺失率的影响
• 3.4.3 预测精度及存储器的平均访问时间
• 3.5 本章小结
• 第4章 多媒体处理的双核SoC系统设计
• 4.1 多媒体处理器的分类
• 4.2 多媒体处理的双核SoC结构设计
• 4.2.1 SoC系统的整体结构
• 4.2.2 RISC CPU核的设计
• 4.2.3 DSP核的设计
• 4.2.4 系统的通信原理及存储器的一致性
• 4.2.5 哈佛体系结构Cache控制器设计
• 4.3 超长指令字（VLIW）中的并行技术研究
• 4.3.1 MPEG解码对处理器的性能要求
• 4.3.2 多媒体处理器中的并行性
• 4.4 基于步距的混合预取方案
• 4.4.1 存储器的一致性对数据预取的影响
• 4.4.2 多媒体处理中数据流结构对预取的影响
• 4.4.3 基于步距的混合预取结构方案
• 4.5 本章小结
• 结论
• 参考文献
• 攻读博士学位期间所发表的论文
• 致谢
• 个人简历