GPU架构分析与功耗模型研究

论文摘要

大规模科学计算现在越来越离不开GPU加速。但是,随着GPU架构计算能力的不断增强,其结构越来越复杂,如何充分发挥其计算能力和如何控制其功耗来实现“绿色计算”成为了一个不可回避的巨大挑战。NVIDIA公司最新推出Fermi架构,该架构中包含了多种计算单元,而且具有完整的多级缓存结构,使得GPU架构更加完善。本文的主要工作和创新包括以下两方面:第一,深入研究该架构中的处理单元和各级存储单元的结构,分析GPU架构的执行特点。根据不同指令的特点,实测得出具体指令在GPU计算单元上的执行周期和并发性能;而针对GPU架构根据不同需求而设计的多级、分类详细的存储器结构,深入研究每一种存储器的特点,获得访问不同存储器所需的执行周期。第二,在深入研究GPU架构的基础上提出一种系统级的功耗模型,该模型首先计算出不同native指令及每次访问存储器消耗的功耗;之后,根据应用在硬件上的执行指令和采样工具获得的采样结果,分析预测其功耗。该功耗模型的预测精度达到百分之九十左右。本课题研究内容是国家863重点项目“新概念高效能计算机体系结构及系统研究开发”(2009AA012201)的一部分。

论文目录

• 摘要
• ABSTRACT
• 图录
• 表录
• 第一章 绪论
• 1.1 课题背景
• 1.1.1 GPGPU 发展历程
• 1.1.2 主流GPU 架构
• 1.1.3 现有的编程模型介绍
• 1.1.4 GPU 功耗研究现状
• 1.2 课题的研究内容
• 1.3 本文的主要工作和组织结构
• 1.3.1 本文的主要工作和创新点
• 1.3.2 本文的组织结构
• 第二章 GPU 基本架构介绍
• 2.1 NVIDIA GPU 编程架构
• 2.1.1 CUDA 的编程模型
• 2.1.2 CUDA 存储模型
• 2.1.3 PTX ISA
• 2.1.4 Native 代码
• 2.2 Fermi 总体架构模型
• 2.2.1 Fermi 多核计算架构
• 2.2.2 存储模型
• 2.2.3 超级多线程技术（GigaThread）
• 2.2.4 C2050 介绍
• 2.3 CUDA profiler
• 2.4 本章小结
• 第三章 FERMI 架构分析和测试
• 3.1 计算单元分析
• 3.1.1 计算单元测试代码
• 3.1.2 计算单元性能测试结果
• 3.2 存储单元分析
• 3.2.1 存储器测量代码
• 3.2.2 存储器性能分析
• 3.3 GPU 架构编程的优化方法
• 3.3.1 全局存储器访问优化
• 3.3.2 共享存储器充分利用
• 3.3.3 分支指令和原子操作的避免
• 3.3.4 线程数目的划分
• 3.3.5 IO 墙问题
• 3.4 本章小结
• 第四章 系统级GPU 功耗模型
• 4.1 功耗理论模型
• 4.2 实验装置及实验环境
• 4.2.1 实验装置
• 4.2.2 实验环境干扰消除
• 4.3 参数提取
• 4.3.1 计算单元指令功耗提取
• 4.3.2 存储器单元功耗参数提取
• 4.4 本章小结
• 第五章 系统级功耗模型验证
• 5.1 基准测试应用
• 5.1.1 应用选择原则
• 5.1.2 选定应用介绍
• 5.2 模型验证结果及分析
• 5.3 本章小结
• 第六章 结束语
• 6.1 总结
• 6.2 工作展望
• 参考文献
• 附录1
• 致谢
• 攻读硕士学位期间已发表或录用的论文