具有数据依赖的对等高性能计算关键技术研究

具有数据依赖的对等高性能计算关键技术研究

论文摘要

对等高性能计算系统为解决在任务级并行的计算密集型对等高性能应用所提供的潜在计算能力能够超过以往任何计算系统,因而受到越来越多的关注。然而,现有的典型对等高性能计算系统由于不支持具有数据依赖关系的对等高性能应用而受到限制。因此,有必要研究新的对等高性能计算技术,使对等高性能计算系统支持具有数据依赖关系的应用,从而达到推广对等高性能计算系统的目的。为了支持任务间具有数据依赖关系的对等高性能应用,重点研究对等高性能计算中的计算资源管理策略、任务调度机制和编程模型这三种关键技术;基于这些技术提出对等高性能计算系统P2HP-2(A Peer-to-peer based High performance computingPlatform-Ⅱ),并结合一个运行实例,对系统的总体性能进行综合评价。根据具有数据依赖关系的任务对资源分配的要求,通过对等网络GTapestry管理对等高性能计算资源。GTapestry是一个基于无结构工作组的结构化对等网络,从两方面考虑网络匹配要求:其一是对象分派与区域网络构造之间的匹配,其二是虚拟网络和物理网络之间的邻近匹配。为了提高路由效率,GTapestry采用一个对象指针备份机制,即在任务的发布路径上备份任务对象地址,若在路由过程中遇到目标对象的备份地址,则根据该地址直接重定向到对象的实际寄存节点。为了对具有数据依赖关系的应用进行调度,提出了一种协商协同任务调度策略,它根据任务间的数据依赖关系和计算资源的局部邻居表,通过局部协商的方式对依赖任务进行分派和调度。其中,依赖任务的分派通过协商机制完成,即节点将当前任务的依赖任务赋予优先级,并在与它的邻居节点进行协商后,将依赖任务分派给其中的一个邻居节点。任务的运行通过协同调度机制完成,即在设置好任务运行所需的程序、参数和依赖数据后,运行时系统对任务进行非抢占式单任务调度。同时,各个计算节点根据当前的任务负载,通过局部协商方式动态调整任务的分配,从而实现动态负载平衡。为了对具有数据依赖关系的应用进行并行化编程,以任务与运行时系统的交互模型为基础,研究了一种单边消息通信编程模型OMP(One-sided Message Passingprogramming model),它由通信库和软件开发包组成。通信库提供了一种单边消息通信机制,并在此基础上实现了软件开发包;应用程序员利用开发包提供的应用编程接口(API,Application Programming Interface),可以通过模块分割的方式对串行程序进行分布式改造。基于编程模型OMP,依赖任务可以利用它所提供的应用编程接口,在应用级主动发起数据请求,进而结合GTapestry的节点通信机制和协商协同任务调度策略,满足任务对依赖数据的请求。为了验证基于GTapestry的计算资源管理策略、协商协同任务调度机制和单边消息通信编程模型这三种对等高性能计算技术能够支持具有数据依赖关系的应用,利用它们实现了对等高性能计算系统P2HP-2,并针对蛋白质折叠应用,提出并实现了具有静态树状任务依赖关系的1-level-core并行Threading算法,依据该并行算法对系统进行测试和综合性能分析。与结构化对等网络Tapestry相比,GTapestry更加稳定,且路由效率更高,而动态维护开销更少,通过理论分析和实验,表明基于GTapestry的计算资源管理策略能够满足依赖任务之间的通信需求,并且通信延迟较小;并且协商协同任务调度机制能够对具有数据依赖关系的应用进行调度,它能够自适应于动态计算环境。最后,综合性能分析验证了基于GTapestry的计算资源管理策略、协商协同任务调度机制以及单边消息通信编程模型,使得对等高性能计算系统P2HP-2能够支持具有数据依赖关系的对等高性能应用。

论文目录

  • 摘要
  • Abstract
  • 1 绪论
  • 1.1 对等高性能应用
  • 1.2 对等高性能计算系统的发展现状
  • 1.3 研究的范围和主要方法
  • 1.4 本文组织结构
  • 2 对等高性能计算系统的资源管理策略
  • 2.1 资源管理目标
  • 2.2 依赖任务的网络匹配要求
  • 2.3 对等高性能计算的资源管理框架
  • 2.4 基于GTapestry的计算资源管理策略
  • 2.5 性能分析
  • 2.6 本章小结
  • 3 协商协同任务调度机制
  • 3.1 任务的数据依赖关系描述
  • 3.2 依赖任务的协商分派
  • 3.3 依赖任务的协同调度
  • 3.4 动态负载平衡
  • 3.5 任务调度理论分析
  • 3.6 任务调度实验分析
  • 3.7 本章小结
  • 4 单边消息通信编程模型
  • 4.1 依赖任务的交互模型
  • 4.2 编程模型的总体结构
  • 4.3 面向依赖任务的单边消息通信
  • 4.4 具有数据依赖关系的应用的并行化
  • 4.5 本章小结
  • 5 系统测试与综合性能分析
  • 5.1 性能测试方案
  • 5.2 Threading算法概述
  • 5.3 1-level-core并行Threading算法
  • 5.4 性能分析
  • 5.5 本章小结
  • 6 总结与展望
  • 致谢
  • 参考文献
  • 附录1 攻读博士学位期间的学术论文及成果
  • 附录2 攻读博士学位期间参加的主要科研项目
  • 相关论文文献

    标签:;  ;  ;  ;  ;  ;  

    具有数据依赖的对等高性能计算关键技术研究
    下载Doc文档

    猜你喜欢