分布式计算环境论文-李康

分布式计算环境论文-李康

导读:本文包含了分布式计算环境论文开题报告文献综述及选题提纲参考文献,主要关键词:分布式计算,调度模式,高能物理,资源预分配

分布式计算环境论文文献综述

李康[1](2018)在《JUNO分布式计算环境下多核作业支持与调度的研究》一文中研究指出江门中微子实验(JUNO)是我国第二个大型中微子实验项目,每年产生PB量级的原始数据。为满足海量数据处理与分析的需求,中科院高能物理研究所通过整合全球多个合作组成员单位的计算资源,搭建了JUNO分布式计算环境。随着实验数据的累积和物理事件复杂度的增长,实验作业对内存资源的消耗不断增加。因此,JUNO实验计划利用多核模式来满足每个作业的内存需求。本文针对分布式计算环境下多核作业的支持与调度进行了研究,主要工作如下:(1)根据JUNO实验需求,对分布式计算环境所需的多核作业支持进行研究。在现有的引导代理机制下,设计了一种异构资源分配策略,降低了作业与资源匹配的延迟,并优化了用户对异构资源的访问;基于对现有作业调度模式的研究,依据JUNO作业的应用特征,提出一种基于公用引导代理的多核作业调度模式,使作业的调度从站点转移到了代理内部,缓解了站点对作业调度和配置的复杂性。(2)在公用引导代理的多核作业调度模式下,对作业调度问题进行研究,提出了一种基于面向作业资源需求的调度算法。该算法结合了回填策略和优先级调度算法,在空闲资源面前,以满足资源需求的最佳大小作业优先的方式,减少了资源碎片的产生。同时,对二级优先级达到阈值的作业进行资源的预留,缓解了作业的饥饿问题。实验结果表明,该算法在一定程度上提升了整体资源利用率和作业执行效率。(3)综合考虑分布式计算环境的整体结构和资源分布,依据多核支持的功能需求,对多核模型的整体架构进行设计,并基于中间件软件,采用资源共享池、动态匹配服务和并行化执行等技术实现了分布式计算环境对多核作业的调度与执行。目前,多核作业已被应用于实验数据的分析和处理,测试结果表明其性能能够满足实验需求。(本文来源于《苏州大学》期刊2018-05-01)

张剑波,夏灯城,赵加奥,李谢清,崔永键[2](2017)在《分布式计算环境下的栅格数据存储策略》一文中研究指出针对传统的栅格数据存储策略不能满足分布式计算环境下粗粒度数据访问需求,应对海量栅格数据计算时效率低下的问题,结合分布式文件系统的存储特点,同时考虑地图代数算子在Map/Reduce阶段以栅格瓦片为单位的计算特点,提出一种基于Hadoop分布式文件系统的栅格瓦片存储策略。围绕栅格数据瓦片分割、压缩瓦片数据组织与存储、分布式文件输入输出接口改进等方面对该存储策略加以实现,并使用基于该存储策略的地图代数局部算子的分布式计算流程加以验证。理论分析与实验结果表明,该策略能够显着提高分布式计算环境下空间分析算子的运算速度。(本文来源于《国防科技大学学报》期刊2017年06期)

孙彬,高进,王其祥[3](2017)在《基于Java技术的分布式计算环境研究》一文中研究指出Java技术自身具备有强大的分布式计算能力,并能够作为一种共享分布式通信以及对象存储的机制来运用,本文就在对分布式计算环境的任务分解以及并行同步等特点进行针对性分析的基础上,来对基于Java技术的分布式计算环境进行了分析研究。(本文来源于《信息系统工程》期刊2017年11期)

李云洋,周川,王琦[4](2018)在《异构分布式计算环境下一种新型表调度算法》一文中研究指出针对异构分布式环境下并行计算的静态任务调度问题,在HEFT算法的基础上,提出一种新型表调度算法IFEFT。以最小化有向无环图(DAG)的执行跨度为目的,在任务处理器分配阶段改变HEFT算法中的处理器分配策略,计算任务最早完成时间与其出口任务之间的最大通信开销,并依据两者乘积的最小值进行分配,兼顾任务对其直接后驱任务和直接前驱任务完成时间的影响,以优化处理器分配结果。通过随机生成的DAG图进行仿真,与HEFT、DLS和CPOP算法的比较结果表明,IFEFT算法具有更高的调度效率。(本文来源于《计算机工程》期刊2018年08期)

马颖[5](2017)在《分布式计算环境下网络数据加密技术研究》一文中研究指出分布式计算机系统,是指硬件连接匹配功能的局域网,分布式是计算机系统的一种运行方式,采用网络数据加密技术,营造安全的数据环境,规避潜在的技术风险。本文主要在分布式计算环境下,探讨网络数据加密技术的应用。(本文来源于《数字技术与应用》期刊2017年09期)

丁晓阳,罗阳,王建新[6](2017)在《层次化聚类在分布式计算环境中的剪枝策略》一文中研究指出基于树结构中结点覆盖关系的一类层次化聚类算法可以对海量数据生成有意义的摘要。然而,该算法已被证明是NP-完全问题,求解其精确解需要庞大的计算量。虽然它在单机计算环境中存在有效的剪枝方法,但在分布式计算环境中这种剪枝算法并不可行。相应地提出了该层次聚类算法在分布式环境中的剪枝新策略,通过绑定结点与其覆盖的基本事件构成的有序数组,使穷举查询转换为有序数组的求交集运算,并能够在合并过程中执行大量剪枝,从而在有限的额外空间消耗的基础上显着减少计算时间。在2组公开基准数据集上进行了测试,结果表明,相比朴素的分布式计算策略,新的层次化聚类算法在时间效率上平均有30~40倍左右的提升。(本文来源于《计算机应用与软件》期刊2017年05期)

陈炯[7](2017)在《BESⅢ分布式计算环境下异构资源监控系统的设计与实现》一文中研究指出北京谱仪Ⅲ(BESⅢ)实验是一个大型国际合作高能物理实验,每年都会产生PB量级的实验数据。为满足海量数据的处理需求,BESⅢ实验整合了多个合作组织的计算和存储资源,搭建了一个集计算集群、网格资源以及云平台于一体的分布式计算环境。计算环境中的资源具有高度的分布性和异构性特点,需要对这些资源进行统一的监控管理以保证其运行的稳定性。本文对BESⅢ分布式计算资源监控系统的设计与实现进行研究,主要工作如下:(1)调研国内外高能物理领域在分布式计算资源监控方面的研究现状,借鉴其系统设计的经验,并结合BESⅢ分布式计算环境自身的特点,设计了一个统一的异构资源监控系统框架。(2)分析不同信息的收集流程,设计并实现了可扩展的信息收集模块。对于分布式计算环境中异构和分散的信息,设计不同的收集器,从各个信息源收集资源的统计量信息;同时对于各类资源所提供的不同服务,设计相应的可用性测试,用于收集资源的可用性状态信息。(3)针对资源的控制管理,参考XACML访问控制语言规范,设计并实现了一个基于策略的资源管理模块。根据收集的监控信息,设计相应的策略对这些信息进行分析和挖掘,评估资源的访问状态。并且实现了基本的资源管理动作,用于根据策略评估的状态对资源执行自动的管理控制。(4)设计并实现了web端的信息访问入口。对于实时信息以及历史信息,分别设计相应的web页面进行展示。监控信息采用层次化的展示方式,用户可以通过概要信息快速了解资源的运行状况,并依据需要获取详细的信息。(本文来源于《苏州大学》期刊2017-05-01)

吴爱芝[8](2016)在《Hadoop在多数据中心分布式计算环境中的应用研究》一文中研究指出针对Hadoop和MapReduce在空间大数据处理上存在的局限性,研究Hadoop平台在分布式计算环境中跨多数据中心的应用。提出了层次化Hadoop分布式计算框架,通过虚拟HDFS文件视图实现全局数据访问,由任务调度器自动将任务分解到对应的数据中心所在计算节点上,给出了任务处理和调度流程。(本文来源于《现代商贸工业》期刊2016年26期)

沈利香,曹国[9](2015)在《分布式计算环境下的入侵检测数据分类研究》一文中研究指出为了有效处理迅速增长的海量信息数据安全问题,在Hadoop云计算平台上,应用朴素贝叶斯算法和Logistic回归算法对入侵检测大数据进行并行计算分析。实验在伪分布模式和分布模式下进行计算,结果表明2种算法分类准确率均超过90%,Logistic回归算法比朴素贝叶斯算法运行时间更长;集群环境下运行的朴素贝叶斯算法可以有效降低运行时间。综合算法运行时间和分类准确率等因素,朴素贝叶斯算法比Logistic回归算法更能有效处理入侵检测大数据;并行计算下朴素贝叶斯算法可以有效分析入侵检测大数据。(本文来源于《计算机与现代化》期刊2015年12期)

柳玉,向东阳,郑春弟[10](2016)在《面向异构分布式计算环境的并行任务调度优化方法》一文中研究指出分布式计算环境中并行作业的任务调度策略直接影响应用程序的执行时间,寻找一种使任务执行时间最短的调度方案已被证明是NP(non-deterministic polynomial)完全问题。首先给出了异构分布式计算系统的形式化描述,建立了静态任务调度问题的理论体系,通过分析总结最长动态关键路径(longest dynamic critical path,LDCP)算法的核心思想及存在的不足,提出一种运用结点信息流量减少CPU空闲时间碎片的并行任务调度优化算法,其时间复杂度为O(M×N~3)。实验表明改进后的算法在调度长度、加速比及计算效率3个指标上均优于LDCP算法和分层结点排序算法(sorted nodes in leveled directed acyclic graph division,SNLDD),其中,与LDCP、SNLDD相比,调度长度平均缩短19.03%、8.02%,加速比平均提升18.42%、7.96%,计算效率平均提高10.17%、3.72%,进一步提高了并行系统的资源利用率。(本文来源于《系统工程与电子技术》期刊2016年02期)

分布式计算环境论文开题报告

(1)论文研究背景及目的

此处内容要求:

首先简单简介论文所研究问题的基本概念和背景,再而简单明了地指出论文所要研究解决的具体问题,并提出你的论文准备的观点或解决方法。

写法范例:

针对传统的栅格数据存储策略不能满足分布式计算环境下粗粒度数据访问需求,应对海量栅格数据计算时效率低下的问题,结合分布式文件系统的存储特点,同时考虑地图代数算子在Map/Reduce阶段以栅格瓦片为单位的计算特点,提出一种基于Hadoop分布式文件系统的栅格瓦片存储策略。围绕栅格数据瓦片分割、压缩瓦片数据组织与存储、分布式文件输入输出接口改进等方面对该存储策略加以实现,并使用基于该存储策略的地图代数局部算子的分布式计算流程加以验证。理论分析与实验结果表明,该策略能够显着提高分布式计算环境下空间分析算子的运算速度。

(2)本文研究方法

调查法:该方法是有目的、有系统的搜集有关研究对象的具体信息。

观察法:用自己的感官和辅助工具直接观察研究对象从而得到有关信息。

实验法:通过主支变革、控制研究对象来发现与确认事物间的因果关系。

文献研究法:通过调查文献来获得资料,从而全面的、正确的了解掌握研究方法。

实证研究法:依据现有的科学理论和实践的需要提出设计。

定性分析法:对研究对象进行“质”的方面的研究,这个方法需要计算的数据较少。

定量分析法:通过具体的数字,使人们对研究对象的认识进一步精确化。

跨学科研究法:运用多学科的理论、方法和成果从整体上对某一课题进行研究。

功能分析法:这是社会科学用来分析社会现象的一种方法,从某一功能出发研究多个方面的影响。

模拟法:通过创设一个与原型相似的模型来间接研究原型某种特性的一种形容方法。

分布式计算环境论文参考文献

[1].李康.JUNO分布式计算环境下多核作业支持与调度的研究[D].苏州大学.2018

[2].张剑波,夏灯城,赵加奥,李谢清,崔永键.分布式计算环境下的栅格数据存储策略[J].国防科技大学学报.2017

[3].孙彬,高进,王其祥.基于Java技术的分布式计算环境研究[J].信息系统工程.2017

[4].李云洋,周川,王琦.异构分布式计算环境下一种新型表调度算法[J].计算机工程.2018

[5].马颖.分布式计算环境下网络数据加密技术研究[J].数字技术与应用.2017

[6].丁晓阳,罗阳,王建新.层次化聚类在分布式计算环境中的剪枝策略[J].计算机应用与软件.2017

[7].陈炯.BESⅢ分布式计算环境下异构资源监控系统的设计与实现[D].苏州大学.2017

[8].吴爱芝.Hadoop在多数据中心分布式计算环境中的应用研究[J].现代商贸工业.2016

[9].沈利香,曹国.分布式计算环境下的入侵检测数据分类研究[J].计算机与现代化.2015

[10].柳玉,向东阳,郑春弟.面向异构分布式计算环境的并行任务调度优化方法[J].系统工程与电子技术.2016

标签:;  ;  ;  ;  

分布式计算环境论文-李康
下载Doc文档

猜你喜欢