基于并行PSO的模式分类算法及其应用研究

论文题目: 基于并行PSO的模式分类算法及其应用研究

论文类型: 硕士论文

论文专业: 计算机应用技术

作者: 张蕾

导师: 杨波

关键词: 并行计算,神经网络,模式分类,神经网络集成

文献来源: 济南大学

发表年度: 2005

论文摘要: 模式分类是许多工程领域如自控监测、图像识别、故障诊断、物料配制、医疗诊断等领域广泛应用的一种关键技术。经典的模式分类方法主要是基于多元统计分析方法,近年来人工神经网络技术也逐渐成为模式分类的有效工具。这两类方法各有所长,多元统计分析方法计算规范,有明确的概率意义,但需要有足够多的样本,并且要遵从一定的分布;人工神经网络技术表达能力强,适用范围广,但网络设计困难,训练费时,还存在局部极值等缺点。用于模式分类问题的神经网络大多数采用多层前向神经网络,并且使用反向传播算法(BP算法)。但BP算法过度依赖于初始权值的选择,收敛速度缓慢且容易陷入局部最优。BP算法的上述缺陷使其训练的神经网络的输出具有不一致性和不可预测性,导致模式分类的可靠性降低。遗传算法的并行搜索策略及全局优化特性使其成为日益普遍的神经网络训练算法。通过实验证明,与BP算法相比,遗传算法(GA算法)训练的神经网络在提高分类正确率的同时可以加快训练的收敛速度。但是遗传算法复杂的遗传操作如选择、复制、交叉、变异使神经网络的训练时间随着问题的规模及复杂程度呈指数级增长,并且由于缺乏有效的局部区域搜索机制,算法在接近最优解时收敛缓慢甚至出现收敛停滞现象。粒子群优化算法(PSO算法)是一种基于群体智能理论的优化算法,通过种群中粒子间的合作与竞争产生的群体智能指导优化搜索。PSO算法保留了基于种群的全局搜索策略,采用的速度-位移模型操作简单,避免了复杂的遗传操作。随着科学计算的不断发展,问题搜索空间的不断扩大,面对越来越复杂的搜索空间,传统的进化计算的方法通常与种群规模、参数的选择、问题的复杂程度等因素有关,当种群规模较大、参数较复杂、搜索空间巨大时,在单个CPU上运行的优化算法通常需要很长的计算时间,甚至有时无法得到满意的结果。进化计算由于其本身的内在的并行性,特别适合大规模的并行计算。将并行计算机的高速并行性与进化计算的天然并行性相结合,能够有效的解决了大规模的优化问题。本文提出了一种并行粒子群优化算法PPSO,该算法采用Master-Slave及SPMD

论文目录:

摘要

ABSTRACT

第一章引言

1.1 课题研究的背景

1.2 课题研究的目的及意义

1.3 课题研究的主要内容

第二章串行PSO 算法

2.1 引言

2.2 PSO 算法原理

2.3 PSO 算法的数学描述

2.4 PSO 算法流程

2.5 参数设置

2.6 与其它进化计算的比较

2.7 PSO 算法应用领域

第三章并行PSO 算法

3.1 并行PSO 算法的基本思想

3.2 并行层次及代码粒度的选择

3.3 并行编程模式的设计

3.4 任务分配方案

3.5 消息传递

3.6 并行PSO 算法流程

3.7 并行算法的评价及其复杂性分析

第四章基于并行PSO 的模式分类算法的研究

4.1 基于并行PSO 的单个神经网络优化算法

4.2 神经网络集成并行算法的研究

第五章基于并行PSO 神经网络优化算法在MPICH 环境中的实现

5.1 MPICH 简介

5.2 并行PSO 神经网络优化算法在MPICH 环境中的实现

5.3 实验环境

5.4 实验结果

总结

参考文献

致谢

攻读硕士学位期间发表的学术论文

攻读硕士学位期间参与的科研项目

发布时间: 2006-12-28

参考文献

[1].基于PSO算法的移动机器人路径规划[D]. 陈伟.东北大学2008
[2].基于动态邻域扰动学习的人工蜂群聚类算法[D]. 牟锐.西安理工大学2019
[3].概率粗糙集动态并行计算研究及其在Spark平台的应用[D]. 汤涛.南昌大学2018
[4].CUDA并行计算及其在飞行器制导控制的应用研究[D]. 陈煜琦.华中科技大学2017
[5].基于异构集群的SVM并行计算研究[D]. 张仁洪.电子科技大学2018
[6].基于改进PSO算法的传感网覆盖问题研究[D]. 宋明智.江南大学2014
[7].云计算环境下基于改进PSO算法的任务调度研究[D]. 宋寒冰.吉林大学2017
[8].改进PSO算法在图像配准中的应用[D]. 王鹤.太原理工大学2013
[9].改进PSO算法及其应用[D]. 余港.成都理工大学2010
[10].基于水平集的PSO算法优化及其应用研究[D]. 宋超.江南大学2008

基于并行PSO的模式分类算法及其应用研究

猜你喜欢