群体智能算法在RBF神经网络中的应用

论文摘要

RBFNN以其简单的结构、快速的训练过程和良好的推广能力等诸多优点已在许多应用领域取得了成功,特别在模式识别和函数逼近方面。在RBF神经网络中,隐单元的位置和相应宽度值的选择是整个网络性能优劣的关键,直接影响网络的逼近能力。本文在研究了几种典型的RBFNN结构优化算法的基础上,主要研究了几种群体智能算法,用于对RBFNN隐单元的位置和相应宽度值的优化。群体智能优化算法在解决复杂优化问题方面的优势,使之逐渐显示出广泛的用途和强大的生命力。本论文重点研究了细菌群体趋药性（Bacterial Colony Chemotaxis,BCC）优化算法、粒子群算法（particle swarm optimization,PSO）以及人工鱼群算法（artificial fish-swarm）。分别将这几种群体智能算法做出相应的改进与调整,使之适用于RBF神经网络（RBFNN）的训练,在算法在搜索全局最小点的过程中,力求使RBFNN泛化误差最小化的同时,隐单元位置和相应的宽度值也同时得到优化。本文在BCC算法中引入梯度下降法,并提出一种新的细菌编码方式,注重提高算法速度;在PSO算法训练RBFNN的过程中,利用扩展RPCL聚类方法确定粒子个数,并引入基于全局信息反馈的重新初始化机制保持粒子的活性,取得不错的实验效果;在人工鱼群算法的基础上提出微人工鱼群算法,本算法减少了寻优鱼群的数量,提高了算法的速度,同时提高了人工鱼群的活力,并由此增强了RBFNN的泛化能力。本文最后将这几种群体智能算法优化的RBFNN用于几种模式识别的实验中,分别与传统遗传算法（SGA）以及k-means等算法做出比较,RBFNN可取得更好的泛化效果。

论文目录

• 摘要
• Abstract
• 引言
• 第一章 绪论
• 1.1 神经网络技术的发展与现状
• 1.2 本文的所做工作及内容安排
• 第二章 RBFNN结构及权值算法研究
• 2.1 RBFNN结构及其特点
• 2.2 RBFNN的权值算法研究
• 2.2.1 M-P伪逆算法
• 2.2.2 递推最小二乘算法
• 2.2.3 递推正交最小二乘法
• 第三章 RBFNN隐单元数量的确定方法
• 3.1 K-MEANS算法
• 3.2 减聚类算法
• 3.3 RPCL以及扩展RPCL算法
• 第四章 基于菌群算法的RBFNN
• 4.1 细菌算法
• 4.2 BCC算法
• 4.2.1 引诱剂环境下细菌信息交互模式
• 4.2.2 BCC算法描述
• 4.3 改进的菌群RBFNN
• 4.3.1 RBFNN的细菌的编码和初始化
• 4.3.2 最速下降法调整RBFNN参数
• 4.3.3 RBFNN结构优化算法
• 4.4 仿真实验
• 4.5 结论
• 第五章 基于粒子群算法的RBFNN
• 5.1 粒子群算法介绍
• 5.2 基于全局信息反馈的重新初始化过程
• 5.3 PSO算法应用于RBFNN的详细设计
• 5.4 仿真实验
• 5.5 结论
• 第六章 基于人工鱼群算法的RBFNN
• 6.1 人工鱼群算法介绍
• 6.2 人工鱼群算法行为描述
• 6.3 微人工鱼群算法简介
• 6.4 基于微人工鱼群算法的RBFNN
• 6.4.1 人工鱼的编码及初始化
• 6.4.2 总体算法步骤
• 6.5 仿真实验
• 6.5.1 IRIS以及双螺旋分类实验
• 6.5.2 人脸识别实验
• 6.6 结论
• 第七章 总结和展望
• 参考文献
• 攻读学位期间的研究成果
• 致谢