微粒群优化算法及其在人工神经网络中的应用

微粒群优化算法及其在人工神经网络中的应用

论文摘要

微粒群优化算法(PSO)是一种基于种群搜索策略的自适应随机优化算法,是由Kennedy和Eberhart于1995年提出的。作为群智能的典型代表,PSO算法己被证明是一种有效的全局优化方法,现已广泛应用于函数优化、神经网络、模糊系统控制和模式识别等多个领域,具有较好的工程应用前景。本文主要对PSO算法的改进及其在人工神经网络训练中的应用做了较深入的研究,其主要内容包括:1.介绍了PSO算法的基本原理及改进途径,归纳了可以提高算法性能的四种途径,并对每种途径都做了详细介绍。对PSO算法的收敛性进行了实验分析和数学分析,解释了过早收敛的原因;2.针对协同微粒群优化算法存在的停滞现象,提出了一种改进的协同微粒群优化算法——基于粒子空间扩展的协同微粒群算法(SE-CPSO)。在SE-CPSO算法中,引入了粒子半径和跳出因子的概念,即如果两个粒子在运行过程中发生相互碰撞,则采用位置跳出策略,以避免算法发生停滞现象。对多个函数的测试结果表明:对不同的函数,该算法的最佳参数组合不同,但都能有效避免了粒子碰撞带来的停滞现象问题,增强了粒子搜索较好解的能力,而且很大程度上提高了算法的鲁棒性和搜索效率。然后,将SE-CPSO算法与GCPSO-CPSO算法在收敛速度、鲁棒性等方面进行比较,结果显示,SE-CPSO算法的收敛速度明显要快得多,鲁棒性更强;3.将协同微粒群算法运用于神经网络的训练,主要训练两类神经网络——加和神经网络和倍乘神经网络,并使用Iris标准分类数据集进行性能测试,结果表明,协同微粒群算法能和其它技术一样能训练神经网络,同时显示了在两类神经网络中,倍乘神经网络的最好分裂因子要比加和神经网络的要小。

论文目录

  • 摘要
  • ABSTRACT
  • 1 绪论
  • 1.1 引言
  • 1.2 微粒群优化算法的研究现状
  • 1.3 本文的主要工作
  • 2 微粒群优化算法
  • 2.1 基本微粒群优化算法原理
  • 2.1.1 算法原理
  • 2.1.2 算法流程
  • 2.2 两种基本进化模型
  • 2.2.1 Gbest 模型
  • 2.2.2 Lbest 模型
  • 2.3 两种经典的PSO 模型
  • 2.3.1 惯性权重模型
  • 2.3.2 收敛因子模型
  • 2.4 微粒群算法的改进模型
  • 2.4.1 加入其它进化机制
  • 2.4.2 提高种群多样性
  • 2.4.3 提高收敛速度
  • 2.4.4 算法离散化
  • 2.5 与其他进化算法的比较
  • 2.6 PSO 算法的应用
  • 2.7 小结
  • 3 PSO 算法的收敛性分析及参数选取
  • 3.1 引言
  • 3.2 实验分析
  • 3.3 数学分析
  • 3.4 收敛性证明
  • 3.5 小结
  • 4 改进的微粒群优化算法
  • 4.1 引言
  • 4.2 保证收敛的微粒群优化算法
  • 4.3 协同微粒群优化算法
  • 4.3.1 算法原理
  • 4.3.2 CPSO 改进模型
  • 4.4 基于粒子空间扩展的协同PSO 算法
  • 4.4.1 算法设计
  • 4.4.2 仿真实验及结果
  • 4.5 小结
  • 5 微粒群优化算法在人工神经网络中的应用
  • 5.1 引言
  • 5.2 人工神经网络
  • 5.2.1 基本概念
  • 5.2.2 网络学习与泛化能力
  • 5.3 PSO 优化神经网络
  • 5.3.1 算法设计
  • 5.3.2 算法的评价与分析
  • 5.4 基于协同PSO 算法优化神经网络
  • 5.4.1 两类神经网络
  • 5.4.2 仿真实验及结果
  • 5.5 小结
  • 致谢
  • 参考文献
  • 附录
  • 相关论文文献

    标签:;  ;  ;  ;  

    微粒群优化算法及其在人工神经网络中的应用
    下载Doc文档

    猜你喜欢