基于改进PSO的BP网络的研究及应用

论文摘要

BP（Back Propagation）网络的传统BP算法和Widow-Hoff学习规则一样属于一种梯度下降学习算法,其权值的修正是沿着误差性能函数梯度的反方向进行的,由于实际应用的高维复杂性,BP网络采用传统BP算法存在训练速度慢甚至导致网络系统瘫痪的问题。针对传统BP算法存在的一些不足,出现了基于遗传算法（Genetic Algorithm,GA）、粒子群算法（Particle Swarm Optimization,PSO）等BP网络的学习训练算法。特别是粒子群算法的应用,进一步加快了BP网络的学习速度。粒子群算法不要求目标函数具有连续性,且它的搜索具有全局性和并行性,所以算法简单,收敛速度快,且不再有GA算法的选择、交叉、变异等复杂操作。但对高维复杂问题,粒子群算法易早熟收敛,无法保证收敛到最优点。在借鉴前人的研究基础上,本文对粒子群算法的收敛性进行了研究,并根据遗传变异能增加种群多样性的特性给出了改进型算法,即自适应变异粒子群算法（Particle Swarm Optimization with Adaptive Mutation,AMPSO）。AMPSO算法以自然界和物理界的基本原理为导向,并根据环境的变化,通过提高种群多样性的方法使算法获得持续搜索能力,克服了PSO算法的早熟收敛现象。最后,本文将AMPSO算法作为BP网络的学习训练函数,建立了基于AMPSO算法的BP网络。并把该BP网络应用于入侵检测技术中,通过KDD99 CUP数据集分别对基于不同算法的BP网络进行了仿真实验比较,结果表明,基于AMPSO算法的BP网络迭代次数较少,测试平均准确率高,并有效的克服了传统BP算法收敛速度慢的问题。

论文目录

• 摘要
• Abstract
• 第一章 绪论
• 1.1 课题研究的背景
• 1.2 课题研究领域现状分析
• 1.3 本文研究的内容
• 1.4 本文的组织结构
• 第二章 BP 神经网络分析
• 2.1 人工神经网络
• 2.1.1 人工神经网络模型
• 2.1.2 人工神经网络的特点
• 2.1.3 人工神经网络的主要研究方向
• 2.2 BP 神经网络
• 2.2.1 BP 神经元
• 2.2.2 BP 神经网络原理
• 2.2.3 BP 网络的性能分析
• 2.2.4 BP 网络算法的改进分析
• 2.3 小结
• 第三章 粒子群优化算法的研究与改进
• 3.1 理论基础
• 3.2 粒子群优化算法
• 3.2.1 算法起源
• 3.2.2 粒子群优化算法原理
• 3.2.3 粒子群优化算法的特点
• 3.3 粒子群优化算法的发展
• 3.4 本文提出的改进的粒子群（AMPSO）算法
• 3.4.1 AMPSO 算法
• 3.4.2 AMPSO 算法实现
• 3.4.3 仿真实验与结果分析
• 3.5 小结
• 第四章 基于 AMPSO 算法的 BP 网络训练算法设计
• 4.1 基于 AMPSO 的 BP 网络设计
• 4.1.1 粒子群结点定义
• 4.1.2 PSO 自适应变异实现
• 4.1.3 基于 AMPSO 的 BP 网络
• 4.2 基于 AMPSO 的 BP 网络训练算法流程
• 4.3 性能分析
• 4.4 小结
• 第五章 BP 网络在入侵检测中的应用及仿真实验
• 5.1 入侵检测技术
• 5.2 KDD99 数据集概述
• 5.3 仿真实验
• 5.3.1 实验环境
• 5.3.2 数据选取及处理
• 5.3.3 参数设置
• 5.3.4 仿真比较
• 5.3.5 结果分析
• 5.4 小结
• 第六章 总结及展望
• 6.1 结论
• 6.2 主要工作和创新点
• 6.3 进一步的研究工作
• 参考文献
• 致谢
• 附录（攻读学位期间发表论文目录）