基于智能算法的神经网络优化及其应用

论文摘要

随着人工神经网络越来越广泛地被应用于各类科研领域,对其优化算法和应用技术的研究成了人工神经网络领域的重点方向。目前,在利用智能算法优化神经网络、应用神经网络实现模糊推理控制这2方面,已经取得了一定进展,但存在着训练数据成几何形增大,应用性能不稳定等缺陷。在充分研究神经网络、群体智能算法、模糊逻辑基本概念的基础上,本文利用新的群体智能算法优化神经网络结构和学习规则,实现有监督模糊聚类、自适应神经-模糊控制,做了以下工作:1、提出了一种基于QPSO（Quantum Particle Swarm Optimization）的神经网络训练算法,并对神经网络进行训练,将其结果与传统神经网络训练算法相比较,该算法具有收敛速度快,对数据离散程度高的问题更易实现全局收敛的特点。2、提出了基于群体智能集成的神经网络结构优化算法,采用间接编码方案表达网络结构,利用二维细胞自动机中的元细胞表示网络连接,对元细胞的坐标和值分别演化,实现网络结构的生长和剪枝,其中包括:利用二进制量子化粒子群算法BQPSO（Binary Quantum Particle Swarm Optimization）,导出特定的适应度函数,生成并进化元细胞的坐标;利用元细胞邻域演化规则,演化元细胞的值;利用浮点量子化粒子群算法QPSO训练当前网络;最后得到最终稳定的网络结构及其参数。本算法采用元细胞的坐标和值分别演化,突破了目前常见的网络结构设计算法中,结构编码方案的长度成几何形膨胀、且不易实现的局限性。3、在研究有监督模糊聚类SFCM（Supervised Fuzzy C-Clustering）神经网络的基础上,提出了一种新的结合输入空间聚类特性和输出空间实时逼近特性的模糊聚类目标函数,在模糊聚类中引入监督因素,构造并实现一种新型的模糊聚类神经网络。该方法在初值敏感性、有效收敛稳定性、收敛速度等方面相对于传统模糊聚类都有明显改善。4、针对机器人在未知、复杂环境下从源到目标之间,自主避开各种类型的障碍的问题,设计了神经-模糊控制算法实现动态路径规划,包括:模糊控制体系,实现输入模糊化、模糊推理规则库、输出去模糊化控制;根据规则库设计实现模糊控制的神经网络,简化了网络结构和参数集;基于QPSO的网络训练;机器人状态变量的记忆、环境信息的设置和管理策略,解决了“U”型障碍物内的死循环路径问题。本算法有效的解决了常规神经-模糊控制系统中,有可能造成机器人死循环路径的“U”型障碍物跨越问题,以及因网络规模大和采用传统的梯度下降训练法训练网络而带来的性能问题。

论文目录

• 摘要
• ABSTRACT
• 第一章 绪论
• 1.1 概述
• 1.1.1 神经网络
• 1.1.2 群体智能
• 1.1.3 模糊逻辑推理
• 1.2 神经网络优化研究现状
• 1.3 神经网络在模糊逻辑系统中的应用研究现状
• 1.4 研究思路及内容简介
• 1.4.1 研究思路
• 1.4.2 研究内容
• 第二章 基于群体智能的神经网络训练算法
• 2.1 神经网络训练过程分析
• 2.2 QPSO算法分析
• 2.2.1 PSO算法
• 2.2.2 QPSO算法
• 2.3 基于QPSO的网络训练算法
• 2.4 实验及结果分析
• 2.4.1 函数拟合实验
• 2.4.2 订购提前期参数分类实验
• 2.4.3 IRIS数据集分类
• 2.4.4 结论分析
• 第三章 基于群体智能集成的神经网络结构设计算法
• 3.1 网络结构编码概述
• 3.2 细胞自动机模型
• 3.3 BQPSO算法
• 3.4 基于BQPSO-CA的间接编码网络结构设计算法
• 3.4.1 细胞自动机模块
• 3.4.2 基于QPSO的网络训练模块
• 3.4.3 二进制的BQPSO模块
• 3.4.4 基于BQPSO-CA间接编码网络结构设计算法总结
• 3.5 实验结果及分析
• 3.5.1 问题域描述及实验参数设计
• 3.5.2 实验结果
• 3.5.3 结论分析
• 第四章 有监督模糊聚类神经网络的研究与实现
• 4.1 模糊聚类概述
• 4.1.1 模糊聚类目标函数
• 4.1.2 模糊聚类算法的实现途径
• 4.1.3 模糊聚类的应用
• 4.2 模糊C均值聚类算法
• 4.3 有监督的模糊C均值聚类算法
• 4.4 实现SFCM的模糊聚类神经网络设计
• 4.4.1 神经网络模糊聚类器
• 4.4.2 模糊输出控制器
• 4.4.3 系统输出合成
• 4.5 实验结果及分析
• 4.5.1 物流配送中心选址聚类
• 4.5.2 IRIS数据集聚类
• 4.5.3 结论分析
• 第五章 神经-模糊控制系统的研究与实现
• 5.1 神经-模糊控制系统
• 5.2 动态避障路径规划及其传感体系
• 5.3 动态路径规划神经-模糊控制系统的设计
• 5.3.1 神经-模糊控制系统推理体系设计
• 5.3.2 神经-模糊控制系统的神经网络结构设计
• 5.3.3 神经-模糊控制系统神经网络的训练
• 5.4 “U”型障碍物内的死循环问题的避免算法
• 5.5 仿真及分析
• 5.5.1 仿真设计
• 5.5.2 结论分析
• 第六章 总结与展望
• 6.1 论文创新点
• 6.2 分析和展望
• 参考文献
• 致谢
• 攻读博士学位期间发表的论文和取得的学术成果