BP网络结构确定算法的研究及仿真

论文摘要

神经网络发展迅速,经过各国学者多年的研究创新,许多具备不同信息处理能力的神经网络已被提出并应用于各种信息处理领域。其中以BP神经网络的应用最为广泛,据统计,80%-90%的神经网络模型采用了BP网络或者它的变化形式。已有理论证明,三层结构的BP网络可以逼近任意的非线性映射关系。但在实际的训练过程中,常会因为网络结构不合理或初始权值的选取不当导致训练精度达不到要求,引起网络的重新训练,降低了训练效率。针对此不足,本文设计了一种动态扩展BP网络隐层的方法,旨在提高训练精度,同时解决训练效率问题。本算法在神经网络的训练过程中,可以根据实际需要动态扩展一个隐层,由于它采用了线性激活函数,使得本文算法可以在不影响网络表达能力和泛化能力的基础上提高训练精度;结合蚁群算法全局寻优,易于与其它算法相结合的优点,将蚁群算法融入其中,用于对扩展隐层的权值和阈值进行局部训练,有效的解决了训练效率的问题。最后,在理论研究的基础上设计了一组相关实验对本文设计的算法进行检验。根据化工企业实际生产的需要和生产过程中各个参数之间的关系构造相应的BP神经网络模型,在Matlab环境下编写相应的算法程序,用来预测催化剂活性值,最后将结果仿真出来。实验结果证明,本文设计的动态扩展隐层技术与蚁群算法相结合是切实可行的,减少了不必要的操作步骤,在不影响表达能力的基础上提高了神经网络的训练精度和训练效率,具有重要的现实意义。

论文目录

• 摘要
• Abstract
• 第一章 绪论
• 1.1 课题的提出、背景及意义
• 1.2 相关技术的研究现状
• 1.2.1 收敛速度的研究现状
• 1.2.2 局部极值的研究现状
• 1.2.3 网络结构的研究现状
• 1.3 本文研究思路和结构安排
• 1.3.1 本文研究思路和过程
• 1.3.2 论文的结构安排
• 1.4 课题的创新之处
• 第二章 BP 网络概述
• 2.1 神经网络概述
• 2.1.1 神经网络简介
• 2.1.2 生物神经元系统
• 2.1.3 人工神经网络的分类
• 2.1.4 神经网络的特点
• 2.1.5 神经网络的发展历程
• 2.2 典型的前向型网络－BP 网络
• 2.2.1 BP 网络的基本结构
• 2.2.2 BP 网络的学习算法
• 2.2.3 BP 网络的优缺点
• 2.3 BP 网络的关键点分析
• 2.3.1 隐层、隐层结点数对训练结果的影响
• 2.3.2 确定每层隐结点数的算法
• 2.3.3 如何解决“欠拟合”与“过拟合”问题等
• 第三章 蚁群算法概述
• 3.1 蚁群算法的基本思想
• 3.2 蚂蚁觅食的生物学基础
• 3.3 蚂蚁的觅食行为
• 3.4 蚁群算法的实现过程
• 3.5 蚁群算法的优缺点分析
• 第四章 动态扩展隐层技术
• 4.1 问题的提出
• 4.2 算法综述
• 4.3 算法的实现过程
• 4.3.1 BP 神经网络的初次训练
• 4.3.2 扩展隐层的引入
• 4.3.3 对蚁群算法的改进
• 4.3.4 对扩展网络模型的训练
• 4.4 算法可行性与有效性的证明
• 4.5 算法小结
• 第五章 实验分析及验证
• 5.1 实验环境简介
• 5.1.1 Matlab 语言简介
• 5.1.2 Matlab 的语言特点
• 5.1.3 神经网络工具箱
• 5.2 实验项目简介
• 5.3 实验分析
• 5.4 实验过程
• 5.4.1 初始实验模型的建立
• 5.4.2 扩展模型的引入及训练过程
• 5.4.3 实验结果分析
• 结论
• 总结
• 今后的工作设想
• 参考文献
• 攻读硕士学位期间取得的学术成果
• 致谢