神经网络优化方法及其在信息处理中的应用研究

神经网络优化方法及其在信息处理中的应用研究

论文摘要

论文全面地介绍了神经网络研究的发展历史及其意义、神经网络研究内容、神经网络应用前景、神经网络基本概念等,重点阐述了BP神经网络还存在的各种局限性及其改进方法。针对线性方程组求解问题,论文提出了基于矩阵元素的神经网络模型算法、基于向量空间的神经网络模型算法以及基于LDU分解的神经网络模型算法,证明了三种模型算法的收敛性,为神经网络学习率大小的确定建立了理论依据。在权值调整中采用龙贝格(Romberg)修正法,有效避免了BP算法存在局部极小的问题。仿真研究结果表明,所提出的基于神经网络算法的线性方程组求解方法不仅具有高的计算精度,而且不涉及逆矩阵运算,因而是有效的计算方法。针对非线性方程和非线性方程组的求解问题,论文分别对神经网络模型和算法作了探索性研究,证明了算法的收敛性,为神经网络学习率大小的确定建立了理论依据。在权值调整中引入了动量项,有效加快了网络收敛速度。仿真研究结果表明,本文研究的求解非线性方程和非线性方程组的神经网络算法具有收敛速度快、计算精度高、收敛性不依赖初始值等特点。针对数值积分问题背景,论文对神经网络模型和算法作了一系列探索性研究,分析了神经网络算法的收敛性,为神经网络学习率大小的选择建立了理论依据,创造性地建立了数值积分与神经网络权值之间的关系。仿真研究结果表明,所提出的数值积分方法具有计算精度高,计算速度快的特点。针对微分方程初值问题的求解,论文探索性研究了求解微分方程初值问题的神经网络模型算法,并分析了算法的收敛性,为神经网络学习率大小的确定建立了理论依据。仿真结果表明,解微分方程初值问题的神经网络算法可以对微分方程初值问题的解建立数学模型,因而可以计算出任意给定点处的函数值,这是任何差分方法无法做到的。针对FIR(Finite Impulse Response)线性相位数字滤波器优化设计问题,提出了以余弦基函数cos( nω)为隐层神经元激励函数的神经网络模型算法,证明了神经网络算法的收敛性,为神经网络学习率大小的确定建立了理论依据。此外,本文将四种情况下的FIR线性相位数字滤波器的优化设计进行了有效统一,算法的通用性强。仿真实验结果表明,所提出的FIR线性相位数字滤波器优化设计方法有效避免了求逆矩阵的问题,因而有效克服了高阶FIR线性相位数字滤波器的优化设计瓶颈。针对信号的频谱分析问题背景,本文探索性研究了基于傅立叶基函数的神经网络模型算法,研究了算法的收敛性,为神经网络学习率大小的确定给出了理论依据。所提出的基于神经网络算法的信号处理方法(频谱分析、随机噪声滤波)不涉及复数的乘法运算和复数的加法运算,计算精度高,特别适合基于DSP芯片的软、硬件实现。最后,本文介绍了神经网络算法在传感器中的应用实例。使用傅立叶基函数神经网络算法拟合曲线的方法,对传感器灵敏度-温度特性曲线进行了拟合。研究结果表明,用傅立叶正交基函数神经网络算法拟合的曲线十分光滑,拟合精度高。基于正交基神经网络算法的传感器误差补偿方法具有高的补偿精度,计算量小,收敛速度快,与最佳直线拟合法、最小二乘法多项式曲线拟合法、非线性反函数补偿法以及其它神经网络的非线性补偿等方法相比具有明显的优势,因而是一种有效的传感器误差补偿方法。利用正交基神经网络与最小二乘递推算法相结合的多传感器信息融合方法对参数进行检测时,不需要知道传感器量测数据的任何先验知识,就可以通过神经网络训练估计出分布式参数的值。该方法既可以提高参数的检测精度,同时也具有很好的稳定性,计算量小,便于计算机实时处理,因而是一种有效的多传感器信息融合方法。

论文目录

  • 摘要
  • ABSTRACT
  • 第1章 绪论
  • 1.1 论文研究背景及意义
  • 1.2 神经网络发展历史
  • 1.2.1 早期阶段
  • 1.2.2 低潮阶段
  • 1.2.3 黄金时期
  • 1.3 神经网络研究内容
  • 1.3.1 神经网络理论研究
  • 1.3.2 神经网络实现技术研究
  • 1.3.3 神经网络应用研究
  • 1.4 神经网络研究历史及意义
  • 1.5 神经网络的应用前景
  • 1.5.1 模式识别
  • 1.5.2 最优化问题计算
  • 1.5.3 自动控制
  • 1.5.4 信号处理
  • 1.5.5 图像处理
  • 1.5.6 人工智能
  • 1.6 神经网络基本概念
  • 1.6.1 人工神经元模型
  • 1.6.2 神经元常用的基函数与激励函数类型
  • 1.6.3 神经元学习算法
  • 1.6.4 典型的神经网络结构
  • 1.6.5 基本BP 算法的局限性
  • 1.7 论文主要研究成果与结构安排
  • 第2章 基于神经网络优化算法的线性系统求解研究
  • 2.1 基于矩阵元素的线性方程组求解研究
  • 2.1.1 基于矩阵元素的神经网络模型
  • 2.1.2 基于矩阵元素的神经网络算法
  • 2.1.3 基于矩阵元素的神经网络算法收敛性研究
  • 2.1.4 局部极小讨论
  • 2.1.5 基于矩阵元素的神经网络算法步骤
  • 2.1.6 应用实例
  • 2.2 基于向量空间的线性方程组求解算法
  • 2.2.1 基于向量空间的神经网络模型
  • 2.2.2 基于向量空间的神经网络算法
  • 2.2.3 基于向量空间的神经网络算法收敛性分析
  • 2.2.4 局部极小讨论
  • 2.2.5 基于向量空间的神经网络算法步骤
  • 2.2.6 数值分析实例
  • 2.3 求解病态线性方程组的神经网络算法研究
  • 2.3.1 基于LDU 分解的神经网络模型
  • 2.3.2 基于LDU 分解的神经网络算法
  • 2.3.3 基于LDU 分解的神经网络算法收敛性分析
  • 2.3.4 局部极小讨论
  • 2.3.5 基于LDU 分解的神经网络算法步骤
  • 2.3.6 解病态线性方程组的数值分析实例
  • 2.4 本章小结
  • 第3章 解非线性系统的神经网络算法研究
  • 3.1 解非线性方程的神经网络模型描述
  • 3.1.1 解非线性方程的神经网络模型
  • 3.1.2 解非线性方程的神经网络算法
  • 3.1.3 解非线性方程的神经网络算法收敛性分析
  • 3.1.4 解非线性方程的神经网络算法步骤
  • 3.1.5 解非线性方程的算例
  • 3.1.6 小结
  • 3.2 解非线性方程组的神经网络模型描述
  • 3.2.1 解非线性方程组的神经网络模型
  • 3.2.2 解非线性方程组的神经网络算法
  • 3.2.3 解非线性方程组的神经网络算法收敛性分析
  • 3.2.4 解非线性方程组的神经网络算法步骤
  • 3.2.5 解非线性方程组的数值试验
  • 3.2.6 本章小结
  • 第4章 基于神经网络算法的数值积分方法
  • 4.1 余弦基函数神经网络模型描述
  • 4.1.1 余弦基函数神经网络模型
  • 4.1.2 余弦基函数神经网络算法收敛性分析
  • 4.1.3 基于神经网络权值的数值积分方法
  • 4.1.4 余弦基函数神经网络算法训练步骤
  • 4.1.5 数值积分实例
  • 4.1.6 小结
  • 4.2 基于向量空间的神经网络模型描述
  • 4.2.1 基于向量空间的神经网络模型
  • 4.2.2 基于向量空间的神经网络训练步骤
  • 4.2.3 神经计算与优化
  • 4.2.4 数值积分实例
  • 4.2.5 小结
  • 4.3 基于傅立叶基函数的神经网络模型描述
  • 4.3.1 基于傅立叶基函数的神经网络模型
  • 4.3.2 神经网络训练步骤
  • 4.3.3 基于神经网络权值向量的数值积分方法
  • 4.3.4 数值积分算例
  • 4.3.5 小结
  • 第5章 微分方程初值问题的神经网络算法
  • 5.1 解微分方程初值问题的神经网络算法描述
  • 5.1.1 解微分方程初值问题的神经网络模型
  • 5.1.2 解微分方程初值问题的神经网络算法
  • 5.1.3 解微分方程初值问题的神经网络算法步骤
  • 5.1.4 算例
  • 5.2 本章小结
  • 第6章 基于神经网络算法的FIR 数字滤波器优化设计
  • 6.1 FIR 线性相位滤波器的幅频特性
  • 6.2 神经网络算法描述
  • 6.2.1 神经网络算法模型
  • 6.2.2 神经网络算法
  • 6.2.3 神经网络收敛性分析
  • 6.2.4 神经网络训练步骤
  • 6.2.5 FIR 线性相位滤波器优化设计实例
  • 6.3 神经网络改进优化算法
  • 6.3.1 基于向量空间的神经网络模型
  • 6.3.2 基于向量空间的神经网络算法
  • 6.3.3 基于向量空间的神经网络算法收敛性分析
  • 6.3.4 基于向量空间的神经网络算法步骤
  • 6.3.5 FIR 线性相位滤波器优化设计实例
  • 6.4 本章小结
  • 第7章 基于神经网络算法的频谱分析方法
  • 7.1 国内外频谱分析方法
  • 7.1.1 离散频谱校正方法
  • 7.1.2 细化选带频谱分析方法
  • 7.1.3 包络分析方法(解调分析方法)
  • 7.1.4 高阶谱分析方法
  • 7.1.5 非平稳振动信号的频谱分析方法
  • 7.1.6 国内外其它频谱分析方法
  • 7.2 频谱分析的神经网络模型
  • 7.2.1 周期信号的连续时间傅立叶级数
  • 7.2.2 基于傅立叶基函数的神经网络模型
  • 7.2.3 神经网络算法收敛性分析
  • 7.2.4 神经网络训练步骤
  • 7.2.5 信号的频谱特性分析
  • 7.2.6 频谱分析实例
  • 7.2.7 小结
  • 7.3 基于向量空间的神经网络算法的频谱分析方法
  • 7.3.1 基于向量空间的神经网络算法模型
  • 7.3.2 基于向量空间神经网络算法训练步骤
  • 7.3.3 仿真实例
  • 7.3.4 小结
  • 7.4 具有滤波特性的频谱分析方法
  • 7.4.1 神经网络算法改进
  • 7.4.2 信号频谱分析实例
  • 7.4.3 小结
  • 第8章 神经网络算法在传感器中的应用研究
  • 8.1 一种基于神经网络算法拟合传感器温度特性曲线的方法
  • 8.1.1 周期信号的傅立叶级数
  • 8.1.2 基于傅立叶基函数的神经网络模型算法
  • 8.1.3 传感器曲线拟合实例
  • 8.1.4 小结
  • 8.2 一种基于正交基神经网络算法的传感器误差补偿方法
  • 8.2.1 正交基神经网络模型
  • 8.2.2 磁传感器误差补偿
  • 8.2.3 小结
  • 8.3 基于正交基神经网络算法的多传感器数据融合方法
  • 8.3.1 多传感器信息融合模型
  • 8.3.2 仿真实例
  • 8.3.3 小结
  • 8.4 热敏电阻温度传感器非线性补偿原理
  • 8.4.1 热敏电阻温度传感器
  • 8.4.2 非线性补偿原理
  • 8.4.3 收敛性分析
  • 8.4.4 仿真实例
  • 8.4.5 小结
  • 结论
  • 参考文献
  • 致谢
  • 附录A 攻读博士学位期间发表的论文目录
  • 附录B 主持和参与项目
  • 相关论文文献

    标签:;  ;  ;  ;  ;  

    神经网络优化方法及其在信息处理中的应用研究
    下载Doc文档

    猜你喜欢