优化计算的神经网络模型及其稳定性分析

论文摘要

递归神经网络具有较强的优化计算能力,是目前神经计算应用最为广泛的一类神经网络模型.本文针对约束鞍点问题和球覆盖最小半径的计算问题,分别利用投影法、对目标函数加上很小“扰动函数”的逼近法、罚函数法和梯度法等建立神经网络模型进行求解,并基于LaSalle不变集原理和Lyapunov直接法等工具,对模型的动态特性进行研究,从而设计出避免陷入局部极小的优化计算神经网络模型.全文共分五章:第一章简要回顾了优化计算神经网络研究的发展概况,以及利用神经网络求解鞍点问题和球覆盖最小半径问题的研究现状.第二章通过投影法把Hilbert空间中的鞍点问题转化为某动态系统的平衡点问题,并利用抽象空间常微分方程理论证明了该动态系统解的存在唯一性.然后通过把LaSalle不变集原理推广到Hilbert空间,给出了平衡点的大范围渐近稳定性条件.第三章把约束鞍点问题转化为等价的无约束问题,然后利用投影法构造了一个神经网络模型进行求解,并利用第二章结论证明了在适当条件下,模型大范围收敛于问题的精确解.本模型还可用于求解目标函数具有连续和离散变量的极小极大问题.该模型包含文献[1, 2]作为特例,推广并减弱了文献[2–5]中的稳定性和收敛性条件.仿真结果表明,该模型是有效的.第四章通过对目标函数加上一个很小但性质较好的扰动函数,利用逼近法构造一个新的神经网络模型来求解约束鞍点问题,并证明:无须另外的凸性假设,模型均大范围指数收敛于问题的逼近解,从而能够快速求解文献[1, 2]不能求解的问题.仿真结果表明,该模型是有效的.第五章针对Rn中球覆盖最小半径的计算问题,给出了新的计算公式,然后基于罚函数法建立一个神经网络模型进行求解,并利用Lyapunov直接法和LaSalle不变集原理证明了模型的平衡点集具有大范围吸引性且问题的（严格）极大值点等价于模型的（渐近）稳定平衡点.仿真结果表明,模型是有效的.对于球数为2n和n + 1,还分别严格计算出了最小半径值.

论文目录

• 摘要
• Abstract
• 第一章 绪论
• 1.1 优化计算神经网络研究发展回顾
• 1.1.1 神经网络的优化计算
• 1.1.2 递归神经网络的稳定性
• 1.1.3 鞍点问题的神经计算
• 1.1.4 球覆盖最小半径的神经计算
• 1.2 本文主要内容
• 第二章 Hilbert 空间中鞍点问题的动态系统模型及其稳定性分析
• 2.1 动态系统模型
• 2.2 解的存在性和唯一性
• 2.3 稳定性分析
• 第三章 精确求解约束鞍点问题的神经网络模型
• 3.1 鞍点问题解的特征
• 3.2 神经网络模型
• 3.3 稳定性分析
• 3.4 应用及数值仿真
• 3.4.1 非线性凸规划问题
• 3.4.2 极小极大问题
• 第四章 逼近法求解鞍点问题的神经网络模型
• 4.1 逼近解及其收敛性
• 4.2 神经网络模型及其指数稳定性
• 4.3 数值仿真
• 第五章 单位球面球覆盖最小半径的计算及其神经网络模型
• 5.1 球覆盖的最小半径
• 5.2 神经网络模型
• 5.3 稳定性分析
• 5.4 数值仿真
• 5.5 定理5.1.4 的证明
• 参考文献
• 攻读博士学位期间所发表的论文
• 致谢