基于动态模型的神经网络稳定性研究

论文摘要

自1982年,美国加州工学院物理学家J.Hopfield提出了Hopfield神经网络模型以来,人工神经网络理论与应用方面的研究形成世界性的热潮。人工神经网络可以进行多种不同的信息处理,如人工智能、保密通讯、网络优化、军事信息、模式识别等。它应用的领域也非常广泛,包括生物学、计算机科学、管理学、社会学以及经济学。神经网络成功地应用于这些领域都极大地依赖于神经系统的动态特性,其中的稳定性是神经网络最重要的动态特性之一。我们在设计一个神经网络进行实际应用时必须要保证该系统是稳定的,稳定是实用性的神经系统的一个关键特征。众所周知,一个在理论上不稳定的系统在实际中是不可能应用的。在这样的前提和背景下,研究神经网络的稳定性是具有理论和现实意义的。在20世纪末到21世纪初的十多年的时间里,生命科学特别是分子生物学发生了令世人瞩目的变化。一方面,由于基因组测序、蛋白质组学的快速发展,生物学积累了大量的数据,如何挖掘出大量实验数据所蕴含的生物基本规律成为生命科学研究的焦点;另一方面,研究生物学系统的信息处理过程开始从对单一信号传导通路的定性的描述转移到复杂蛋白质与基因调控网络的定量刻画。这些进展使人们相信21世纪是生命科学的世纪,同时生物学家也逐步认识到生命科学需要与数学、物理学、化学、信息科学等定量学科的参与。随着生物信息学的发展,越来越多的数学方法应用到挖掘实验数据信息当中,例如,一些智能算法和统计方法。这些方法的运用加快了我们对基因信息的挖掘。在本文中我们提出一种新的方法通过时间序列数据挖掘基因之间的关系,构建基因调控网络。在生命科学的时代提出一种新的方法构建基因调控网络是有现实意义的。本文分为两个大的部分。第一部分主要是研究具有动态模型的神经网络的稳定性。将稳定性理论的方法和技巧应用到神经网络稳定性的研究中。主要研究了具有无界时变时滞和连续分布时滞的脉冲神经网络稳定性、在随机扰动下具有无界时变时滞的脉冲神经网络的稳定性、在参数不确定性和随机扰动下具有无界时变时滞和连续分布时滞脉冲神经网络的稳定性,以及在非线性扰动下具有无界时变时滞脉冲神经网络的稳定性。我们可以进一步将得到的理论成果应用到实际的模型当中,设计出更符合实际情况的神经网络系统。第二个部分主要是利用时间序列数据构建基因调控网络。主要应用了Ramsay’s algorithm和Gauss-Newton算法。本文主要研究内容和创新之处概述如下:1、具有无界时变时滞和连续分布时滞的脉冲神经网络模型（?）对此模型利用李雅普诺夫第二方法,通过构建合理的Lyapunov-Krasovskii泛函,给出保证神经网络系统μ?稳定的LMI条件;给出了神经网络系统全局有界、指数稳定的一些充分条件;讨论了当d i（ k）∈[0,2],i=1,2,...,n时,脉冲J k （ x（tk?））=?diag （ d1（ k ）,d2（k）,...,dn（k））的出现不影响神经网络的稳定性;最后给出实例仿真,利用Matble的LMI工具包验证了我们所给结果的正确性,编写Matlab程序,给出了系统稳定的图的演示形式。2、在随机扰动下的具有无界时变时滞脉冲神经网络模型（?）对此模型利用李雅普诺夫第二方法,通过构建合理的Lyapunov-Krasovskii泛函,给出保证神经网络系统在均方意义下的μ?稳定的LMI条件;讨论了漂移函数σ( t ,g（y（t））,g（y（t-τ（t）））≡0时,具有无界时变时滞神经网络μ-稳定性;给出了神经网络系统全局有界定理;最后给出两个实例仿真,利用Matlab的LMI工具包验证了我们所给结果的正确性。3、在参数不确定及随机扰动下的具有无界时变时滞及连续分布时滞的脉冲神经网络模型（?）首先研究具有无穷时变时滞和连续分布时滞脉冲神经网络在随机扰动下的稳定性。利用李雅普诺夫第二方法,通过建立Lyapunov-Krasovskii泛函合并LMI方法,给出保证神经网络在均方意义下μ?稳定定理;当漂移函数σ(t ,g（y（t））,g（y（t?τ（t）））≡0时,给出了具有无穷时变时滞和连续分布时滞脉冲神经网络μ?稳定定理。然后研究具有无穷时变时滞和连续分布时滞脉冲神经网络在随机扰动和系数不确定性情况下的鲁棒μ?稳定性。系数不确定性在满足范数有界的情况下,给出几个保证神经网络系统稳定的充分条件。最后给出实例仿真,利用Matlab的LMI工具包验证了我们所给结果的正确性,编写Matlab程序,给出了系统稳定的图的演示形式。4、非线性扰动下的脉冲神经网络模型（?）对此模型利用李雅普诺夫第二方法,通过建立合适的Lyapunov-Krasovskii泛函合并LMI方法,给出保证系统μ-稳定的若干充分条件,并利用Matlab的LMI工具包验证了我们所给结果的正确性。5、利用基因表达的时间序列数据构建基因调控网络。首先,对模型进行科学合理的假设简化,假设每个基因状态变量的变化与其他基因之间是线性关系,建立基因调控网络线性微分方程组模型。根据带有噪音的时间序列数据采用Ramsay’s algorithm优化模型的参数,并从理论上进行了说明。Ramsay’s algorithm对数据的拟合以及对方程的拟合都可以写成平方和的形式,在计算机程序中采用Gauss-Newton算法进行迭代。

论文目录

• 摘要
• Abstract
• 第1章 绪论
• 1.1 研究课题的背景和意义
• 1.1.1 神经网络研究的意义
• 1.1.2 基因调控网络研究的意义
• 1.2 神经网络发展简史
• 1.3 神经网络简介
• 1.4 神经网络分类
• 1.5 神经网络稳定性研究现状
• 1.6 基因调控网络研究现状
• 1.7 论文研究内容及组织
• 1.7.1 研究内容
• 1.7.2 论文创新点
• 1.7.3 论文组织
• 第2章 具有无界时变时滞和连续分布时滞脉冲神经网络稳定性研究
• 2.1 引言
• 2.2 模型描述及相关理论
• 2.3 稳定性研究
• 2.4 数值模拟
• 2.5 小结
• 第3章 具有无界时变时滞随机脉冲神经网络稳定性研究
• 3.1 引言
• 3.2 模型描述及相关理论
• 3.3 稳定性研究
• 3.4 数值模拟
• 3.5 小结
• 第4章 具有无界时变时滞和连续分布时滞参数不确定随机脉冲神经网络稳定性研究
• 4.1 引言
• 4.2 模型描述及相关理论
• 4.3 随机性对神经网络稳定性影响研究
• 4.4 参数不确定性及随机性对网络稳定性影响研究
• 4.5 数值模拟
• 4.6 小结
• 第5章 具有无界时变时滞和非线性扰动下的脉冲神经网络稳定性研究
• 5.1 引言
• 5.2 模型描绘及相关理论
• 5.3 稳定性研究
• 5.4 数值模拟
• 5.5 小结
• 第6章 利用时间序列数据构建基因调控网络
• 6.1 引言
• 6.2 算法描述
• 6.2.1 Ramsay’s algorithm 细节描述
• 6.2.2 Simpson 法则
• 6.2.3 Gauss-Newton 算法
• 6.3 小结
• 第7章 总结和展望
• 7.1 总结
• 7.2 进一步研究工作
• 参考文献
• 在学期间公开发表的论文及参与的项目
• 致谢