抑制型动态突触神经网络模型及其应用研究

论文摘要

迄今绝大多数的人工神经网络模型都认为神经元之间的突触是静态的，然而神经生理学的研究表明，多种神经元的突触连接强度在短时程内会发生较大的变化。突触的这种短时可塑性会对神经元的传输特性产生影响。本文将动态突触植入人王神经网络，研究抑制型动态突触神经网络模型，并将抑制型动态突触神经网络应用于组合优化和联想记忆两个领域。本文首先对改进型能量函数进行了深入研究，提出了H-派生神经网络的概念，采用改进型能量函数取代Hopfield能量函数，提高了网络可行解的收敛性。接着，将动态突触融入了传统离散型Hopfield网络（DHNN），从而建立了DS-DHNN模型。在瞬态混沌神经网络的基础上，提出了具有动态突触及瞬态混沌特性的神经网络模型（DS-TCNN），该网络同时具备收敛动力学、混沌动力学及混沌模拟退火等多重特性，使网络不易陷入局部最优点，有效解决了传统Hopfield网络的不足。对DS-DHNN和DS-TCNN模型在以TSP问题为代表的组合优化领域中进行了应用研究。基于DS-DHNN模型的仿真结果表明：与静态突触的传统Hopfield神经网络相比，含有动态突触的DS-DHNN模型的计算效率更高。基于DS-TCNN模型对10城市、20城市的TSP问题分别进行了求解，并和传统的随机模拟退火算法做了比较和分析。仿真结果表明：DS-TCNN模型对于NP-hard组合优化问题具有高计算效率和强搜索能力，获得全局最优解的搜索时间少于静态突触神经网络。在此基础上，进一步提出了DS-TCNN-TSP算法，并对整个搜索过程以及统计过程给出了完整的程序流程图。此外，对求解TSP问题时的神经元偏置激活电流做了新的定义，对参数选取等关键问题做了探讨。最后对抑制型动态突触神经网络在联想记忆中的应用进行了研究。提出了“非线性函数构造法”的抗伪状态新方案，改进了传统Hebb学习规则及其线性外积法，建立ASS-SSNN模型。仿真结果表明：该方案能有效提高网络的容错性；另一方面，采用新方案后的联想记忆网络在扩大吸引域的同时，存储容量也有所增加。在ASS-SSNN模型的基础上，又建立了一种抗伪状态的新型动态突触联想记忆网络（ASS-DSNN）。仿真结果表明：ASS-DSNN模型不仅保持了ASS-SSNN抗伪状态的优势，而且抑制型动态突触联想记忆网络具有比传统的静态突触联想记忆网络更加丰富的动态特性，进一步扩大了记忆状态的吸引域，减小了伪状态的吸引域，容错性更佳。

论文目录

• 摘要
• ABSTRACT
• 第一章 绪论
• 1.1 引言
• 1.2 动态突触在TSP 问题中的应用研究现状
• 1.3 动态突触在联想记忆中的应用研究现状
• 1.3.1 传统 Hopfield神经网络的联想记忆
• 1.3.2 动态突触神经网络的联想记忆
• 1.4 论文的主要工作
• 第二章 抑制型动态突触神经网络模型
• 2.1 前言
• 2.2 动态突触神经元（DS）
• 2.2.1 突触
• 2.2.2 抑制型动态突触
• 2.3 基于动态突触的离散 Hopfield神经网络模型（DS-DHNN）
• 2.3.1 传统连续型 Hopfield神经网络模型（CHNN）
• 2.3.2 传统离散型 Hopfield神经网络模型（DHNN）
• 2.3.3 改进型能量函数（IEF）和H-派生神经网络
• 2.3.4 DS-DHNN模型建立
• 2.4 基于动态突触的瞬态混沌神经网络模型（DS-TCNN）
• 2.4.1 瞬态混沌神经网络（TCNN）
• 2.4.2 DS-TCNN模型建立
• 2.5 本章小结
• 第三章 抑制型动态突触神经网络在 TSP问题中的应用研究
• 3.1 前言
• 3.2 TSP问题的基本理论
• 3.2.1 TSP的问题描述
• 3.2.2 TSP的计算复杂性
• 3.3 基于 DS-OHNN的 TSP应用研究
• 3.3.1 DS-DHNN神经网络的伴随神经网络及平衡点关系
• 3.3.2 DS-DHNN动态突触神经元在 TSP求解中的演变和实现
• 3.3.3 4城市 TSP问题求解
• 3.3.4 10城市 TSP问题求解
• 3.3.5 结果分析与讨论
• 3.4 基于DS-TCNN的 TSP应用研究
• 3.4.1 参数的选取、调试技术
• 3.4.2 神经元偏置激活电流问题
• 3.4.3 10城市TSP问题求解
• 3.4.4 动态突触神经元的特性表征参数 U对求解 TSP影响的应用研究
• 3.4.5 20城市TSP问题求解
• 3.4.6 结果分析与讨论
• 3.4.7 DS-TCNN-TSP算法总结
• 3.5 本章小结
• 第四章 抑制型动态突触神经网络在联想记忆中的应用研究
• 4.1 前言
• 4.2 联想记忆的基本理论
• 4.2.1 联想记忆的基本概念
• 4.2.2 存储容量和吸引域
• 4.3 一种抗伪状态的新型动态突触自联想记忆神经网络（ASS-DSNN）
• 4.3.1 Hebb学习规则和外积法
• 4.3.2 抗伪状态的改进方案—非线性函数构造法
• 4.3.3 ASS-DSNN自联想记忆网络模型的建立
• 4.4 基于ASS-DSNN的联想记忆应用研究
• 4.4.1 抗伪状态方案的应用研究（ASS-SSNN）
• 4.4.2 基于ASS-DSNN的联想记忆应用研究
• 4.5 结果分析与讨论
• 4.6 本章小结
• 第五章 结论与展望
• 5.1 研究成果总结
• 5.2 研究工作展望
• 参考文献
• 附录
• 攻读硕士学位期间发表和录用的论文
• 致谢