大规模脉冲神经网络的模拟与进化研究

论文摘要

最近几年来,人工神经网络的研究重点逐渐转向更具生物真实性的脉冲神经网络。随着神经科学研究和技术的快速进展,很多研究者认为基于脉冲定时的大规模神经网络是脑进行信息处理的基础。然而从神经科学的研究成果出发,对脉冲神经网络进行有效的建模和计算,将面临许多概念和技术上的挑战。本文旨在解决脉冲神经网络的两个基本问题:（1）如何模拟单神经元的脉冲动态特性和由多神经元构成的网络;（2）如何发育和进化大规模脉冲神经网络。结合Hodgkin-Huxley神经元模型的动力学特性与IF （Integrate-and-Fire, IF）神经元模型的解析特性,研究了一种新的二维分段线性脉冲神经元模型。该模型的优点在于既可通过分岔理论对兴奋性系统进行定性描述,又可通过状态变量的解析式对神经元行为进行定量分析。通过详细的分析,发现该模型具有许多一维IF神经元模型所不具有的新的神经计算特性。在实验中,应用该模型模拟了大部分已知皮层神经元的脉冲和簇放电行为。神经计算依赖于由神经元模型构成的大规模网络的有效模拟。本文研究了一种新的可进行精确模拟的指数突触电导IF神经元模型,通过单脉冲激励的突触后电位和多脉冲激励的自发放电统计分析,发现该模型的脉冲反应动态特性与指数突触电导被动膜方程模型接近,而计算效率接近脉冲耦合漏电IF神经元模型。同时构建了指数突触电导IF神经元模型的事件驱动模拟策略,并分别应用事件驱动和时钟驱动模拟策略模拟了由指数突触电导IF神经元构成的大规模随机网络,结果表明:（1）在事件驱动模拟策略中,模拟时间和总的脉冲事件数线性成比例;（2）在不同的模拟策略中,脉冲事件的时间精度会影响网络的神经动态特性。基于编码网络结构和动态特性的人工基因组模型,研究了具有固定长度和可变长度的两类基因片断复制与歧化模型进化基因调控网络。应用分析和模拟技术,发现这两类网络具有和生物基因调控网络相近的结构特征,表现出无标度和小世界的拓扑结构。同时也发现这些网络具有和生物基因调控网络相似的动态特性,以更大的概率运转在有序状态,以更小的概率运转在混沌状态。结果表明基因调控网络的生成方法,特别是基因片段复制与歧化,对于网络结构和动态特性的突现具有重要的作用。越来越多的研究表明发育偏差对于生物体的形成具有重要的作用,自然选择并不是唯一决定进化变化方向的因素。本文研究了一种人工细胞谱系发育的计算模型,并用该模型生成各类不同表现型复杂性的随机生物体,分析了变异算子对发育偏差的作用。结果表明:首先,发育系统存在内在的发育偏差,并随着模型参数的不同而变化;其次,发育偏差随着表现型复杂性和变异算子的不同而变化,基因片段复制与歧化算子影响发育偏差的模式;最后,累积变异的发育偏差影响生物体进化变化的方向,并使表现型的复杂性逐渐增长。通过自然进化得到的脑包含几十亿的神经元和几万亿的神经连接,并表现出复杂的智能行为。受生物脑进化的启迪,研究者开辟了进化神经网络的研究领域。以人工基因组模型为框架描述基因调控网络,用基因表达的动态特性表示细胞命运特化的发育过程,研究了一种进化大规模脉冲神经网络的发育方法。该方法的优点在于可以快速有效地发育生成脉冲神经元、神经连接和突触可塑性。相应的食物采集进化实验突现了以神经驱动的自主智能体的智能行为,并验证了该方法对大规模脉冲神经网络的进化能力。

论文目录

• 摘要
• Abstract
• 第1章 绪论
• 1.1 课题背景及意义
• 1.2 脉冲神经元模型的研究现状
• 1.2.1 具有生物可解释性的生理模型
• 1.2.2 具有脉冲生成机制的非线性模型
• 1.2.3 具有固定阈值的线性模型
• 1.3 脉冲神经网络模拟策略的对比分析
• 1.3.1 时钟驱动模拟策略
• 1.3.2 事件驱动模拟策略
• 1.4 进化神经网络的研究进展
• 1.4.1 文法方法
• 1.4.2 基因调控网络方法
• 1.5 论文内容及组织结构
• 第2章 分段线性脉冲神经元模型的动力学特性分析
• 2.1 引言
• 2.2 分段线性脉冲神经元模型
• 2.2.1 神经元模型
• 2.2.2 平衡点的求解
• 2.2.3 极限环的提取
• 2.3 神经元模型的神经动力学特性分析
• 2.3.1 鞍-结分岔
• 2.3.2 Andronov-Hopf 分岔
• 2.4 神经元模型的簇放电特性分析
• 2.5 皮层神经元模拟
• 2.5.1 皮层神经元
• 2.5.2 模拟结果
• 2.6 小结
• 第3章 指数突触电导IF神经元模型的精确模拟
• 3.1 引言
• 3.2 指数突触电导神经元模型
• 3.2.1 指数突触电导PME 神经元模型
• 3.2.2 指数突触电导IF 神经元模型
• 3.3 指数突触电导IF 神经元模型的脉冲反应动态特性分析
• 3.3.1 单脉冲激励的突触后电位分析
• 3.3.2 多脉冲激励的自发放电统计分析
• 3.4 指数突触电导IF 神经元模型的事件驱动模拟策略
• 3.4.1 脉冲发放时间计算
• 3.4.2 事件驱动模拟器
• 3.5 模拟实验
• 3.5.1 网络模型
• 3.5.2 模拟结果
• 3.6 小结
• 第4章 基于人工基因组的进化与发育计算模型
• 4.1 引言
• 4.2 人工基因组模型
• 4.3 基因片断复制与歧化模型
• 4.4 基因调控网络的结构与动态特性分析
• 4.4.1 基因调控网络的结构分析
• 4.4.2 基因调控网络的动态特性分析
• 4.5 人工细胞谱系模型
• 4.5.1 细胞谱系的发育模型
• 4.5.2 细胞谱系的复杂性度量
• 4.6 发育偏差对进化的作用分析
• 4.6.1 发育系统中的发育偏差分析
• 4.6.2 变异算子对发育偏差的作用
• 4.6.3 累积变异的发育偏差效果
• 4.7 小结
• 第5章 进化大规模脉冲神经网络的发育方法
• 5.1 引言
• 5.2 脉冲神经网络的发育方法
• 5.2.1 细胞分裂树的生成
• 5.2.2 脉冲神经元的生成
• 5.2.3 神经连接的生成
• 5.3 脉冲神经网络的学习规则
• 5.3.1 STDP 的学习规则
• 5.3.2 STDP 的数学模型
• 5.3.3 STDP 的编码方法
• 5.4 脉冲神经网络的进化算法
• 5.5 实验环境
• 5.5.1 自然场景
• 5.5.2 自主智能体
• 5.5.3 适应值函数
• 5.6 实验结果
• 5.6.1 不同网络规模的比较
• 5.6.2 不同基因编码的比较
• 5.7 小结
• 结论
• 参考文献
• 攻读博士学位期间发表的学术论文
• 致谢
• 个人简历