径向基函数神经网络的学习算法研究

论文题目: 径向基函数神经网络的学习算法研究

论文类型: 硕士论文

论文专业: 运筹学与控制论

作者: 李彬

导师: 赖晓平

关键词: 在线学习算法,神经网络,隐层神经元,问题,删除策略

文献来源: 山东大学

发表年度: 2005

论文摘要: 径向基函数(Radial Basis Function,RBF)神经网络以其简单的结构,优良的全局逼近性能而引起了学者们的广泛关注.由于RBF神经网络的种种优越性,使得它在函数逼近和非线性时间序列预测等方面得到广泛应用。本文研究了RBF神经网络的各种学习算法。在总结概述前人工作优缺点的基础上,本文提出了两种优良的改进学习算法。与现存的学习算法相比,在具有良好性能的前提下,本文的算法可以产生更紧凑的网络结构。 RBF神经网络现有的各种学习算法可以分为两类:离线学习算法和在线学习算法。在线学习算法可以有效处理反映对象特性改变的样本数据,比较适用于实时的应用环境。对于在线学习(训练)算法来说,后一个训练数据进入网络之前,前一个训练数据训练网络的过程必须结束,也就是在线训练算法的每次迭代时间必须小于样本的采样周期。为了提高在线训练算法的实时应用范围,我们必须降低算法的复杂性,加快算法的训练时间。另外,我们需要关注算法的泛化能力。一般的情况下,对于RBF神经网络来说,在达到相同的训练精度的前提下,网络中的隐层神经元个数越少,则网络的泛化能力就越好。本文首先回顾RBF神经网络的发展简史、网络结构及其基本的学习过程。第三章,在介绍批处理学习算法特点的基础上,详细介绍了其中的典型代表——正交最小二乘算法。第四章详细说明了现阶段流行的各种RBF神经网络在线学习算法(RAN,RANEKF,MRAN,GGAP-RBF(GAP-RBF)),并分析了各种在线学习算法的优缺点。以在线学习算法MRAN为基础,本文在第五章提出了一种改进的RBF神经网络在线学习算法,称为IRAN学习算法。针对MRAN算法的计算复杂性较高,对内存要求较大的缺点,IRAN算法采用一种新的基于吉文斯QR分解的递归最小二乘算法,代替EKF算法来进行权值的更新。它既可以加快网络的收敛速度,又降低了其复杂性。IRAN算法采用一种新的隐层神经元删除策略,有效的除去了网络中冗余神经元,训练后的网络结构更为精简。第六章,在Guang-Bin Huang的GGAP-RBF算法的基础上,本文提出了另一

论文目录:

摘要

ABSTRACT

缩写和符号说明

第一章绪论

1．1 前言

1．1．1 人工神经网络发展历史及现状

1．1．2 RBF神经网络发展简史

1．2 研究动机和创新点

1．3 论文框架

第二章径向基函数神经网络

2．1 RBF神经网络拓扑结构

2．2 RBF神经网络的学习

第三章 RBFNN的批处理学习算法

3．1 批处理学习算法简介

3．2 基于正交最小二乘算法的RBF神经网络学习方法

第四章 RBFNN的在线学习算法

4．1 RAN学习算法

4．2 RANEKF学习算法

4．3 MRAN学习算法

第五章 IRAN(Improved RAN)学习算法

5．1 网络中参数的更新

5．2 隐层神经元的删除策略

5．3 IRAN学习算法

第六章 GIRAN(Generalized IRAN)学习算法

6．1 隐层神经元重要性的定义与估计公式

6．2 隐层神经元的引入准则

6．3 参数δ_i的更新

6．4 径向基函数宽度的自适应调整

6．5 GIRAN学习算法

第七章计算机仿真及结果分析

7．1 汽车燃油消耗量预测问题

7．2 鲍鱼年龄预测问题

7．3 加利福尼亚中等住房价格预测问题

7．4 混合时间序列(Mackey-Glass)预测问题

第八章结束语

附录 Givens变换

参考文献

致谢

攻读学位期间发表的学术论文目录

学位论文评阅及答辩情况表

发布时间: 2005-10-17

参考文献

[1].基于局部搜索和二进制的改进人工蜂群算法[D]. 丁亚英.南京师范大学2016
[2].基于人工蜂群算法的软硬件划分算法研究[D]. 韩宏业.天津大学2014
[3].基于共享因子的人工蜂群算法的研究与应用[D]. 孟凡明.兰州交通大学2016
[4].烟花算法及其应用[D]. 胡庆生.陕西师范大学2016
[5].一种改进的人工蜂群算法及其在k均值聚类中的应用[D]. 黄媛媛.安徽大学2015
[6].蝙蝠算法及其在函数优化中的应用研究[D]. 李枝勇.上海理工大学2013
[7].人工蜂群算法的改进研究[D]. 罗琨.广西师范学院2014
[8].人工蜂群算法的改进及应用[D]. 夏真友.南京林业大学2014
[9].人工蜂群算法的改进及应用研究[D]. 杨丹.安徽大学2014
[10].大爆炸算法的研究与改进[D]. 李少勇.广东工业大学2014

径向基函数神经网络的学习算法研究

猜你喜欢