基于敏感性的正则RBF神经网络及其在特征选择上的应用

论文摘要

敏感性用于度量网络输入或网络参数的扰动对网络产生的影响。敏感性分析是神经网络设计的一个基础课题,它对于指导网络设计(如网络结构的裁剪和参数的挑选等等),增强网络抗干扰能力、度量网络性能(如容错和泛化能力)都有很大的意义。因而,神经网络的敏感性分析一直是神经网络研究的热点之一。本文首先介绍了敏感性分析的相关知识和WingW.Y. Ng的局部泛化误差模型,并给出此模型理论推导中的不足之处。在此基础上,本文结合正则化理论将敏感性用于径向基函数神经网络(RBF神经网络)的训练过程,推导出一种基于敏感性的正则RBF神经网络,并将这种基于敏感性的正则RBF神经网络应用到RBF神经网络的冗余特征删除中。实验结果表明,在网络的冗余特征删除的过程中,在不降低网络精度的前提下,本文提出的基于敏感性的正则RBF神经网络能更有效的删除网络的冗余特征。

论文目录

• 摘要
• Abstract
• 第1章 绪论
• 1.1 研究工作的来源与意义
• 1.2 本课题的国内外发展现状
• 1.3 本文的主要内容
• 第2章 预备知识
• 2.1 径向基函数神经网络（RBFNN）
• 2.2 正则化理论和正则神经网络
• 2.3 特征选择
• 第3章 敏感性分析及其在特征选择上的应用
• 3.1 网络敏感性分析
• 3.2 基于敏感性的特征选择方法
• 第4章 Wing W.Y.Ng的局部泛化误差模型
• 4.1 模型的原理、建立以及推导过程
• 4.2 模型推导中的不足之处
• 第5章 基于敏感性的正则RBF神经网络及其在特征选择中的应用
• 5.1 基于敏感性的正则RBF神经网络
• 5.2 基于敏感性的正则RBF神经网络在特征选择中的应用
• 第6章 结论与展望
• 参考文献
• 攻读硕士学位期间撰写的论文
• 致谢