神经网络的敏感性分析及在特征选取中的应用

论文摘要

神经网络对各个自变量的敏感性分析一直是神经网络研究的热点之一。本文主要是把神经网络的各个输入变量看作自变量,定义了一种新的敏感性定义。首先,在概率测度空间上,利用依概率测度收敛,定义了多随机变量函数的偏导数。本文把神经网络的各个输入变量看作随机变量,来讨论神经网络对各个输入属性的敏感性。本文把神经网络对第i个输入变量的敏感性,定义为神经网络对第i个输入变量的偏导数平方的数学期望。当神经网络的类型已知,各个输入变量的联合分布函数已知,就可以明确的求出神经网络对各输入变量的敏感性计算式。而且这种敏感性定义式,可以应用到神经网络的剪枝中,也可以应用到数据集的特征属性选取中。本文把提出的敏感性定义应用到径向基函数神经网络的冗余属性删除中,并把本文提出的敏感性定义与Zurada等人提出的敏感性定义作比较。实验结果表明,在网络的冗余属性删除的过程中,在不降低网络的测试精度的前提下,本文提出的敏感性能更有效的选择删除网络的冗余属性。

论文目录

• 摘要
• Abstract
• 第1章 绪论
• 1.1 研究工作的来源与意义
• 1.2 本课题的国内外发展现状
• 1.3 本课题研究的主要内容
• 第2章 预备知识
• 2.1 人工神经网络
• 2.1.1 神经网络的历史
• 2.1.2 人工神经网络的结构
• 2.1.3 神经网络发展的意义
• 2.2 径向基函数神经网络
• 2.3 依概率测度收敛
• 第3章 概率测度空间上的偏导数定义
• 3.1 概率测度空间上导数的定义
• 3.2 概率测度空间上偏导数的定义
• 第4章 神经网络的敏感性分析和应用
• 4.1 Zurada等人提出的敏感性定义
• 4.2 单输出的RBFNN敏感性定义及其计算式
• 4.3 多输出的RBFNN敏感性定义
• 4.4 实验及分析
• 第5章 结论与展望
• 附录
• 参考文献
• 攻读硕士学位期间科研工作情况
• 致谢