改进的局部泛化误差模型

论文摘要

本文首先介绍了吴永贤(Wing W.Y.NG)博士提出的局部泛化误差模型及其在径向基函数神经网络(RBFNN)中的应用。其次本文针对模式分类问题对局部泛化误差模型进行了分析,指出模型中的一些不合理的地方,如目标函数对样例的输出结果并不一定等于已知样例本身的真实类别、模型中的假设在实际情况下很难验证等等。这些问题很大程度上影响了局部泛化误差模型的应用并削弱了模型的意义,为此本文采用另外的方法改进了局部泛化误差模型。改进后的模型避免了原模型中存在的问题并且强化了局部泛化误差模型的理论意义,即训练函数的局部泛化误差与经验误差和随机敏感性存在着一定的关系。最后本文为了便于分析模型,给出了一些合理的假设,如假设模型中的训练函数和目标函数为指示函数、各个样例的邻域大小相同和样例邻域中的未知样例服从均匀分布。在上述假设下,本文从理论角度分析了模型结果中的每一项在模式分类问题中的具体含义,进而讨论了模型应用在模式分类问题中的合理性。

论文目录

• 摘要
• Abstract
• 第1章 绪论
• 1.1 局部泛化误差模型的来源
• 1.2 局部泛化误差模型的发展现状
• 1.3 本文研究的主要内容及章节安排
• 第2章 预备知识
• 2.1 径向基函数神经网络
• 2.1.1 径向基函数的介绍
• 2.1.2 径向基函数神经网络的拓扑结构
• 2.1.3 径向基函数神经网络的训练方法
• 2.2 前馈型连续神经网络的敏感性
• 2.2.1 基于偏导数方法定义的敏感性
• 2.2.2 基于统计方法定义的敏感性
• 2.2.3 结合偏导数和统计方法定义的敏感性
• 第3章 局部泛化误差模型及其在径向基函数神经网络中的应用
• 3.1 局部泛化误差模型理论
• 3.1.1 Q邻域的概念
• 3.1.2 局部泛化误差的界
• 3.2 局部泛化误差模型与神经网络敏感性的联系
• 3.2 局部泛化误差模型在径向基函数神经网络中的应用
• 第4章 局部泛化误差模型的改进
• 4.1 局部泛化误差模型存在的问题
• 4.1.1 局部泛化误差模型概念中存在的问题
• 4.1.2 局部泛化误差模型证明中存在的问题
• 4.2 局部泛化误差模型的改进
• 第5章 局部泛化误差模型的理论分析
• 5.1 局部泛化误差模型中各个表达式的分析
• 5.1.1 模型结果中的第一项分析
• 5.1.2 模型结果中的第二项分析
• 5.1.3 模型结果中的第三项分析
• 5.2 局部泛化误差模型在应用中的分析
• 第6章 结论和展望
• 附录
• 参考文献
• 攻读硕士学位期间撰写的论文
• 致谢