基于RBFNN的复杂样本分类研究

论文摘要

径向基函数神经网络（Radial Basis Function Neural Network, RBFNN）是一种三层前馈性网络,具有泛化能力强、收敛速度快等特点,引起各领域工作者的极大关注,已成功的运用于系统识别、数据挖掘等许多领域。本文在RBFNN的基础上对复杂样本分类问题进行了较深入的研究,主要包括以下几个方面:在普通的两阶段构造RBFNN基础上,把最近邻衰减聚类的思想与误差平方和准则结合起来,提出了一种RBFNN三阶段学习算法。首先利用基于最近邻衰减半径的聚类算法确定隐层中心的初始结构,同时利用样本信息动态控制最小聚类半径,既防止了固定半径聚类较差的自适应性,避免了衰减最小半径经验值的多次试探确定,又有效降低了半径无限缩减引起的过学习现象的产生。然后,加入了利用误差平方和对由衰减聚类确定的中心点进行微调的阶段,通过考察样本移动对其的影响,调整中心点数值,使得结果的测试精度更高。同时利用类内类间距确定径基宽度,充分考虑了类间距对样本聚类的影响,避免了统一的径基宽度可能引起的分类区域过度重叠。最后利用伪逆法确定权值。经Iris、Wines和Glass数据集的仿真实验验证,该算法确实具有较强的分类能力。以提高RBFNN分类能力为出发点,结合遗传算法（Genetic Algorithm, GA）群体并行搜索能力,提出了一种有效的GA-RBFNN学习算法。该算法在RBFNN三阶段学习算法确定网络初始结构的基础上,加入控制向量,设计了包含整个网络隐节点结构和相关参数的矩阵式混合编码方式,以及相应的交叉和变异算子,权值由伪逆法求解确定。该算法快速有效,既使得基于衰减聚类的最近邻学习算法在分类问题上的优势得到保障和扩充,又使得遗传算法的全局搜索能力与其的结合在根本上改善了传统RBFNN训练方法的效果,具有较强的复杂样本分类能力。经Iris、Wines和Glass数据集的仿真实验验证,该算法快速有效,具有较强的复杂样本分类能力。

论文目录

• 第一章 绪论
• 1.1 选题背景与研究意义
• 1.2 RBFNN 发展与应用
• 1.3 分类基本原理与常用方法
• 1.3.1 决策树归纳分类
• 1.3.2 贝叶斯分类
• 1.3.3 神经网络学习分类
• 1.3.4 K-近邻分类
• 1.4 神经网络学习理论
• 1.4.1 学习的统计性能
• 1.4.2 学习的动态特性
• 1.5 文章结构安排及创新点
• 第二章 RNFNN 和遗传算法的理论基础
• 2.1 RBFNN 基本原理
• 2.1.1 RBF 基函数
• 2.1.2 RBFNN 结构
• 2.1.3 RBFNN 分类机理
• 2.1.4 正则化理论
• 2.1.5 RBFNN 中心确定算法
• 2.2 遗传算法基本原理
• 2.2.1 GA 的基本流程
• 2.2.2 GA 基本特点
• 2.2.3 GA 与NN 结合的必要性
• 2.3 本章小结
• 第三章 基于三阶段RBFNN 学习算法的复杂样本分类研究
• 3.1 引言
• 3.2 动态衰减聚类半径的聚类算法（DDRSC）确定隐节点结构
• 3.3 利用误差平方和进行隐层中心的微调
• c 准则）'>3.3.1 误差平方和准则（J_c准则）
• c 准则微调过程'>3.3.2 利用J_c准则微调过程
• 3.4 利用类内类间距确定径基宽度σ
• 3.4.1 利用样本分布信息确定σ
• 3.4.2 利用类间类内距离确定σ
• 3.5 仿真实验及结论
• 3.5.1 实验1
• 3.5.2 实验2
• 3.5.3 实验3
• 3.5.4 讨论
• 3.6 本章小结
• 第四章 复杂样本分类的GA-RBFNN 方法
• 4.1 引言
• 4.2 利用GA 构造RBFNN
• 4.2.1 网络隐节点结构和参数的混合编码
• 4.2.2 初始化
• 4.2.3 染色体评价与选择
• 4.2.4 交叉运算
• 4.2.5 变异运算
• 4.2.6 GA-RBFNN 算法总体步骤
• 4.3 仿真实验及结论
• 4.3.1 实验1
• 4.3.2 实验2
• 4.3.3 实验3
• 4.3.4 讨论
• 4.4 本章小结
• 第五章 总结与展望
• 5.1 全文总结
• 5.2 存在的问题和研究前景
• 参考文献
• 发表论文和科研情况说明
• 致谢