结合多阶段FCM和差异算法的概率神经网络模式识别方法研究

论文摘要

传统模式识别方法中的参数模型方法的主要缺点是预先假定的概率分布函数不一定符合分类数据。非参数模型方法,如概率神经网络方法（PNN）,可以有效地克服参数模型的这个缺点,但当面对大量和高维的样本数据时,其巨大的内存开销与低的分类速度和识别精度使得PNN用于分类几乎不可行。为此,论文对基于PNN的模式识别方法的两个不足做了一些有意义的研究工作:PNN模式识别方法在训练时,其网络隐层激活函数对所有的训练样本采取相同的平滑参数,这样将降低模式识别精度,为此,论文给出了采用结合差异演化（DE）算法改进的PNN方法——DEPNN方法,它使PNN对每一类训练样本的隐层函数有一个平滑参数与之匹配,并设计了该方法的计算步骤——首先提取要研究的识别问题的特征,然后采用改进的概率神经网络进行识别。仿真实验表明,提出的DEPNN方法比单独用PNN模式识别方法有更好的识别效果。由于PNN模式识别方法在面对大量和高维数据样本时要用到每个训练样本的信息,这样就造成了内存开销过大而使分类速度降低,为此,论文考虑在建立PNN模式识别模型前采用模糊C均值算法（FCM）对训练样本进行预处理,但FCM算法虽具有良好的模糊聚类能力,它却依赖聚类数据原型模式的初始化,聚类结果容易陷入局部极值点而不是全局最优值或满意解。对于PNN模式识别方法,为了在降低它内存开销的同时不降低最后的识别精度,论文选取了多阶段的模糊C均值聚类（MrFCM）算法进行数据预处理,MrFCM算法是在FCM的基础上加以改进,将聚类过程分为二个阶段,形成多阶段模糊C均值算法,并设计了MrFCM方法的算法步骤。通过实验表明:多阶段的模糊C均值算法比模糊C均值算法在数据聚类性能上优越。在上述两个研究成果基础上,论文集合了FCM聚类和PNN概率分类的优势,提出了MrFCM-DEPNN模式识别方法,并给出了它的串行结构和算法步骤,这种识别方法以贝叶斯置信度为基础利用PNN进行概率分类,克服了传统参数模型分类和FCM聚类的局限性。实验结果证实了MrFCM-DEPNN模式识别方法比传统的PNN模式识别方法在大数量训练样本集进行训练时更节约时间和内存,且识别精度更高。

论文目录

• 摘要
• ABSTRACT
• 1 绪论
• 1.1 研究问题及研究意义
• 1.1.1 研究问题
• 1.1.2 研究意义
• 1.2 统计模式识别的基本概念及方法
• 1.2.1 统计模式识别问题的基本模型
• 1.2.2 统计模式识别问题的基本过程
• 1.2.3 常用统计模式识别方法
• 1.3 PNN 模式识别方法的国内外研究现状
• 1.3.1 国内研究现状
• 1.3.2 国外研究现状
• 1.4 论文研究思路及内容
• 2 基于差异演化（DE）算法的PNN 模式识别方法
• 2.1 PNN 模式识别方法概述
• 2.1.1 引言
• 2.1.2 PNN 模式识别方法
• 2.1.3 PNN 模式识别方法的优越性和不足
• 2.2 基于DE 算法的PNN 模式识别方法（DEPNN）
• 2.2.1 对PNN 隐层基函数平滑参数改进的几种常用方法
• 2.2.2 DE 算法
• 2.2.3 DEPNN 模式识别方法
• 2.2.4 算法实验
• 2.3 小结
• 3 PNN 的训练样本集预处理方法—多阶段模糊C 均值方法
• 3.1 基于目标函数的C 均值聚类分析
• 3.1.1 基于目标函数的聚类分析
• 3.1.2 模糊聚类
• 3.1.3 模糊C 均值聚类分析方法（FCM）
• 3.2 多阶段 FCM（MrFCM）
• 3.2.1 MrFCM 的算法原理
• 3.2.2 MrFCM 的算法步骤
• 3.2.3 算法实验
• 3.3 小结
• 4 改进的 PNN 模式识别方法—MrFCM-DEPNN 方法
• 4.1 引言
• 4.2 MrFCM-DEPNN 模式识别原理
• 4.3 MrFCM-DEPNN 模式识别模型
• 4.4 MrFCM-DEPNN 模式识别方法的应用
• 4.5 小结
• 5 总结与展望
• 5.1 总结
• 5.2 研究展望
• 致谢
• 参考文献
• 附录