无监督聚类算法和支持向量机及其应用研究

论文摘要

聚类分析方法按一定的距离或相似性测度将数据分成若干不同的组,由此发现整个数据集合的分布、结构与模式。根据学习方式的不同可将聚类算法分为两大类:有监督聚类和无监督聚类。监督方法的分类精度通常较高,但它的结果直接依赖于所选取的训练样本,为此需要大量高质量的有标记样本,这在一定程度上限制了其应用;而且确实在很多实际应用中由于缺少形成模式类过程的知识,人们往往只能用没有类别标签的样本进行工作,即非监督分类方法,但它得到的结果通常很难令人满意。针对这种情况,本文将非监督和监督分类方法结合起来,提出一种基于K-means和SVM模型结合的全自动分类方法,主要工作总结如下:（1）对无监督聚类算法进行了讨论,着重介绍了K均值（K-means）和模糊C均值（FCM）算法,并进行了实验对比。（2）对支持向量机算法进行了深入研究,结合无监督聚类和监督分类方法的优点,提出了一种K-means和SVM结合的混合模型,Iris、Wine和遥感数据实验结果验证了混合模型的有效性。（3）深入研究了K-means算法,利用粒子群和量子粒子群算法对其进行了改进, Iris、Wine、Breast cancer和遥感数据实验结果显示了改进方法的优势。（4）将改进的K均值算法与SVM算法结合,Iris、Wine和遥感数据实验结果进一步验证了混合模型的可行性。

论文目录

• 摘要
• ABSTRACT
• 第一章 引言
• 1.1 模式聚类和支持向量机研究现状
• 1.2 无监督聚类算法和支持向量机结合研究意义
• 1.3 本文的主要工作
• 1.4 本文的章节安排
• 第二章 无监督聚类算法及其在模式分类中的应用
• 2.1 层次聚类（HLC）
• 2.2 划分聚类
• 2.2.1 硬C-均值聚类算法（K-means）
• 2.2.2 模糊C 均值聚类算法（FCM）
• 2.2.3 其它划分聚类算法
• 2.3 SOM 聚类（SELF-ORGANIZING MAP）
• 2.4 实验结果分析
• 第三章 支持向量机结合K-MEANS 在模式分类中的应用
• 3.1 统计学习理论
• 3.1.1 VC 维
• 3.1.2 结构风险最小化
• 3.2 支持向量机基本原理
• 3.2.1 线性支持向量机
• 3.2.2 非线性支持向量机
• 3.2.3 支持向量机中QP 和多类分类问题
• 3.3 支持向量机结合K-MEANS在模式分类中的应用
• 3.3.1 混合模型分类原理
• 3.3.2 混合模型算法流程
• 3.3.3 实验结果分析
• 第四章 支持向量机结合改进的K-MEANS 在模式分类中的应用
• 4.1 微粒群（PSO）算法
• 4.1.1 PSO 算法简介
• 4.1.2 PSO 算法数学描述
• 4.2 基于量子行为的微粒群（QPSO）算法
• 4.2.1 QPSO 算法简介
• 4.2.2 QPSO 算法的运算过程
• 4.2.3 基于量子行为的微粒群算法和经典微粒群算法的比较
• 4.3 改进的K-MEANS 算法
• 4.3.1 基于粒子群的K-means 算法
• 4.3.2 基于量子粒子群的K-means 算法
• 4.3.3 实验结果分析
• 4.4 支持向量机结合改进的K-MEANS在模式分类中的应用
• 4.4.1 改进的混合模型分类原理
• 4.4.2 改进的混合模型算法流程
• 4.4.3 实验结果分析
• 第五章 结论与展望
• 5.1 本文工作总结
• 5.2 今后工作展望
• 致谢
• 参考文献
• 附录 A 硕士期间发表的论文