数据挖掘中聚类集成与半监督聚类研究

论文摘要

在数据挖掘领域,聚类分析作为一种重要的方法,能够发现数据对象自然的分布结构。通过一种事先给定的相似性测度方式,所有的数据对象被分割成若干不连续的组,并保证同一组数据的相似性更大,不同组数据的相似性更小。传统的聚类算法是一种无监督方法,它按照不同的优化准则对数据进行分割,没有考虑用户或真实世界提供的任何先验知识。尽管目前许多新型或改进的算法被提出,但仍然难以找到一种单一的算法可以探索各种数据对象分布结构。为了提高无监督聚类算法的性能,聚类集成技术和半监督聚类技术应运而生。受分类集成技术的启示,聚类集成作为当今的研究热点已被证明能有效地提高传统聚类算法的性能。它综合多种不同聚类算法或不同初始参数的同一聚类算法产生的划分,可获得比单一聚类算法更好的聚类结果。共识函数的设计是聚类集成最关键的问题,也是目前研究的重点。本文提出一种基于自组织特征映射（SOM）的聚类集成算法。该算法首先利用多个具有差异性的聚类成员,将原始数据集转换成一个新的特征空间矩阵,然后计算各个聚类成员的聚类综合质量,并将其作为新特征空间矩阵的属性权重,最后利用SOM神经网络进行集成,产生最终的共识聚类结果。实验结果表明,与集成前的基聚类算法和其他聚类集成算法的结果相比较,该算法能够有效提高聚类质量。半监督聚类利用诸如种子集或成对约束等先验知识获得更好的聚类结果。相比于无监督聚类分析,半监督聚类利用提供的少量监督信息协助指导聚类过程。成对约束是先验知识中最普遍的,目前许多半监督聚类算法都基于此类约束形式。本文对基于成对约束的Cop-Kmeans算法进行了详细地介绍,并提出了一种改进的Cop-Kmeans算法,用以解决Cop-Kmeans算法的约束违反问题。针对目前许多半监督聚类算法对数据样本分配顺序的敏感性,给出了一种根据样本确定度的大小产生样本分配顺序的方法。另外,本文将成对约束融入SOM算法,给出了一种基于成对约束的半监督SOM算法,并将其作为共识函数尝试对多个半监督聚类划分结果进行集成。最后,通过实验验证上述方法的有效性。

论文目录

• 摘要
• Abstract
• 第1章 绪论
• 1.1 本文研究背景
• 1.2 国内外研究现状
• 1.2.1 聚类集成研究现状
• 1.2.2 半监督聚类研究现状
• 1.3 本文主要内容和结构安排
• 第2章 数据挖掘与聚类分析概述
• 2.1 数据挖掘
• 2.1.1 数据挖掘概述
• 2.1.2 数据挖掘的步骤和任务
• 2.1.3 数据挖掘的工具和应用
• 2.2 聚类分析
• 2.2.1 聚类分析概述
• 2.2.2 聚类分析中的相似性度量
• 2.2.3 聚类分析中的主要方法
• 第3章 聚类集成
• 3.1 聚类集成概述
• 3.2 差异性聚类成员生成方法
• 3.3 共识函数设计方法
• 3.4 基于自组织特征映射的聚类集成算法
• 3.4.1 自组织特征映射
• 3.4.2 聚类综合质量
• 3.4.3 特征空间变换
• 3.4.4 聚类成员加权
• 3.4.5 基于SOM的聚类集成算法
• 第4章 半监督聚类分析
• 4.1 半监督聚类分析概述
• 4.2 先验知识的形式
• 4.3 改进的Cop-Kmeans算法
• 4.3.1 Cop-Kmeans算法的原理
• 4.3.2 Cop-Kmeans算法的缺陷
• 4.3.3 改进的Cop-Kmeans算法ICop-Kmeans
• 4.4 基于样本确定度的半监督聚类算法样本分配顺序
• 4.4.1 半监督聚类算法中样本顺序敏感性分析
• 4.4.2 基于互信息加权的共联矩阵
• 4.4.3 样本确定度
• 4.4.4 新的样本分配顺序
• 4.5 基于成对约束的半监督SOM算法Cop-Som
• 4.6 基于Cop-Som的半监督聚类集成算法
• 第5章 聚类实验结果和分析
• 5.1 实验数据集
• 5.2 实验评价方法
• 5.3 SOM聚类集成实验
• 5.4 半监督聚类实验
• 5.4.1 ICop-Kmeans算法和Cop-Kmeans算法比较
• 5.4.2 ICop-Kmeans算法对输入样本顺序敏感性实验
• 5.4.3 Cop-Som算法实验
• 5.4.4 基于Cop-Som的半监督聚类集成实验
• 结论与展望
• 致谢
• 参考文献
• 攻读硕士学位期间发表的论文