基于信息熵的高维分类型数据子空间聚类算法研究

论文摘要

随着大规模数据存储技术、信息技术和网络技术的发展,越来越多的人正陷入数据泛滥、知识匮乏的困境中。为满足日益增长的信息需求,促使数据挖掘技术广泛地应用于各行各业。聚类分析具有自动对数据进行有效划分的特性,已经成为数据挖掘技术的主要工具之一。现有的聚类算法处理低维数据有良好的效果,同时高维数值型数据的聚类分析也取得了一定的成就。然而,由于此前对高维分类型数据的研究没有引起足够的重视,以及分类型数据的特殊性,使得现有聚类算法无法满足处理分类型数据的要求。对于高维分类型数据聚类问题,由于其样本数据在高维空间中分布的稀疏性以及相异度（或相似度）度量的局限性,使得传统的聚类算法往往得不到理想的效果。针对上述问题,提出了一个新的高维分类型数据聚类算法——基于信息熵的高维分类型数据子空间聚类算法（Entropy-based Algorithm for Subspace Clustering with High Dimensional Categorical Datasets,ESCHCD）,该算法综合考虑对应子空间和噪声子空间（不相关特征维）的维度信息熵,设计了一个高效、无监督的子空间搜索方法来对高维数据进行有效降维,同时提出了基于整体数据平均信息熵的全局优化方法对聚类结果进行迭代寻优。人工数据和真实数据的实验结果表明,与其他分类型数据聚类算法相比,该算法具有很好的聚类效果和扩展性。

论文目录

• 摘要
• ABSTRACT
• 第一章 绪论
• 1.1 研究背景及选题意
• 1.2 研究现状
• 1.3 主要工作
• 1.4 本文组织结构
• 第二章 高维分类型数据集聚类综述
• 2.1 聚类分析
• 2.1.1 聚类的概念
• 2.1.2 相似度
• 2.1.3 常用聚类方法综述
• 2.2 高维数据聚类
• 2.2.1 高维数据的特点
• 2.2.2 高维数据聚类算法
• 2.3 分类型数据分析
• 2.3.1 分类型数据简介
• 2.3.2 分类型数据与数值型数据
• 2.3.3 分类型数据算法的不足
• 第三章 熵
• 3.1 热力学熵
• 3.2 信息熵
• 3.3 信息熵与热力学熵
• 第四章 ESCHCD 算法研究与设计
• 4.1 本算法相关概念
• 4.1.1 信息熵（Entropy）
• 4.1.2 符号定义及相关公式推导
• 4.1.3 信息熵与分类型数据聚类
• 4.2 基于信息熵的高维分类型数据子空间聚类算法
• 4.2.1 初始化阶段——Initialization Phase
• 4.2.2 优化阶段——Optimization Phase
• 4.2.2.1 确定子空间——Determine Subspace
• 4.2.2.2 迭代寻优——Iterative
• 4.3 试验及分析
• 4.3.1 人工数据
• 4.3.2 真实数据
• 4.3.3 试验结果及对比
• 第五章 总结
• 5.1 结论
• 5.2 展望
• 参考文献
• 致谢
• 攻读学位期间作者参与科研工作及成果