关联分类算法的若干研究与改进

论文摘要

关联分类自提出以来，一直是数据挖掘领域关注和研究的一个热点。关联分类因将关联规则挖掘技术与数据分类相结合，产生的规则集比较完备，经大量研究及实验表明，与C4.5等传统分类算法相比，关联分类具有更好的分类效果；而与神经网络、SVM等分类算法相比，关联分类的分类器是规则的集合，更易于理解。同时关联分类也具有较好的数据适应性和鲁棒性。因此，关联分类目前已发展成数据挖掘领域的一种重要分类方法。但是关联分类算法也存在一些难以克服的问题，主要原因是它会产生太多的分类关联规则。这不仅导致计算速度慢、系统资源开销大，而且大部分分类规则对分类器的分类效果并没有影响，有时甚至会降低分类效果。为此，本文对关联分类算法进行较为系统的研究，主要的工作有：（1）提出一种基于压缩规则预测的关联分类算法由于关联分类算法产生大量分类规则，所以在建立分类器时，需要采用某种策略对规则剪枝，挑选有用规则建立分类器。任何剪枝策略都是依据训练数据集的特性，制定相应的准则选择规则和建立分类器，然而预测数据与训练数据的特性不一定完全一致，就有可能导致分类模型过于拟合训练数据集，即存在过剪枝现象，使得有些预测数据不能被分类，降低分类效果。本文提出以压缩规则为单位构造分类器，压缩规则比单一规则具有更好的数据匹配性，增强了规则的预测功能，使得更多的预测数据可以被高质量的规则分类。（2）提出一种基于正负类信息增益评价的关联分类算法关联分类算法的分类精确度很大程度上取决于如何选择分类器的规则集。DDPMine算法依据模式的信息增益随着模式支持度的降低而单调递减的特性，对FP-growth过程高度剪枝，直接挖掘最具分辨能力的模式，再由模式产生规则，使得DDPMine取得了革命性的进步。规则优劣的评价标准应能在最大限度上反映规则后件不确定性的变化。然而对模式而言，各个类是平等的，规则的后件是未知的。因此，模式的信息增益不能准确反映规则后件不确定性的变化，这是DDPMine算法的一个不足。对此，本文将规则后件类作为正类，其他类作为负类，提出了正负类信息增益的概念，并且在理论上证明了正负类信息增益的合理性，在此基础上，提出了基于正负类信息增益评价的改进算法zFDDPMine。

论文目录

• 中文摘要
• Abstract
• 第一章 绪论
• 1.1 选题依据
• 1.2 本文主要研究内容与创新点
• 1.2.1 本文的主要研究内容
• 1.2.2 本文的创新点
• 1.3 本文结构
• 第二章 关联分类概述及研究现状
• 2.1 关联分类的提出
• 2.1.1 关联分类的起源：关联规则挖掘
• 2.1.2 关联分类的提出
• 2.2 关联分类的概念
• 2.2.1 关联分类的相关定义
• 2.2.2 最早的关联分类模型 CBA
• 2.3 关联分类存在的问题
• 2.3.1 关联分类的搜索空间
• 2.3.2 关联分类的规则选择
• 2.4 关联分类的主要算法
• 2.4.1 CMAR
• 2.4.2 CPAR
• 2.4.3 L3 算法
• 2.4.4 DDPMine 算法
• 2.4.5 MMAC
• 2.4 小结
• 第三章 一种基于压缩规则预测的关联分类方法
• 3.1 引言
• 3.2 压缩规则
• 3.3 基于压缩规则预测的改进关联分类算法
• 3.3.1 基于压缩规则预测的改进 L3 算法
• 3.3.2 基于压缩规则预测的改进 DDPMine 算法
• 3.4 小结
• 第四章 一种基于正负类信息增益评价的关联分类算法
• 4.1 引言
• 4.2 模式信息增益
• 4.3 基于正负类评价的关联分类算法
• 4.3.1 正负类信息熵的提出
• 4.3.2 正负类信息熵合理性证明
• 4.3.3 zFDDPMine 算法
• 4.4 实验与结果分析
• 4.4.1 实验环境及数据集
• 4.4.2 实验结果及分析
• 4.5 小结
• 第五章 总结与展望
• 5.1 本文的工作总结
• 5.2 展望及进一步工作
• 参考文献
• 致谢
• 个人简历、在校期间的研究成果及发表的学术论文