非平衡数据集分类方法研究及其在电信行业中的应用

论文摘要

近年来,非平衡数据集分类问题一直是数据挖掘和机器学习领域的研究难点。所谓非平衡数据集分类问题,是指训练样本数量存在类分布不平衡的模式分类问题。在许多实际问题中,数据集是非平衡的,即某些类的样本量比其他类少得多。当使用传统的机器学习算法来解决该问题时,往往会出现少数类的预测准确率大大低于多数类的情况,从而导致分类器性能大幅度下降。本论文针对非平衡数据集分类困难的问题,尤其是少数类识别困难问题,提出一种新的算法——AdaBoost-SVM-OBMS,该算法结合集成算法和采用错分样本点生成新样本点的过抽样技术。同时,在研究电信数据集特点和非平衡数据集分类方法的基础上,针对电信数据挖掘的常用主题——欠费挖掘,对电信欠费预测做了深入的研究和探讨。论文的主要研究工作如下：1.针对非平衡数据集分类问题,本文提出一种新的算法——AdaBoost-SVM-OBMS.该算法结合boosting算法和基于错分样本产生新样本的过抽样技术。在新算法中,以支持向量机为元分类器,每次boosting迭代中标记出错分的样本点,然后在错分样本点与其近邻样本间随机产生一定数量与错分样本点同一类别的新样本点。新产生样本点加入原训练集中重新训练学习,以提高分类困难样本的识别率。在AUC,F-value和G-mean等3个不同价格的评价指标下,针对8个benchmark数据集上对AdaBoost-SVM-OBMS算法进行了实验,实验结果表明了AdaBoost-SVM-OBMS算法在非平衡数据集分类中的对少数类和多数类具有较高的预测准确率。2.针对电信欠费数据挖掘本身的特点,结合电信行业专家经验,提出一种处理电信欠费数据集的分类策略,并应用于实际电信数据,取得了一些有价值的结果。

论文目录

• 致谢
• 摘要
• ABSTRACT
• 第1章 绪论
• 摘要
• 1.1 引言
• 1.2 数据挖掘研究概述
• 1.2.1 数据挖掘的概念
• 1.2.2 数据挖掘的分类和应用
• 1.3 数据挖掘在电信行业的应用
• 1.4 论文内容与结构
• 第2章 非平衡数据集分类技术研究现状
• 摘要
• 2.1 引言
• 2.2 非平衡数据集分类困难的原因
• 2.3 非平衡数据集分类方法
• 2.3.1 非平衡数据集分类方法介绍
• 2.3.2 非平衡数据集分类方法比较
• 2.4 小结
• 第3章 一种新的基于过抽样技术的非平衡数据集分类方法
• 摘要
• 3.1 引言
• 3.2 ADABOOST-SVM-OBMS算法
• 3.2.1 AdaBoost算法
• 3.2.2 支持向量机
• 3.2.3 AdaBoost-SVM-OBMS算法
• 3.3 实验仿真与分析
• 3.3.1 评价准则
• 3.3.2 仿真实验
• 3.4 小结
• 第4章 非平衡数据集分类方法在电信欠费挖掘主题下的应用
• 摘要
• 4.1 引言
• 4.2 电信数据挖掘背景
• 4.3 电信欠费研究现状
• 4.4 ADABOOST-SVM-OBMS算法在电信中的应用
• 4.4.1 商业理解和数据理解
• 4.4.2 数据预处理
• 4.4.3 建立模型
• 4.5 基于属性选择聚类的电信数据挖掘方法ASC-CVM
• 4.5.1 问题分析
• 4.5.2 实验结果分析
• 4.6 小结
• 第5章 总结与展望
• 摘要
• 5.1 内容总结
• 5.2 研究展望
• 参考文献
• 附录A:个人简历
• 附录B:攻读硕士期间科研成果