基于SVM的数据挖掘分类技术研究

论文摘要

随着计算机技术和网络通讯技术的日益发展,大量数据涌到人们面前。如何有效地选择需要的信息成为了越来越突出的问题,数据挖掘技术就是顺应这种需要而发展起来。分类技术作为数据挖掘技术的一个重要方面,一直备受研究者的关注,已产生了很多好的解决方法,其中本论文中研究的支持向量机方法就是一个很有效的分类方法,它是以统计学习理论为基础而发展起来的一种新的分类方法。它使用结构风险最小化原则代替经验风险最小化原则,较好地处理小样本情况下的学习问题。又由于采用了核函数思想,它能把非线性问题转化为线性问题来解决,并降低了算法的复杂度。本文首先讨论了统计学习理论的一些基本知识,其中包括了机器学习,VC维,推广性的界和结构风险最小化等。接下来重点介绍了支持向量机,包括了它的发展历史和现状,主要的基本概念和研究内容,并针对当前几种基于支持向量机的多值分类算法的不足,分析了多值分类的过程,采用基于相对分离度的新的多值分类算法,最后的数值实验说明算法是可行的、有效的。另外,针对支持向量机训练速度慢的缺点,分析了支持向量的性质和增量学习的过程,给出了一种新的增量学习算法,随后的数值实验也表明该法能在保证测试精度的同时有效地减少了训练时间。目前国内支持向量机的研究只是限于理论方面,应用方面才刚刚开始。支持向量机是一种基于应用的技术,因此很多知识和经验还需要我们在实践中进一步总结和发现。

论文目录

• 摘要
• Abstract
• 第一章 绪论
• 1.1 引言
• 1.2 数据挖掘概述
• 1.3 支持向量机
• 1.3.1 研究现状
• 1.3.2 方法优点
• 1.4 本文研究内容及章节安排
• 第二章 统计学习理论
• 2.1 机器学习问题的基本问题
• 2.1.1 机器学习问题的数学表示
• 2.1.2 复杂性与推广能力
• 2.2 统计学习理论
• 2.2.1 经验风险最小化与学习的一致性
• 2.2.2 VC维
• 2.2.3 泛化能力的界
• 2.2.4 结构风险最小化
• 2.3 本章小结
• 第三章 支持向量机
• 3.1 支持向量机的发展历史
• 3.2 支持向量机的原理
• 3.2.1 最优分类面
• 3.2.2 广义最优分类面
• 3.2.3 核函数
• 3.3 支持向量机的主要研究内容
• 3.3.1 各种支持向量机新算法的研究
• 3.3.2 支持向量机模型选择的研究
• 3.3.3 海量数据优化算法的研究
• 3.3.4 支持向量机多类别分类方法的研究
• 3.4 本章小节
• 第四章 多值分类支持向量机研究
• 4.1 用多个二值分类器实现多值分类
• 4.1.1 “一对多”型支持向量机多值分类器
• 4.1.2 “一对一”型支持向量机多值分类器
• 4.2 层次型多值分类支持向量机
• 4.2.1 基于有向无环图的多分类支持向量机
• 4.2.2 基于二叉树的多分类支持向量机
• 4.3 基于相对分离度的二叉树多分类支持向量机
• 4.3.1 类间相对分离度
• 4.3.2 算法描述
• 4.4 实验与分析
• 4.5 本章小节
• 第五章 支持向量机增量学习研究
• 5.1 支持向量特性分析
• 5.2 常用增量学习方法
• 5.2.1 固定划分增量学习算法
• 5.2.2 错误驱动增量学习算法
• 5.2.3 增量学习算法的比较
• 5.3 新的SVM增量学习算法
• 5.4 实验与分析
• 5.5 本章小节
• 第六章 总结与展望
• 致谢
• 参考文献
• 在读期间发表的论文