模糊支持向量机的研究与应用

论文摘要

统计学习理论具有强大的理论基础,支持向量机(Support Vector Machine,简称SVM)作为一种常用的学习方法又是建立在结构风险最小化原理(Structural Risk Minimization,SRM)和VC维理论基础上的。支持向量机在解决一些小样本等实际问题时,具有很强的泛化能力,并且有效地克服了传统机器学习中存在局部最小和维数灾难等问题的出现。支持向量机能够根据模型的学习能力和模型的复杂性衡量取舍,找到最合适的分类器,获得最优的推广能力(Generalization Ability)。支持向量机作为一种尚未成熟的新技术,还存在不足和局限,通过改进和完善,可以增强它的适用性,其中有几个问题亟待解决:第一,支持向量机刚开始只是应用于二分类问题,如何应用于多类分类问题成为一项研究热点。目前,多类分类器的构造主要包括直接构造和间接构造两种方法,间接构造法需要构造多个二类分类器,而直接构造法只需构造一个分类器,但分类精度较低。怎样提高分类精度,更好的服务于多类分类问题也是需要研究的热点问题之一。第二,SVM对孤立点和噪声数据的影响是非常敏感的,各类别样本数目可能不均衡。如何克服噪声对训练过程的影响,还有各类样本数目不均衡时所造成的不利影响,这些问题都还需要研究改善和提高。第三,核函数的选择与参数设置的优化一直也是研究的热点问题。在小样本研究中,由于先验信息的不足,往往导致搜索区间过大,再加上需要优化的参数不只一个,训练过程就需要消耗更多的时间。本文以支持向量机理论为基础,结合模糊理论进行研究。针对支持向量机中不能把每个样本所起作用的重要程度体现出来,将模糊理论引入支持向量机,在已有研究的基础上,提出了一种基于去边缘数据的模糊支持向量机,取得了较好的分类效果。同时将该算法运用到人为数据和UCI数据中,和标准支持向量机算法做对比实验。

论文目录

• 摘要
• Abstract
• 1 绪论
• 1.1 研究背景及意义
• 1.2 论文的研究内容和结构安排
• 1.2.1 研究内容
• 1.2.2 结构安排
• 2 支持向量机与统计学习理论
• 2.1 统计学习理论的核心内容
• 2.1.1 经验风险
• 2.1.2 VC 维
• 2.1.3 结构风险
• 2.2 支持向量机理论
• 2.2.1 最优分类超平面
• 2.2.2 线性可分情况的最优超平面
• 2.2.3 线性不可分情况的最优超平面
• 2.2.4 非线性情况及核函数
• 2.3 基于支持向量机的多类分类
• 2.3.1 one-against-rest 方法
• 2.3.2 one-against-one 方法
• 2.3.3 有向无环图法（DAGSVM）
• 2.3.4 基于一类分类的多类分类算法
• 3 模糊支持向量机
• 3.1 模糊集的概念
• 3.2 模糊支持向量机
• 3.3 模糊隶属度的选择
• 3.3.1 基于距离确定隶属度函数
• 3.3.2 基于S 型函数确定隶属度
• 3.3.3 基于KNN 确定隶属度
• 3.4 基于去边缘数据的模糊支持向量机
• 3.5 UCI 数据库实验结果
• 4 总结与展望
• 参考文献
• 攻读硕士学位期间发表学术论文情况
• 致谢