模糊支持向量机

论文摘要

支持向量机(Support vector machines,SV M)是V apnik等人根据统计学习理论提出的一种机器学习方法。它是建立在V C维和结构风险最小化原则基础上的,利用核函数把非线性可分数据映射到高维特征空间,使其在高维特征空间中线性可分。同时,利用核函数计算内积可避免“维数灾难”。由于支持向量机具有较好的泛化性和学习性能,该技术已成为机器学习的研究热点,并在很多领域得到成功应用,如模式识别、图像分类、预测等方面。但是,作为一种尚未成熟的新技术,支持向量机目前存在着许多局限。客观世界存在大量的模糊信息,如果支持向量机的训练集中含有噪声或野点时,这些含有“异常”信息的样本在特征空间中常常位于分类面附近,导致获得的分类面不是真正的最优分类面。针对这种情况,台湾学者Lin等提出了模糊支持向量机(Fuzzy support vector machines,FSV M),根据不同输入样本对分类的贡献不同,赋予不同的隶属度,将噪声或野点与有效样本区分开。虽然FSV M对传统的支持向量机有所改善,但隶属度函数的确定是FSV M方法的难点。目前,没有统一的确定模糊隶属度函数的方法,本文提出一种基于线性规划的一类分类算法确定隶属度,这样确定的隶属度,即考虑到样本到类中心的距离,又考虑到样本属于该类程度的大小,从而提高分类效果。本文首先对支持向量机的构造原理和基础理论进行分析和研究。其次,对目前几种模糊支持向量机隶属度的确定方法进行论述,并在此基础上提出一种基于线性规划的一类分类算法确定隶属度。最后,给出模糊支持向量机分类方法与传统支持向量机分类方法的对比实验。实验结果表明:模糊支持向量机比传统的支持向量机有更好的分类效果,能够削弱噪声或野点的影响。

论文目录

• 摘要
• Abstract
• 1 引言
• 1.1 研究目的和意义
• 1.2 研究现状
• 1.3 论文结构
• 2 统计学习理论
• 2.1 机器学习的基本知识
• 2.2 机器学习问题表示
• 2.3 学习过程一致性的条件
• 2.3.1 V C 维
• 2.3.2 推广性的界
• 2.3.3 结构风险最小化原则
• 2.4 最优化理论
• 2.5 Wolfe 对偶
• 3 支持向量机理论
• 3.1 线性可分情况
• 3.2 线性不可分情况
• 3.3 线性不可分情况举例
• 4 模糊支持向量机
• 4.1 多类模糊支持向量机
• 4.2 一般模糊支持向量机
• 4.2.1 模糊支持向量机算法
• 4.2.2 几种隶属度函数的确定方法
• 4.2.3 基于线性规划一类分类的隶属函数确定方法
• 4.3 实验结果及分析
• 4.3.1 含野点样本的实验结果
• 4.3.2 标准数据库的实验结果
• 4.4 小结
• 5 总结与展望
• 参考文献
• 致谢