支持向量机在模式识别领域中的应用研究

论文摘要

支持向量机(Support Vector Machine,SVM)方法是Vapnik等人根据统计学习理论提出的一种新型的、有效的机器学习方法,它以结构风险最小化准则和VC维理论为理论基础,通过适当地选择函数子集以及该子集中的判别函数,使学习机器的实际风险达到最小,保证了通过有限训练样本得到小误差分类器。支持向量机较好的解决了以往困扰很多学习方法的小样本、非线性、过学习、高维数、局部极小点等实际问题,同时具有很强的推广能力。目前,统计学习理论和支持向量机理论作为小样本学习的最佳理论,开始受到越来越广泛的重视,正在成为人工智能和机器学习领域新的研究热点。本论文研究的主要内容包括以下几个方面:支持向量机算法的改进、支持向量机多类分类方法、支持向量机在模式识别中的具体应用等。论文主要研究工作包括:(1)针对传统的增式算法在求解SVM问题时存在的瓶颈问题,提出了一种新型的增式支持向量机训练算法,决策函数的阈值化以及KKT条件的引入使得保留下来的训练样本都是最有效的,从而提高了迭代速度和分类效率。(2)针对传统的基于决策树方法的支持向量机多类分类方法训练样本数目过多、时间复杂度过高的缺点,提出了一种基于聚类思想的支持向量机多类分类算法。空间距离和聚类思想的引入,有效的提高了算法的分类效率。仿真实验表明,该方法在保持算法良好推广性的同时降低了算法的复杂度,从而提高了分类效率和分类速度。(3)系统介绍了模式识别理论,并将本研究中的改进算法应用到船舰目标识别和人脸识别中,与传统的支持向量机分类方法相比较,改进算法在分类效率和分类速度上表现出了明显的优越性。

论文目录

• 摘要
• Abstract
• 第一章 引言
• 1.1 研究的背景及意义
• 1.2 支持向量机理论的发展
• 1.3 支持向量机在各个领域中的具体应用
• 1.4 本文的主要工作及内容安排
• 第二章 支持向量机的基本原理
• 2.1 统计学习理论
• 2.1.1 机器学习问题的描述
• 2.1.2 统计学习理论发展与支持向量机
• 2.1.3 VC维理论
• 2.1.4 推广性的界
• 2.1.5 结构风险最小化原则
• 2.2 支持向量机理论
• 2.2.1 最优分类面
• 2.2.2 标准支持向量机
• 2.3 支持向量机的主要研究热点
• 2.3.1 支持向量机多类分类方法
• 2.3.2 求解支持向量机的二次规划问题
• 2.3.3 函数选择及其参数优化
• 2.4 本章小结
• 第三章 一种新型的增式SVM训练算法
• 3.1 传统的增式SVM训练算法
• 3.2 改进的增式SVM训练算法
• 3.2.1 改进算法的基本思想及KKT条件
• 3.2.2 改进增式练训算法的步骤
• 3.2.3 仿真实验
• 3.3 本章小结
• 第四章 一种基于聚类思想的SVM多类分类方法
• 4.1 基于决策树方法的多类分类SVM
• 4.2 基于聚类思想的SVM多类分类算法
• 4.3 实验结果与讨论
• 4.4 小结
• 第五章 改进的SVM算法在模式识别领域的具体应用
• 5.1 模式识别简介
• 5.2 船舰目标识别
• 5.2.1 不变矩理论
• 5.2.2 基于不变矩和支持向量机理论的船舰目标识别
• 5.2.3 实验仿真
• 5.3 人脸识别
• 5.3.1 人脸识别的理论基础
• 5.3.2 基于PCA方法和SVM原理的人脸识别技术
• 5.4 本章小结
• 第六章 总结与展望
• 6.1 本文工作总结
• 6.2 未来工作展望
• 参考文献
• 攻读学位期间的研究成果
• 致谢