基于Pareto多目标优化的SVM多类分类算法的实现

论文摘要

分类学习是机器学习重要的研究内容。支持向量机（Support Vector Machine SVM）在众多分类算法中,具有很好的分类性能。SVM通过选择不同的核函数和参数可以使其具有不同的分类性能,在解决各种分类问题上具有很强的灵活性。同时,SVM算法分类性能与核函数及参数具有不可分割的关系。SVM算法和其它二类分类算法一样,不能有效地处理多类分类问题。系统采用AUC （Area Under the ROC Curve）评价标准,可以弥补用正确率作为评价标准的不足。多目标优化算法针对多个量进行优化,解决了仅仅依靠一个量优化的片面性。本文将AUC评价标准和SVM多类分类方法相结合实现多类别数据分类,通过Pareto多目标优化,对1/E（AUC）,D（AUC）进行全局优化,设计和实现了基于Pareto的多目标遗传算法优化的多类分类方法（SVM Optimized by Multi-Object Optimization Based on Pareto, SVMPARETO）。实验结果表明,SVMPARETO算法比已有的多类分类GOSMAUC算法有着更好的分类性能。实现的基于多目标优化的多类SVM,是优化多类SVM的一种很好的尝试。

论文目录

• 摘要
• Abstract
• 第一章 绪论
• 1.1 本课题的研究背景和意义
• 1.2 SVM 算法的研究现状
• 1.3 本文的主要工作
• 1.4 本文的内容安排
• 第二章 SVM 算法及多类分类算法介绍
• 2.1 SVM 的基础理论及基本思想
• 2.1.1 SVM 的理论基础
• 2.1.2 SVM 的分类步骤
• 2.2 核函数
• 2.3 SVM 解决分类问题
• 2.3.1 多类问题的概述
• 2.3.2 几种多类算法
• 2.4 本章小结
• 第三章 评价标准与遗传算法
• 3.1 评价标准
• 3.1.1 正确率评价标准
• 3.1.2 AUC 评价
• 3.2 遗传算法
• 3.2.1 遗传算法原理
• 3.2.2 遗传算法的过程
• 3.2.3 遗传算法特点
• 3.3 本章小结
• 第四章 PARETO 优化原理及多目标优化
• 4.1 PARETO 优化
• 4.2 多目标优化问题
• 4.3 多目标优化算法
• 4.3.1 NSGAⅡ算法
• 4.3.2 epsilon-MOEA 算法
• 4.3.3 其它算法
• 4.4 本章小结
• PARETO'>第五章 改进的分类算法SVM_PARETO
• PARETO 算法介绍'>5.1 SVM_PARETO 算法介绍
• PARETO 算法流程'>5.2 SVM_PARETO 算法流程
• PARETO 算法设计'>5.3 SVM_PARETO 算法设计
• 5.3.1 遗传算法设计
• 5.3.2 多目标优化算法设计
• 5.4 本章小结
• 第六章 实验结果与分析
• 6.1 实验相关参数选择
• 6.2 实验结果分析与评价
• 6.3 本章小结
• 第七章 相关工作与展望
• 7.1 相关工作
• 7.2 展望
• 参考文献
• 致谢
• 附录A 攻读学位其间发表的论文