基于多类软间隔支持向量机的文本分类问题研究

论文摘要

文本分类技术是对文本进行有效管理的方法之一,是一项重要的智能信息处理技术,是文本检索技术的基础。文本分类对于提高信息检索的效率和效果很有帮助,良好的分类性能是人们关注的焦点。支持向量机是一种针对分类和回归问题的新型机器学习方法,具有良好的推广性和较好的分类精确性。正在成为继模式识别和神经元网络研究之后机器学习领域新的研究热点。基于支持向量机的文本分类算法,是近年来的一个研究方向。本文的主要研究的是把支持向量机和核函数思想应用到文本分类问题中去,论文首先探讨了文本分类的发展概况和相关技术,系统的研究了统计学习理论和支持向量机特别是核函数的相关理论,深入研究了它们在文本分类问题中的应用技术。本文所做的主要工作为:通过对支持向量机的深层分析,得出了支持向量机C-SVC的模型结构,并在此基础上定义了一个参数s,构建了一种新的软间隔支持向量机模型——s-SVM。根据核函数的理论,结合多项式核函数和径向基核函数的思想,提出了适合s-SVM模型的支持向量比例核函数及其选取策略。利用成对分类的思想解决了s-SVM的多类分类问题,给出了基于s-SVM模型的多类分类问题的详细算法。本文建立了一个文本分类系统,该系统的核心模块采用软间隔支持向量机模型C-SVC和s-SVM,使用Reuters-21578语料库对其进行测试,评价了这两种分类方法的性能,并与传统分类算法的性能进行比较,分析了其优缺点。

论文目录

• 摘要
• Abstract
• 第1章 绪论
• 1.1 论文研究的背景及意义
• 1.2 国内外研究现状
• 1.2.1 文本分类的研究现状
• 1.2.2 支持向量机的研究现状
• 1.3 本文研究内容及论文组织结构
• 第2章 文本分类技术
• 2.1 文本分类的基本概念
• 2.2 文本的预处理
• 2.3 向量空间模型
• 2.4 特征选取
• 2.5 主要的分类算法
• 2.6 分类器的性能评估
• 2.7 本章小结
• 第3章 统计学习理论和支持向量机
• 3.1 统计学习理论
• 3.1.1 学习过程的一致性
• 3.1.2 VC 维
• 3.1.3 推广性的界
• 3.1.4 结构风险最小化
• 3.2 支持向量机
• 3.2.1 广义最优分类面
• 3.2.2 支持向量机模型结构
• 3.2.3 核函数
• 3.3 本章小结
• 第4章 一种新的软间隔支持向量机模型S-SVM
• 4.1 软间隔支持向量机C-SVC
• 4.2 新的软间隔支持向量机S-SVM
• 4.3 S-SVM 的核函数和参数选择问题
• 4.4 S-SVM 模型的多类分类算法
• 4.5 本章小结
• 第5章 基于S-SVM 的多类分类系统的设计与实现
• 5.1 多类分类系统设计
• 5.1.1 语料库选择
• 5.1.2 文本预处理
• 5.1.3 文本向量化
• 5.1.4 评估标准
• 5.1.5 系统设计
• 5.2 实验结果
• 5.2.1 软间隔C-SVC 的性能评估
• 5.2.2 支持向量比例s-SVM 的性能评估
• 5.3 本章小节
• 结论
• 参考文献
• 攻读硕士学位期间发表的学术论文
• 致谢