基于SVM的中文文本自动分类系统的研究与实现

论文摘要

近些年来,随着Internet的迅速发展,出现了大量的自然语言文本,如何在这些信息中提取对我们有用的信息已经成为当前研究的一个热点问题,同时这也是文本自动分类的主要任务之一。几何级数增长的电子文本、海量信息在日常生活中的传播,都迫切的需要我们对这些文本进行自动分类。使用文本自动分类系统可以帮助人们自动检索文本,以及判断文本的类别。分类问题是实际应用中普遍存在的问题,随着信息技术的快速发展,对其在理论研究和实际应用中提出了新的难题和挑战。建立在统计学习理论基础上的支持向量机是一种新型的机器学习方法,它根据有限的样本信息在模型的复杂度和期望风险之间寻求最佳方案,从而获得比较好的泛化性能。与传统的学习方法相比,SVM具有对维数不太敏感、收敛到全局最优点、泛化能力强等的优点,比较好的解决了传统算法中经常出现的维数灾难、局部极值、过学习等的棘手问题,逐渐成为近几年机器学习领域中一个非常活跃的研究热点。本文首先介绍了文本自动分类技术在国内外的研究现状;其次对文本自动分类所涉及的关键技术,包括中文文本分类的过程、中文分词方法、特征提取、特征项权重的计算方法以及几种比较常用的分类算法,分别进行了研究和探索;再次对SVM理论进行了概括性的介绍,包括统计学习理论、SVM的最优分类面、各种情况下的分类情况、SVM的核函数以及分类步骤等;接下来是构建一种SVM分类器,介绍了中文文本自动分类系统的总体框架,系统流程和各个功能模块;最后对分类系统中基于不同算法的分类器分别进行实验比较,着重对SVM算法中基于不同的核函数在不同的特征提取函数下的实验效果做了对比。

论文目录

• 摘要
• ABSTRACT
• 第1章 绪论
• 1.1 研究背景
• 1.2 文本分类的研究现状
• 1.2.1 文本分类的国外研究现状
• 1.2.2 文本分类的国内研究现状
• 1.3 SVM 的研究现状
• 1.4 本文的研究内容及组织结构
• 第2章 中文文本自动分类技术
• 2.1 中文文本自动分类概述
• 2.1.1 文本分类的任务
• 2.1.2 文本分类的过程
• 2.2 文本的表示
• 2.3 中文文本分词
• 2.3.1 中文文本分词技术
• 2.3.2 中文分词中的难题
• 2.4 文本的特征提取
• 2.4.1 信息增益
• 2.4.2 互信息
• 2.4.3 期望交叉熵
• 2.4.4 X2-统计量
• 2.4.5 文本证据权重
• 2.5 特征项权重的计算
• 2.5.1 布尔权重
• 2.5.2 词频权重
• 2.5.3 TFIDF 权重
• 2.6 文本分类算法
• 2.6.1 KNN 算法
• 2.6.2 Bayes 算法
• 2.6.3 SVM 算法
• 2.7 分类器的性能评估
• 2.8 本章小结
• 第3章 SVM 在文本分类中的应用
• 3.1 统计学习理论与支持向量机
• 3.2 支持向量机分类
• 3.2.1 最优分类面
• 3.2.2 线性可分支持向量机
• 3.2.3 线性不可分支持向量机
• 3.2.4 非线性可分支持向量机
• 3.3 核函数的研究现状
• 3.4 支持向量机的应用步骤
• 3.5 基于SVM 文本分类方法的优势
• 3.6 基于SVM 文本分类方法中存在的问题
• 3.7 本章小结
• 第4章 支持向量机分类器的构建
• 4.1 核函数
• 4.1.1 核函数的存在性
• 4.1.2 核函数的选择
• 4.1.3 支持向量机参数优化研究
• 4.2 支持向量机模型的建立
• 4.2.1 惩罚系数Ｃ
• 4.2.2 训练算法
• 4.2.3 支持向量机的学习算法
• 4.2.4 支持向量机多分类器算法
• 4.3 本章小结
• 第5章 实验设计与结果分析
• 5.1 文本分类方法的性能评估方法
• 5.2 实验准备工作
• 5.2.1 实验数据
• 5.2.2 实验环境及系统流程图
• 5.3 常用文本分类算法性能比较
• 5.3.1 KNN 算法比较
• 5.3.2 BAYES 算法比较
• 5.3.3 SVM 算法比较
• 5.4 SVM 分类器
• 5.5 本章小结
• 第6章 总结与展望
• 6.1 总结
• 6.2 展望
• 参考文献
• 致谢
• 攻读学位期间发表论文目录