面向文本分类的改进K近邻的支持向量机算法研究

论文摘要

在信息爆炸的时代,面对浩如烟海的信息,怎样有效地组织和管理这些信息并且快速准确地获得所需信息仍是一个亟待解决的问题。文本自动分类是一个有效的解决办法,它能够处理大量的文本,较大程度解决信息紊乱的现状,帮助用户方便准确地把握所需要的信息。支持向量机(SVM)是建立在结构风险最小化原则以及VC理论基础上的一种机器学习算法。由于它对特征相关性和稀疏性不敏感,对高维问题的处理具有较大的优势。因此,支持向量机在文本分类上具有应用前景。然而,使用支持向量机进行分类时总会出现在分界面附近的样本分类精度不高的问题。针对该缺点做了进一步的研究提出了一种改进K近邻的支持向量机算法。通过计算一些已知类别样本在不同阈值下的分类情况来自动确定最优阈值;同时将改进的加权KNN算法融合到支持向量机中力求在不增加支持向量机算法时间复杂度的基础上,减少分类超平面附近样本的错分率。最后,将改进算法应用到新闻分类系统中,实现新闻信息的文本归类,方便了用户阅读和浏览新闻。

论文目录

• 致谢
• 摘要
• Abstract
• 1 绪论
• 1.1 研究背景和意义
• 1.2 国内外研究现状
• 1.2.1 文本分类研究现状
• 1.2.2 支持向量机研究现状
• 1.3 论文的研究内容与组织结构
• 1.3.1 论文的研究内容
• 1.3.2 论文的组织结构
• 2 文本分类相关理论
• 2.1 文本分类的定义
• 2.2 文本分类的过程
• 2.3 文本分类的关键技术
• 2.3.1 文本预处理
• 2.3.2 文本表示模型
• 2.3.3 文本特征选择
• 2.3.4 特征项权重
• 2.3.5 常用的分类算法
• 3 改进K 近邻的支持向量机算法
• 3.1 支持向量机理论
• 3.1.1 支持向量机数学模型
• 3.1.2 支持向量机算法的优缺点
• 3.2 K 近邻算法
• 3.2.1 K 近邻算法的实现
• 3.2.2 K 近邻算法的优缺点
• 3.3 支持向量机与K 近邻算法的融合
• 3.3.1 支持向量机与K 近邻算法的联系
• 3.3.2 支持向量机与K 近邻结合算法
• 3.4 支持向量机与K 近邻结合算法的不足
• 3.5 改进K 近邻的支持向量机算法
• 3.5.1 算法改进的思想
• 3.5.2 改进算法的原理
• 3.5.3 改进算法的整体描述
• 3.5.4 改进算法中加权KNN 算法的描述
• 3.5.5 改进算法中加权KNN 算法的实现
• 3.5.6 改进K 近邻的支持向量机算法的性能分析
• 3.6 实验及结果分析
• 3.6.1 实验环境
• 3.6.2 实验数据
• 3.6.3 评价标准
• 3.6.4 实验过程及结果分析
• 4 改进K 近邻的支持向量机算法在新闻分类系统中的应用
• 4.1 新闻分类系统概述
• 4.2 新闻分类系统的模型
• 4.3 新闻分类系统的实现
• 4.3.1 新闻分类系统的功能模型
• 4.3.2 新闻分类系统的运行环境
• 4.3.3 新闻分类系统的分类过程
• 4.4 新闻分类系统的分类结果及分析
• 4.4.1 训练文本的运行结果及分析
• 4.4.2 测试文本的运行结果及分析
• 5 结论
• 5.1 总结
• 5.2 展望
• 参考文献
• 作者简历
• 学位论文数据集