基于KNN的中文文本分类算法研究

论文摘要

随着因特网的快速发展,人们可以从网络上获取越来越多诸如文本、图片、声音等形式的信息,而半结构化或无结构化的文本信息则是占据了大多数,如何利用文本分类技术对这些信息进行分门别类的管理是非常重要的。文本分类技术在较大程度上解决了信息杂乱的问题,而且它已成为信息过滤、搜索引擎等领域的基础,所以,对文本分类的研究有着重要的意义。本文介绍了中文文本分类所涉及到的相关理论,如：向量空间模型、中文分词、特征选择、分类方法、评价指标、权重计算方法以及相似度计算方法。通过对TFIDF详细的分析研究,针对它只考虑特征项的词频以及在整个训练文本集上的分布这一不足,提出了在原公式中增加表示特征项在各个类的分布情况,以及在类内各个文本间分布情况的改进方案。在对K近邻分类方法深入分析的基础上,针对该方法在计算文本相似度时存在的不足,提出了改进方案。新的方案引入了中心向量分类法的思想,同时还考虑了待分类文本与训练文本间共同出现的特征项个数对分类的重要性。在理论研究的基础上,构建了一个包括预处理模块、特征选择模块、分类模块以及评价模块四个功能模块的中文文本分类系统,该系统采用SQL Server 2000作为后台数据库,用c#语言实现。最后利用实现的中文文本分类系统作为测试平台,通过实验验证了对TFIDF权重计算方法以及KNN分类方法改进的有效性和可行性。

论文目录

• 摘要
• Abstract
• 第1章 绪论
• 1.1 研究背景及现实意义
• 1.2 国内外研究现状
• 1.3 本论文所做的主要研究工作
• 1.4 本论文的组织结构
• 第2章 文本分类相关理论
• 2.1 向量空间模型
• 2.2 中文分词
• 2.3 特征选择
• 2.4 分类方法
• 2.5 性能评价
• 2.6 本章小结
• 第3章 权重计算及KNN分类算法的研究
• 3.1 TFIDF权重计算方法的研究
• 3.1.1 权重计算方法
• 3.1.2 TFIDF权重计算方法的改进
• 3.2 KNN算法的研究
• 3.2.1 相似度计算
• 3.2.2 KNN算法的优缺点
• 3.2.3 KNN算法的改进
• 3.3 本章小结
• 第4章 中文文本分类系统的设计与实现
• 4.1 预处理模块
• 4.2 特征选择模块
• 4.3 分类模块
• 4.4 性能评价模块
• 4.5 本章小结
• 第5章 实验及分析
• 5.1 实验环境
• 5.2 实验语料
• 5.3 实验设计及结果分析
• 5.3.1 特征维数对分类效果的影响
• 5.3.2 K值的选取对分类效果的影响
• ATC的对比实验'>5.3.3 TFIDF和TFIDF_ATC的对比实验
• VDC的对比实验'>5.3.4 KNN和KNN_VDC的对比实验
• 5.4 本章小结
• 总结与展望
• 致谢
• 参考文献
• 攻读硕士学位期间发表的论文及科研成果