基于决策树与SVM融合学习的科技文献分类方法研究

论文摘要

伴随着在线电子信息容量以几何级数增长,截止2008年7月26日，谷歌搜索引擎建立索引的网页数量已经超过了一万亿幅。这些海量般的信息来自不同的行业,比如新闻资讯、娱乐消息、研究性论文、数字图书馆等。为了适应Internet的快速发展,很多过去以印刷形式发行的期刊报纸也纷纷将自己的刊物搬到了Internet上,尤其是科技期刊的电子化和数字化图书馆的出现极大地丰富了网络空间的知识资源。探讨怎样实现网络科技文献的面向主题的自动获取、自动分类是Web资源开发与利用、实现个性化服务的一个很有意义的课题,当中一个很重要的环节就是文本的自动分类。本文在深入地分析决策树和支持向量机（SVM）的特点后，提出了一种基于决策树和支持向量机融合学习的科技文献分类方法，主要研究工作如下：首先，分析了决策树与SVM融合学习方法的国内外研究现状，探讨了文本分词算法、表示模型及特征选择等中文文本分类关键理论与技术。提出了一种基于支持向量的属性重要性度量方法，并通过计算实例对比分析了其相对于其它的特征降维的统计量的优越性。基于支持向量机分类面模型和支持向量点分布，以决策树分类面与支持向量机分类面有效逼近为基本出发点，探索了决策树与SVM的融合学习新途径。着重研究了基于支持向量点和分类面形状特征的属性重要性度量与属性区间分割优化方法，以实现决策树性能的最优化。根据科技文献的特点,建立了一种基于DT和SVM融合学习方法的文本分类器,在此基础上进行了实验研究，并进行对比分析。

论文目录

• 摘要
• ABSTRACT
• 第一章 前言
• 1.1 课题的背景及意义
• 1.2 国内外研究现状
• 1.2.1 文本分类研究现状
• 1.2.2 决策树研究现状
• 1.2.3 支持向量机研究现状
• 1.2.4 决策树与SVM融合学习研究现状
• 1.3 文本分类概述
• 1.3.1 文本分类定义
• 1.3.2 文本分类方法
• 1.3.3 文本分类流程
• 1.3.4 文本分类性能评估
• 1.4 本文的研究内容和组织结构
• 第二章 中文文本分类的相关技术
• 2.1 中文分词现状
• 2.1.1 典型分词系统
• 2.1.2 中文分词研究面临的困难
• 2.2 文本分词算法
• 2.2.1 分词方法的分析与比较
• 2.3 文本表示模型
• 2.3.1 布尔模型
• 2.3.2 概率模型
• 2.3.3 向量空间模型
• 2.4 文本特征选择
• 2.4.1 文本特征项
• 2.4.2 特征选择
• 2.5 特征降维
• 2.5.1 特征频率
• 2.5.2 文档频率
• 2.5.3 互信息
• 2.5.4 信息增益
• 2.5.5 期望交叉熵
• 2.5.6 CHI
• 2.5.7 基于支持向量的属性重要性度量JP
• 2.5.7.1 属性重要性与分类面形状特征的关系
• 2.5.7.2 属性重要性度量方法
• 2.5.7.3 属性重要性度量计算实例
• 2.6 实验对比分析
• 2.6.1 特征降维方法对比实验
• 2.6.2 特征降维分析与比较
• 第三章 决策树与SVM融合学习文本分类算法研究
• 3.1 文本分类算法
• 3.1.1 K-近邻算法（KNN）
• 3.1.2 朴素贝叶斯分类（NB）
• 3.1.3 决策树算法
• 3.1.4 神经网络算法
• 3.1.5 支持向量机算法（SVM）
• 3.1.6 文本分类算法的分析与比较
• 3.2 基于支持向量的属性区间分割优化
• 3.2.1 属性区间分割优化
• 3.2.2 初始区间形成
• 3.2.3 区间合并
• 3.2.3.1 二维化分析方法
• 3.2.3.2 不可判别区域
• 3.2.3.3 区间冲突性
• 3.2.3.4 区间合并准则
• 3.2.4 区间优化
• 3.2.5 计算实例
• 3.2.6 结论
• 3.3 实验与分析
• 3.3.1 实验系统介绍
• 3.3.2 核函数及参数对比实验
• 3.3.3 分类算法对比实验
• 3.4 本章总结
• 第四章 基于决策树与SVM融合学习方法的科技文献分类研究
• 4.1 科技文献分类
• 4.1.1 行文规范
• 4.1.2 科技文献研究
• 4.2 科技文献分类系统设计
• 4.3 实验对比分析
• 4.3.1 实验测试环境
• 4.3.2 实验方法设计
• 4.3.3 实验结果
• 4.4 本章总结
• 第五章 结束语
• 5.1 论文主要工作
• 5.2 未来工作展望
• 参考文献
• 致谢
• 个人简历