多层文本分类与增量学习关键技术研究

论文摘要

为了提高支持向量机（Support Vector Machine, SVM）在大类别数目海量样本中的学习和分类性能,本文对有效地解决多层文本分类和增量学习等方面的问题进行了研究。论文首先对适用于大类别数目的多层文本分类方法进行了研究,提出并解决了支持向量机多层分类训练样本集、关键特征项表和分类器的构建问题。其次在多层文本分类的基础上设计了一种能够有效解决海量样本学习的支持向量机增量学习方法HISVML,该方法包括分类树增量更新和特征集增量更新两部分内容。分类树增量更新是根据新增样本违背KKT条件路径进行在线增量学习；特征集增量更新是在增量更新分类树之前进行关键特征项的批量增量学习调整。最后,论文给出了一个基于C++,结合了多层文本分类和HISVML方法的支持向量机文本分类系统RCCata。实验表明,RCCata多层分类较传统单层分类具有较高的分类准确性和较快的分类速度；RCCata增量学习较一次性学习在具有近似分类准确率的同时,耗用的内存较少。

论文目录

• 摘要
• Abstract
• 第一章 绪论
• 1.1 研究背景与意义
• 1.2 研究目标与关键技术
• 1.2.1 研究目标
• 1.2.2 关键技术
• 1.3 国内外研究现状
• 1.3.1 国外研究现状
• 1.3.2 国内研究现状
• 1.4 本论文工作内容及组织结构
• 第二章 文本分类相关理论和技术
• 2.1 文本分类概述
• 2.2 向量空间模型
• 2.3 支持向量机理论
• 第三章 SVM多层文本分类方法
• 3.1 SVM多层分类概述
• 3.2 分类模型训练方法
• 3.2.1 分类概念树定义
• 3.2.2 训练集构建方法
• 3.2.3 分类器构建方法
• 3.2.4 特征选择方法
• 3.2.5 分类模型学习方法
• 3.3 分类模型测试方法
• 3.4 本章小结
• 第四章 HISVML增量学习方法
• 4.1 HISVML概述
• 4.1.1 SVM增量学习
• 4.1.2 HISVML算法总体结构
• 4.2 特征项增量学习方法
• 4.2.1 问题说明
• 4.2.2 增量更新特征项集
• 4.3 多层分类器增量学习方法
• 4.3.1 问题说明
• 4.3.2 样本淘汰算法
• 4.3.3 On-Line SVM增量学习算法
• 4.3.4 增量更新分类树
• 4.4 本章小结
• 第五章 多层分类系统RCCata的设计与实现
• 5.1 系统设计目标
• 5.2 体系结构总体设计
• 5.2.1 体系结构—流程视角
• 5.2.2 体系结构—数据视角
• 5.3 主要流程设计与实现
• 5.3.1 一次性学习流程
• 5.3.2 增量学习流程
• 5.3.3 测试流程
• 5.4 核心数据模块设计与实现
• 5.4.1 分类概念树模块
• 5.4.2 特征项表模块
• 5.4.3 文本向量模块
• 5.4.4 分类模型模块
• 5.5 本章小结
• 第六章 实验研究
• 6.1 实验设计
• 6.1.1 实验内容
• 6.1.2 性能评价标准
• 6.1.3 实验环境和数据集
• 6.2 实验结果及分析
• 6.3 本章小结
• 结束语
• 致谢
• 参考文献
• 在读期间研究成果