基于综合评价理论的多分类器容器

论文摘要

分类是数据挖掘中一项非常重要的任务,目前在商业上应用最多。分类的目的是提出一个分类函数或分类模型(也常常称做分类器),该模型能把数据库中的数据项映射到给定类别中的某一个。大量的统计方法和机器学习方法被应用于自动文本分类。自动文本分类分为三个过程:首先对文本进行预处理,将文本数字化;接着构造并训练分类器;最后用分类器对新文本进行分类。本文根据对以往传统的分类方法的研究,特别是每一个分类器对于不同类别的区分程度不同,提出一种基于综合评价理论的多分类器综合方法,旨在利用各个子分类器对于不同类别的区分度不同,互相取长补短,评价模型使用了线性加权模型,把多个分类器综合和在一个容器内。训练过程参照了优化理论中的直接搜索方法。形成一个容纳多个分类器的容器。文本预处理过程中,首先通过对几种特征抽取方法的比较,选取一种最适合本系统的方法;其次选取一种合适的权重计算方法,最后把文本表示成向量的形式。在分类器的训练过程中,首先构造了四个子分类器,利用复旦大学提供的语料进行测试分析,再根据综合评价理论构造分类容器,对分类容器进行训练时,得出各个子分类器的类别权值,即权值矩阵。分类器测试时,先用子分类器对文本进行判别,再利用权值矩阵,运用集值迭代的方法进行加权求和,最后取和最大的类做为类别归属。这个容器是各个分类器的一个优化的组合,实验结果表明,这个容器确实得到了比较理想的分类效果。本文中用到的方法有SVM分类方法、贝叶斯分类方法、简单向量距离法和多组判别分析法。

论文目录

• 摘要
• Abstract
• 引言
• 1绪论
• 1.1文本分类的发展史
• 1.2文本分类常用的方法
• 1.3分类方法的性能评估
• 1.4课题涉及的主要研究内容
• 1.5论文的组织
• 2文本分类过程
• 2.1文本向量化
• 2.2分类器的训练
• 2.3分类器的测试
• 2.4分类器综述
• 3本文涉及到的分类方法
• 3.1简单向量距离方法
• 3.1.1CG分类的原理
• 3.1.2CG的训练过程
• 3.1.3CG的测试
• 3.2贝叶斯分类方法
• 3.2.1贝叶斯分类的原理
• 3.2.2贝叶斯的训练过程
• 3.2.3贝叶斯的测试
• 3.3支撑向量机（SVM：Support Vector Machine）分类方法
• 3.3.1SVM分类的原理
• 3.3.2SVM的训练过程
• 3.3.3SVM的测试
• 3.4多组判别分析方法
• 3.4.1MG分类的原理
• 3.4.2MG的训练过程
• 3.4.3MG的测试
• 4系统总体设计
• 4.1系统设计目标
• 4.2系统设计思想
• 4.3系统体系结构
• 5系统设计和实现
• 5.1文本处理
• 5.1.1分词
• 5.1.2特征抽取
• 5.1.3文本表示
• 5.2分类器的训练
• 5.2.1SVM分类器的训练
• 5.2.2贝叶斯分类器的训练
• 5.2.3多组判别方法分类器的训练
• 5.2.4简单向量距离法分类的训练
• 5.2.5综合分类器的训练
• 5.3系统分析
• 5.4分类器的测试结果
• 结论
• 研究工作小结
• 研究工作的展望
• 参考文献
• 攻读硕士学位期间发表学术论文情况
• 致谢
• 大连理工大学学位论文版权使用授权书