基于集成学习的半监督学习算法研究

论文摘要

在模式识别领域，有很多问题需要获取大量的有标记数据以训练出高精度的分类器，但有标记数据的获取却是非常困难的，甚至要消耗大量的人力物力。随着数据收集和存储技术的飞速发展，未标记数据的获取变得相对容易。因此如何挖掘未标记数据携带的信息，辅助少量的有标记数据进行半监督学习，成为近年来国内外研究的一个热点问题。在现有半监督学习算法的基础上，如何更好的结合集成学习技术，训练多个分类器互相协作进行半监督学习，是一个值得深入研究的方向。本文在该方向上进行了研究，取得的主要成果有：（1）提出了一种半监督学习算法—Vote-Training。在UCI数据集上的大量实验表明，Vote-Training算法可以有效地利用未标记样本训练出识别率更高的分类器，与已有的半监督学习算法—Tri-Training相比，该算法耗费的时间较少，结构更为灵活，可以针对不同的问题调整投票策略，选取最合适的方式来解决具体的问题。在实验中，还对实验数据做了进一步的分析，指出了Vote-Training算法有效的前提条件。（2）分析了传统的协同训练算法存在的不足之处，通过加入更多的分类器和引入主动学习技术，提出了改进的协同训练算法—CTA，在UCI数据集上的实验验证了该算法的优越性。半监督学习算法存在着选择优越性的问题，没有一种算法能够解决所有的半监督学习问题。深入分析现有的算法，运用相关原理和技术，探寻一个统一的原则来指导具体的半监督学习问题是一个很有意义的研究方向，本论文即是对此的一个有益尝试。

论文目录

• 摘要
• ABSTRACT
• 第一章 绪论
• 1.1 研究背景及意义
• 1.2 国内外研究现状
• 1.3 本文工作
• 1.4 章节安排
• 第二章 相关理论介绍
• 2.1 半监督学习
• 2.1.1 半监督学习的历史
• 2.1.2 半监督学习的两个基本假设
• 2.1.3 半监督学习的理论分析
• 2.1.4 半监督学习算法分类介绍
• 2.2 集成学习
• 2.2.1 集成学习的历史
• 2.2.2 集成学习有效的原因
• 2.2.3 集成学习方法介绍
• 2.3 本章小结
• 第三章 基于扩展式模型的半监督学习算法
• 3.1 可行性分析
• 3.2 一种新的半监督学习算法的设计
• 3.2.1 问题描述
• 3.2.2 Vote-Training 算法的设计
• 3.3 Vote-Training 算法的实验及分析
• 3.3.1 实验流程
• 3.3.2 实验结果及分析
• 3.4 Vote-Training 和 Tri-Training 的对比实验
• 3.4.1 Vote-Training 和 Tri-Training 算法对比
• 3.4.2 实验流程
• 3.4.3 实验结果及分析
• 3.5 对于实验中一些问题的探讨
• 3.6 本章小结
• 第四章 结合主动学习的协同训练算法
• 4.1 传统的协同训练算法的缺点
• 4.2 CTA 算法的分析与实现
• 4.2.1 协同训练算法的改进
• 4.2.2 CTA 算法的设计
• 4.3 CTA 算法与传统协同训练算法的对比实验
• 4.4 本章小结
• 第五章 结束语
• 致谢
• 参考文献