基于近邻分类的实例选择算法研究

论文摘要

近邻分类算法是机器学习领域应用最为广泛的学习算法之一,但该方法需要较大的计算量和存储量。因此,基于近邻分类的实例选择成为研究焦点之一。此外,现有的基于近邻分类的实例选择算法都是在已标注类别的实例集上进行挑选,而获得实例的类别标注需要花费大量的人力和物力,实例选择是解决该问题的可行途径。针对近邻分类需要大量计算和存储的问题,本文提出了基于分类贡献的实例选择算法,根据实例对分类的贡献从已有类别标注的实例集中进行实例选择,并且提出了允许挑选集合在训练集上存在一定的错误率,以提高泛化能力。针对获得类别标注需要花费标注代价的问题,本文将极大熵原理用于实例选择,提出了基于极大熵的实例选择算法。通过计算候选实例的信息熵,挑选信息熵最大的实例,可以挑选到对分类起关键作用的实例交由专家标注。在人工数据集和真实数据集上的实验验证了该算法的有效性。

论文目录

• 摘要
• Abstract
• 第1章 绪论
• 1.1 研究背景与意义
• 1.2 国内外研究现状
• 1.3 本文研究的主要内容
• 1.4 本文组织
• 第2章 基于近邻分类的实例选择
• 2.1 近邻分类
• 2.2 实例选择
• 2.2.1 实例选择简介
• 2.2.2 有监督的实例选择
• 2.2.3 主动实例选择
• 2.3 基于近邻分类的实例选择
• 2.3.1 CNN算法
• 2.3.2 ENN算法
• 2.3.3 MCS算法
• 2.3.4 FCNN算法
• 第3章 基于分类贡献的实例选择算法
• 3.1 实例分类贡献函数
• 3.1.1 基本概念
• 3.1.2 分类贡献函数
• 3.2 噪声处理机制
• 3.3 快速选择机制
• 3.4 算法设计
• 3.5 实验结果及分析
• 3.5.1 人工数据实验结果
• 3.5.2 真实数据实验结果
• 第4章 基于极大熵的实例选择算法
• 4.1 极大熵原理
• 4.1.1 信息熵
• 4.1.2 极大熵原理
• 4.2 基于极大熵的实例选择机制
• 4.2.1 基本原理
• 4.2.2 选择机制
• 4.2.3 初始集合的确定
• 4.2.4 算法设计
• 4.3 实验结果及分析
• 4.3.1 人工数据实验结果
• 4.3.2 真实数据实验结果
• 第5章 总结与展望
• 参考文献
• 攻读硕士学位期间科研工作情况
• 致谢