半监督流形学习算法研究和应用

论文摘要

作为一种非线性降维技术,流形学习算法能更好地发现复杂数据集的内在结构,为数据的进一步处理提供基础。目前已出现一些成熟的流形学习算法,并在模式识别,机器视觉等领域取得了成功应用。目前的流形学习算法多是无监督的算法,没有利用到样本的先验信息。如能获得部分样本的先验信息,可以在训练阶段利用这些信息来提高分类器的分类性能,对普通学习算法进行推广得到其半监督算法。本文主要研究了流形学习算法的半监督推广。在研究和分析了目前的一些方法后,基于传统的流形学习方法拉普拉斯特征映射（LE）算法,提出了半监督的拉普拉斯特征映射（SS-LE）算法。该算法利用少量样本的已知信息,可以大幅提高所求解的低维嵌入坐标的精度。另外从计算复杂度和准确度方面比较了半监督拉普拉斯和半监督局部线性嵌入算法（SS-LLE）的性能。随着邻域数k的增加,SS-LE的计算复杂度远低于SS-LLE,而精度只是相对略有下降,且当k取较小的值时,SS-LE算法就已经可以取得和SS-LLE算法最高精度接近的结果。最后使用人造数据和真实数据验证了SS-LE算法在数据降维,人脸识别,可视化和视频目标跟踪中的应用,取得了预期的效果。

论文目录

• 摘要
• ABSTRACT
• 第一章 绪论
• 1.1 研究背景
• 1.2 研究意义
• 1.3 本文研究内容及结构安排
• 1.3.1 本文主要研究内容
• 1.3.2 本文结构安排
• 第二章 流形学习方法简介
• 2.1 流形学习基本概念
• 2.1.1 数据降维
• 2.1.2 流形学习
• 2.1.3 嵌入方法基础理论
• 2.2 流形学习基本算法
• 2.2.1 等距映射（Isomap）
• 2.2.2 局部线性嵌入（LLE）
• 2.2.3 拉普拉斯特征映射（LE）
• 2.2.4 Hessian 等距映射（HLLE）
• 2.2.5 局部切空间排列（LTSA）
• 2.2.6 扩散映射（Diffusion Map）
• 2.3 流形学习中的问题
• 2.4 流形学习框架
• 2.5 小结
• 第三章 半监督流形学习与分析
• 3.1 半监督学习基本概念
• 3.1.1 有监督和无监督学习
• 3.1.2 半监督学习
• 3.2 有监督流形学习算法
• 3.2.1 基于Isomap 的监督算法
• 3.2.2 基于LLE 的监督算法
• 3.3 半监督流形学习算法
• 3.3.1 半监督流形学习算法基本思想
• 3.3.2 基于图的半监督算法
• 3.3.3 基于测地线距离的半监督分类
• 3.3.4 基于拉普拉斯算子的一种半监督算法
• 3.3.5 半监督局部线性嵌入算法（SS-LLE）
• 3.4 半监督拉普拉斯特征映射算法（SS-LE）
• 3.4.1 Laplace Beltrami 算子
• 3.4.2 Semi-Supervised LE
• 3.5 半监督拉普拉斯算法分析
• 第四章 半监督流形学习算法的应用
• 4.1 引言
• 4.2 半监督流形学习的应用
• 4.2.1 数据降维
• 4.2.2 人脸识别
• 4.2.3 可视化
• 4.2.4 目标跟踪
• 4.3 本章小结
• 第五章 总结与展望
• 致谢
• 参考文献