基于流形学习的数据降维方法研究

论文摘要

随着现代科学技术的迅速发展,高维非结构化数据信息大量涌现。高维数据不仅难以被人们直观理解,而且难以被现有机器学习和数据挖掘算法有效地处理。降维算法是处理这些高维数据的一个重要手段,也是特征提取的重要工具,在模式识别系统中扮演着重要的角色。虽然在数据降维处理方面已经有了大量的研究工作,但是在线性与非线性流形降维领域仍然存在许多具有挑战性的问题。2000年在Science上三篇文章分别从神经科学与计算机科学的角度对降维问题进行了研究,进一步促进了该问题的研究,推动流形学习成为当前机器学习领域中的一个热点问题。本文围绕流形学习算法及其应用展开,从非监督式算法、监督式算法和张量表示等方面对流形学习算法进行了一些研究,主要工作包括以下几个方面:首先,注意到Locality Preserving Projections将测量空间中局部离得很近的样本投影到特征空间中依然离得很近,这有利于数据的分类;并且Two Dimensional Locality Preserving Projections无需把图像向量化,能够充分利用图像像素间的结构信息。因此,本文针对红外图像小目标的特点,将目标检测问题看作一种异常检测,设计了一种基于Two Dimensional Locality Preserving Projections的红外图像目标检测方法,实验结果表明该方法具有虚警率低、速度快等优点。另外本文还对Locality Preserving Projections、“Laplacianface”和Two Dimensional Locality Preserving Projections三种算法进行了深入的比较和分析,得到了一些有意义的结论。其次,Locality Sensitive Discriminant Analysis在寻求图像的流形结构时需要首先将其向量化,然而图像向量的维数通常较高,因此该算法会因奇异性而不能直接执行。基于此,本文提出了一种称为Two Dimensional Locality Sensitive Discriminant Analysis的算法。该算法直接处理图像矩阵而不需要将矩阵向量化,是一种基于张量表示的监督的线性降维算法。该算法不仅能够有效地克服奇异性问题,而且还可以很好地利用图像的结构信息。实验结果表明,本文提出的Two Dimensional Locality Sensitive Discriminant Analysis算法在人脸识别中识别率高于Locality Sensitive Discriminant Analysis算法。

论文目录

• 摘要
• Abstract
• 1 绪论
• 1.1 研究目的和意义
• 1.2 流形学习算法的发展现状
• 1.3 本文的主要内容
• 2 流形学习方法简介
• 2.1 主成分分析
• 2.2 等距映射
• 2.3 局部线性嵌入
• 2.4 拉普拉斯特征映射
• 2.5 局部切空间排列
• 2.6 局部保持投影
• 2.7 小结
• 3 基于张量表示的流形学习方法
• 3.1 2DPCA算法
• 3.2 2DLDA算法
• 3.3 2DLPP算法
• 3.4 2DLPP和2DPCA、2DLDA的关系
• 3.5 小结
• 4 基于2DLPP方法的红外目标检测
• 4.1 检测原理
• 4.2 检测步骤
• 4.3 实验结果及分析
• 4.4 小结
• 5 二维局部敏感判别分析
• 5.1 局部敏感判别分析（LSDA）算法简介
• 5.2 二维局部敏感判别分析（2DLSDA）算法
• 5.3 实验结果及其分析
• 5.4 小结
• 6 总结和展望
• 致谢
• 参考文献