流形学习算法的改进及在人脸识别中的应用

论文摘要

在模式识别领域的特征提取过程中,流形学习是一项有效的降低维度的技术。它旨在保护给定样本集中各邻域结构。本文重点研究了近年来比较热门的特征提取技术,如:鉴别分析技术,流形学习技术和稀疏表示技术等。在学习过程中,我们发现传统的流形学习方法,如局部保留投影（locality preserving projection, LPP）算法等,都是保护以样本为中心的邻域结构。这种邻域结构虽然能够如实的反应初始样本间的近邻关系,但在其邻域内可能会存在过多的异类样本,这不利于最终的分类识别。因此,我们提出了一种新的基于子类中心邻域结构的方法,即子类中心流形保留投影（subclass-center manifold preserving projection, SMPP）。这种方法以样本集所分的各子类中心为邻域中心,建立邻域结构。我们通过理论证明了数据样本通常会呈现一种高斯混合分布,而分布的中心即为各子类中心,所以这种邻域结构内部会存在较多的本类样本。为了能够利用样本的类别信息,进一步提高识别效果,我们进而提出了鉴别的子类中心保留投影算法（discriminant SMPP, DSMPP）。不同于相关的鉴别流形算法,DSMPP建立一个双目标优化模式,并通过线性加权和方法将其解决。从而将子类流形结构信息和样本固有的类别信息融合在一起,达到在投影中既能够保留样本流形结构,又能够使得同类样本靠近,异类样本分开。特征提取技术希望能够在本过程中提取到尽可能多的有效信息,而一些稀疏表示方法的文章又提示我们,数据集中的各样本间含有这种互相稀疏表示的关系。因此,为了能够充分利用样本固有信息,我们提出了一种新的稀疏表示方法,即带有流形信息的稀疏映射（sparsity embedding with manifold information, SEMI）算法。这种算法首先将原始样本稀疏重构,得到重构后的新样本集。然后在投影过程中,保留新旧样本间的流形结构,从而达到能够同时保留样本间稀疏关系和流形结构的目的。我们在AR,FERET和CAS-PEAL数据库上的实验证明了在分类效果上,我们提出的方法相对于其他相关方法的正确性和有效性。

论文目录

• 摘要
• ABSTRACT
• 第一章 绪论
• 1.1 研究背景和意义
• 1.2 人脸识别
• 1.3 国内外研究现状及分析
• 1.4 本文主要研究工作概述
• 1.5 本文内容章节安排
• 第二章 特征提取技术介绍
• 2.1 线性特征提取
• 2.1.1 主成份分析
• 2.1.2 线性鉴别分析
• 2.1.3 子类鉴别分析
• 2.2 流形学习算法
• 2.2.1 局部保留投影
• 2.2.2 近邻保留映射
• 2.2.3 无监督鉴别投影
• 2.2.4 局部鉴别投影
• 2.2.5 局部 Fisher 鉴别分析
• 2.2.6 边缘 Fisher 分析
• 2.2.7 局部鉴别映射
• 2.2.8 鉴别聚类映射
• 2.2.9 流形鉴别分析
• 2.3 稀疏重构方法
• 2.3.1 稀疏保留投影
• 2.3.2 全局稀疏表示投影
• 2.4 本章小结
• 第三章 鉴别的子类中心流形结构保留
• 3.1 子类中心流形保留投影
• 3.1.1 SMPP 算法描述
• 3.1.2 SMPP 算法的理论基础
• 3.1.3 SMPPfaces 的人脸表示
• 3.2 鉴别的子流形保留投影
• 3.2.1 DSMPP 算法描述
• 3.2.2 相关权重系数r1 和r2 的计算
• 3.3 本章小结
• 第四章 带有流形信息的稀疏映射
• 4.1 样本集的稀疏重构
• 4.2 SEMI 算法描述
• 4.3 本章小结
• 第五章 实验结果及分析
• 5.1 数据库介绍
• 5.1.1 AR 人脸数据库介绍
• 5.1.2 FERET 人脸数据库介绍
• 5.1.3 CAS-PEAL 人脸数据库介绍
• 5.2 鉴别的子类中心流形结构保留的实验结果与分析
• 5.2.1 子类中心流形保留投影实验
• 5.2.2 鉴别的子类中心流形保留投影实验
• 5.3 SEMI 算法实验结果及分析
• 5.4 本章小结
• 第六章 结束语
• 致谢
• 参考文献
• 攻读硕士学位期间发表的论文