矩阵的非负分解算法及应用

论文摘要

降维是一种在高维数据中挖掘低维相关性的技术,在模式识别,机器学习,独立组分分析以及图像处理等领域有着广泛的应用。而非负矩阵分解(NMF)做为降维方法的一种,因其明确的物理意义及良好的可解释性受到广泛的关注。根据分解的目的,非负矩阵分解大致可以分为两种,一是在保证数据某些性质的基础上,将高维空间的样本点映射到某个低维空间上,除去一些不重要的细节,获得原数据的本质信息;二是在从复杂混乱的系统中得到混杂前的各独立信息的种类和强度。因此,基于非负矩阵分解过程应用领域的不同,分解过程所受的约束和需要保留的性质都不相同,本文将以ICA分析和人脸识别为例针对上述两种应用场合,给出非负矩阵分解方法的一系列改进方法。本文首先介绍了非负矩阵分解产生的背景、其问题描述以及研究现状。接着本文针对稀疏存储问题,提出了一种新的向量稀疏性度量方法,给出了向量最优稀疏逼近的求解算法,进而给出非负矩阵的稀疏低秩逼近算法。然后,针对人脸识别领域,本文提出加权归一化的概念,并给出了两种行之有效的加权方法,该算法在人脸识别领域获得了足以与传统PCA方法相媲美的识别效果。最后,在ICA领域,本文给出了带平移的非负矩阵分解的算法,将非负矩阵分解算法推广到无非负限制的独立组分分析领域中,并提出了平滑化分级提取策略,有效的改善了独立组分提取的效果。

论文目录

• 摘要
• Abstract
• 目录
• 第一章 引言
• 1.1 背景及问题
• 1.2 研究进展
• 1.3 本文的贡献
• 第二章 非负向量的稀疏逼近
• 2.1 非负向量的稀疏性度量
• 2.1.1 现有的稀疏值定义
• 2.1.2 改进的稀疏值度量
• 2.2 向量的最优稀疏逼近
• 2.2.1 最优稀疏逼近的理论推导
• 2.2.2 最优稀疏逼近的近似计算
• 2.2.3 最优稀疏逼近的其他解法
• 2.2.4 逼近效果比较
• 第三章 非负矩阵的稀疏低秩分解
• 3.1 非负矩阵低秩逼近的求解
• 3.2 基矩阵的归一化
• 3.2.1 用于图象识别的归一化策略
• 3.2.2 类相关度T的计算
• 第四章 人脸识别中的应用
• 4.1 基矩阵归一化的实验效果
• 4.2 基矩阵稀疏化的特征表示
• 4.3 稀疏分解的实验效果
• 第五章 独立组分分析中的应用
• 5.1 ICA问题
• 5.2 带平移的非负矩阵分解算法
• 5.3 向量的光滑修正及分级提取
• 5.4 稀疏值的设定
• 第六章 数值实验
• 第七章 文章总结
• 参考文献
• 致谢