图像分析中的非负矩阵分解理论及其最优化和正则化方法研究

论文摘要

图像分析是对图像中感兴趣的目标进行特征分析和测量,以获得它们的客观信息,从而建立对图像和目标的描述。本文主要针对图像分析中的几个关键问题进行阐述与研究。主要有以下几个方面:1.提出了一种正则非负矩阵分解的积极集投影截断牛顿共轭梯度算法;非负矩阵分解（NMF）是一种模式识别特征提取的新方法,它是一种基于部分表示整体的方法。本章把非负矩阵分解问题转化为一个具有界约束的非线性规划,采用积极集的思想来约简问题规模,利用投影牛顿法来求解牛顿方程,内部迭代采用截断共轭梯度法。该方法不仅计算简便有效,而且在理论上具有收敛性。数值实验用人脸识别的数据库进行特征处理,结果表明该方法能很好地表征人脸,并能提高识别率。2.围绕着传统非负矩阵分解模型出现的不足,提出了一种基于有界全变差的非负矩阵分解算法;传统NMF模型中使用L2范数作为加权项。实际上全变差（TV）范数比L2范数更适合用在图像处理。L2范数虽然计算简单,但是很容易使解过光滑;TV范数的主要优点是允许解的不连续,因此它能很好地保护图像的一些细微特征,如边缘和纹理。本章我们提出了一种基于有界全变差的NMF新算法。实验结果表明了新算法的优越性。3.从稀疏优化的角度提出了一种用于人脸识别的优化方法。尽管传统的NMF在某种程度上得到了非负的稀疏约束,但是对特征矩阵W或者编码矩阵H的稀疏度控制还没达到特定的应用要求。本章结合l1范数最小化优化稀疏表示的理论提出了一个用于人脸识别的优化方法。该方法的创新点有两方面:第一,对于基矩阵W ,在小波域提出了一种基于l1范数的稀疏正则化方法。对于系数矩阵H ,在空间域提出了一种基于l1范数的稀疏正则化方法;第二,用线性化的Bregman迭代算法解决这两个新的稀疏正则化模型。在新模型中,小波框架下基矩阵的稀疏性指的是它的小波系数的l1范数。4.结合L1稀疏正则化和非负矩阵分解,提出了一种新的盲源信号分离算法;针对线性混合模型下的盲源分离这一反问题,提出了一种结合L1稀疏正则化和非负矩阵分解的交替最小化算法。首先把该问题转化为有界约束的二次规划,然后采用一种自适应的BB（Barzilai–Borwein）步长投影梯度算法来求解。该方法不仅可减少存储量,提高算法速度而且还很好地刻画了信号的稀疏性和独立性。理论分析和数值试验都表明了该方法的有效性,对混和的一维信号和二维图像能提高分离的信干比。5.提出了一种基于原对偶混合梯度下降法的( BV , H-1)图像分解算法。( BV , H-1)图像分解模型能较好地将图像分解为结构部分和纹理部分,但是该模型是原公式。本章首先推导出( BV , H-1 )图像分解模型的对偶公式,然后针对原公式和对偶公式在计算优化解时不足之处,提出了一种解决( BV , H-1)图像分解模型的快速算法。该算法在原公式和对偶公式之间交替进行,同时提取原变量和对偶变量的信息。数值实验表明,新算法的收敛速度明显优于传统的优化算法。

论文目录

• 摘要
• Abstract
• 第一章 绪论
• 1.1 图像处理的概念及主要的数学方法
• 1.1.1 图像处理的概念
• 1.1.2 图像处理中的数学方法
• 1.2 模式识别的概念及主要数学方法
• 1.2.1 模式识别概述
• 1.2.2 人脸识别中的主要数学方法
• 1.3 病态反问题的正则化方法
• 1.4 本文的主要工作
• 第二章 正则非负矩阵分解的积极集投影截断牛顿共轭梯度算法
• 2.1 引言
• 2.2 积极集截断牛顿法
• 2.3 积极集截断牛顿法的收敛性分析
• 2.4 数值试验
• 2.5 结论
• 第三章 基于有界全变差和非负矩阵分解的人脸识别算法
• 3.1 非负矩阵分解理论及研究现状
• 3.2 基于有界全变差的NMF 算法
• 3.2.1 有界全变差范数
• 3.2.2 新模型
• 3.3 数值算法及收敛性
• 3.3.1 数值算法
• 3.3.2 算法的收敛性
• 3.4 数值实验
• 3.5 小结
• 第四章 基于交替l1 范数的稀疏 NMF 算法
• 4.1 引言
• 4.2 基于小波变换的稀疏NMF 模型
• 4.2.1 小波变换
• 4.2.2 新模型
• 4.3 数值算法
• 4.3.1 线性Bregman迭代
• 4.3.2 求解算法4.1的第一步
• 4.3.3 求解算法4.1的第二步
• 4.4 数值实验
• 4.4.1 合成数据库
• 4.4.2 人脸数据库
• 4.5 小结
• 第五章 基于 L1稀疏正则化和 NMF 的盲源信号分离新算法
• 5.1 引言
• 5.2 基于非负矩阵分解的盲信号分离
• 5.3 新算法-自适应步长选择的投影梯度算法（SSBBPG）
• 5.4 带有 L1 正则项的稀疏优化模型求解算法（L1-SSBBPG）
• 5.5 数值试验
• 5.6 结论
• -1 )图像分解算法'>第六章 基于原对偶混合梯度下降法的 ( BV , H^-1)图像分解算法
• 6.1 引言
• -1 )图像分解算法'>6.2 基于原对偶混合梯度下降法的 ( BV , H^-1)图像分解算法
• 6.2.1 原问题
• 6.2.2 新算法-原对偶梯度下降算法
• 6.3 理论联系
• 6.4 数值实验
• 6.5 小结
• 第七章 总结与展望
• 致谢
• 参考文献
• 攻读博士学位期间发表（录用）论文和科研情况