非负最小二乘问题的算法研究

论文摘要

随着无约束最小二乘问题在物理、统计、控制论和经济等领域中的广泛应用,其算法的研究越来越受到重视,近年来涌现出许多新方法。然而在许多实际问题中,目标函数中的变量的各个分量之间可能不完全独立,它们的数值常要受到某些物理或者数学条件的约束。例如,在曲线拟合时,为使拟合函数或它的导函数在某些点上有指定的数值,或者为保证分段拟合曲线在连接点处连续与光滑,就出现等式约束条件;不等式约束产生于要求拟合曲线具有单调性与凸性等情况。同样,在物理、统计、数学规划、控制论与经济等领域中,经常会遇到约束条件的最小二乘问题。因此,研究这类问题的计算方法是非常有意义的。本文主要研究非负最小二乘问题的理论和算法,文中先后研究了非负线性最小二乘问题和非负非线性最小二乘问题。利用Kuhn-Tucker条件将其转化成线性互补问题或非线性互补问题。在处理满秩情形的非负线性最小二乘问题时,本文设计了两类不动点算法,并证明了算法的收敛性以及原问题解的唯一性。当处理亏秩情形非负线性最小二乘问题时,作者利用辅助技术设计了新的辅助算法,并证明了算法的收敛性。在第三章针对一类特殊的非负线性最小二乘问题给出了罚函数法,证明了当罚参数趋于无穷时,罚方程的解收敛到原问题的解。第四章设计了两种内点算法对非负线性最小二乘问题进行求解。本文分满秩和亏秩两种情形分析研究了小残量的非负非线性最小二乘问题。最后对非负线性最小二乘问题进行了数值实验,结果表明第二章所提算法的可行性。

论文目录

• 摘要
• Abstract
• 第一章 绪论
• 1.1 问题来源
• 1.2 问题研究的意义及现状
• 1.3 基本概念
• 1.4 本文的工作
• 第二章 非负线性最小二乘问题的不动点算法和辅助方法
• 2.1 满秩情形的第一类不动点算法
• 2.2 满秩情形的第二类不动点算法
• 2.3 亏秩情形的辅助方法
• 第三章 非负线性最小二乘问题的罚函数法
• 第四章 非负线性最小二乘问题的内点算法
• 4.1 可行路径跟踪法
• 4.2 不可行内点法
• 第五章 非负非线性最小二乘问题
• 5.1 JACOBI 矩阵满秩情形
• 5.2 JACOBI 矩阵亏秩情形
• 第六章 数值实验
• 第七章 总结与展望
• 参考文献
• 致谢
• 在学期间的研究成果及发表的学术论文