具有奇异解的无约束最优化问题和非线性方程组的牛顿法

论文摘要

本文研究有奇异解的无约束优化问题和非单调非线性方组程的牛顿型混合法。 对有奇异解的无约束优化问题,由于该类问题目标函数的Hessian阵可能奇异,牛顿方程可能无解或有解但解使得目标函数不充分下降。我们在正则化牛顿法的基础上,当由不精确牛顿方程产生的方向不是目标函数的下降方向时,采用最速下降方向取代正则化牛顿方向,提出了一种最速下降—正则化牛顿型混合算法。在较弱的条件下证明算法的全局收敛性。而且,我们证明,经过一定迭代步后,这种混合算法还原为正则化牛顿法。因此,算法具有二次收敛性。 对非单调非线性方程组,我们也提出了一种结合了牛顿法、梯度以及投影等混合算法。该算法首先解牛顿方程,当牛顿方程无解时,采用最速下降方向取代牛顿方向,利用线搜索构造一超平面分离当前点与解集,再利用投影当前点到此超平面产生下一迭代点。在不增加正则性条件的假设下,我们证明算法产生的整个迭代序列收敛于问题的解。并且,在标准假设下,得到算法的超线性收敛性。

论文目录

• 摘要
• Abstract
• 第1章 绪论
• 1.1 求解无约束问题的牛顿法及其改进
• 1.2 求解非线性方程组的牛顿法及其改进
• 1.3 本文各章节的安排
• 第2章 预备知识
• 2.1 局部误差界
• 2.2 局部误差界的性质
• 2.3 投影的基本性质
• 第3章 有奇异解的非凸优化问题的牛顿型混合法
• 3.1 正则化牛顿法
• 3.2 牛顿型混合算法的全局收敛性和二次收敛性
• 第4章 非单调方程组的牛顿型混合法
• 4.1 单调方程组的非精确牛顿算法
• 4.2 混合法的收敛性
• 4.3 应用于非线性互补问题和变分不等式
• 第5章 数值实验
• 结论
• 参考文献
• 致谢
• 附录A（攻读学位期间所发表的学术论文目录）