一种新的梯度路径在无约束优化中的应用

论文摘要

线搜索方法和信赖域方法是解最优化问题的两类最基本的算法框架。求解线搜索方向和信赖域子问题分别是其关键的组成部分之一，另一个关键点自然是算法框架本身了。本文主要讨论了求解无约束最优化问题的非单调线搜索方法和非单调信赖域方法的相关论题。在论文的第二章中，我们将非单调技术、对Hessian阵的近似处理技术用于线搜索中去，形成了一种新的梯度路径线搜索方法。相比传统的线搜索方法，不仅利用了二次模型，而且通过对Hessian阵的近似处理技术，避免计算f（x）的二阶导数▽2f（x），降低了计算量，适用于大规模计算。而非单调技术放宽了接受迭代点的条件，在较大程度上改善了算法的实际计算效果。这种算法是十分容易应用的。我们分析了这种算法的收敛性，数值结果表明我们的算法是有效的。第三章讨论解无约束优化的信赖域方法。信赖域方法关键是在迭代的每一步要解一个信赖域子问题。在解决子问题的众多方法中，文献[1]中的Levenberg-Marqurdt方法是在信赖域内，从（?）k出发沿着牛顿方向寻找最优解。但是它需要计算Bk及其逆Hessian阵，工作量较大，故只能适用于中小规模问题。本章中，我们对Hessian阵进行近似处理，形成新的梯度路径，并将此技术与非单调技术结合用于信赖域算法中去。我们并证明了收敛性。

论文目录

• 致谢
• 本文的创新点
• 摘要
• Abstract
• 第一章 引言
• 1.1 解优化问题的基本方法
• 1.2 曲线搜索
• 1.3 非单调技术
• 1.4 论文的结构
• 第二章 一种新的非单调梯度路径线搜索方法
• 2.1 引言
• 2.2 一种新的梯度路径
• 2.3 一种新的非单调梯度路径线搜索算法及收敛性
• 2.3.1 算法
• 2.3.2 收敛性证明
• 2.4 数值结果和结论
• 第三章 无约束优化中一种新的非单调梯度路径信赖域方法
• 3.1 引言
• 3.2 一种新的梯度路径
• 3.3 一种新的梯度路径信赖域算法及收敛性
• 3.3.1 算法
• 3.3.2 收敛性证明
• 参考文献