几种共轭梯度法的研究

论文摘要

非线性共轭梯度算法是最优化方法的一个重要组成部分,常用来解决大型无约束最优化问题。无论在科学计算、工程应用、经济和管理系统中,还是在政府决策、生产管理、交通运输和军事国防等方面都得到了广泛的应用。本文在介绍最优化理论相关概念后,首先简单阐述了几种常见的求解无约束优化问题的方法,并对共轭梯度法相关知识进行了简介,接着就近年来受到极大关注的Dai-Yuan共轭梯度法、杂交共轭梯度法、Beale-Powell重新开始法给予了简单的阐述和讨论,在前人研究的基础上讨论了一种改进的PRP算法之后又提出了两类修正的HS共轭梯度法,最后就共轭梯度算法的发展进行了展望跟总结。本文的主要工作是:①提出一种新的PRP算法改进公式,证明了其充分下降性质及在Wolfe线搜索、强Wolfe线搜索条件下的收敛性,并通过数值实验证明了该方法的有效性。②在前人研究的基础上,提出了两种新的HS修正算法,并证明了在Wolfe线搜索下,该修正算法无需给定下降条件即可得到该算法的全局收敛性结果。

论文目录

• 摘要
• ABSTRACT
• 1 绪论
• 1.1 无约束最优化问题的相关概念
• 1.2 几种常见的求解无约束优化问题的方法简述
• 1.2.1 最速下降法
• 1.2.2 Newton 法及其几种修正Newton 法简介
• 1.2.3 拟Newton 法
• 1.3 共轭梯度法相关知识简介
• 1.4 本文主要内容及成果
• 2 几种主要共轭梯度法的发展与现状
• 2.1 凸性、充分下降性及 Zoutendijk 条件
• 2.2 FR 方法的主要结论及发展趋势
• 2.3 PRP 算法的发展与主要结论
• 2.4 CD 与DY 算法的发展与主要结论
• 2.5 共轭梯度簇的研究
• 2.6 本章小结
• 3 一种改进的PRP 算法
• 3.1 前言
• 3.2 一种改进的PRP 算法的提出及其全局收敛性
• 3.2.1 新公式的提出与充分下降性
• 3.2.2 算法与全局收敛性
• 3.3 数值实验
• 3.4 本章小结
• 4 两类修正的HS 共轭梯度法
• 4.1 前言
• 4.2 一类修正HS 算法的理论及收敛性证明
• 4.3 数值实验
• 4.4 本章小结
• 5 展望与总结
• 5.1 全文总结
• 5.2 后续研究工作展望
• 致谢
• 参考文献
• 附录