几种含参数的共轭梯度法的全局收敛性研究

论文摘要

非线性共轭梯度算法是最优化方法的一个重要组成部分,常用来解决大型无约束最优化问题。无论在科学、工程、经济和管理系统中,还是在政府决策、生产管理、交通运输和军事国防等方面都得到了广泛的应用。本课题对近年来备受关注的含参数非线性共轭梯度算法的理论性质进行了研究。分别就相关DY方法、相关FR方法在Wolfe线搜索下的全局收敛性进行了研究,并通过数值试验验证了方法的有效性;就相关FR方法、相关PRP和LS方法以及共轭梯度簇在Armijo线搜索下的全局收敛性进行了探讨,所得结果包含且推广了前人研究的成果。本文的主要工作是:在介绍了共轭梯度法的基本知识、前人所提出的部分共轭梯度法全局收敛性的基础上:①提出了含参数的相关DY方法的一类共轭梯度法,该方法同DY方法一样自身具有很好的性质,同时在Wolfe线搜索下证明了新方法的全局收敛性,实验数据也表明了该方法的有效性。②在FR方法的基础上提出了一类含参数的共轭梯度法,并在广义Wolfe线搜索和简化的Armijo线搜索下证明了该方法的全局收敛性,同时具有较好的数值实验结果。③着重研究了含参数的关于PRP方法和LS方法的共轭梯度法,证明了在Grippp-Lucidi线搜索下该方法的全局收敛性。④对前人提出的一簇共轭梯度法进行了推广性讨论,该共轭梯度簇可以看作是FR方法和DY方法的某种凸组合,对凸组合中的参数进行推广,并在新线搜索和适当的条件下证明了方法是全局收敛的。

论文目录

• 摘要
• ABSTRACT
• 1 绪论
• 1.1 无约束最优化问题
• 1.2 最速下降法、拟Newton 法和共轭梯度法
• 1.3 线性搜索及收敛性分析
• 1.4 本文的主要工作
• 2 基于DY 共轭梯度法的全局收敛性
• 2.1 前言
• 2.2 新方法及其收敛性分析
• 2.3 数值实验
• 2.4 小结
• 3 含参数的相关FR 方法的全局收敛性
• 3.1 前言
• 3.2 广义Wolfe 线搜索下的全局收敛性研究
• 3.2.1 引理
• 3.2.2 全局收敛性及进一步分析
• 3.2.3 数值实验
• 3.3 简化Armijo 线搜索下的全局收敛性
• 3.3.1 引理及性质
• 3.3.2 全局收敛性
• 3.3.3 数值实验
• 3.4 小结
• 4 Armijo 线搜索下相关PRP 方法和LS 方法的全局收敛性
• 4.1 前言
• 4.2 性质和引理
• 4.3 数值实验
• 4.4 小结
• 5 Armijo 线搜索下一类共轭梯度簇的全局收敛性
• 5.1 前言
• 5.2 引理及性质
• 5.3 全局收敛性
• 5.4 小结
• 6 总结与展望
• 6.1 全文总结
• 6.2 今后研究的方向
• 致谢
• 参考文献
• 附录
• 作者在攻读硕士学位期间发表的论文目录