非线性无约束共轭梯度法

非线性无约束共轭梯度法

论文摘要

共轭梯度法具有结构简单,计算量小,存储量少且构造搜索方向不需要求解线性方程组以及算法具有二次终止性等优点,因此该算法是最优化方法中相对较好的一种方法,特别是在求解大规模无约束最优化问题时更是得到了广泛的应用。本论文的研究成果主要概括为三个方面:(1)对于求解无约束最优化问题,提出了一种新的共轭梯度法。此算法是在广义Wolfe步长搜索下,对求解无约束最优化问题的共轭梯度法的迭代参数做出了进一步的改进,使其参数可以小于零,扩大了它的选取范围,并在目标函数可微的条件下,证明了算法的全局收敛性,使共轭梯度法的使用范围更广。(2)为了保证共轭梯度方向是目标函数的充分下降方向,对共轭梯度方向的参数确定了一个取值范围,提出了新的共轭梯度算法,并且对Wolfe步长搜索进行了进一步的改进,能够保证使目标函数下降的更快,特别是当给定的初始点与精确点相差较大时其下降速度比原Wolfe步长搜索要快的多,使算法具有更快的收敛速度,在给定的条件下证明了算法的全局收敛性。特别是在求解大规模无约束最优化问题时,此算法只需要较小的存储。(3)针对目标函数是非凸函数时,将共轭梯度法与混沌优化方法相结合,克服了当共轭梯度法在解非凸函数问题时极易陷入局部最优化使所得的解不一定是全局最优解的缺陷,通过混沌优化算法帮助共轭梯度法在解非凸函数问题时跳出局部最优解得出全局最优解,提高了共轭梯度法的收敛速度,在一定的条件下给出了算法的全局收敛性的证明。

论文目录

  • 摘要
  • Abstract
  • 1 序言
  • §1.1 共轭梯度法的发展过程
  • §1.2 国内外几类重要的共轭梯度法
  • §1.2.1 FR共轭梯度法
  • §1.2.2 PRP共轭梯度法
  • §1.3 共轭梯度法的基础知识
  • §1.3.1 基本定理和定义
  • §1.3.2 线性搜索
  • §1.3.3 算法的收敛性
  • §1.4 正定二次函数的共轭梯度法
  • §1.5 本文的研究内容
  • 2 广义Wolfe线性搜索下的共轭梯度法
  • §2.1 引言
  • §2.2 算法及其下降性
  • §2.3 全局收敛性
  • 3 一类新的共轭梯度法
  • §3.1 引言
  • §3.2 假设条件及算法
  • §3.3 算法的下降性
  • §3.4 算法的全局收敛性
  • 4 非凸函数下的共轭梯度法
  • §4.1 引言
  • §4.2 混沌优化算法
  • §4.2.1 混沌的特点
  • §4.2.2 混沌优化算法
  • §4.3 组合算法
  • §4.4 组合算法的收敛性
  • 5 总结和展望
  • 参考文献
  • 附录
  • 致谢
  • 相关论文文献

    标签:;  ;  ;  ;  

    非线性无约束共轭梯度法
    下载Doc文档

    猜你喜欢