具有超线性收敛性质的一类广义拟牛顿算法

具有超线性收敛性质的一类广义拟牛顿算法

论文摘要

拟牛顿算法是求解最优化问题的常用方法,拟牛顿算法的构造基于所谓的拟牛顿方程。传统的拟牛顿方程只利用了目标函数的梯度信息而未使用目标函数值的信息,这无疑是对信息资源的浪费。本文提出了一种广义拟牛顿方程,新方程不仅利用到了目标函数的梯度信息,而且用到了目标函数值的信息。在此基础上推导出了一族广义拟牛顿校正公式,并给出了相应的广义拟牛顿算法。新算法是伪拟牛顿算法和拟牛顿算法的组合,具有很强的广泛性,它不仅包含了 Zhang 和焦宝聪提出的算法,还使得著名的 Broyden 族成为它的一种特殊形式。本文证明了新的广义拟牛顿算法只需选取充分小的ε 就能保证迭代序列具有对称正定性以及在精确搜索下的线性不变性。当目标函数为二次函数时,算法具有方向共扼性和二次终止性。另外,本文还证明了在较弱的条件下算法具有整体收敛性和局部超线收敛性。数值实验结果表明新算法不仅可行而且效果较好。较为有趣的是,我们从另一个角度验证了这么一个事实:BFGS 方法的确是到目前为止最有效的算法之一。

论文目录

  • 第一章 绪论
  • 1.1 问题的来源
  • 1.2 拟牛顿算法
  • 1.3 凸函数的相关性质
  • 1.4 本文工作
  • 第二章 广义拟牛顿算法
  • 2.1 推导广义拟牛顿方程
  • 2.2 秩1校正
  • 2.3 秩2校正
  • 第三章 算法的性质分析
  • 3.1 算法的对称正定性
  • 3.2 算法的二次终止性
  • 3.3 算法的线性不变性
  • 第四章 整体收敛性和局部超线性收敛性
  • 4.1 整体收敛性
  • 4.2 超线性收敛性
  • 第五章 数值实验
  • 图6.1:ROSENBROCK 函数
  • 表6.1
  • 表6.2
  • 表6.3
  • 表6.4
  • 表6.5
  • 第六章 总结与展望
  • 参考文献
  • 致谢
  • 相关论文文献

    • [1].求解无约束一致性优化问题的分布式拟牛顿算法[J]. 山东科技大学学报(自然科学版) 2016(03)
    • [2].解互补问题的一类广义拟牛顿算法[J]. 中国西部科技 2009(07)
    • [3].非线性互补问题光滑化拟牛顿算法的收敛性分析[J]. 数学的实践与认识 2016(06)
    • [4].曲线搜索下新的记忆拟牛顿算法[J]. 广西科学 2008(03)
    • [5].拟牛顿算法收敛性证明中的几个定理[J]. 赤峰学院学报(自然科学版) 2014(06)
    • [6].一类改进的拟牛顿算法[J]. 井冈山大学学报(自然科学版) 2018(01)
    • [7].一类新拟牛顿算法的超线性收敛性[J]. 内蒙古大学学报(自然科学版) 2016(03)
    • [8].关于非单调拟牛顿算法的一个改进[J]. 河南教育学院学报(自然科学版) 2015(04)
    • [9].一类推广的非单调拟牛顿算法[J]. 河北北方学院学报(自然科学版) 2017(11)
    • [10].Wolfe线搜索下一类新的结构拟牛顿算法[J]. 河南理工大学学报(自然科学版) 2015(04)
    • [11].一种基于四阶Taylor展开的多目标改进的拟牛顿算法研究[J]. 井冈山大学学报(自然科学版) 2016(01)
    • [12].高等数学中关于扩展的非拟牛顿算法的全局收敛性[J]. 呼伦贝尔学院学报 2020(02)
    • [13].结合锥模型算法的修正多步拟牛顿法[J]. 延边大学学报(自然科学版) 2010(01)
    • [14].非线性互补问题光滑化拟牛顿算法的超线性收敛性[J]. 赤峰学院学报(自然科学版) 2015(03)
    • [15].一种改进的含参数精确罚函数及其修正拟牛顿算法[J]. 重庆理工大学学报(自然科学版) 2010(05)
    • [16].基于BFGS拟牛顿算法的含噪数字字符识别[J]. 郑州轻工业学院学报(自然科学版) 2011(04)
    • [17].修正Grippo非单调线搜索规则的新对角稀疏拟牛顿算法[J]. 高等学校计算数学学报 2011(03)
    • [18].基于多层织物热传递模型的高温作业服厚度设计[J]. 现代商贸工业 2019(09)
    • [19].非单调广义对角拟牛顿算法[J]. 数学杂志 2016(02)
    • [20].由校正矩阵的等内积分解矩阵确定搜索方向的拟牛顿算法[J]. 数学的实践与认识 2013(10)
    • [21].大步长非单调线搜索规则的Lampariello修正对角稀疏拟牛顿算法的全局收敛性[J]. 数学进展 2008(03)
    • [22].Quasi-Newton Method相关综述[J]. 黑龙江科技信息 2012(10)
    • [23].一类新拟牛顿算法的全局收敛性与数值试验[J]. 河南师范大学学报(自然科学版) 2010(02)
    • [24].新非单调线搜索规则的Lampariello修正对角稀疏拟牛顿算法[J]. 计算数学 2008(03)
    • [25].基于求解大规模界约束问题的三种有效集识别策略的比较[J]. 数值计算与计算机应用 2009(01)
    • [26].混合互补问题的光滑类Broyden拟牛顿算法[J]. 河南师范大学学报(自然科学版) 2010(06)
    • [27].超越方程的全局优化解法[J]. 长春工程学院学报(自然科学版) 2016(03)
    • [28].煤矿盗采定位算法研究与仿真实现[J]. 计算机仿真 2015(05)
    • [29].修正的增广拉格朗日函数内点拟牛顿法[J]. 吉林大学学报(理学版) 2009(02)
    • [30].拟牛顿矩阵的紧凑表示及其在有限存储方法中的应用[J]. 成都大学学报(自然科学版) 2009(01)

    标签:;  ;  ;  ;  

    具有超线性收敛性质的一类广义拟牛顿算法
    下载Doc文档

    猜你喜欢