首页> 正文

拟牛顿法及其收敛性

2020-11-22阅读(498)

拟牛顿法及其收敛性

论文摘要

本文，我们首先提出一种求解单调非线性方程组的正则化的BFGS算法和L-BFGS算法，在不假设方程组的Jacobian矩阵非奇异的条件下得到了这两种方法的全局收敛性，这些方法的一个显著优点是迭代点到解集的距离单调递减。此外，本文算法的全局收敛性证明不需要假设方程可微，因而能够用于求解非光滑的非线性方程组，与Gauss-Newton型BFGS算法相比较，本文算法中的迭代矩阵的条件数要小很多，而且，所提出的L-BFGS方法适合大规模非线性方程组的求解。我们还对这两个算法进行了数值实验，结果表明它们非常有效。 为了求解大型的一般的非线性方程组，基于Li和Fukushima的Gauss-Newton型BFGS公式，我们在第3章提出了一种非单调的谱梯度方法并建立了算法的全局收敛性定理。本文的方法是求解无约束最优化问题的谱梯度方法在求解非线性方程组中的一种推广。 其次，我们在第4章提出一种非单调的Armijo线性搜索技术并证明MBFGS方法和CBFGS方法在此搜索下求解非凸函数极小化问题的全局收敛性，在不假设迭代矩阵序列有界的前提下建立算法的全局收敛性定理。数值结果表明，采用非单调搜索的MBFGS方法比单调的BFGS方法的数值效果明显要好。 在第5章，我们提出一种求解无约束优化问题的非单调的BFGS信赖域方法并证明该方法求解非凸极小化问题的全局收敛性，该算法的优点是信赖域子问题的目标函数是一个严格凸二次函数，因而信赖域子问题的求解相对容易，而且，我们在不假设迭代矩阵序列有界的前提下建立算法的全局收敛性定理。在第6章，利用MBFGS割线条件，我们提出一种求解无约束优化问题的下降的非线性共轭梯度法并证明该方法求解非凸极小化问题的全局收敛性，该方法的一个优点是能产生不依赖线性搜索的充分下降方向。 在第7章，我们提出一种求解二阶锥互补问题（SOCCP）的光滑化的Broyden方法，利用超平面投影方法的思想，我们还提出一种求解SOCCP问题的投影牛顿法，在适当的条件下证明算法的全局收敛性。 最后我们研究Broyden方法求解Hilbert空间中半光滑算子方程的局部收敛性质。通过对广义微分引入α阶半Holder连续的概念，在一定条件下，我们证明Broyden方法具有局部的线性和超线性收敛速度。

论文目录

  • 学位论文原创性声明和学位论文版权使用授权书
  • 摘要
  • Abstract
  • 符号表
  • 第1章 绪论
  • 1.1 求解非线性方程组的拟牛顿法
  • 1.2 求解无约束优化问题的拟牛顿法
  • 1.3 求解无约束优化问题的信赖域方法
  • 1.4 关于二阶锥互补问题
  • 1.5 无限维函数空间中的半光滑算子方程
  • 1.6 本文的主要工作和贡献
  • 第2章 求解单调非线性方程组的BFGS方法及L-BFGS方法
  • 2.1 引言
  • 2.2 BFGS和L-BFGS算法
  • 2.3 全局收敛性
  • 2.4 数值结果
  • 第3章 求解非线性方程组的非单调谱梯度方法
  • 3.1 引言
  • 3.2 算法
  • 3.3 全局收敛性
  • 第4章 求解非凸极小化问题的非单调MBFGS方法
  • 4.1 引言
  • 4.2 算法
  • 4.3 收敛性分析
  • 4.4 数值结果
  • 第5章 解非凸极小化问题的非单调BFGS信赖域方法
  • 5.1 算法
  • 5.2 收敛性分析
  • 5.3 数值结果
  • 第6章 拟牛顿法在共轭梯度法中的应用
  • 6.1 引言
  • 6.2 DL方法
  • 6.3 基于MBFGS公式的非线性共轭梯度法
  • 6.4 一种新的下降的非线性共轭梯度法
  • 6.5 数值结果
  • 第7章 求解单调二阶锥互补问题的两个算法
  • 7.1 引言
  • 7.2 算法
  • 7.3 收敛性分析
  • 第8章 求解Hilbert空间中半光滑算子方程的Broyden秩一方法
  • 8.1 引言
  • 8.2 收敛性分析
  • 结论
  • 参考文献
  • 附录 A（攻读学位期间所发表的学术论文目录）
  • 致谢

    • 相关论文文献

    • [1].非凸优化的一类改进BFGS算法的收敛性研究[J]. 萍乡学院学报 2018(03)
    • [2].Global Convergence of a Modified Limited Memory BFGS Method for Non-convex Minimization[J]. Acta Mathematicae Applicatae Sinica(English Series) 2013(03)
    • [3].A modified BFGS algorithm based on a hybrid secant equation[J]. Science China(Mathematics) 2011(09)
    • [4].THE CONVERGENCE OF A NEW MODIFIED BFGS METHOD WITHOUT LINE SEARCHES FOR UNCONSTRAINED OPTIMIZATION OR COMPLEXITY SYSTEMS[J]. Journal of Systems Science & Complexity 2010(04)
    • [5].The Superlinear Convergence Analysis of a Nonmonotone BFGS Algorithm on Convex Objective Functions[J]. Acta Mathematica Sinica(English Series) 2008(01)
    • [6].求解无约束问题的一种新的扰动BFGS方法[J]. 数学理论与应用 2018(Z2)
    • [7].求无约束优化问题的混合谱尺度BFGS算法[J]. 新余学院学报 2017(06)
    • [8].一个修改的非单调BFGS信赖域方法[J]. 福建师范大学学报(自然科学版) 2013(03)
    • [9].一类修正线搜索和改进BFGS算法的收敛性研究[J]. 萍乡学院学报 2018(06)
    • [10].一个新的BFGS信赖域算法[J]. 数学杂志 2015(01)
    • [11].一个改进的BFGS信赖域算法及收敛性分析[J]. 河南理工大学学报(自然科学版) 2012(01)
    • [12].BFGS quasi-Newton location algorithm using TDOAs and GROAs[J]. Journal of Systems Engineering and Electronics 2013(03)
    • [13].基于L-BFGS的自适应模糊互补滤波[J]. 压电与声光 2018(06)
    • [14].基于BFGS的中俄茶叶进出口量数学预测模型[J]. 云南师范大学学报(自然科学版) 2019(03)
    • [15].求解一类二次矩阵优化问题的BFGS方法[J]. 桂林电子科技大学学报 2018(04)
    • [16].一种修改的BFGS锥模型信赖域算法[J]. 长治学院学报 2017(02)
    • [17].BFGS算法在盲信号分离中的应用研究[J]. 科技资讯 2008(05)
    • [18].建立在修正BFGS公式基础上的新的共轭梯度法[J]. 计算数学 2012(01)
    • [19].BFGS在药代动力学参数优化中的应用[J]. 嘉兴学院学报 2012(03)
    • [20].基于BFGS的改进遗传算法研究[J]. 软件导刊 2012(10)
    • [21].一个新的BFGS信赖域方法[J]. 商丘师范学院学报 2011(09)
    • [22].无约束优化问题的一个改进的BFGS信赖域算法[J]. 西安工业大学学报 2009(03)
    • [23].基于BFGS方法的拥塞速率控制算法[J]. 南京邮电大学学报(自然科学版) 2009(06)
    • [24].基于BFGS拟牛顿法的观测矩阵优化算法[J]. 电子信息对抗技术 2019(06)
    • [25].大规模优化的修正有限存储BFGS算法(英文)[J]. 曲阜师范大学学报(自然科学版) 2013(02)
    • [26].基于BFGS算法的井下人员三维定位方法的研究[J]. 计算机应用与软件 2014(07)
    • [27].大规模无约束优化的一类修正有限存储BFGS算法[J]. 滨州学院学报 2012(06)
    • [28].结构拓扑修改静态重分析的BFGS方法[J]. 吉林大学学报(工学版) 2009(01)
    • [29].求解非凸函数极小问题的一类改进BFGS算法的收敛性分析[J]. 青海师范大学学报(自然科学版) 2009(02)
    • [30].云环境下基于L-BFGS的协同过滤算法[J]. 计算机工程与设计 2018(03)

    标签：;  ;  ;  ;  ;  ;  ;  ;  

    拟牛顿法及其收敛性
    下载Doc文档

    猜你喜欢

    © 2024 毕速过 版权所有 鄂ICP备12018319号-5