约束最优化问题中的光滑精确罚函数

论文摘要

在工程、国防、经济、金融等领域中许多需要解答的问题可以建模为欧几里德空间中的约束最优化问题。求解约束最优化问题的主要方法之一是将它转化为无约束或带有简单约束的最优化问题,比较常用的两种方法是罚函数方法和拉格朗日函数方法。罚函数方法通过求解有限个或一系列的罚问题来得到约束最优化问题的解。通过精确罚函数可以将原约束最优化问题转化为一个无约束或带有简单约束的最优化问题,这样就避免了当罚参数太大时容易出现的病态情况,即罚函数的Hessian矩阵不适定。但是由于传统的精确罚函数不是可微的,这使得一些以梯度为基础的快速无约束算法难以得到应用,同时可能会在一些快速算法中引起阻止快速收敛的现象-Maratos效应。因此,构造既精确又光滑的罚函数是很有意义的。本文首先对几类约束最优化问题分别给出新的光滑精确罚函数,其次是对l1精确罚函数光滑化,得到了几类光滑的近似精确罚函数。本文结构安排如下。第一章简要介绍了目前国内外关于罚函数以及序列二次规划方法的研究工作,重点介绍精确罚函数以及光滑精确罚函数的已有成果。第二章主要考虑构造新的简单光滑精确罚函数,这里“简单”是指所构造的罚函数只包含原约束最优化问题的目标函数以及约束函数的原始信息,而不包含它们的导数的信息。主要的想法是通过增加一个新的有限维甚至一维决策变量来构造罚函数。在第二节中对带有等式约束以及箱约束的最优化问题,通过增加一个一维变量,提出一类罚函数,将原问题转化为只带有简单箱约束的罚问题,在一定的条件下讨论了此类罚函数的光滑性、下有界性,并证明了原问题的最优解与罚问题的最优解是等价的,从而得出此类罚函数的精确性。一个简单的算法及数值例子说明通过解光滑的罚问题以求解原问题的方法是切实可行的。第三节对于只带有等式约束的最优化问题,通过增加一个一维变量给出了一类光滑罚函数,并讨论了其精确性。数值结果说明了算法的可行性。在第四节中,对带有不等式约束的最优化问题,通过增加一个一维变量提出了一类带有障碍的光滑罚函数,讨论了它的精确性。不同于一般的障碍函数方法,此光滑罚方法不需要以一个严格可行的内点作为初始点。另外,在实际的计算中,通常只需要求原约束最优化问题的近似解,因此第三章通过光滑逼近l1精确罚函数,考虑几类光滑的且近似精确的罚函数。第二节对不等式约束最优化问题给出了一类光滑罚函数,并讨论了罚问题的最优解、最优值与原问题的最优解、最优值之间的误差估计。给出了一类近似算法,并讨论了与计算有关的问题。数值结果表明了此近似算法的可行性。第三节对于带有等式及不等式约束的一般最优化问题,提出了一类光滑近似精确罚函数,给出了罚问题的最优解、最优值与原问题的最优解、最优值之间的误差估计,并考虑一类近似算法。第四节以不等式约束优化问题为例,讨论了一族光滑近似精确罚函数,其中第二节中的罚函数可以作为此族罚函数的一个特例。给出了一种通过光滑罚问题来求原问题的精确解的算法,讨论了此算法的收敛性。第四章对全文的主要内容作出总结,并对未来的工作作出展望。

论文目录

• 摘要
• Abstract
• 第一章 绪论
• §1.1 问题的提出
• §1.2 一些基本定义与性质
• §1.3 罚函数方法介绍
• §1.3.1 外罚函数法
• §1.3.2 内罚方法
• §1.3.3 增广拉格朗日方法
• §1.4 精确罚方法
• §1.5 序列二次规划方法
• §1.6 本文的主要工作
• 第二章 改进的简单光滑精确罚函数
• §2.1 引言
• §2.2 等式约束最优化问题的一类简单光滑精确罚函数
• §2.2.1 罚函数的光滑性及有界性
• §2.2.2 罚函数的精确性
• §2.2.3 在ε=0处连续可微的罚函数
• §2.2.4 算法及算例
• §2.3 等式约束最优化问题的另一类简单光滑精确罚函数
• §2.3.1 罚函数及其性质
• §2.3.2 罚方法及数值结果
• §2.4 不等式约束最优化问题的光滑精确障碍罚函数
• 1精确罚函数的光滑罚函数'>第三章 逼近l₁精确罚函数的光滑罚函数
• §3.1 引言
• 1罚函数的光滑罚函数'>§3.2 一类逼近l₁罚函数的光滑罚函数
• §3.2.1 光滑化罚函数
• §3.2.2 光滑化罚方法
• §3.2.3 与计算有关的方面
• §3.3 一类求解带等式及不等式约束的最优化问题的光滑罚方法
• §3.3.1 光滑化罚函数
• §3.3.2 算法
• 1罚函数的一种统一途径'>§3.4 光滑逼近l₁罚函数的一种统一途径
• §3.4.1 问题及罚方法
• §3.4.2 光滑罚函数及算法
• §3.4.3 算法的收敛性分析
• §3.4.4 一个例子
• 第四章 结论与展望
• 参考文献
• 作者攻读博士学位期间发表和已完成的论文
• 致谢