非光滑规划全局优化的填充函数法

论文摘要

全局优化方法广泛应用于工程设计、金融管理、生物工程和社会科学等领域,已成为优化领域中非常有意义的研究方向。全局优化研究的是多变量非线性函数在某个约束区域上的全局最优解的特性和构造寻求全局最优解的计算方法,以及求解方法的理论性质和计算性质。由于问题本身存在多个不同的局部极小点,在求解过程中面临两个困难:如何跳出当前局部极小点得到函数值更小的局部极小点和如何判断当前的极小点是全局极小点,因此无法直接用传统的非线性规划方法来解决。全局优化方法可分为两类:随机性方法和确定性方法。填充函数法是一类较为有效的确定性全局优化方法,是解决第一个困难的实用方法之一。它在当前局部极小点处构造填充函数,通过极小化填充函数迅速跳出当前局部极小点达到函数值更小的局部极小点,循环运算直至找到全局极小点。填充函数法提供了一个利用局部优化工具解决全局优化问题的途径。非光滑优化也是当前计算数学、应用数学以及工程优化中较为活跃的研究领域之一。但大多数非光滑优化的有效算法都是寻求它的局部解,而对于全局非光滑优化问题,其理论和算法相对讨论得比较少。因此,鉴于填充函数法在光滑全局优化问题上的有效操作性,有学者对其在非光滑全局优化问题中进行了推广。但推广的填充函数有一些缺陷,如要求目标函数只有有限个局部极小点、填充函数的参数严格依赖于局部极小点盆谷的最小半径、且要求填充函数满足在线上存在极小点的条件等,从而对算法的实施带来困难。构造形式简单以及具有较少参数的填充函数并使其具有良好的性质,以便节约许多冗长的计算步骤及调整参数的时间,提高算法的效率,是理论和实际工作者继续研究填充函数的目的。本文基于当前学者的研究现状,针对一些突出问题进行分析,寻求解决方案,力图在理论方面有所深化,在算法效果方面有所提高。本文结构安排如下。本文包含五章内容:第一章主要介绍了目前国内外主要的几种全局优化和非光滑优化的算法。这些方法包括填充函数法、打洞函数法、罚函数法等,重点介绍了填充函数法在光滑优化领域的已有成果。第二章讨论非光滑规划无约束全局优化的填充函数法。在对已有文献中非光滑无约束规划填充函数的定义进行改进的基础上,提出一类新的双参数填充函数。对该类填充函数的分析无需目标函数的可微性假设以及局部极小点的个数有限的假设,且参数易于调节,即参数的选取与局部极小点的谷域的半径无关。由于双参数的相互调节比较复杂,在算法具体实施时或多或少地会带来一些影响,改进的想法就是减少一个参数,从而提出了改进的单参数填充函数。在理论分析的基础上分别给出了相应的双参数填充函数算法和单参数填充函数算法,数值实验结果证明算法是有效的。区间方法和打洞函数法是全局优化算法中几类行之有效的算法,把我们所提出的填充函数法与此进行比较,指出了改进的方向。对非光滑全局优化的收敛性判别准则、算法中如何确定搜索方向,我们分别给出了建议。第三章把非光滑规划无约束全局优化的填充函数法推广到不等式约束全局优化问题。在非光滑约束规划填充函数的定义下,提出了一类双参数填充函数和一类单参数填充函数,设计了相应的算法并进行数值实验。结果表明算法也是有效的。第四章是非光滑规划等式约束全局优化的填充函数法。在本章提出了一类双参数填充函数并设计了算法。第五章是填充函数法的应用性研究。把填充函数法引入应用领域,如多目标规划、人脸识别系统、车牌识别系统、粒计算等,是进一步研究的方向。

论文目录

• 摘要
• Abstract
• 主要符号说明
• 第一章 全局优化问题及非光滑优化问题简介
• §1.1 全局优化问题简介
• §1.1.1 全局优化的基础知识
• §1.1.2 全局优化中的几种确定性方法
• §1.1.3 全局优化中的几种随机性方法
• §1.2 非光滑优化问题简介
• §1.2.1 非光滑优化的基础知识
• §1.2.2 非光滑优化中的几种方法
• 第二章 非光滑规划无约束全局优化的填充函数法
• §2.1 引言
• §2.2 一类新的双参数填充函数法
• §2.2.1 一类新的双参数填充函数及其性质
• §2.2.2 算法NFFM1
• §2.3 一个新的单参数填充函数法
• §2.3.1 一个新的单参数填充函数及其性质
• §2.3.2 算法NFFM2
• §2.4 数值结果
• §2.5 与其他方法的比较
• §2.5.1 与区间方法的比较
• §2.5.2 与打洞函数法的比较
• §2.6 小结
• 第三章 非光滑规划不等式约束全局优化的填充函数法
• §3.1 引言
• §3.2 一个双参数填充函数法
• §3.2.1 一个双参数填充函数及其性质
• §3.2.2 算法IFFM1
• §3.3 一个单参数填充函数法
• §3.3.1 一个单参数填充函数及其性质
• §3.3.2 算法IFFM2
• §3.4 数值结果
• §3.5 小结
• 第四章 非光滑规划等式约束全局优化的填充函数法
• §4.1 引言
• §4.2 一个双参数填充函数法
• §4.2.1 一个双参数填充函数及其性质
• §4.2.2 算法EFFM1
• §4.2.3 算法EFFM2
• §4.3 小结
• 第五章 填充函数法的应用性研究
• §5.1 填充函数法在多目标规划中的应用
• §5.1.1 求解一类凸多目标规划最小弱有效解的填充函数法
• §5.1.2 数值结果
• §5.2 基于填充函数法训练BP神经网络的车牌字符识别算法
• §5.2.1 BP神经网络存在的问题
• §5.2.2 基于填充函数法训练BP神经网络的车牌字符识别算法
• §5.2.3 仿真模拟测试
• §5.2.4 小结
• §5.3 基于填充函数法改进的人脸识别方法
• §5.3.1 ICP算法和BP神经网络存在的问题
• §5.3.2 基于填充函数法改进的ICP三维数据配准算法和人脸比对分类器
• §5.3.3 实验与结果分析
• §5.3.4 小结
• §5.4 利用全局优化填充函数的粒计算方法
• 结论
• 参考文献
• 作者攻读博士学位期间发表的论文
• 作者攻读博士学位期间参加的课题
• 致谢