基于核方法与累积量随机学习的模式分类研究

论文摘要

模式分类是模式识别的一项重要内容,在许多领域已经得到成功的应用。本文主要从两个方面对模式分类进行了探讨和研究。一方面,针对近年来模式分类领域广泛关注的核方法,本文从以下几点进行了研究。(1)众所周知,核方法的性能受核参数的影响很大。核参数调节问题是核方法研究的重点和难点。基于如下思想:最优核参数应导致训练数据所对应的映射数据的空间结构满足相应线性算法的要求,提出一种核参数优化思路。如何描述映射数据的空间结构以及如何估计数据的空间结构与相应线性算法所要求的空间结构的逼近程度是新思路是否可行的关键。基于数据集的空间结构完全可由该数据集所张成的子空间的一组标准正交基来捕获的思想,提出一种描述映射数据空间结构的方法,回避了映射数据不可显式表示的难题。同时,基于最大熵原则的非高斯性测度,构造了一个估计数据分布逼近超球形区域程度的判别准则,用以指导支撑向量域描述算法的核参数优化问题。(2)在大训练集情况下,一般核方法面临计算代价大、特征提取速度慢的问题。为克服这些困难,基于最佳投影方向可由训练样本对应的映射数据所张成的子空间的一组基来线性表示的思想,提出一种简化方法。该方法具有通用性,适合众多核方法的简化问题。同时,为了快速寻找映射数据所张成的子空间的一组基,基于线性相关理论,设计了一种优化方法。利用该简化方法,本文分别提出了核Fisher判别分析和核主分量分析的简化算法,计算复杂度由原来的O ( n~3)降低至O ( r~3)(其中n表示训练样本数目,r表示基的个数),同时,特征提取速度也有明显提高。(3)如何抽取数据的有效鉴别特征是模式分类的关键。基于核化原理,提出一种非线性鉴别特征提取方法:核最优变换与聚类中心算法。该算法可提取稳健的非线性鉴别特征,解决复杂分布数据的模式分类问题。另一方面,针对模式分类的一个重要应用领域:基于高分辨距离像的雷达目标识别,本文做了以下几点工作。(1)针对雷达目标识别中,参数化密度估计方法存在的“模型失配”问题,基于高分辨距离像的统计特性分析,提出一种非参数化密度估计方法——累积量随机学习方法,估计距离像的概率密度。基于外场实测数据的实验证明了该方法的有效性。(2)首次尝试将参数化方法与非参数化方法相结合,估计距离像的概率密度。基于“Gamma—SLC”混合密度估计方法的雷达目标识别实验表明:该方法融合了参数化方法与非参数化方法的优点,同时也回避了二者存在的缺陷,识别率较单一方法有明显提高。(3)借鉴最大熵原则的非高斯性测度,提出一个评价密度估计方法的准则。相比传统的密度估计性能检验标准,该准则更易于操作,而且具有通用性。

论文目录

• 摘要
• ABSTRACT
• 第一章：绪论
• 1.1 模式分类概述
• 1.1.1 基本概念与方法
• 1.1.2 模式分类系统
• 1.2 核方法的关键问题分析
• 1.2.1 核方法的基本思想
• 1.2.2 核方法的关键问题分析及解决方法
• 1.3 累积量随机学习简述
• 1.3.1 概率密度估计方法介绍
• 1.3.2 累积量随机学习的基本思想
• 1.4 论文研究的主要内容及章节安排
• 第二章 特征空间中数据的几何结构表示
• 2.1 基本思想
• 2.2 子空间标准正交基的确定
• 2.2.1 子空间基的确定
• 2.2.2 子空间标准正交基的确定
• 2.3 本章小结
• 第三章 核参数优化问题研究
• 3.1 核参数优化问题分析
• 3.1.1 问题的提出
• 3.1.2 核参数优化的研究现状
• 3.1.3 本文的核参数优化思路
• 3.2 支撑向量域描述（SVDD）算法介绍
• 3.2.1 算法描述
• 3.2.2 研究现状
• 3.3 一种改善SVDD性能的核优化算法
• 3.3.1 核优化算法的思路
• 3.3.2 核参数优化测度的构造
• 3.3.3 最优化核参数的算法步骤
• 3.3.4 实验及结果分析
• 3.4 本章小结
• 第四章 核方法简化问题研究
• 4.1 一种KPCA的快速算法
• 4.1.1 PCA的数学描述
• 4.1.2 KPCA简介
• 4.1.3 计算复杂度分析
• 4.1.4 一种KPCA的快速算法
• 4.1.5 实验分析
• 4.2 一种核FISHER判别分析的快速算法
• 4.2.1 Fisher判别分析简述
• 4.2.2 核Fisher判别分析简述
• 4.2.3 算法性能分析
• 4.2.4 一种KFDA的快速算法
• 4.2.5 实验分析
• 4.3 本章小结
• 第五章 基于核最优变换和聚类中心的鉴别特征提取
• 5.1 基本思想
• 5.2 最优变换和聚类中心算法描述
• 5.2.1 最优变换
• 5.2.2 最优聚类中心的选择
• 5.3 核最优变换和聚类中心算法
• 5.3.1 KOT-CC算法推导
• 5.3.2 性能比较分析
• 5.4 核最优变换和聚类中心的简化算法
• 5.5 实验分析
• 5.5.1 鉴别特征提取能力分析
• 5.5.2 计算性能分析
• 5.5.3 与核Fisher鉴别分析的比较
• 5.6 本章小结
• 第六章 基于非参数化密度估计的雷达目标识别
• 6.1 HRRP的特性分析
• 6.1.1 HRRP的获取
• 6.1.2 HRRP的敏感性及其预处理
• 6.1.3 帧内HRRP的统计特性分析
• 6.2 基于累积量随机学习的雷达目标识别
• 6.2.1 方法提出的背景
• 6.2.2 累积量随机学习（SLC）
• 6.2.3 SLC的主要步骤
• 6.2.4 运用SLC进行识别的基本步骤
• 6.2.5 基于外场实测数据的实验分析
• 6.2.6 结论
• 6.3 基于“GAMMA—SLC”混合密度估计的雷达目标识别
• 6.3.1 方法提出的背景
• 6.3.2 密度估计方法的描述
• 6.3.3 密度估计方法的选择
• 6.3.4 采用“Gamma-SLC”进行识别的基本步骤
• 6.3.5 基于外场实测数据的实验分析
• 6.3.6 结论
• 6.4 本章小结
• 第七章 总结与展望
• 7.1 本文的主要研究成果
• 7.2 后继工作与展望
• 致谢
• 参考文献
• 在读期间的研究成果和参加的科研项目
• 发表的文章与学位论文的对应关系