基于核方法的模糊模型辨识研究

论文摘要

模糊模型辨识是智能控制理论重要的研究分支之一。传统数学建模方法对当前信息科技所带来的各种复杂研究对象往往无能为力,而模糊模型具有易于表达结构性知识,可把数学函数逼近器与过程信息相结合等优点。基于模糊模型发展的系统辨识、智能控制理论和模式识别新方法等已在众多领域得到了成功应用。因此,模糊模型辨识是智能控制基础理论研究的关键问题之一。在过去的二十多年里,国内外学者在模糊模型辨识理论方面已经作了大量的研究工作,但现有辨识算法仍面临着如何避免“维数灾难”和提高模型泛化能力等难题。模糊模型辨识主要分为结构辨识和参数辨识两个部分,其中结构辨识是关键,也是难点,目前尚未形成完善的理论。此外,如何在模糊模型的多个性能指标(如复杂度和精度)间作出折衷,从而为参数辨识提供合理的依据,目前还缺乏有效的理论指导。而且,将模糊模型辨识方法应用于实际工业生产过程也还存在不少的困难,其中一个主要的原因就是一些传统的辨识方法所产生的庞大规则库以及巨大的辨识计算消耗。因此,如何设计简洁有效的辨识算法,提高模型的泛化性能,并降低辨识算法的计算复杂度等就成为本文研究的主要出发点。本文致力于将核方法引入模糊模型辨识领域以期获得新颖而有效的辨识算法,从而克服传统辨识方法存在的一些不足。核方法是对使用核技巧的一类学习算法的总称,它是目前机器学习领域中最具活力的研究方向之一。在本文中,首先设计了基于支持向量机的模糊模型辨识算法,使用支持向量机来完成结构辨识以提高模型的泛化性能,再利用卡尔曼滤波实现参数估计;然后通过改进遗传算法来解决核函数和核参数选择问题,并同时考虑辨识精度和模型复杂度以实现多性能指标折衷;再针对辨识的计算消耗问题,提出基于增量核学习的辨识算法以加快辨识速度减小计算消耗;最后针对支持向量模糊系统可能存在的规则冗余问题提出了一种基于双重核学习(核模糊聚类和支持向量回归)的支持向量组合策略来实现规则库的简化,以保证模型的简洁性。该方法同时避免了传统基于模糊聚类的辨识算法存在对初始聚类个数敏感的缺点。具体地说,本文主要有以下几个创新点:1、适当核函数的选择和核参数的优化一直是核方法应用的关键和难点。本文采用凸组合方式将两类代表性的核函数加以组合,并将加权系数和其他核参数一起交由遗传算法(Genetic Algorithm)加以优化,从而实现将核函数的选择问题转化为一个参数优化问题。再引入参数不敏感变化步长概念以改进遗传算子,加快进化速度。优化目标函数中我们综合考虑了辨识的精度和模型的复杂度,从而实现了模糊模型的多性能指标设计要求。2、对于基于支持向量机的模糊辨识方法,辨识的计算复杂度与训练样本个数呈指数关系。为此文中提出了一种新的支持向量机训练算法。首先使用核马氏距离(Kernel Mahalanobis Distance)来定义一个椭圆区域,以挑选出可能成为支持向量的样本,以此来减小训练样本的规模,再以增量学习(Incremental Learning)方式来完成支持向量机的训练,最后的模糊规则可从支持向量学习结果中直接提取。该方法为开发模糊模型的在线辨识技术提供了方案。3、支持向量模糊系统的规则个数由支持向量个数决定,一旦支持向量很多,就可能导致规则冗余。为此,本文提出一种基于双重核学习机的规则库简化策略来避免这一缺点。首先提出一种新的核模糊聚类(Kernel fuzzy clustering)算法将样本集做出初始划分,再针对每个聚类使用支持向量回归机定位支持向量,再对这些获得的支持向量加以组合压缩以达到减少支持向量个数的目的,而最终模糊模型的结构则由这些组合后的支持向量来确定。该支持向量组合策略(Combination strategy for support vectors)能够有效地确保模型的简洁性。此外,该算法不再像传统基于聚类的辨识算法那样对初始的聚类个数敏感,而且由于条件正定核的使用,使得辨识算法免去了核参数优化的过程。

论文目录

• 摘要
• ABSTRACT
• 第一章 绪论
• 1.1 引言
• 1.2 模糊系统
• 1.2.1 纯模糊系统
• 1.2.2 Mamdani 型模糊系统
• 1.2.3 T-S 型模糊系统
• 1.3 模糊模型辨识研究现状
• 1.3.1 结构辨识
• 1.3.2 参数估计
• 1.3.3 存在的问题
• 1.4 核方法和支持向量机
• 1.4.1 核方法
• 1.4.2 支持向量机
• 1.5 本文的研究内容及研究成果
• 第二章 基于核学习机的模糊模型辨识
• 2.1 引言
• 2.2 核学习机与模糊模型
• 2.2.1 对应关系分析
• 2.2.2 等价条件
• 2.3 支持向量模糊系统
• 2.3.1 Mamdani 型支持向量模糊系统
• 2.3.2 T-S 型支持向量模糊系统
• 2.4 仿真结果
• 2.4.1 一维非线性函数建模
• 2.4.2 二维非线性函数建模
• 2.4.3 三维非线性函数建模
• 2.5 本章小结
• 第三章 基于遗传算法的核函数选择及参数优化
• 3.1 引言
• 3.2 遗传优化混合核
• 3.2.1 遗传算法
• 3.2.2 加权混合核
• 3.2.3 遗传优化混合核
• 3.3 基于遗传优化混合核的模糊辨识算法
• 3.4 仿真结果
• 3.4.1 二维非线性函数建模
• 3.4.2 Mackey-Glass 混沌时间序列预测
• 3.4.3 化工厂人工操作模型建模
• 3.5 本章小结
• 第四章 基于增量核学习的支持向量机训练方法
• 4.1 引言
• 4.2 基于核马氏距离度量的增量支持向量回归机
• 4.2.1 核马氏距离
• 4.2.2 侯选支持向量选取策略
• 4.2.3 增量支持向量机训练算法
• 4.3 混合乘积核
• 4.4 基于增量核学习的模糊辨识算法
• 4.5 仿真结果
• 4.5.1 二输入非线性系统建模
• 4.5.2 Mackey-Glass 混沌时间序列预测
• 4.5.3 汽车MPG 预测
• 4.6 本章小结
• 第五章 基于双重核学习的结构辨识及规则库简化策略
• 5.1 引言
• 5.2 核模糊C 均值聚类
• 5.2.1 模糊C 均值聚类
• 5.2.2 核模糊C 均值聚类算法
• 5.3 基于ECPD 核的支持向量回归
• 5.4 基于支持向量组合的规则库简化策略
• 5.5 基于双重核学习的模糊模型辨识算法
• 5.6 仿真结果
• 5.6.1 Box-Jenkins 煤气炉数据建模
• 5.6.2 Mackey-Glass 混沌时间序列预测
• 5.7 本章小结
• 第六章 总结与展望
• 6.1 全文总结
• 6.2 展望
• 参考文献
• 致谢
• 攻读博士期间发表、撰写的论文