多目标粒度支持向量机及其应用研究

论文摘要

如何提高学习机的推广能力、训练复杂性和可理解性是机器学习领域的研究热点和重点。粒计算或粒度模型将复杂研究对象分割成一些简单.的研究对象,以便从微观的角度观察和分析问题,降低其复杂性,如训练复杂性。相反,对于微观的简单问题,通过逐步综合的方法将相关的简单问题合并,从宏观上研究问题以降低处理多个简单问题带来的复杂性。对于用户而言,分类错误率和训练复杂性是衡量分类算法的相互冲突的指标,构造分类错误率低且训练复杂性低的分类算法是多目标优化问题。近年来,多目标优化已融入了机器学习领域,并且可以构造给定训练集上的一簇多个目标折衷的学习方法,供决策者根据需求选取合适的学习机。对于支持向量机而言,不同的训练样本对于训练过程的贡献度不同,容易错分的样本对构造分类超平而的贡献度较大,而不容易错分的样本对构造分类超平面的贡献度较小。根据样本的贡献度构造训练集的粒度模型,选取对分类超平面贡献度较大的样本构造支持向量机是降低训练复杂性常用方法之一本文融合粒计算、多目标优化和支持向量机,研究了基于模糊格的粒计算、多目标粒计算和粒度支持向量机三种算法。论文的创新性工作如下：利用格和对偶格之间的同构映射消除向量集和粒集上两种偏序关系的不一致性,根据同构映射和正评价函数构造粒之间的模糊包含度和合并后的粒度对粒进行有条件的合并,构造了基于模糊格的粒计算分类算法,并从代数系统的角度证明构造的粒计算的可行性。数值实验结果证明了与支持向量机相比基于模糊格的粒计算不但加速了训练过程而目.具有较高的推广能力。针对粒计算产生的冗余粒,根据粒的数量和分类错误率两个指标的重要性不同,在Pareto支配关系的基础上,定义了基于重要度的Pareto支配关系（IPareto, Importance-based Pareto Dominance）比较个体的优劣,建立了粒的数量与分类错误率的多目标粒计算模型,设计了相应的演化算法。该演化算法用粒的两层结构表示个体,设计了个体之问的交叉算子、单一个体上的合并算子和变异算子,用先验信息指导算法收敛到IPareto前沿。实验结果表明与传统的粒计算相比多目标粒计算得到更多的分类机制,即多目标粒计算得到一簇分类器供用户选择,每个分类器都是分类错误率对应的最小规模的分类粒集。针对大量非支持向量导致了支持向量机较高的训练复杂性,通过支持向量的分布特征估计了其分布,建立训练集的粒度模型,剔除部分非支持向量,选取极有可能成为支持向量的样本构造粒度支持向量机。该类粒度支持向量机根据样本对训练的不同贡献度,选取贡献度较大的样本构造粒度模糊支持向量机；定义训练集上的等价关系,利用属性值的离散化构造训练集的粒度模型,选取包含不同类样本的粗糙集边界构造粒度模糊支持向量机；利用属性的重要性对属性集精简或粒化,构造粒度模糊支持向量机。实验结果表明该类学习机降低了训练复杂性,提高了推广能力。将提出的超盒粒计算分类算法用于无线传感器网络的节点定位问题。首先,利用已知节点与锚节点之间的通信量构造训练集；其次,对定位区域进行网格化,将训练集转化为分类问题的训练集；训练分类算法并用测试集验证算法的性能。实验结果表明超盒粒计算分类算法可以用于无线传感器网络的节点定位,并且取得了可接受的定位精度。

论文目录

• 摘要
• Abstract
• 第1章 绪论
• 1.1 研究的背景和意义
• 1.1.1 粒计算学习方法
• 1.1.2 用于粒计算的多目标优化
• 1.1.3 用于粒度支持向量机的粒计算
• 1.1.4 用于无线传感器网络节点定位的粒计算
• 1.2 论文的创新性工作和主要内容
• 第2章 基于模糊格的粒计算
• 2.1 粒计算
• 2.2 格计算
• 2.2.1 模糊格
• 2.2.2 高维空间上的格
• 2.2.3 区间格
• 2.3 基于模糊格的超盒粒计算分类算法
• 2.3.1 超盒粒的两点表示法
• 2.3.2 包含度函数
• 2.3.3 超盒粒之间的有条件合并
• 2.3.4 基于模糊格的超盒粒计算分类算法
• 2.3.5 数值实验
• 2.4 基于模糊格的超球粒分类算法
• 2.4.1 超球粒的单点表示法
• 2.4.2 超球粒之间的模糊包含度函数
• 2.4.3 超球粒的有条件合并
• 2.4.4 基于模糊格的超球粒计算分类算法
• 2.4.5 数值实验
• 2.5 本章小结
• 第3章 多目标粒计算
• 3.1 多目标优化问题
• 3.2 多目标演化算法
• 3.2.1 NSGAⅡ算法
• 3.2.2 SPEA2算法
• 3.3 基于多目标优化的超盒粒计算
• 3.3.1 多目标超盒粒计算模型
• 3.3.2 种群的初始化
• 3.3.3 个体之间的演化操作
• 3.3.4 基于重要度的个体优劣比较
• 3.3.5 基于多目标优化的超盒粒计算
• 3.3.6 算法的性能评价
• 3.4 数值实验
• 3.5 本章小结
• 第4章 粒度支持向量机
• 4.1 统计学习基本理论简介
• 4.2 支持向量机
• 4.3 模糊支持向量机
• 4.4 基于数据贡献度的粒度模糊支持向量机
• 4.4.1 基于贡献度的两类问题粒度模糊支持向量机
• 4.4.2 多类问题粒度模糊支持向量机
• 4.4.3 数值实验
• 4.5 基于粗糙集边界的粒度模糊支持向量机
• 4.5.1 粗糙集理论简介
• 4.5.2 训练集的粒化过程
• 4.5.3 基于粗糙集边界的粒度模糊支持向量机
• 4.5.4 数值实验
• 4.6 基于属性集粒化的粒度模糊支持向量机
• 4.6.1 基于重要度的属性约简
• 4.6.2 属性集的粒化方法
• 4.6.3 基于属性集粒化的粒度模糊支持向量机
• 4.6.4 数值实验
• 4.7 本章小结
• 第5章 粒计算在WSN节点定位中的应用
• 5.1 节点之间通信量的估计
• 5.1.1 接收信号强度
• 5.1.2 信号到达时间
• 5.2 节点的定位技术
• 5.2.1 映射技术
• 5.2.2 统计定位算法
• 5.3 基于粒计算的传感器节点定位算法
• 5.3.1 WSN的结构
• 5.3.2 定位区域的网格化
• 5.3.3 粒计算定位算法
• 5.3.4 定位算法的精度分析
• 5.3.5 数值仿真实验
• 5.4 本章小结
• 第6章 总结与展望
• 6.1 论文内容总结
• 6.2 进一步研究工作
• 致谢
• 参考文献
• 攻读博士期间参与的科研项目以及发表的论文
• 参与的科研项目
• 发表的论文