论文题目: 神经网络集成及其在地震预报中的应用研究
论文类型: 博士论文
论文专业: 控制理论与控制工程
作者: 刘悦
导师: 吴耿锋,张博锋
关键词: 神经网络集成,地震预报,实验设计,粗集约简,特征加权,并行计算
文献来源: 上海大学
发表年度: 2005
论文摘要: 学习方法的泛化能力、学习效率和易用性是机器学习及其应用过程中所面临的三个关键性挑战问题。神经网络集成学习通过训练多个神经网络并将其结果进行合成,显著地提高了学习系统的泛化能力,成为近年来机器学习领域一个重要的研究方向。本文在分析神经网络集成方法研究现状的基础上,以实验设计、粗集理论、特征加权以及并行技术等为支撑,围绕神经网络集成学习方法的易用性、泛化能力和学习效率等问题展开研究,提出了更有效的神经网络集成方法,并将其应用到地震预报领域。神经网络集成的结构(个体网络的数目和个体网络的结构)和个体网络的训练参数(如训练次数和学习率等)关系到集成性能的好坏,同时影响着集成是否易于被使用。本文首先研究了实验设计在神经网络集成中的应用,提出了一种简单、科学地确定神经网络集成结构和个体网络的训练参数的方法。使用者可以用较少的实验次数,分析影响神经网络集成泛化能力的因素以及确定各因素用什么水平搭配起来对集成的泛化能力最佳。同时,通过最近邻聚类算法自动确定个体网络的隐层节点,得到具有较大差异度的异构的个体网络,从而提高集成的泛化能力。其次,研究了构造算法和选择性方法的结合,提出了一种构造选择性神经网络集成方法。自动地确定了神经网络集成中个体网络的数目、个体网络隐层节点的个数及其训练次数等;并且采用多目标的个体网络选择方法,既保证了个体网络的精度又保证了个体网络之间的差异度。用户只需要简单地指定一些参数的初始值即可构造出集成,提高了神经网络集成的易用性。泛化能力是机器学习关注的基本问题之一。集成特征选择通过特征选择技术产生差异度大的个体,提高了集成的泛化能力。有效地生成属性子集是其需要解决的核心问题。本文就此展开了相关的研究,提出了基于粗集约简的神经网络集成方法。该方法充分考虑到了各属性之间的依赖性和相关性,利用基于可辨识矩阵的粗集约简方法有效地生成属性子集,能够构造出具有更高精度和差异度的个体,从而提高神经网络集成的泛化能力。特征加权能够细致地区分特征对结果影响的程度,已经成为当今流行的提高学习器的预测精度的方法之一。本文着重研究了如何将特征加权技术应用于提高神经网络集成的泛化能力,提出了一种基于特征加权的神经网络集成方法。该方法通过自适应遗传算法的优胜劣汰机制为输入属性确定了特征权值,提高了集成中各个体网络的精度和差异度,从而提高了神经网络集成的泛化能力。提高学习效率是机器学习永远的追求。本文结合最新的并行计算编程技术,提出了一种神经网络集成方法的并行实现方案,显著地提高了集成的学习效率;
论文目录:
摘要
ABSTRACT
第1章 绪论
1.1 神经网络集成
1.1.1 神经网络集成的框架
1.1.2 神经网络集成的原理
1.1.3 神经网络集成的研究现状
1.2 地震预报中神经网络应用的研究现状及存在的问题
1.3 本文的主要研究内容及其安排
1.3.1 神经网络集成学习存在的问题
1.3.2 本文主要研究内容
1.3.3 本文的内容安排
第2章 基于实验设计的神经网络集成方法
2.1 实验设计简介
2.1.1 正交设计简介
2.1.2 均匀设计简介
2.1.3 实验设计的应用
2.2 基于实验设计的神经网络集成方法
2.2.1 实验设计表的确定
2.2.2 异构RBFNN 结构的确定
2.3 UCI 标准数据集上的实验
2.3.1 验证异构RBFNN 集成的有效性
2.3.2 验证基于正交设计的神经网络集成的有效性
2.3.3 验证基于均匀设计的神经网络集成的有效性
2.4 DOEERBF 在地震序列类型判断的应用
2.5 小结
第3章 构造选择性神经网络集成方法
3.1 构造选择性神经网络集成方法
3.1.1 个体网络训练次数的确定
3.1.2 选择网络加入到集成的判断条件
3.1.3 停止集成构建的标准
3.1.4 讨论
3.2 UCI 标准数据集上的实验
3.3 CSERBF 在地震综合预报中的应用
3.3.1 CSERBF 在地震震级预报中的应用
3.3.2 CSERBF 在地震时间预报中的应用
3.4 小结
第4章 基于粗集约简的神经网络集成方法
4.1 粗集理论
4.2 基于粗集约简的神经网络集成方法
4.2.1 求解所有粗集约简集的方法
4.2.2 支持向量机
4.2.3 讨论
4.3 UCI 标准数据集上的实验
4.3.1 验证ODMA 的有效性
4.3.2 验证RRESVM 的有效性
4.4 RRESVM 在地震预报中的应用
4.4.1 使用ODMA 分析地震预报指标与地震预报的关系
4.4.2 使用RRESVM 判断地震序列类型
4.5 小结
第5章 基于特征加权的神经网络集成方法
5.1 基于特征加权的神经网络集成方法
5.1.1 Catergory ART 的有监督学习
5.1.2 自适应遗传算法优化特征权值
5.2 UCI 标准数据集上的实验
5.3 FWEART 在地震预报中的应用
5.3.1 FWEART 在地震序列类型判断中的应用
5.3.2 FWEART 在地震震级预报中的应用
5.4 小结
第6章 基于计算网格的神经网络集成学习平台
6.1 计算网格
6.2 基于计算网格的神经网络集成学习平台
6.2.1 神经网络集成学习方法的并行化
6.2.2 Portal 的设计与实现
6.3 基于计算网格的神经网络集成学习平台实例演示
6.3.1 资料收集
6.3.2 利用集成学习平台判断未来我国大陆地震形势
6.4 小结
第7章 结论与展望
7.1 本文主要结论
7.2 今后工作展望
参考文献
作者攻读学位期间公开发表的论文及参加的科研工作
致谢
博硕士学位论文同意发表声明
发表意见书
发布时间: 2006-12-12
参考文献
- [1].神经网络集成技术及其在土壤学中应用的研究[D]. 沈掌泉.浙江大学2005
- [2].粗集神经网络集成方法及其在模式识别中的应用[D]. 张东波.湖南大学2007
- [3].提高密度泛函理论方法计算吸收能的精度:神经网络和遗传算法[D]. 李辉.东北师范大学2009
- [4].神经网络集成分类方法及其在并行计算环境中的应用研究[D]. 王征宇.华南理工大学2015
- [5].基于神经网络集成的增量式学习[D]. 林民龙.中国科学技术大学2012
- [6].仿人机器人数字仿真与虚拟示教关键技术研究[D]. 甘志刚.华南理工大学2009
- [7].神经网络集成BOOSTING类算法研究[D]. 高敬阳.北京化工大学2012
- [8].基于视觉与接近觉的水下多目标定位技术研究[D]. 余琨.华中科技大学2012
相关论文
- [1].人工神经网络在化工物性定量预测中的应用研究[D]. 阚丹锋.北京化工大学1992
- [2].基于神经网络和模糊逻辑的智能推荐系统研究[D]. 曹渝昆.重庆大学2006
- [3].人工神经网络的结构学习算法及问题求解研究[D]. 朱大铭.中国科学院研究生院(计算技术研究所)1999
- [4].模糊神经网络的研究及其应用[D]. 孙海蓉.华北电力大学(河北)2006
- [5].人工神经网络的泛化性能与降水预报的应用研究[D]. 林开平.南京信息工程大学2007
- [6].神经网络中的若干问题研究[D]. 吕建成.电子科技大学2006
- [7].粗集神经网络集成方法及其在模式识别中的应用[D]. 张东波.湖南大学2007