论文题目: 神经网络与支持向量机相关问题研究
论文类型: 博士论文
论文专业: 应用数学
作者: 马儒宁
导师: 陈天平
关键词: 神经网络,约束优化问题,隐互补问题,支持向量机,二次规划,特征空间
文献来源: 复旦大学
发表年度: 2005
论文摘要: 本文主要目的在于研究神经网络与支持向量机的相关问题。 神经网络的理论研究起源于1943年,美国心理学家McCulloch与数学家Pitts合作,用逻辑的数学工具研究客观事件在形成神经网络中的表述,从此开始了对神经网络研究的热潮。到了上个世纪末,随着Grossberg、Hopfield以及Sejnowski等人的神经网络模型的建立,更加刺激了神经网络的理论和应用研究。 自从Hopfield和Tank关于回归神经网络的初始工作[50][51][110]以来,回归神经网络,或者称为Hopfield神经网络,其稳定性、收敛性等动力学特征,特别是在优化、信号处理、模式识别等领域的应用,越来越受到人们的关注。在本文中,针对Hopfield神经网络的数学性质及其在最优化等领域的应用做了一系列研究,特别是给出了闭凸集上连续可微优化的神经网络模型与闭凸集上一般互补问题(隐互补问题)的神经网络模型,并研究了它们的数学性质(解的整体存在性、收敛性、稳定性等)。 支持向量机(support Vector Machine,简记为SVM)是九十年代中叶Vladimir N. Vapnik教授领导的研究小组提出的一种新的智能机器,源于七十年代迅速发展起来的统计学习理论,特别是体现了结构风险极小化的思想和方法。由于支持向量机在模式识别、回归估计、函数逼近、风险预算、金融序列分析、密度估计、新奇性检验等各个领域获得了巨大成功,立刻成为机器学习、神经网络、人工智能等方向的专家与学者研究的热点。 在本文里,我们提出了一些基于样本空间的分离、选取的快速计算方法,并提出了利用神经网络模型解支持向量机所提出的二次规划问题的方法,具体的实验也说明了所提出方法的有效性。 第一章,绪论。在这一章中,我们简单介绍了神经网络和支持向量机的发展历史及研究现状,并对论文的主要结果给以简单介绍。 第二章,约束优化问题的神经网络方法。对于约束的优化问题,一向很难有简单有效的神经网络模型,近年来, [66][64][65]等文章中提出了基于投影算子的神经网络模型,用来解决紧凸约束的连续可微优化问题和闭凸约束的凸连续可微优化
论文目录:
第一章 绪论
ξ1.1 神经网络发展的历史回顾
ξ1.1.1 历史回顾
ξ1.1.2 神经网络的特点以及应用
ξ1.2 支持向量机产生的背景及其发展现状
ξ1.2.1 支持向量机产生与发展概况
ξ1.2.2 统计学习理论简介
ξ1.2.3 统计学习算法的构造
ξ1.2.4 支持向量机面临的主要问题
§1.3 本文的主要结果
第二章 约束优化问题的神经网络方法
ξ2.1 引言及预备知识
ξ2.2 闭凸集上连续可微优化的Hopfield神经网络模型及其数学分析
ξ2.2.1 解的整体存在性
§2.2.2 解的拟收敛与渐进收敛性
ξ2.3 数值实验以及结论
ξ2.3.1 数值例子
§2.3.2 本章小节
第三章 一般隐互补问题(ICP)的神经网络方法
ξ3.1 引言及预备知识
ξ3.2 建立基于投影的Hopfield神经网络解一般隐互补问题
§3.3 数值实验以及结论
§3.3.1 数值实验
§3.3.2 本章小结
第四章 基于样本的支持向量机的简化方法
§4.1 引言及预备知识
§4.2 分类问题中利用特征空间中样本的选取与分离简化SVM
§4.2.1 特征空间中样本选取的方法
§4.2.2 特征空间中样本分离的方法
§4.3 回归问题中基于样本的SVM的简化方法
§4.3.1 支持向量机回归问题的数学表示及其标准形式
§4.3.2 利用分块方法简化支持向量机的回归问题
§4.3.3 基于分块方法及模糊参数的支持向量机的预测
§4.4 R~n中算子逼近的SVM方法及其分块训练
§4.4.1 有限维空间中算子逼近的支持向量机
§4.4.2 分块算法与实验
§4.5 本章小结
第五章 神经网络方法在支持向量机中的应用
§5.1 引言
§5.2 支持向量机训练中二次规划问题的神经网络方法
§5.2.1 支持向量机用于分类问题的神经网络方法
§5.2.2 支持向量机用于回归问题的神经网络方法
§5.3 数值实验以及结论
§5.3.1 数值实验
§5.3.2 本章小结
参考文献
论文独创性声明
论文使用授权声明
发布时间: 2005-09-19
参考文献
- [1].基于深度学习的交互式问答技术研究[D]. 周小强.哈尔滨工业大学2017
- [2].基于忆阻的神经网络的动力学分析及应用[D]. 李若霞.东南大学2017
- [3].基于卷积神经网络的心电信号检测和分类研究[D]. 项延德.浙江大学2018
- [4].终态神经网络及其相关应用[D]. 孔颖.浙江工业大学2017
- [5].面向图像目标识别和检测的深度神经网络关键技术研究[D]. 李扬.北京邮电大学2018
- [6].深度模型简化：存储压缩和计算加速[D]. 李皈颖.中国科学技术大学2018
- [7].基于神经网络和支持向量机的麦蚜发生动态预测研究[D]. 靳然.山西农业大学2017
- [8].基于脉冲神经网络的纹理图像识别研究[D]. 张振敏.福建师范大学2016
- [9].基于扩展神经网络的非线性不确定系统自适应控制设计研究[D]. 陈浩广.广东工业大学2017
- [10].几类复杂网络的同步控制研究[D]. 高洁.电子科技大学2018