加权支持向量机在可靠性预测中的应用

论文摘要

随着现代工业的不断发展,人们对产品的可靠性要求越来越高。而对工业产品可靠性的精确预测可以及早发现产品在使用过程中可能产生的一系列问题,从而可以使人们更好地把握产品使用寿命。因此,可靠性预测在现代工程系统中占有非常重要的地位。传统的可靠性预测方法主要包括寿命分布模型、故障树分析、蒙特卡罗模型和人工神经网络等,这些模型在非线性回归方面已经取得了很好的应用。特别是神经网络由于在样本拟合方面能够达到较高的精度,已成为国内外学者研究的一个重要领域,并得到了众多改进的模型。但是,神经网络在其自身的理论方面仍然存在着一些缺陷,主要在于神经网络采用经验风险最小化原则,往往造成“过拟合”,使得训练机器缺乏泛化能力;同时,对神经网络的训练需要大量的样本数据,而现实当中样本数一般都是有限的。因此,在样本数比较少的情况下,基于神经网络的模型往往无法得到满意的预测精度。支持向量机是90年代初由Vapnik等人利用统计学习原理提出的一种新的机器学习方法,最初主要用于模式识别问题。随着ε不敏感损失函数的引入,支持向量机已推广到非线性系统的回归估计,并在解决小样本情况下的回归方面展现了良好的学习性能。支持向量机以结构风险最小化为准则,在对数据的拟合方面既能达到满意的精度,又有比较好的泛化能力。另外,支持向量机的求解最后转化成二次规划问题的求解,因此支持向量机的解是唯一的也是全局最优解。随着人们对支持向量机理论研究的深入,一些新的支持向量机模型被不断提出。在可靠性的预测当中,不同时间的样本数据对预测结果的影响不同。近期的样本数据对预测结果的影响要高于早期样本数据对预测结果的影响。基于可靠性预测这一特性,本文采用支持向量机的一种新模型——加权支持向量机对系统可靠性进行建模和预测。与标准支持向量机对所有样本实施相同的惩罚参数不同,加权支持向量机通过对不同时期的样本实施不同的惩罚参数,从而能显著提高近期样本在结果预测中所占比重。同时,通过遗传算法对加权支持向量机的相关参数进行优化,进一步提高了加权支持向量机的预测精度。对结果均方差的分析显示,加权支持向量机的预测精度优于人工神经网络和标准支持向量机模型。

论文目录

• 摘要
• ABSTRACT
• 第一章 绪论
• 1.1 问题背景
• 1.2 研究的现状及存在的问题
• 1.2.1 研究现状
• 1.2.2 现今存在的问题
• 1.3 本文的研究内容
• 1.4 论文结构
• 第二章 传统的可靠性预测方法
• 2.1 多元线性回归方法
• 2.1.1 多元线性回归模型的形式和参数估计
• 2.1.2 多元线性回归模型的假设检验
• 2.1.3 多元线性回归的评述
• 2.2 人工神经网络方法
• 2.2.1 人工神经元的结构
• 2.2.2 多层前向网络及学习算法
• 2.2.3 人工神经网络的评述
• 第三章 统计学习理论和支持向量机
• 3.1 机器学习的一般原理
• 3.1.1 学习问题的表示
• 3.1.2 经验风险最小化原则及其缺陷
• 3.2 统计学习理论
• 3.2.1 函数集的VC 维和推广性的界
• 3.2.2 结构风险最小化原则
• 3.3 支持向量机
• 3.3.1 最优分类超平面
• 3.3.2 广义最优分类超平面
• 3.3.3 支持向量机思想
• 3.3.4 支持向量回归估计
• 第四章 基于支持向量机的可靠性预测研究
• 4.1 预测目标
• 4.2 可靠性预测的一般模型
• 4.3 对一般模型的进一步假设
• 4.4 基于支持向量机的系统可靠性预测模型的建立
• 4.4.1 确定模型的输入输出量
• 4.4.2 数据采集
• 4.4.3 数据预处理
• 4.4.4 模型形式和核函数的选择
• 4.4.4.1 模型形式的选择
• 4.4.4.2 核函数的选择
• 4.4.5 模型参数和核参数的选择
• 4.4.5.1 支持向量机中相关参数说明
• 4.4.5.2 参数选择算法
• 4.4.6 遗传算法简介
• 4.4.6.1 遗传算法的优点
• 4.4.6.2 遗传算法的运算流程
• 4.4.6.3 遗传算法的基本操作
• 4.5 基于支持向量机的可靠性预测模型与传统模型的精度比较
• 4.5.1 实验使用数据
• 4.5.2 实验过程
• 第五章 基于加权支持向量机的可靠性预测研究
• 5.1 加权支持向量机对支持向量机的改进
• 5.1.1 加权支持向量机
• 5.1.2 基于加权系数寻优的回归型加权支持向量机
• 5.1.3 加权系数的特性
• 5.1.4 加权系数的确定
• 5.2 实验过程
• 5.2.1 线性插值法与非线性插值法的误差比较
• 5.2.2 标准支持向量机和加权支持向量机的预测误差比较
• 第六章 总结和展望
• 6.1 本文的主要成果
• 6.2 下一步的工作
• 致谢
• 参考文献
• 攻读硕士学位期间的研究成果