最大熵原理与最小熵方法在测量数据处理中的应用

论文摘要

现代自然科学的研究绝大部分离不开定量信息的获取——测量。在测量领域中,测量过程可分为测量数据获得和测量数据处理两部分,二者在测量结果获取过程中均起着重要作用。本论文对最大熵原理和最小熵方法以及在此基础上发展出的新的应用方法—最大最小信息测度方法进行研究和探索,并且将这些方法应用于实际的测量数据处理过程中。最大熵方法能够针对测量数据处理中掺杂主观因素且不能准确反映客观事实的问题,根据已有的频率测量数据求取被测量的概率分布,进而对此概率分布在不同的矩约束条件下进行估计和评价。最大最小信息测度方法能够对频率测量数据样本进行处理,评价出样本数据中涵盖信息量最多的矩约束,分析附加矩约束与小样本数据之间的关系,进一步确定出最接近于真实分布的样本矩约束。在实际的测量数据处理过程中,测量数据样本源自自动测试系统获取的频率数据,频率的测量数据是目前能够得到的复制得最准确,保持得最稳定,而且测量得最准确的物理量。对测量数据样本进行仿真和计算的过程中,采用阻尼最小二乘算法对测量数据样本进行优化,计算出拉格朗日常数,进而采取最大熵方法确定出概率分布。仿真与计算结果表明:采用该方法确定的概率分布是含有最少主观假定的分布,并随着矩约束的增加,取得的被测量的概率分布更加接近真实分布。然后采用Hopfield神经网络与模拟退火算法相结合对测量数据样本求解出熵的最小值。最后采用最大最小信息测度方法对测量数据样本中的矩约束进行计算,从而评价出涵盖信息量最多、最接近于真实情况的小样本数据的特征矩约束。

论文目录

• 摘要
• Abstract
• 第一章 绪论
• 1.1 问题的提出
• 1.2 研究背景与现状
• 1.2.1 测量数据处理和误差理论的缺陷
• 1.2.2 最大熵方法的研究背景与现状
• 1.2.3 最小熵和最大最小信息测度的研究背景与现状
• 1.3 研究意义
• 1.4 本文的主要研究内容和结构安排
• 第二章 最大熵方法在测量数据处理中的应用
• 2.1 基本概念
• 2.1.1 信息论简介
• 2.1.2 熵、信息及信息熵
• 2.1.3 最大信息熵原理表述
• 2.2 最大熵方法在数据处理中的应用
• 2.2.1 用熵判断误差分布律
• 2.2.2 用最大熵方法求解概率密度函数
• 2.2.3 求解概率密度函数的程序以及优化子程序
• 第三章 最小熵方法在测量数据处理中的应用
• 3.1 最小熵方法
• 3.1.1 最小熵方法简介
• 3.1.2 特定矩约束下的最小熵计算方法
• 3.2 最大最小信息测度
• 3.2.1 最大最小信息测度简介
• 3.2.2 最大最小信息测度方法
• 3.3 Hopfield 神经网络与模拟退火算法相结合求解最小熵值
• 3.3.1 Hopfield 神经网络简介
• 3.3.2 Hopfield 神经网络优化算法
• 3.3.3 模拟退火算法
• 3.3.4 熵最小值的求解方法
• 第四章 实验系统及验证
• 4.1 获得测量数据值的实验简述
• 4.2 数据的选取原则
• 4.2.1 最大熵方法应用的分析
• 4.2.2 测量数据的最小熵方法和最大最小信息测度分析
• 第五章 总结与展望
• 5.1 总结
• 5.2 展望
• 致谢
• 参考文献
• 攻读硕士期间取得的研究成果