线性回归模型参数有偏估计的进一步探讨

论文摘要

线性统计模型主要包括线性回归模型、方差分析模型、协方差分析模型等，本论文主要是研究一般线性回归模型，即：由于参数β是未知参数，因此研究参数β及其线性函数的估计是极其重要的。当设计矩阵X呈病态时，最小二乘估计不再是一个好的估计，因此，本文基于最小二乘估计和有偏估计（广义岭型主成分估计）对参数估计的性质作了进一步的研究；对模型的点预测问题也进行了深入探讨，并得出有偏降维估计经典预测与最优预测的最优性判别条件；在回归诊断方面也提出了两种判断强影响点的方法，并加以实例验证。本人对上述问题研究的主要结果如下：首先当设计矩阵X呈现病态时，针对LS估计均方误差过大的缺陷进一步研究了在椭球约束下的广义岭型主成分估计优良性质，引入估计相对效率的概念，并证明了在MSE、GMSE准则下广义岭型主成分估计局部优于LS估计和Pitman准则下优于LS估计、主成分估计和岭型主成分估计，比主成分估计和岭型主成分估计具有更高的效率，还进一步对广义岭型主成分估计的可容许性给出了严格的证明。其次以广义岭型主成分估计为基础，以MDE为判别准则，对广义线性模型Y=Xβ+ε，ε-N（0，σ2∑）的有偏降维估计进行讨论，首次给出了有偏降维估计的关于最优预测与经典预测的最优性判别条件，从而为降维估计预测问题提供了一种新方法。再次进行了Cook距离的扰动分析，本文以主成分估计为基础，首先证明了均值漂移模型和数据删除模型的等价性，以删除数据模型为例，给出了精确的简化表达式，这大大简化了运算过程．并通过实例说明此方法对强影响点判断的合理性。最后提出了一种判断强影响点的主成分诊断准则，给出了相应诊断准则ηi>1．2，并通过实例说明此方法对强影响点进行判断的合理性，从而为判断强影响点提供了两种方法。

论文目录

• 摘要
• Abstract
• 第一章 绪论
• 1.1 有偏估计的发展现状
• 1.2 预测问题的背景与研究现状
• 1.3 回归诊断的发展综述
• 1.4 本文所做的主要工作
• 第二章 预备知识
• 2.1 幂等阵和投影阵
• 2.1.1 幂等阵的定义及性质
• 2.1.2 投影阵的定义及性质
• 2.2 随机向量和随机矩阵
• 2.2.1 随机矩阵或向量的期望
• 2.2.2 随机矩阵或向量的方差或协方差
• 第三章 椭球约束下的广义岭型主成分估计
• 3.1 引言
• 3.2 回归模型的广义岭型主成分估计及其性质
• 3.2.1 定义及基本性质
• 3.2.2 MSE准则下参数空间的优良性
• 3.2.3 Pitman准则下参数空间的优良性
• 3.2.4 估计的可容许性和抗干扰性
• 3.3 结论与展望
• 第四章 广义岭型主成分估计的预测的最优性判别
• 4.1 引言
• 4.2 定义及引理
• 4.3 关于两类最优预测量MDE准则最优性判别条件
• 4.4 结论与展望
• 第五章 线性回归模型的统计诊断
• 5.1 引言
• 5.2 基于主成分估计的Cook距离的性质及扰动分析
• 5.2.1 主成分估计的Cook距离及性质
• 5.2.2 主成分估计的Cook距离的扰动分析
• 5.2.3 实例分析
• 5.3 基于复共线性关系的影响点的主成分诊断
• 5.3.1 复共线性影响点的主成分诊断准则
• 5.3.2 实例分析
• 5.4 结论
• 第六章 总结与展望
• 参考文献
• 致谢
• 作者在攻读硕士期间的主要研究成果