源信号为AR模型的独立成分分析算法及其应用研究

源信号为AR模型的独立成分分析算法及其应用研究

论文摘要

独立成分分析(Independent Component Analysis,ICA)是一种新的数据处理与分析方法,目的在于从观测信号中分离或提取出相互统计独立的未知源信号。用ICA来解决盲源分离(Blind Source Separation,BSS)问题已经引起了广泛的关注,并已成功地应用到语音信号处理、通信、人脸识别、图像特征提取、医学信号处理等众多领域。本论文对源信号为自回归(Autoregressive,AR)模型的独立成分分析算法及其应用进行了研究,主要成果如下:1.对源信号为AR模型的无噪ICA算法进行了研究。首先详细地推导了源信号为AR(1)时模型的对数似然函数,然后给出了三种情况下的ICA学习算法:(1)当新息的概率密度函数为广义高斯分布时,极大化模型的对数似然函数提出了一个梯度算法;(2)由于前一个算法中的参数较多,运行起来较复杂。为克服此不足,用一个非二次光滑的偶函数来近似代替新息的对数概率密度函数时,提出了一个批算法和一个在线算法,并对这两个算法进行了理论分析。应用这两个算法对人工合成的混合信号进行分离的同时又应用批算法对混合的图像进行了分离,均取得了很好的分离效果;(3)由于批算法的收敛性依赖于学习率的选择且收敛速度较慢,为了克服这个不足,利用近似牛顿法极大化模型的对数似然函数给出了一个不动点算法。计算机仿真实验结果表明不动点算法的收敛速度较快且应用起来更为简单。2.对源信号为AR模型的有噪ICA算法进行了研究。对于这种有噪模型,分别对噪声协方差矩阵已知和未知两种情况下的算法进行了探讨。在噪声协方差矩阵已知的情况下,通过最大化新息的负熵,提出了一个不动点算法。计算机仿真实验结果表明同已有的梯度算法相比不动点算法具有较快的收敛速度,同时应用该算法对有噪的自然混合图像和纹理图像分别进行分离,均取得了很好的分离效果;在噪声协方差矩阵未知的情况下,通过对已有的复杂寻踪梯度算法的改进,提出了一个改进梯度算法和一个新算法:其中包括了对解混矩阵和噪声协方差矩阵进行估计的迭代公式。计算机仿真实验结果表明这两个算法都能够很好地对人工合成的有噪信号进行分离。由于新算法中只涉及一个学习率的选择,因此算法应用起来较简单且收敛速度较快。3.对源信号为AR模型、方差非平稳变化的无噪ICA算法进行了研究。2005年,Hyv(?)rinen给出了这种情况下模型的对数似然函数,并提出了一个梯度上升算法,但该算法的收敛性依赖于学习率的正确选择。为克服此不足,利用近似牛顿法极大化模型的对数似然函数,推导出了一个不动点算法。计算机仿真实验结果表明同已有的梯度上升算法相比不动点算法具有较快的收敛速度且应用起来更为简单。4.对源信号为AR模型、方差非平稳变化的有噪ICA算法进行了研究。对于这种有噪模型,分别对噪声协方差矩阵已知和未知两种情况下的算法进行了讨论。在噪声协方差矩阵已知的情况下,利用高斯矩的性质,给出了有噪模型的对数似然函数,通过极大化对数似然函数提出了一个梯度上升算法。但是由于噪声协方差矩阵已知往往是不现实的,因此又对噪声协方差矩阵未知情况下的算法进行了研究。通过对上述梯度算法的改进,提出了一个新梯度算法:其中包括了对解混矩阵和噪声协方差矩阵进行估计的迭代公式。计算机仿真实验结果表明这两个算法都能对人工合成的有噪信号进行很好的分离。5.对源信号为AR模型的无噪和有噪两种情况下的胎儿心电信号盲提取算法进行了研究。在无噪模型中,利用近似牛顿法极小化目标函数,给出了一个新梯度算法。计算机仿真实验结果表明该算法不但能够较好地对人工合成信号进行胎儿心电信号的提取,而且对某个孕妇真实的心电信号也进行了较好的胎儿心电信号的提取;在有噪模型中,利用高斯矩的性质给出了胎儿心电信号提取的目标函数,提出了一个梯度下降算法。计算机仿真实验验证了算法的有效性和可行性。

论文目录

  • 摘要
  • Abstract
  • 目录
  • 1 绪论
  • 1.1 论文的选题背景与研究意义
  • 1.2 独立成分分析(ICA)的基本理论
  • 1.2.1 ICA的数学模型
  • 1.2.2 ICA的可解性分析
  • 1.2.3 随机变量的独立性度量
  • 1.2.4 ICA的求解过程
  • 1.3 国内外研究现状
  • 1.4 论文的组织结构与研究内容
  • 2 源信号为AR模型无噪ICA算法
  • 2.1 模型及其对数似然函数
  • 2.2 新息概率密度函数为广义高斯分布时的梯度算法
  • 2.2.1 广义高斯密度函数
  • 2.2.2 梯度算法
  • 2.2.3 仿真与实验结果
  • 2.3 新息概率密度函数未知情况下的批算法与在线算法
  • 2.3.1 批算法及收敛定理
  • 2.3.2 在线算法及稳定性分析
  • 2.3.3 仿真与实验结果
  • 2.4 新息概率密度函数未知情况下的不动点算法
  • 2.4.1 不动点算法
  • 2.4.2 仿真与实验结果
  • 2.5 小结
  • 3 源信号为AR模型有噪ICA算法
  • 3.1 噪声协方差矩阵已知情况下的算法
  • 3.1.1 拟白化
  • 3.1.2 梯度算法
  • 3.1.3 不动点算法
  • 3.1.4 仿真与实验结果
  • 3.2 噪声协方差矩阵未知情况下的算法
  • 3.2.1 改进梯度算法与新算法
  • 3.2.2 仿真与实验结果
  • 3.3 小结
  • 4 源信号为AR模型、方差非平稳的无噪ICA算法
  • 4.1 模型及其对数似然函数
  • 4.2 不动点算法
  • 4.3 仿真与实验结果
  • 4.4 小结
  • 5 源信号为AR模型、方差非平稳的有噪ICA算法
  • 5.1 模型及其对数似然函数
  • 5.2 噪声协方差矩阵已经情况下的梯度算法
  • 5.3 噪声协方差矩阵未知情况下的新梯度算法
  • 5.4 仿真与实验结果
  • 5.5 小结
  • 6 源信号为AR模型的胎儿心电信号的盲提取
  • 6.1 源信号为AR模型的无噪情况下的胎儿心电信号的盲提取
  • 6.1.1 目标函数与新梯度算法
  • 6.1.2 仿真与实验结果
  • 6.2 源信号为AR模型的有噪情况下的胎儿心电信号的盲提取
  • 6.2.1 目标函数与梯度算法
  • 6.2.2 仿真与实验结果
  • 6.3 小结
  • 7 结论与展望
  • 7.1 结论
  • 7.2 研究展望
  • 参考文献
  • 攻读博士学位期间发表学术论文情况
  • 创新点摘要
  • 致谢
  • 作者简介
  • 相关论文文献

    标签:;  ;  ;  ;  ;  ;  ;  ;  ;  

    源信号为AR模型的独立成分分析算法及其应用研究
    下载Doc文档

    猜你喜欢