基于最小二乘支持向量机的盲信号分离算法

论文摘要

盲信号处理的研究涉及人工神经网络、统计信号处理和信息论的多方面的知识,它具有非常重要的理论价值,已经成为人工神经网络的主要发展方向之一。盲信号分离,是用于解决从混合观测数据中分离源信号的一门新技术,已经在许多领域获得了广泛应用。本文首先介绍了盲信号分离和支持向量机的研究状况。接着论述了盲信号分离问题的信号模型及其算法的性能评价指标,并详细介绍了ICA的原理以及相关的理论知识,支持向量机的基本知识。鉴于基于最大负熵的FastICA算法在最后分离信号时,需要在分离矩阵的迭代过程中选取适当的非线性函数,但是以往都是人为根据经验来选取,对分离效果,性能存在一定的影响。为了解决该问题,本文提出了基于最小二乘支持向量机（LS-SVM）的FastICA算法,首先构造观测信号的经验分布函数作为其分布的近似,再利用LS-SVM来进行估计求解观测信号的密度函数,最后利用概率论知识转化成输出的分离向量的密度函数,代入分离矩阵的迭代公式,从而避免了非线性函数的人为选择。并用信号分离、语音分离和图像分离等实例做了仿真实验,结果表明基于LS-SVM的FastICA算法对于盲信号分离效果优于前者。最后,由于基于信息最大化的扩展Infomax算法的权值迭代公式的求解利用自然梯度法存在收敛速度慢,计算量大,并且储存空间大的问题。为了解决该问题,本文提出了基于共轭梯度的扩展Infomax算法,把自然梯度法和共轭梯度法相结合,通过用共轭梯度方向来代替自然梯度的负方向,利用一维的极小值点的梯度满足共轭条件来寻找最优权值的迭代公式。改进之后的基于共轭梯度的扩展Infomax算法在收敛性、计算量都优于前者。并用信号分离、语音分离和图像分离等实例做了仿真实验,结果表明基于共轭梯度的扩展Infomax算法对于盲信号分离效果优于前者。

论文目录

• 中文摘要
• 英文摘要
• 第一章 绪论
• 1.1 盲信号分离研究状况
• 1.2 支持向量机研究现状
• 1.3 本文内容简介
• 第二章 盲信号分离的基础知识
• 2.1 盲信号分离的模型
• 2.2 独立分析原理
• 2.2.1 概率论知识
• 2.2.2 高阶累积量
• 2.2.3 负熵及互信息
• 2.3 支持向量机
• 第三章 基于 LS-SVM 的 FastICA 算法
• 3.1 数据的预处理
• 3.2 梯度下降法
• 3.2.1 标准梯度法
• 3.2.2 自然梯度法
• 3.3 FastICA 算法
• 3.4 基于 LS-SVM 的FastICA 算法
• 3.5 仿真实验
• 第四章 基于共轭梯度的扩展 Infomax 算法
• 4.1 扩展 Infomax 算法
• 4.2 基于共轭梯度的扩展 Infomax 算法
• 4.3 仿真实验
• 第五章 总结与展望
• 参考文献
• 致谢