基于进化算法的Bayesian网结构学习研究

论文摘要

Bayesian网是联合概率分布的图形表示方式，目前已成为人工智能领域中不确定问题处理的一种强有力工具。仅由人类专家建造Bayesian网是困难的，从数据中学习Bayesian网已成为近年来十分活跃的研究领域。本文提出了两种基于进化算法的Bayesian网结构学习算法。一种是基于（μ，λ）-ES进化策略的Bayesian网结构增量学习算法。该算法可以在没有旧数据的情况下，完全通过上一次学习所得出的Bayesian网及新获得的训练数据进行增量学习，克服了目前多数算法需要保存旧数据的缺点，节省了存储空间。本文还提出了一种具有较小搜索空间的Bayesian网结构学习算法，首先使用蚁群算法对变量的顺序进行学习。然后在最优变量顺序下，利用遗传算法对结构进行学习，算法中使用一种新的编码方式，使进化过程中不会产生含有环的非法结构。该算法的搜索空间小于目前多数算法的搜索空间。实验结果表明，本文提出的两种算法能有效的进行Bayesian网结构学习。

论文目录

• 提要
• 第一章 绪论
• 1.1 研究背景和意义
• 1.2 Bayesian网学习的研究现状
• 1.3 本文主要工作
• 第二章 Bayesian网及其推理算法
• 2.1 Bayesian网基本理论
• 2.2 Bayesian网推理算法
• 第三章 Bayesian网学习方法
• 3.1 Bayesian网的参数学习
• 3.1.1 完备数据下的参数学习
• 3.1.1.1 MLE方法
• 3.1.1.2 Bayesian方法
• 3.1.2 不完备数据下的参数学习
• 3.1.2.1 MCMC方法
• 3.1.2.2 EM算法
• 3.1.2.3 梯度上升算法
• 3.2 Bayesian网的结构学习
• 3.2.1 基于打分的方法
• 3.2.1.1 评分函数
• 3.2.1.2 搜索算法
• 3.2.2 基于条件独立性测试的方法
• 3.2.2.1 Cheng Jie三阶段算法
• 3.2.2.2 数据不完备时的处理方法
• 3.3 各种方法的比较和未来研究趋势
• 第四章 基于进化策略的Bayesian网 结构增量学习算法
• 4.1 Bayesian网增量学习的基本概念
• 4.2 基于进化策略的Bayesian网结构增量学习算法
• 4.2.1 网络结构编码
• 4.2.2 适应度函数
• 4.2.3 参数的增量学习
• 4.2.4 进化操作
• 4.2.4.1 重组（Recombination）
• 4.2.4.2 变异（Mutation）
• 4.2.4.3 选择（Selection）
• 4.2.5 算法结构
• 4.3 实验结果
• 4.4 总结及需要进一步研究的问题
• 第五章 基于进化计算的简化搜索空间下Bayesian网结构学习算法
• 5.1 基本概念
• 5.2 简化搜索空间
• 5.3 简化搜索空间下的Bayesian网结构学习算法
• 5.3.1 画草图
• 5.3.2 基于蚁群算法的变量顺序学习
• 5.3.2.1 蚁群算法简介
• 5.3.2.2 学习变量顺序
• 5.3.3 基于遗传算法的结构学习
• 5.3.3.1 结构编码和适应度函数
• 5.3.3.2 遗传操作
• 5.4 实验结果
• 5.5 总结及需要进一步研究的问题
• 第六章 结束语
• 参考文献
• 摘要
• Abstract
• 致谢