马尔可夫逻辑网在超文本分类与链接预测中的应用

论文摘要

在现实世界中,许多问题同时存在不确定性和复杂性。概率图模型可以有效地处理不确定性;一阶逻辑可以简洁地表示各种不同的知识和关系,降低复杂性。因此将概率和逻辑表示结合起来表示知识一直是人工智能领域中的研究热点。统计关系学习方法正是将概率图模型和一阶逻辑结合起来的机器学习方法。统计关系学习方法是关系描述、似然推理与机器学习的结合,目的是获得多关系数据中的似然模型。马尔可夫逻辑网作为将马尔可夫网和一阶逻辑结合的统计关系学习模型,可以解决多关系数据挖掘问题中存在的不足:即假定此类数据是由同类、相互独立和等概率分布的实体组成。传统方法忽略了对象自身结构提供的更加丰富的信息和对象之间存在的联系;马尔可夫逻辑网则可以有效地将这些“联系”和概率结合起来。马尔可夫逻辑网是人工智能领域研究的热点,已成功应用在语义角色标注、迁移学习、信息抽取、分子生物学等领域。本文重点研究了马尔可夫逻辑网在超文本分类和链接预测中的应用。主要工作归纳如下:①研究了马尔可夫逻辑网相关理论。本文首先介绍了一阶逻辑、概率图模型和马尔可夫网等马尔可夫逻辑的理论基础。其次介绍了马尔可夫逻辑网的基本概念,阐述了马尔可夫逻辑网的权值学习和推理算法。②马尔可夫逻辑网在超文本分类中的应用超文本分类的传统方法忽略实体之间存在的联系,对每个实体进行单独分类。为了解决这一问题,本文提出了基于马尔可夫逻辑网的超文本分类方法。实验采用了判别式学习方法和吉布斯抽样、模拟退火、MC-SAT、信念传播四种推理算法,实验结果说明采用马尔可夫逻辑网模型要比采用KNN方法的分类效果好;同时将实体之间存在的联系用于学习和推理对于分类也有一定的贡献。③马尔可夫逻辑网在链接预测中的应用链接预测是对实体间的关系进行预测,是一个重要而复杂的任务。传统同类独立同概率分布的方法会带来很大的噪音,导致预测效果很差。将马尔可夫逻辑网应用到链接预测中,旨在改善这一问题。利用马尔可夫逻辑网构建关系模型,对实体之间是否存在链接关系以及当链接关系存在时预测此链接关系的类型。针对两个数据集的实验结果表明采用马尔可夫逻辑网模型要比传统链接预测模型有更好的效果,进而为马尔可夫逻辑网解决实际问题提供了依据。综上可知:马尔可夫逻辑将概率统计和一阶关系逻辑结合起来,具有强大的功能。它可以很好地处理不确定性与复杂性,还可以作为构建马尔可夫网的模板,有着十分广泛的应用。

论文目录

• 中文摘要
• 英文摘要
• 1 绪论
• 1.1 研究背景与意义
• 1.1.1 超文本分类概述
• 1.1.2 链接预测概述
• 1.1.3 学术意义
• 1.1.4 实用意义
• 1.2 国内外研究现状
• 1.3 研究内容
• 1.4 本文结构
• 2 背景知识和相关工作
• 2.1 人工智能
• 2.2 统计关系学习
• 2.2.1 统计关系学习的引入
• 2.2.2 统计关系学习的内容
• 2.2.3 统计关系学习研究方法
• 2.3 一阶逻辑
• 2.4 概率图模型
• 2.4.1 图论基本概念
• 2.4.2 概率图模型基本概念
• 2.5 马尔可夫网络
• 2.5.1 随机场
• 2.5.2 马尔可夫随机场
• 2.6 本章小结
• 3 马尔可夫逻辑网
• 3.1 马尔可夫逻辑网概念
• 3.2 马尔可夫逻辑网推理算法
• 3.3 马尔可夫逻辑网权值学习算法
• 3.4 Alchemy 系统简介
• 3.5 本章小结
• 4 马尔可夫逻辑网在超文本分类中的应用
• 4.1 马尔可夫逻辑网的引入
• 4.2 超文本分类的马尔可夫逻辑表示
• 4.3 实验及分析
• 4.3.1 数据集
• 4.3.2 实验方法
• 4.3.3 实验结果及分析
• 4.4 本章小结
• 5 马尔可夫逻辑网在链接预测中的应用
• 5.1 相关工作
• 5.2 数据集和链接预测的马尔可夫逻辑表示
• 5.2.1 数据集
• 5.2.2 链接预测的马尔可夫逻辑表示
• 5.2.3 实验方法
• 5.3 结果分析和讨论
• 5.3.1 UW-CSE 结果分析
• 5.3.2 MovieLens 结果分析
• 5.3.3 实验结果分析
• 5.4 本章小结
• 6 总结与展望
• 6.1 全文总结
• 6.2 未来展望
• 致谢
• 参考文献
• 附录
• A. 作者在攻读学位期间发表的论文目录
• B. 作者在攻读硕士学位期间所参与的科研课题