基于概率生成模型的社区发现和网络数据分类方法研究

基于概率生成模型的社区发现和网络数据分类方法研究

论文摘要

客观世界中的许多系统都由一些相互联系的实体所组成。而网络提供了一种抽象的形式来描述这类系统。随着信息技术的发展,人们有更强的能力去观察客观世界并且将观察结果记录为数据。于是,各种各样的网络数据大量涌现,如万维网、在线社会网络、论文引用网络、科研合作网络等等。社区发现和网络数据分类是在网络数据上挖掘隐含信息的重要技术之一,其实质就是基于网络中的链接对节点进行聚类和分类。它在研究网络的功能组成、实体聚类与分类以及网络数据存储等方面有着广泛的应用。近几年来,社区发现和网络数据分类问题受到研究人员的广泛关注,一些解决方法相继提出。然而,现有的方法并不是在所有类型的网络数据上都能够取得良好的效果。例如,基于模块度优化的社区发现方法可能会在一些没有任何社区结构的网络上也能发现社区结构;基于同质性假设的网络数据分类方法在低同质性网络上分类精度较低。概率生成模型可以依据模型假设对数据进行建模,然后通过统计推测的方法将模型拟合到现实数据上,从而推测出现实数据的潜在特征。所以基于概率生成模型的方法只依赖于模型假设和实际数据,它具有极大的灵活性,采用不同的模型假设可以适应不同类型的数据。因此,本文运用这一技术,以提高社区发现和网络数据分类的准确性为目标,对社区发现和网络数据分类问题进行深入地研究,取得了如下成果:(1)提出基于节点社区模型的非重叠社区发现方法。从节点社区的思想出发,认为社区由节点组成并且一个节点只属于一个社区,用非参数化方法对网络和节点的社区建立概率生成模型。该模型的基本思想是:节点与另一个节点之间有边相连,是因为这个节点所在的社区想要同另一个节点相连接。通过吉布斯采样方法求解模型中的潜在变量,可以计算每个节点的社区。由于采用了非参数化方法,所以社区个数可以在模型求解的过程中自动确定。通过人造网络和真实网络上的实验表明此方法是一个有效的非重叠社区发现方法。(2)提出了基于边社区模型的重叠社区发现方法。从边社区思想出发,认为社区是由边所组成的,对网络和边的社区建立概率生成模型。利用非参数化方法来求解模型参数;并且利用模型参数计算出节点属于每个社区的概率,从而发现网络中的社区。由于采用了边社区思想,使得一个节点可以属于多个社区。此外,非参数化的模型求解过程,使得社区个数可以在模型求解的过程中自动确定。人造网络和真实网络上的实验表明此方法能够有效地发现网络中的重叠社区。此外,此方法不仅可以发现节点的所属社区,还能计算出它在每个社区的参与程度。(3)提出了基于概率生成模型的网络数据分类方法。针对低同质性网络的特点,提出节点的类别传播分布的概念并且用它来描述低同质性网络中两个节点相连的概率。在此基础上,提出了基于类别传播分布的网络概率生成模型。在模型中将被分类节点的类别作为潜在变量,网络的边和已知类别节点的类别作为观察数据,通过将模型拟合到观察数据上,计算出潜在变量的取值,从而得到被分类节点的类别。在真实网络数据上的实验表明此方法在低同质性网络上有更好的分类性能。(4)针对网络以及节点社区和类别的可视化展示问题,开发了一个基于节点属性的网络可视化工具:ADraw。在节点布局上,ADraw采用基于属性的多阶段聚类布局算法,该算法除了满足一般聚类布局中同类节点相互靠近的要求外,还增加了“拥有多个属性取值的节点应该位于相应的单个属性取值节点群之间”这一布局准则。在节点着色上,ADraw采用包含不同颜色扇形块的饼图来表示拥有多个属性取值的节点。用基于属性的节点着色算法计算扇形块的位置,该算法保证“扇形块尽可能地靠近有相同颜色的节点群”。

论文目录

  • 摘要
  • Abstract
  • 第一章 绪论
  • 1.1 研究背景与问题
  • 1.1.1 网络数据
  • 1.1.2 面向网络数据的数据挖掘
  • 1.1.3 研究问题
  • 1.2 研究现状
  • 1.2.1 社区发现
  • 1.2.2 网络数据分类
  • 1.3 本文主要工作
  • 1.4 论文结构
  • 第二章 概率生成模型的相关理论和方法
  • 2.1 概率基础
  • 2.1.1 概率分布
  • 2.1.2 概率生成模型
  • 2.2 参数估计方法
  • 2.2.1 极大似然估计
  • 2.2.2 期望最大化
  • 2.2.3 变分法
  • 2.2.4 吉布斯采样
  • 2.3 非参数方法
  • 2.4 本章小结
  • 第三章 基于节点社区模型的非重叠社区发现方法
  • 3.1 引言
  • 3.2 相关研究工作
  • 3.3 节点社区模型
  • 3.4 非重叠社区发现方法
  • 3.5 实验研究
  • 3.5.1 实验数据和评价指标
  • 3.5.2 初始社区个数的影响
  • 3.5.3 超参数的影响
  • 3.6 对比实验
  • 3.6.1 实验数据和评价指标
  • 3.6.2 基准网络的实验结果
  • 3.6.3 真实网络的实验结果
  • 3.6.4 随机网络的实验结果
  • 3.7 本章小结
  • 第四章 基于边社区模型的重叠社区发现方法
  • 4.1 引言
  • 4.2 相关研究工作
  • 4.3 边社区模型
  • 4.3.1 边社区模型的基本思想
  • 4.3.2 模型描述
  • 4.4 模型求解
  • 4.4.1 基于最小化均方误差的参数估计方法
  • 4.4.2 计算参数 θ 的取值
  • 4.4.3 计算参数 φ 的取值
  • 4.4.4 计算潜在变量的取值
  • 4.5 重叠社区发现方法
  • 4.5.1 计算重叠社区
  • 4.5.2 计算社区个数
  • 4.5.3 基于距离的社区过滤
  • 4.6 实验研究
  • 4.6.1 实验数据和评价指标
  • 4.6.2 超参数的影响
  • 4.7 对比实验
  • 4.7.1 基准网络上的实验结果
  • 4.7.2 真实网络上的实验结果
  • 4.7.3 随机网络上的实验结果
  • 4.8 本章小结
  • 第五章 基于概率生成模型的网络数据分类方法
  • 5.1 引言
  • 5.2 相关研究工作
  • 5.3 基于类别传播分布的网络概率生成模型
  • 5.3.1 类别传播分布
  • 5.3.2 模型描述
  • 5.4 网络数据分类方法
  • 5.5 实验结果
  • 5.5.1 实验数据及评价标准
  • 5.5.2 对比实验
  • 5.5.3 参数α对分类结果的影响
  • 5.5.4 burn-in对分类结果的影响
  • 5.6 本章小结
  • 第六章 ADraw:一个基于节点属性的网络可视化工具
  • 6.1 引言
  • 6.2 相关工作
  • 6.2.1 节点布局方法
  • 6.2.2 属性可视化方法
  • 6.3 基于属性的多阶段聚类布局算法
  • 6.4 基于属性的节点着色算法
  • 6.5 可视化效果
  • 6.5.1 示例网络上的可视化效果
  • 6.5.2 网络和节点社区的可视化效果
  • 6.5.3 网络和节点类别的可视化效果
  • 6.6 本章小结
  • 第七章 结论与展望
  • 7.1 本文工作总结
  • 7.2 下一步的研究工作
  • 致谢
  • 参考文献
  • 作者在学期间取得的学术成果
  • 相关论文文献

    标签:;  ;  ;  ;  ;  

    基于概率生成模型的社区发现和网络数据分类方法研究
    下载Doc文档

    猜你喜欢