基于条件随机场的中文命名实体识别

论文摘要

命名实体识别属于自然语言处理的基础研究领域,是信息抽取、信息检索、机器翻译、组块分析、问答系统等多种自然语言处理技术的重要基础。因此,对命名实体识别的研究具有很大的实用意义。本文针对现代汉语文本的特点,主要研究以人名、地名和组织名的识别为核心内容的中文命名实体识别问题,我们以一种较新型的统计模型--条件随机场为基本框架,设计并实现了一个中文命名实体识别系统。具体说来,本文的主要内容如下:本文首先分析了命名实体识别的难点,人名、地名、组织名的相关语言学知识,并对现有的一些命名实体识别方法和中文命名实体识别系统进行了简要介绍。接着,详细介绍了条件随机场的定义、模型结构、势函数、参数估计和训练方法、概率计算方法等。进一步地,将条件随机场模型应用于中文命名实体识别任务,提出了适合于各类中文命名实体的特征模板,并通过实验进行验证,确定了有效特征。本文最后,实现了一个基于条件随机场的中文命名实体识别系统,系统采用了层叠结构,以模型训练模块和命名实体识别模块作为系统的核心组成部分,在低层条件随机场模型中进行人名、简单地名以及简单组织名的识别,低层的识别结果传递到高层模型,再进行复合地名与复合组织名的识别。实验结果表明,基于条件随机场的中文命名实体识别系统能够获得较为满意的效果,在对2004年863中文命名实体识别评测语料的开放测试中,系统识别的精确率、召回率和F值分别为82.50%、76.04%和79.14%。

论文目录

• 摘要
• Abstract
• 第一章 引言
• 1.1 研究背景和意义
• 1.2 国内外命名实体识别研究现状
• 1.3 论文的主要工作
• 1.4 论文结构安排
• 第二章 命名实体识别综述
• 2.1 命名实体识别的难点
• 2.2 各类命名实体的特点
• 2.2.1 人名
• 2.2.2 地名
• 2.2.3 组织名
• 2.3 命名实体识别的主要方法
• 2.4 现有的中文命名实体识别系统介绍
• 2.5 本章小结
• 第三章 条件随机场
• 3.1 有向图模型
• 3.1.1 生成模型的局限性
• 3.1.2 最大熵马尔可夫模型
• 3.2 无向图模型
• 3.3 条件随机场的无向图结构
• 3.4 最大熵理论
• 3.5 势函数
• 3.6 参数估计与训练
• 3.6.1 最大似然估计
• 3.6.2 迭代缩放算法
• 3.7 参数估计的优化
• 3.7.1 一阶优化技术
• 3.7.2 二阶优化技术
• 3.8 条件随机场概率的矩阵计算
• 3.9 本章小结
• 第四章 特征集
• 4.1 训练语料的转换
• 4.2 特征模板
• 4.2.1 适用于人名的特征模板
• 4.2.2 适用于地名的特征模板
• 4.2.3 适用于组织名的特征模板
• 4.2.4 其他特征模板
• 4.3 特征选择
• 4.4 特征验证实验
• 4.5 本章小结
• 第五章 系统实现
• 5.1 系统结构
• 5.1.1 模型训练模块
• 5.1.2 命名实体识别模块
• 5.2 条件随机场工具的选用
• 5.3 实验结果及分析
• 5.3.1 实验语料和评测指标
• 5.3.2 实验设计
• 5.3.3 实验结果
• 5.3.4 结果分析
• 5.4 本章小结
• 第六章 结束语
• 参考文献
• 研究生期间发表的论文
• 致谢