基于CRF的中文地名识别研究

论文摘要

命名实体识别是机器翻译、信息检索、问答系统等的技术基础。中文地名识别是中文命名实体识别的一个难点。本文主要对中文地名识别进行研究,实现了条件随机域（Conditional Random Fields, CRF）与支持向量机（Support Vector Machine, SVM）相结合中文地名识别系统,并重点对条件随机域与规则相结合的中文地名识别进行了研究。在目前常用的机器学习模型中,CRF模型结合了隐马尔科夫模型和最大熵模型优点,是比较优秀的机器学习模型之一,它可以利用上下文特征获得全局最优的标注结果,适合中文地名识别任务。本文在前人命名实体识别研究的基础上,结合分析中文地名的特点选取了合适的特征,采用递增式学习的策略选择特征模板,优化了机器模型的性能,提高了条件随机场模型的地名识别效果。对CRF的识别结果的边缘概率进行分析后发现,CRF模型中给出的错误标记与较小的边缘概率有一定的对应关系,用边缘概率可以定位到CRF模型识别结果中的部分错误标记。SVM的识别结果与CRF识别结果有一定的互补性,将SVM识别结果对CRF较小的边缘概·率的标记进行修正,以提高系统的召回率。实验证明,这种混合模型的识别效果优于单纯的CRF。CRF的错误标注结果中有许多标注与语法规则和语义规则明显不符,这是由于机器模型不能表达语言确定性造成的。规则的方法正好可以弥补机器模型的这一不足。本文通过分析词法和语义结构,对CRF的错误识别结果进行归类,人工添加规则修正CRF识别结果,取得较好的识别结果。实验证明,本文采用的方法是有效的,对BAKEOFF-3 NER任务的MSRA语料进行开放测试,条件随机域与支持向量机相结合的地名识别系统的召回率、精确率和F-值分别为92.39%、91.33%、91.86%,条件随机域与规则相结合的中文地名识别系统的召回率、精确率和F-值分别为94.67%、92.35%和93.50%。

论文目录

• 摘要
• Abstract
• 1 绪论
• 1.1 研究的背景及意义
• 1.2 中文地名识别
• 1.2.1 中文地名识别的作用
• 1.2.2 中文地名识别的特点
• 1.3 系统评测和技术水平
• 1.4 命名实体识别的方法
• 1.4.1 基于规则的方法
• 1.4.2 基于统计的方法
• 1.4.3 规则和统计相结合的方法
• 1.4.4 存在的问题
• 1.5 本文的工作
• 2 统计机器学习模型
• 2.1 隐马尔可夫模型（HMM）
• 2.2 最大熵模型（ME）
• 2.3 条件随机场模型（CRF）
• 2.4 支持向量机模型（SVM）
• 3 基于CRF的地名识别
• 3.1 BIO分类标记
• 3.2 地名特征
• 3.3 建立训练集和测试集
• 3.4 特征模板
• 3.4.1 特征模板的类型
• 3.4.2 特征模板项的类型
• 3.4.3 特征模板的选取
• 3.5 基于CRF的中文地名识别
• 3.5.1 基于CRF模型对训练集进行训练
• 3.5.2 使用模型进行测试
• 4 基于CRF与SVM的地名识别
• 4.1 基于SVM的地名识别
• 4.2 CRF与SVM相结合的地名识别
• 5 CRF与规则相结合的地名识别
• 5.1 建立规则资源库
• 5.1.1 地名的外部规则资源
• 5.1.2 地名内部规则资源
• 5.2 规则库的建立
• 5.2.1 获取前后词搭配规则
• 5.2.2 修正规则
• 5.3 CRF与规则相结合的地名识别
• 6 实验结果
• 6.1 特征模板的选择
• 6.1.1 构建候选特征模板项集
• 6.1.2 筛选特征模板项
• 6.2 CRF与SVM相结合的地名识别
• 6.3 CRF与规则相结合的地名识别
• 6.4 几种地名识别方法比较
• 6.5 与其它文献比较
• 6.5.1 单纯CRF的地名识别结果比较
• 6.5.2 基于规则修正后的结果比较
• 6.6 结果分析
• 6.6.1 正确识别结果分析
• 6.6.2 错误识别结果分析
• 结论
• 参考文献
• 致谢