统计机器翻译中结构转换技术的研究

论文摘要

在统计机器翻译领域,基于短语的方法是最为成熟和稳定的方法,但是目前已经很难再有改进的余地。对于语料库中曾经出现过的短语,短语模型可以给出比较准确的翻译,这种翻译包括译文的选择词和短语内部语序的调整。但对于短语之间的语序调整,以及无法匹配的短语,这种方法难以给出有效的解决办法。因为这种方法完全没有利用深层次的句法结构信息,更不用说复杂的语义等方面的知识了。为此,人们寄希望于引入更深层次的语言结构来改进现有方法的性能。一种最直接的想法,就是引入句法结构,在句法结构的基础上建立统计机器翻译模型。本文提出了一个从源语言元结构组到目标语言元结构组的结构转换模型。从大规模的句对齐的双语句法树中,根据词汇对齐信息抽取源语言的元结构组和目标语言的元结构组的互译对,计算翻译概率。分析非线性语言模型与线性序列语言模型的异同,设计并实现了基于元结构的非线性语言模型,以此来控制元结构组的调序。采用最小错误率训练算法来训练对数线性模型中的参数,最小错误率将解码评分标准和自动评测标准BLEU结合起来,将多维优化问题分解为多次一维优化,将求解问题从连续空间转换到有限的离散空间。大大降低了求解的复杂度和难度。实验证明,经最小错误率训练后系统性能明显提高。最后将结构转换模型应用到统计机器翻译中,利用结构转换模型来隐藏源语言和目标语言之间的句法结构的异构现象。将词汇级的远距离调序转换成元结构组间的局部调序。实验证明,基于结构转换的机器翻系统的性能远远超过了基于短语的机器翻译系统Pharaoh的性能。

论文目录

• 摘要
• Abstract
• 第1章 绪论
• 1.1 课题研究的背景和意义
• 1.2 国内外相关研究综述
• 1.2.1 基于词方法的统计机器翻译模型
• 1.2.2 基于短语的统计翻译模型
• 1.2.3 基于句法的统计机器翻译模型
• 1.3 课题来源
• 1.4 本文研究内容及结构
• 第2章 结构转换模型
• 2.1 引言
• 2.1.1 基于形式化语法的模型
• 2.1.2 基于短语结构语法的模型
• 2.1.3 基于依存语法的模型
• 2.2 基于元结构的结构转换模型
• 2.2.1 基本概念
• 2.2.2 结构转换的基本思想
• 2.2.3 基于Log-linear 的结构转换模型
• 2.3 本章小结
• 第3章 元结构的非线性语言模型
• 3.1 引言
• 3.2 n-gram 语言模型
• 3.3 基于元结构的非线性n-gram 语言模型
• 3.3.1 非线性n-gram 语言模型与线性n-gram 语言模型的区别
• 3.3.2 Katz back-off 平滑算法
• 3.3.3 基于元结构的非线性n-gram 语言模型的实现
• 3.4 本章小结
• 第4章 模型的参数训练
• 4.1 引言
• 4.2 机器翻译中的自动评价标准
• 4.3 最小错误率训练标准
• 4.4 非平滑错误率计算的最优化算法
• 4.5 实验结果与分析
• 4.5.1 实验系统及设置
• 4.5.2 实验结果及分析
• 4.6 本章小结
• 第5章 基于结构转换的统计机器翻译系统
• 5.1 引言
• 5.2 基于结构转换的翻译模型
• 5.3 机器翻译系统设计与实现
• 5.3.1 模型的训练
• 5.3.2 解码器的设计与实现
• 5.4 实验结果与分析
• 5.4.1 实验系统及设置
• 5.4.2 实验结果及分析
• 5.5 本章小结
• 结论
• 参考文献
• 致谢