作者:张润延; 史晓东; 东语言模型irstlm机器翻译java
摘要:随着自然语言处理技术的发展和大规模语料库的出现,各类自然语言应用中使用的语言模型规模也越来越大。IRSTLM①在训练语言模型时采用了划分词典分块训练快速合并的方式,从而在训练大规模语料时取得了优异的性能。但它受限于训练方式,难以估算精确概率。本文在分析和重实现IRSTLM的基础上提出了一种方法,可以用来修正合并后的语言模型。在机器翻译上的实验表明,该方案有助于改进生成的语言模型的质量。同时,本项实验还填补了java平台上语言模型训练和使用工具的空白。
注:因版权方要求,不能公开全文,如需全文,请咨询杂志社