《表4 不同模型配置下对应的准确率》

  提示：宽带有限、当前游客访问压缩模式

本系列图表出处文件名：随高清版一同展现

《深度学习建模下的自动句子填空技术》

1. 获取 高清版本忘记账户？点击这里登录

1. 下载图表忘记账户？点击这里登录

从表4中可看出，加入预训练的语言模型能够显著的提升效果。模型3相对于模型1，准确率有9.3个点的绝对提升。此外，从图7中的错误率对比结果可看出，加入预训练的语言模型信息后，对于区分性的题型以及填写固定搭配的题型，错误率有显著下降，这与本文的预期是一致的。因为，从无监督语料学习到的语言模型带有丰富的语义信息。它能够有效编码通用的语义表达，这种通用的表达会有助于模型区分各种类型的单词和固定搭配。