《表4 有监督注意力机制的实验结果》

《表4 有监督注意力机制的实验结果》   提示:宽带有限、当前游客访问压缩模式
本系列图表出处文件名:随高清版一同展现
《序列-序列模型注意力机制模块基本原理探究》


  1. 获取 高清版本忘记账户?点击这里登录
  1. 下载图表忘记账户?点击这里登录

对于文中的实验,LDC训练语料库的金标准词对齐矩阵是使用GIZA++(http://www.fjoch.com/GIZA++.html)工具得到的。表4给出了有监督注意力机制方法的实验结果。对于基于循环神经网络的机器翻译模型,使用有监督注意力机制的方法,词对齐的错误率有所降低,机器翻译的性能有所提升。然而,对于基于自编码神经网络的机器翻译模型,使用有监督注意力机制的方法,虽然词对齐的错误率得到了大幅度的降低,但是机器翻译的性能受到了很大程度的损害。这就证明了本次研究中的假设:自编码神经网络的机器翻译模型的注意力矩阵与词对齐是有很大差异的,因此金标准的词对齐会误导训练过程的进行。