《表5 不同注意力机制对模型准确率的影响》

  提示：宽带有限、当前游客访问压缩模式

本系列图表出处文件名：随高清版一同展现

《基于层级注意力多通道卷积双向GRU的问题分类研究》

1. 获取 高清版本忘记账户？点击这里登录

1. 下载图表忘记账户？点击这里登录

将三个词语级单通道注意力模型IWC-BGRU、PC-BGRU、LC-BGRU与无注意力机制的C-GRU模型进行对比可以看出，不同的单通道注意力模型对分类准确率均有不同程度的提升，表明疑问词、词性和词语位置信息能够帮助理解问题的含义，可以更准确地划分问题的类别。并且，不同的通道信息对模型分类准确率的提升也不同，表明疑问词、词性和词语位置能提供的信息量也各不相同。将词语级三个注意力通道结合之后的TCC-BGRU模型和单通道注意力模型以及C-GRU模型对比可以看出，三通道模型能够同时利用疑问词、词性、词语位置信息，比单一通道的分类准确率都要高，并且三个通道的信息相互补充和强化，使得模型更准确地理解问题的语义。对比使用短语级的潜在主题注意力模型LTC-BGRU和C-GRU，可以看出在双向GRU提取上下文特征之后使用潜在主题注意力能够有效识别问题文本中的主题信息，提高分类的精度。三通道模型TCC-BGRU和潜在主题注意力模型LTC-BGRU都对问题分类精度有所提升，TCC-BGRU模型使用词语级别的注意力关注词语级别的重点信息，LTC-BGRU模型在短语级别使用注意力在全局语义场景下关注与主题相关的信息，而整体模型HAMCC-BGRU既在词语级别重点关注问题文本的疑问词信息、词性信息和词语位置信息，又在短语级别使用潜在主题注意力重点关注上下文中与主题更相关的信息，从而更全面深层次地提取问题文本的特征，更准确地理解问题的语义。综上所述，通过在不同数据集上与7组基线模型的对比，以及5组不同注意力机制模型与C-GRU模型的对比，证明了本文在词语级使用多种特征信息形成多通道注意力机制，在短语级别使用潜在主题注意力关注主题特征的这种分层级关注重要信息的模型的有效性。