《表3 不同提取方法结果:基于多层注意力机制的农业病虫害远程监督关系抽取研究》

《表3 不同提取方法结果:基于多层注意力机制的农业病虫害远程监督关系抽取研究》   提示:宽带有限、当前游客访问压缩模式
本系列图表出处文件名:随高清版一同展现
《基于多层注意力机制的农业病虫害远程监督关系抽取研究》


  1. 获取 高清版本忘记账户?点击这里登录
  1. 下载图表忘记账户?点击这里登录
%

将文献[15]中基于双向LSTM的模型、无注意力PCNN模型和本研究提出的PCNN叠加不同层级注意力机制模型从抽取结果和运行时间两方面做比较,实验结果如表3、表4所示。实验结果表明,采用PCNN的方法在F1值上均超过了LSTM模型,其原因是数据集的单句字符数大多小于30,在这种短文本上PCNN利用不同大小的卷积核窗口捕捉单词之间的局部语义关系,会有很大优势。而LSTM网络的优势在于处理较长序列时,可以通过门结构捕捉长距离依赖,但线性处理的方式增加了反向传播的长度,且碍于结构无法像PCNN一样并行计算。平均每epoch使得模型训练耗时变长了3.48倍,在模型预测时LSTM模型与PCNN模型相差了一个数量级,后者只需前者10.93%的耗时即可完成所有预测。另外可以注意到,叠加了注意力机制后模型的表现更优,其中加了单层实例级注意力因为可以去除数据集中的错误标注文本噪声而相对无注意力PCNN模型效果高,证明了多实例层注意力机制的作用。再经过添加池化特征注意力层后,对池化后高层语义特征有了更高的权重分配,模型效果进一步提升。上述实验表明本研究提出的基于多层注意力机制的远程监督方法提高了在农业病虫害领域数据集上关系抽取的性能,可对农业病虫害领域关系的自动抽取提供新的方法支持。