《表3 词汇表示学习对知识库问答模型KGWE-QA的影响》

《表3 词汇表示学习对知识库问答模型KGWE-QA的影响》   提示:宽带有限、当前游客访问压缩模式
本系列图表出处文件名:随高清版一同展现
《基于表示学习的知识库问答模型研究》


  1. 获取 高清版本忘记账户?点击这里登录
  1. 下载图表忘记账户?点击这里登录

为比较词汇表示学习方法对KGWE-QA效果的影响,我们将知识图谱表示学习方法固定为Trans E,不使用注意力机制和负采样。使用Flair[55]框架将Glove、fast Text、ELMo、BERT、ALBERT和Ro BERTa等模型作为问题表示模型的输入。实验结果,见表3,当使用BERT作为网络的输入时,模型取得最佳的效果(Accuracy为75.86%),验证了上下文动态调整词向量的方法在知识库问答中的有效性;当使用ELMo作为网络的输入时,模型效果位居第二(Accuracy为75.55%);使用Glo Ve作为网络的输入时,模型效果位居第三(Accuracy为75.12%),其效果好于预期的原因可能在于Glo Ve使用了契合问题的语料库进行训练,而其他模型则直接使用维基语料库进行训练;使用fast Text作为网络的输入时,模型Accuracy为74.34%。总体而言,各词汇表示学习方法对知识库问答模型KGWE-QA的效果影响波动较小,表明KGWE-QA对词汇表示学习方法的鲁棒性较好。