《表3 词汇表示学习对知识库问答模型KGWE-QA的影响》
为比较词汇表示学习方法对KGWE-QA效果的影响,我们将知识图谱表示学习方法固定为Trans E,不使用注意力机制和负采样。使用Flair[55]框架将Glove、fast Text、ELMo、BERT、ALBERT和Ro BERTa等模型作为问题表示模型的输入。实验结果,见表3,当使用BERT作为网络的输入时,模型取得最佳的效果(Accuracy为75.86%),验证了上下文动态调整词向量的方法在知识库问答中的有效性;当使用ELMo作为网络的输入时,模型效果位居第二(Accuracy为75.55%);使用Glo Ve作为网络的输入时,模型效果位居第三(Accuracy为75.12%),其效果好于预期的原因可能在于Glo Ve使用了契合问题的语料库进行训练,而其他模型则直接使用维基语料库进行训练;使用fast Text作为网络的输入时,模型Accuracy为74.34%。总体而言,各词汇表示学习方法对知识库问答模型KGWE-QA的效果影响波动较小,表明KGWE-QA对词汇表示学习方法的鲁棒性较好。
图表编号 | XD00206693500 严禁用于非法目的 |
---|---|
绘制时间 | 2021.01.01 |
作者 | 余传明、王峰、张贞港、孔令格、安璐 |
绘制单位 | 中南财经政法大学信息与安全工程学院、中南财经政法大学信息与安全工程学院、中南财经政法大学信息与安全工程学院、中南财经政法大学信息与安全工程学院、武汉大学信息管理学院 |
更多格式 | 高清、无水印(增值服务) |