《表2 生成（判别）模型中不同LSTM与GRU组合对模型性能的影响》

  提示：宽带有限、当前游客访问压缩模式

本系列图表出处文件名：随高清版一同展现

《基于生成对抗网络的系统日志级异常检测算法》

1. 获取 高清版本忘记账户？点击这里登录

1. 下载图表忘记账户？点击这里登录

本文方法与传统方法的区别在于注意力机制的部分。在该问题中，传统方法可以将LSTM等基于循环神经网络模型的每一步输出取出来作为计算注意力权重的参数使用；而在本文方法中，使用了不同模型相互之间提供注意力权重的方式提供特征提取任务。表2展示了本文方法中4种不同注意力机制组合与不适用注意力机制的模型性能对比情况。从总体上来看，在只使用LSTM对日志序列进行拟合的情况下，模型的总体性能要比使用了注意力机制的模型相对弱一些，这就说明加入注意力机制可以有效地提升对异常事件的检测效果。重要的是，很直观地可以看到将LSTM作为隐层特征而GRU的输出作为注意力权重参数时，模型的性能最优。此外将GRU作为隐层特征而LSTM作为注意力权重时，虽然准确率并不是最好的，但是相对的召回率有接近于1的效果。这对于已出现的异常事件预测错误的低容忍相较于前一种有更好的效果。此外，使用GRU和LSTM为各自的输出提供注意力权重参数的结果，相较于混合式而言，表现并不是非常理想。但是从整体的结果上可以看出，LSTM提取特征的能力要比GRU更胜一筹。而由于GRU与LSTM的结构不同，所以在作为注意力权重参数时可以进一步提升LSTM的特征提取能力。