《表1 注意力模型子空间维数结果比较》

  提示：宽带有限、当前游客访问压缩模式

本系列图表出处文件名：随高清版一同展现

《基于注意力机制和LSTM的电力通信设备状态预测》

1. 获取 高清版本忘记账户？点击这里登录

1. 下载图表忘记账户？点击这里登录

由于注意力模块的主要作用是将每组2048维的高维特征映射到一个低维子空间，并突出和预测相关的有效特征，在预训练阶段首先要对降维后子空间的维数做一些测试。过低的子空间维数不足以保持足够的预测特征，而过高的子空间维数则会直接影响后续LSTM模块的复杂度。因此实验部分首先基于VAE训练方法比较了采用不同子空间维数时在测试集上生成的样本和原始样本的均方误差。实验采用32个样本为批次处理大小，在训练集上训练20个周期，最终比较结果如表1所示。