《表3 不同学习率下验证集上的预测准确率(第一次调参)》

《表3 不同学习率下验证集上的预测准确率(第一次调参)》   提示:宽带有限、当前游客访问压缩模式
本系列图表出处文件名:随高清版一同展现
《顾及停留位置特征提取的个人位置预测方法》


  1. 获取 高清版本忘记账户?点击这里登录
  1. 下载图表忘记账户?点击这里登录

实验首先进行第一次调参:学习率通常被认为是神经网络中最重要的超参数,使用对数尺度来均匀地取0.001~0.090之间的值。实验采用3种梯度下降优化算法,即Momentum算法、RM-Sprop算法和Adam算法来更新权重和最小化损失函数。批处理大小定义了每次迭代训练所选取的样本数,这将影响模型的计算速度和收敛效果。为了加快运行时间,根据2的幂次方设置了4个大小,分别为16、32、64和128。先将迭代周期数(epochs)和隐层神经元个数(rnn_unit)分别设为50和12来训练LSTM模型。为了避免过拟合,将每个层的“dropout”设置为0.2。表2的模型参数设置表列出了LSTM模型各个参数的描述以及取值。表3列出了不同学习率下验证集上的预测准确率,当学习率为0.001,batch size为64,使用Adam算法时,LSTM模型的性能最好,达到73.1%。