《表3 不同学习率下验证集上的预测准确率(第一次调参)》
实验首先进行第一次调参:学习率通常被认为是神经网络中最重要的超参数,使用对数尺度来均匀地取0.001~0.090之间的值。实验采用3种梯度下降优化算法,即Momentum算法、RM-Sprop算法和Adam算法来更新权重和最小化损失函数。批处理大小定义了每次迭代训练所选取的样本数,这将影响模型的计算速度和收敛效果。为了加快运行时间,根据2的幂次方设置了4个大小,分别为16、32、64和128。先将迭代周期数(epochs)和隐层神经元个数(rnn_unit)分别设为50和12来训练LSTM模型。为了避免过拟合,将每个层的“dropout”设置为0.2。表2的模型参数设置表列出了LSTM模型各个参数的描述以及取值。表3列出了不同学习率下验证集上的预测准确率,当学习率为0.001,batch size为64,使用Adam算法时,LSTM模型的性能最好,达到73.1%。
图表编号 | XD00210078100 严禁用于非法目的 |
---|---|
绘制时间 | 2020.12.05 |
作者 | 李帆、夏吉喆、黄赵、李晓明、李清泉 |
绘制单位 | 深圳市空间信息智能感知与服务深圳市重点实验室深圳大学自然资源部海岸带地理环境监测重点实验室、深圳大学计算机与软件学院、深圳市空间信息智能感知与服务深圳市重点实验室深圳大学自然资源部海岸带地理环境监测重点实验室、深圳大学智慧城市研究院、广东省城市空间信息工程重点实验室深圳大学建筑与城市规划学院、人工智能与数字经济广东省实验室(深圳)、深圳市空间信息智能感知与服务深圳市重点实验室深圳大学自然资源部海岸带地理环境监测重点实验室、深圳大学智慧城市研究院、广东省城市空间信息工程重点实验室深圳大学建筑与城市规划学院、 |
更多格式 | 高清、无水印(增值服务) |