《表6 不同梯度下降优化算法对LCNN模型精度的影响》
Adam利用梯度的一阶矩估计和二阶矩估计动态调整每个参数的学习率,进行自适应学习.它将原始梯度做一个指数加权平均,在归一化处理后进行梯度值的更新.因此在偏置校正后,参数比较平稳且每一次迭代学习率都有个确定范围.它基本上就是将Momentum和RMSprop的结合,据此猜测使用此方法进行优化会得到较好的效果.为了证明我们的假设,本小节对比分析了不同的优化算法,由表6可知,在学习率相同的情况下(learning rate=0.001),使用梯度优化算法Adam的模型分类性能最佳.
图表编号 | XD00204797000 严禁用于非法目的 |
---|---|
绘制时间 | 2021.01.20 |
作者 | 张小莉、程光、张慰慈 |
绘制单位 | 山西铁道职业技术学院智能控制系、东南大学网络空间安全学院、东南大学网络空间安全学院、东南大学网络空间安全学院 |
更多格式 | 高清、无水印(增值服务) |