《表3 模型训练时需保存的中间层结果与参数量》
网络模型训练时,需要保存每层前向计算时的输出结果,用于反向计算过程中参数误差、输入误差的计算。卷积神经网络模型在训练时常采用一批图片同时训练来加快模型训练收敛速度。表3统计当每批数量为16时,部分网络模型训练时的中间结果量(默认每层输出结果使用半精度,参数使用单精度[9])。
图表编号 | XD00139896300 严禁用于非法目的 |
---|---|
绘制时间 | 2020.04.20 |
作者 | 王吉军、郝子宇、李宏亮 |
绘制单位 | 江南计算技术研究所、江南计算技术研究所、江南计算技术研究所 |
更多格式 | 高清、无水印(增值服务) |