《表1 实验仿真对比结果分析》

  提示：宽带有限、当前游客访问压缩模式

本系列图表出处文件名：随高清版一同展现

《深度卷积神经网络LeNet-5和ResNet的对比以及应用分析》

1. 获取 高清版本忘记账户？点击这里登录

1. 下载图表忘记账户？点击这里登录

利用Tensorflow来实现一个LeNet-5的模型。首先人工配置神经网络输入、输出的参数大小，选择通道数量、图片尺寸等超参数。然后再定义两个卷积层的尺寸和深度。接下来就是定义卷积层、池化层、全连接层的前向传播过程。为了贴合MNIST数据集，在此将卷积层的输入调整为28*28*1尺寸像素。测试仿真实验中发现，学习率的大小对数据准确率影响较大。当学习率较大时，将Learning Rate修改到0.8后，准确率仅有0.11，未达到收敛的效果。将其改为0.01后，准确率则提高至0.73，完成了预期要求，如表1所示。从仿真实验可发现，学习率的调整对于深度学习有着至关重要的作用。若学习率较大，其将造成参数在训练过程中越过最优值，从而无法取得最优值；若过小，则又会使得数据无法收敛。不同大小的数据集对于学习率的要求也不同，当代价函数为平方误差和时，数据集越大学习率就需要越小。本次仿真实验中，学习率过大将无法对MNIST数据集进行训练模拟。