《表1 两种人工选择的CNN结构及其识别率》

《表1 两种人工选择的CNN结构及其识别率》   提示:宽带有限、当前游客访问压缩模式
本系列图表出处文件名:随高清版一同展现
《基于粒子群算法优化卷积神经网络结构》


  1. 获取 高清版本忘记账户?点击这里登录
  1. 下载图表忘记账户?点击这里登录

CNN通过局部感知,权值共享和池化三种技术的结合,减少了网络训练时的参数数量,但是CNN的超参数,如卷积核的大小,卷积核的数量和池化的类型等都是需要人工设定的.对于一个实际问题,研究者通过大量的实验及经验,才能找到相对较好的CNN结构.对于不同的问题,人工设定CNN存在大量抉择,首先多种类型的超参数组合方式多样;其次,激活函数通过层级(简单)非线性映射的复合使得整个网络的(复杂)非线性刻画能力得到提升,从而影响CNN学习的准确率[16].如表1所示(其中Max表示Max-pooling),在MNIST数据集下,人工选择的网络结构A-CNN1和A-CNN2,仅全连接层激活函数x7不同,在Epoch=1时的识别率却相差近10倍.另外,CNN训练过程中,每个时期(Epoch)将训练样本按照若干个样本一组,即批量大小(batch-size)输入网络进行训练,批量的大小影响算法的结果[17].CNN权重更新时的学习率影响网络的收敛速度和性能.在众多的CNN结构中选择较好的一个,需要的时间复杂度和空间复杂度可想而知.