《表5 C10上NIN使用通道共享型Po LU学习到的参数》

  提示：宽带有限、当前游客访问压缩模式

本系列图表出处文件名：随高清版一同展现

《一种改进的基于幂线性单元的激活函数》

1. 获取 高清版本忘记账户？点击这里登录

1. 下载图表忘记账户？点击这里登录

如文献[17]所示，CNN中更深的层会抓取更多语义信息，如全连接层和最后一个卷积层。然而浅层更类似Gabor滤波器，对边缘和纹理更敏感，如第一个卷积层。表5展示了NIN中每一个Po LU层学习到的参数。从表5中可以看出，越深的mlpconv层学到的参数值越小。这表明随着层数增加，激活函数的非线性越大。相比深层，浅层负激活部分包含更多信息，因此学习到的参数值也越大。