《表2 常用卷积神经网络总结》

《表2 常用卷积神经网络总结》   提示:宽带有限、当前游客访问压缩模式
本系列图表出处文件名:随高清版一同展现
《深度神经网络结构搜索综述》


  1. 获取 高清版本忘记账户?点击这里登录
  1. 下载图表忘记账户?点击这里登录
注:表中的精度与特定数据集相关联。

随着硬件设备计算能力和存储能力的不断提升(如CPU(central processing unit)、GPU、TPU(tensor processing unit)),神经网络的计算时间耗费和开销大幅缩短。同时,硬件设备存储能力的提升使得大规模模型和数据集的存储和处理成为可能。深度卷积神经网络的网络层数和宽度越来越大,网络结构越来越复杂,各式各样的网络结构的数量呈井喷式增长。相继出现了Dense Net (Huang等,2017)、Res Next(Xie等,2017)和SENet(Hu等,2018)等。随着深度不断增加,神经网络的计算量和参数量也不断增加,以压缩与加速深度神经网络为目的的神经网络结构研究成为新的研究方向。深度可分离卷积(depthwise separable convolution)(Sandler等,2018)、交错组卷积(interleaved group convolution,IGC)(Sun等,2018)以及异构核卷积(heterogeneous kernel-based convolution)(Singh等,2019)等概念相继提出,成功推动了深度神经网络在移动端的部署应用。表2总结了神经网络发展历程中比较特殊且具有里程碑意义的网络结构和对应的信息。