《表1 对应裁剪策略下的VGG16裁剪结构》
经过多次实验的尝试摸索,提出按照如表1所示的对应裁剪策略下的裁剪结构对网络进行压缩。根据合适的参数量以及理想的小网络内存占用设定了如表1中所示的最后一列为目标网络基础,实际应用中可根据需要调整目标网络结构。为达到更加平稳的训练过程以及更加高效的分类准确率,提出以递归裁剪的方式,表1中Conv1、Conv2、Conv3每次按照不同的等差数列公差进行卷积核数目的剔除;为尽可能达到类似的压缩速度,使Conv4、Conv5每次按照不同的等比数列公比进行卷积核数目的剔除,最终达到压缩目的。本文主要提出3种裁剪策略进行实验,策略一为按照表1中裁剪次数为第0、3、6、9的卷积核结构进行裁剪,策略二为按照表1中裁剪次数为第0、2、4、6、9的卷积核结构进行裁剪,策略三即为按照表1中的九次裁剪。在不断试验的基础上表明多次小幅度递归裁剪方式最为有效,即策略三即为本文最终裁剪策略,3种裁剪策略得到的相关实验结果见2.3节。实际应用中可根据需要调整每次裁剪的卷积核个数,针对不同的需求选择合适的数目,从而实现最优的现实性价值。
图表编号 | XD002028300 严禁用于非法目的 |
---|---|
绘制时间 | 2019.11.20 |
作者 | 沈悦 |
绘制单位 | 北京交通大学机械与电子控制工程学院、载运工具先进制造与测控技术教育部重点实验室(北京交通大学) |
更多格式 | 高清、无水印(增值服务) |