《表3 VGG16和ResNet18的卷积层结构》
同时也发现,针对全连接层中含有大量参数的神经网络如VGG16,参数数量的优化能力有限,所提剪枝方法只适用于卷积层,而无法实现对全连接层的剪枝。但越来越多的神经网络用全局池化层代替全连接层,这在一定程度上改善了上述不足。针对规模较大的神经网络,随机组合的选取对剪枝的效果至关重要,选取的组合越多,选取到较优的组合概率越高,剪枝效果越好,但效率也越低。本文通过设定每一轮的剪枝上限从而限制选取的随机性,提升了随机组合的质量,但依然存在剪枝效率和效果的平衡问题。
图表编号 | XD00188287200 严禁用于非法目的 |
---|---|
绘制时间 | 2020.08.25 |
作者 | 夏国强、尚振宏 |
绘制单位 | 昆明理工大学信息工程与自动化学院、昆明理工大学信息工程与自动化学院 |
更多格式 | 高清、无水印(增值服务) |