《表5 模型使用知识蒸馏与未使用知识蒸馏的对比》

  提示：宽带有限、当前游客访问压缩模式

本系列图表出处文件名：随高清版一同展现

《基于知识蒸馏的胡萝卜外观品质等级智能检测》

1. 获取 高清版本忘记账户？点击这里登录

1. 下载图表忘记账户？点击这里登录

试验发现，当教师模型为Resnet101时，学生模型Resnet18的识别准确率最高，准确率为95.8%。将它与传统的resnnet50和Resnet101模型的准确率等进行比较，汇总结果如表5所示。通过表5可以看到，在参数方面，Resnet50模型的参数量是Resnet18模型的2.19倍，Resnet101模型的参数量是Resnet18模型的3.81倍。参数量越多意味着模型越大，部署到相应设备上就越困难；在训练时间上，蒸馏后的Resnet18的总训练时间为11.3 h，Resnet50的总训练时间是Resnet18的1.71倍，Resnet101的总训练时间是Resnet18的2.77倍；在准确率方面，蒸馏后的Resnet18模型的准确率为95.8%，Resnet50模型的准确率为96.3%，Resnet101模型的准确率为96.9%。通过对比可以发现在知识蒸馏后，Resnet18这一小模型的准确率可以接近Resnet50和Resnet101这些大模型的准确率。从模型训练时间和模型部署上考虑，知识蒸馏是很有必要的，通过牺牲小部分准确率可以大大缩短模型训练时间和降低模型部署成本。