《表2 不同精度运算时的访存量分析》

《表2 不同精度运算时的访存量分析》   提示:宽带有限、当前游客访问压缩模式
本系列图表出处文件名:随高清版一同展现
《卷积神经网络低位宽量化推理研究》


  1. 获取 高清版本忘记账户?点击这里登录
  1. 下载图表忘记账户?点击这里登录

从实验结果可以看出,使用16-9bit量化的效果在IOU指标上达到了接近半精度的效果,证明了采用这种量化方法的有效性。在表2中我们对采用2个inception模块[13]进行人脸检测的网络权值与激活值的访存量进行了分析。16-9bit量化对访存量的需求显著减小。