《表2 不同精度运算时的访存量分析》
从实验结果可以看出,使用16-9bit量化的效果在IOU指标上达到了接近半精度的效果,证明了采用这种量化方法的有效性。在表2中我们对采用2个inception模块[13]进行人脸检测的网络权值与激活值的访存量进行了分析。16-9bit量化对访存量的需求显著减小。
图表编号 | XD00107181900 严禁用于非法目的 |
---|---|
绘制时间 | 2019.11.20 |
作者 | 付强、姜晶菲、窦勇 |
绘制单位 | 国防科技大学计算机学院、国防科技大学计算机学院、国防科技大学计算机学院 |
更多格式 | 高清、无水印(增值服务) |