《表1 带定点的CNN模型精度》
相关研究[11]表明,在深度学习网络模型中,整型定点计算的精度能提供比肩浮点运算的结果,由表1可知,在五个常见的卷积神经网络结构中,降低精度的定点计算和32位浮点计算的准确性相差无几。
图表编号 | XD002449200 严禁用于非法目的 |
---|---|
绘制时间 | 2019.12.25 |
作者 | 丁立德、胡怀湘 |
绘制单位 | 华北计算技术研究所、华北计算技术研究所 |
更多格式 | 高清、无水印(增值服务) |
相关研究[11]表明,在深度学习网络模型中,整型定点计算的精度能提供比肩浮点运算的结果,由表1可知,在五个常见的卷积神经网络结构中,降低精度的定点计算和32位浮点计算的准确性相差无几。
图表编号 | XD002449200 严禁用于非法目的 |
---|---|
绘制时间 | 2019.12.25 |
作者 | 丁立德、胡怀湘 |
绘制单位 | 华北计算技术研究所、华北计算技术研究所 |
更多格式 | 高清、无水印(增值服务) |