《表1 16位定点数的Q格式表示及精度》

  提示：宽带有限、当前游客访问压缩模式

本系列图表出处文件名：随高清版一同展现

《面向嵌入式的卷积神经网络硬件加速器设计》

1. 获取 高清版本忘记账户？点击这里登录

1. 下载图表忘记账户？点击这里登录

16位定点数的部分Q值以及每个Q值的表示精度如表1。量化单元是该设计中的一大核心模块，量化数据的精度决定了整个卷积运算中的数据精度。对于16位的定点数据，若保留最高精度可使用Q15格式，即将数据放大215倍后用定点数表示，然而，若浮点数的有效数据超出该精度表示范围，即使该数据量化后带来的误差非常小，但将会损失全部有效数据。因此量化适用于有效精度在Q格式可表示最高精度范围内的数据，有效精度超出最高精度表示范围的极少数据将被舍弃。