《表1 单精度浮点数在DCS系统执行周期200ms时求和分段》
结合浮点数IEEE 754表示方法可以得出,浮点数每超过2的整数次幂,二进制有效位数减少1位,精度要下降1位,因此,浮点数加法可以按其精度对数据由小到大分成多段。譬如一单精度浮点数值为1024时,其幂指数为10,二进制有效位数为14位,其精度为6.1035156E-05,另一加数小于此精度,则会被忽略。数据分段可以归纳出如表1:
图表编号 | XD00157231900 严禁用于非法目的 |
---|---|
绘制时间 | 2020.06.25 |
作者 | 郭伯春、肖胜 |
绘制单位 | 简阳粤丰环保发电有限公司、西安热工研究院有限公司 |
更多格式 | 高清、无水印(增值服务) |