《表1 文中所涉及函数的用法及含义》
数据的修约是数据处理至关重要的一个环节,数据修约的正确与否直接关系到仪器准确程度的判断。以石油密度计检定结果修约[4]为例,在石油密度计检定过程中,经常需要对其修正值进行修约运算,通常Excel在数据修约过程中采用“四舍五入”的规则,这种修约规则不能满足日常测量数据的处理。计量中通用的数字修约规则要符合GB/T8170–2008规定,即“四舍六入,逢五取偶”[5]。如果要实现这种特殊的修约规则,则需要用到多种Excel函数进行组合运算。具体实现过程:首先要对被修约数进行底数为10的乘幂运算,将被修约位数移至小数点后一位,再用MOD()函数对被修约数进行除数为1的求余运算。如果余数不为0.5,则对被修约数用ROUND()函数进行“四舍六入”运算;反之,则对被修约数先用TURNC()函数做取整运算,后用EVEN()函数做向上取偶运算,从而实现“逢五取偶”运算。修约公式中各参数含义见表1,修约过程如图1所示。
图表编号 | XD00106243600 严禁用于非法目的 |
---|---|
绘制时间 | 2019.07.20 |
作者 | 毛森、王晓伟、王广俊 |
绘制单位 | 河南省计量科学研究院、河南省计量科学研究院、河南省计量科学研究院 |
更多格式 | 高清、无水印(增值服务) |