《表2 拟合结果表:一种基于最小二乘法的AD转换在线校正方法》
在上述测试条件下,允许误差为0.2和0.5时,其拟合结果的分段数、分段区间、各段系数及最大误差如表2所示。由两组数据对比结果可知,拟合结果的分段区间不是固定的,而是会根据允许误差的不同实现动态分配,从而实现了分段数的最优化。同时,对于不同的允许误差,当允许误差较小时,分段区间越多,拟合精度越高,因此在实际的运用中,可根据需要设置允许误差,获得校正数据,从而实现提高物理量回归运算精度的目的。
图表编号 | XD00116839100 严禁用于非法目的 |
---|---|
绘制时间 | 2020.02.06 |
作者 | 贾红敏、张立广、淡建超 |
绘制单位 | 西安工业大学电子信息工程学院、西安工业大学电子信息工程学院、西安工业大学电子信息工程学院 |
更多格式 | 高清、无水印(增值服务) |