《表1 使用不同的点测试常用球面距离公式的精度 (单位:度)》

  提示：宽带有限、当前游客访问压缩模式

本系列图表出处文件名：随高清版一同展现

《球面距离计算方法及精度比较》

1. 获取 高清版本忘记账户？点击这里登录

1. 下载图表忘记账户？点击这里登录

计算机中通常使用IEEE754二进制浮点数算术标准处理浮点数，其中单精度32位（float或single）真值可精确到小数点后6～9位，双精度64位（double）真值可精确到小数点后15～17位（4）。本文使用C++语言编写程序对3个公式的精度进行了对比，结果如表1。本文使用的单位均为度（°），表中有两行数据时，上方的值为单精度计算的结果，下方的值为双精度计算的结果。