代码之家 › 专栏 › 技术社区 › Aaron

SQL Server trig函数引发无效的浮点操作

trigonometry floating-point sql-server

Aaron · 技术社区 · 7 年前

我用合法的Lat/Long值调用这个函数来计算两点之间的距离。它对我99.99%的分数都很有效,但在这一点上,它崩溃了:

SELECT ACOS(SIN(-34.8821289 * PI() / 180) 
          * SIN(-34.882129 * PI() / 180) 
          + (COS(-34.8821289 * PI() / 180) 
           * COS(-34.882129 * PI() / 180) 
           * COS((150.7406616 - 150.740662) * PI() / 180))) / (PI() / 180) * 111.325

出于性能原因,我非常希望继续使用trig函数,而不是原生的sqlserver地理类型。

1 回复 | 直到 7 年前

Aaron 7 年前

该死的,看起来像是混合了一些7位数的小数位值和其他6位数的小数位值,导致COS函数被四舍五入为1,然后因为1超出范围而炸毁了整个ACOS函数?

通过将所有的输入值减少到6位数,似乎完全解决了这个问题。

推荐文章

Wajih Benzayed · cmath库中的cos函数工作不正常[重复]

9 月前

Fyodor · 在C中使用sin和cos计算数学表达式不正确?

1 年前

Cjmarkham · 基于已知斜边和相邻的[闭合]获得θ

1 年前

Quiche31 · 符号反三角函数并不总是返回期望的分数

2 年前

Kevin Spaghetti · 使用numpy.sin时出现精度问题

2 年前

jpp · 级数展开的三角函数

7 年前

Jack Wild · 三名JS直接在摄像机前获得地面位置

7 年前

urukh · Arduino波发生器

7 年前

Michael K. · 如何以java度求反余弦

7 年前

user4683497 · 如何从Unity3D中的第三人称相机的localEulerAngels中获得1对1的浮点值?

7 年前