![]() |
1
1
您的计算是
数值不稳定
。使用更高的精度并不能解决问题,只会稍微隐藏一点。主要问题是
如果您只想要交替的0-1值,可以在
|
![]() |
2
1
一般来说,如果你想找到这样的东西不起作用的原因,那么检查中间结果,原因可能会变得显而易见。
因此,π的整数倍的sin为零,上面显示了浮点精度极限下的抖动。它可以是积极的或消极的随机。 |
![]() |
BlurKid · R中for循环时结果的奇怪差异 5 月前 |
![]() |
Dakolas · 对python十进制库感到困惑 1 年前 |
![]() |
IIXenon · for循环的printf仅跳过0[已关闭] 1 年前 |
![]() |
pmor · 如何计算转换规范%.*f的精度以保持浮点值的精度? 1 年前 |
|
Dessie · 如何提高此python代码中的计算精度 1 年前 |