|
2
|
| Julia Learner anothershrubery · 技术社区 · 7 年前 |
|
|
1
7
某些浮点数可以精确表示(26.0),但不能全部表示,例如:
例如,小数0.5、0.25、0.125也可以用基于二进制的浮点表示法精确地表示。例如,你有:
但是0.1是二进制中的一个周期数,所以它是四舍五入的。
最后52位表示二进制分数。( https://en.wikipedia.org/wiki/Double-precision_floating-point_format ) |
|
|
2
1
它们不一样的原因是因为它们不一样
|
|
|
BlurKid · R中for循环时结果的奇怪差异 1 年前 |
|
|
Dakolas · 对python十进制库感到困惑 2 年前 |
|
|
IIXenon · for循环的printf仅跳过0[已关闭] 2 年前 |
|
|
pmor · 如何计算转换规范%.*f的精度以保持浮点值的精度? 2 年前 |
|
|
Dessie · 如何提高此python代码中的计算精度 3 年前 |