|
|
1
7
您的程序只检查编译器是否以相同的方式逼近0.1,这是它所做的。
价值
您的代码有效地编译为:
…因为0.100000000000000551151231257827021181583404541015625是
有时你还能看到一些非常奇怪的效果。当
在你提到的问题中,我们不知道原值是如何获得的。问题是:
我们不知道它是如何被赋值为0.1的,这个细节很重要。我们知道价值不会 确切地 0.1,什么样的近似已经被涉及?例如,请考虑以下代码:
价值
|
|
|
BlurKid · R中for循环时结果的奇怪差异 1 年前 |
|
|
Dakolas · 对python十进制库感到困惑 2 年前 |
|
|
IIXenon · for循环的printf仅跳过0[已关闭] 2 年前 |
|
|
pmor · 如何计算转换规范%.*f的精度以保持浮点值的精度? 2 年前 |
|
|
Dessie · 如何提高此python代码中的计算精度 3 年前 |