|
2
|
| Simon Nickerson · 技术社区 · 17 年前 |
|
1
2
它看起来像是在计算
但我不相信IEE754类型的float/double会出现这种情况,因为它能够表示1x10 全范围 没有精度损失。 一种可能是,您遇到的问题与以低于允许的精度存储浮点的能力有关(这可能会导致1e25计算出错)-请参阅 http://www.uc.edu/sashtml/lrcon/z0695157.htm#z0695187 为了一个解释。 更新1:
根据这个结果,我们可以推断出封面下发生了什么。 |