|
|
1
8
这可能是由于不同的舍入策略、操作数的应用顺序、中间结果的存储方式以及其他原因造成的。见 What Every Computer Scientist Should Know About Floating-Point Arithmetic 详情。如果您不确定自己是否知道自己在做什么,则应避免在浮点数计算中进行相等比较。 |
|
2
0
我不想添加新的答案,而是希望添加来自 technet.microsoft.com - Using decimal, float, and real Data
此外,如您所知,其意图如下所述:
关于十进制和数字
|
|
|
Leo · 为什么carg(-0)返回-pi? 1 年前 |
|
Fyodor · 在C中使用sin和cos计算数学表达式不正确? 1 年前 |
|
|
Alexander · 为什么数字的输出不同? 1 年前 |
|
Ronny · 如何防止程序返回“inf”? 1 年前 |
|
|
EMS · 为什么双重打印的值与C中的浮点值相同,而它们的大小不同? 2 年前 |
|
|
Dakolas · 对python十进制库感到困惑 2 年前 |
|
|
RTC222 · 无法获取vrndscalepd的正确舍入模式代码 2 年前 |