|
|
1
5
台式计算器使用任意精度的数学库。这些可以配置为具有更高的精度,双倍。手持计算器(传统的专用和移动电话)使用固定精度的数学库。 如果要精确打印零,请使用宽度说明符
|
|
|
2
3
|
|
|
3
2
他们可能正在使用一个查找表来加速他们的三角函数公式。在这种情况下,计算得很好的特殊数字可能就在表中。 |
|
|
4
2
诀窍可能是,如前所述,计算器将使用 arbitrary precision 数学库或 lookup tables .
我还想补充一点,由于使用
floating point
你可能知道,算术不是
真
数学在某种意义上是不精确的-
|
|
|
Leo · 为什么carg(-0)返回-pi? 1 年前 |
|
Fyodor · 在C中使用sin和cos计算数学表达式不正确? 1 年前 |
|
|
Alexander · 为什么数字的输出不同? 1 年前 |
|
Ronny · 如何防止程序返回“inf”? 2 年前 |
|
|
EMS · 为什么双重打印的值与C中的浮点值相同,而它们的大小不同? 2 年前 |
|
|
Dakolas · 对python十进制库感到困惑 2 年前 |
|
|
RTC222 · 无法获取vrndscalepd的正确舍入模式代码 2 年前 |