|
|
1
11
如何避免舍入误差?这仅仅意味着四舍五入误差在单独的变量中不可用,仅此而已。
这个
真的
pi的值不能准确地表示为浮点数,所以pi/2的真值也不能准确表示。所以你不能给
这正是您在处理浮点数字时应该期待的事情。不要与平等相比较-在一定的容忍范围内进行比较。 |
|
|
2
1
总是会有舍入误差。无论如何,浮点在数学上并不精确,它只精确到一定数量的有效数字。 更改您的代码,使其不会在出现1/100000000的错误时“出错”。 |
|
3
1
对于我们大多数人来说,在电脑上做大量的计算0 是 等于-3.20510345_ 10^-9,精确到您在处理浮点数时有权预期的任何合理程度。这是一个经常讨论的话题。 |
|
|
4
1
是的,你只是在这里丢失类型转换的数据。 90度的弧度不等于1.57079633。如果有更多的小数位,这将像预期的那样直接转换回来。 你总是要小心这样的事情。如上所述,10^-9接近于零。 也取自 MSDN :
|
|
|
5
0
在计算机中,/2弧度 不能 正好等于90度,因为是一个无限长的数字。因此,除非计算机是位的,否则人们不能期待完美的预言。 |
|
|
6
-3
我刚刚意识到: -3.205100345_10-9与-0.00000000320510345相同,非常接近于零。 谷歌对弧度的转换是四舍五入的,四舍五入会导致错误。 我的猜测是,众所周知的是,javascript缺少数字的精确性,它也创建了一个不正确的弧度,因此它的cosign是远远不够的。 但我不知道该如何解决这个问题——四舍五入是不可接受的,因为这对其他角度是行不通的。 |
|
|
Muhammad Umer · 为什么这个随机数猜谜游戏模拟产生5.8 1 年前 |
|
|
Alisa Petrova · 在有向图中更改一对顶点以创建循环 1 年前 |
|
|
D W · Python-将浮点数从2转换为10到100位小数 1 年前 |
|
|
Bartol · 确定python龟图形中的角度 1 年前 |
|
|
randomAlgo · 将弹簧设置为相同长度的成本最低 1 年前 |
|
Fyodor · 在C中使用sin和cos计算数学表达式不正确? 1 年前 |
|
Sergio · python中大量数字的乘法 1 年前 |