|
1
2
避免
@aka.nice 识别良好 限制 改进后的精度方法如下。以后再复习。
保持精确是很难的,但是
interpolation
在x-解释方式中,FP-math具有优势。主要的想法是不要形成一些小的
x截距
特殊情况,如
这种方法类似于
@aka.nice
. 但不是中间
|
|
|
2
0
你能做的就是绕着中间转:
然后,通过输入的中间范围:
计算输入距离中间的距离(介于-1和1之间):
然后,通过输出中间和输出中间范围,将其均匀地报告给输出
正如Eric所指出的,如果某些区间边界已经是次正规的,这可能会受到下溢问题的影响,但即使是最小的次正规的两倍,这仍然应该有效。 编辑
上面的公式是关于溢出的一个解答,但在操作中仍然存在灾难性的取消问题
例如映射
|
|
|
Leo · 为什么carg(-0)返回-pi? 1 年前 |
|
Fyodor · 在C中使用sin和cos计算数学表达式不正确? 2 年前 |
|
|
Alexander · 为什么数字的输出不同? 2 年前 |
|
Ronny · 如何防止程序返回“inf”? 2 年前 |
|
|
EMS · 为什么双重打印的值与C中的浮点值相同,而它们的大小不同? 2 年前 |
|
|
Dakolas · 对python十进制库感到困惑 2 年前 |
|
|
RTC222 · 无法获取vrndscalepd的正确舍入模式代码 3 年前 |