floating-point - 代码之家

为什么carg(-0)返回-pi?

Leo · 技术社区 · floating-point c · 1 年前

在C中使用sin和cos计算数学表达式不正确?

Fyodor · 技术社区 · trigonometry floating-point math c · 1 年前

为什么数字的输出不同?

Alexander · 技术社区 · floating-point python · 1 年前

是否可以按MSB对IEEE754浮点进行排序?

Wasabi Thumbs · 技术社区 · radix-sort bit-manipulation floating-point sorting algorithm · 1 年前

如何防止程序返回“inf”?

Ronny · 技术社区 · numeric floating-point c++ · 1 年前

在Python中,什么表达式等效于“0x1.0p-53”?

r.e.s. · 技术社区 · integer floating-point python · 1 年前

为什么双重打印的值与C中的浮点值相同,而它们的大小不同?

EMS · 技术社区 · double floating-point c · 2 年前

对python十进制库感到困惑

Dakolas · 技术社区 · precision decimal floating-point python · 2 年前

显示带scanf和不带scanf的双变量

beautiful-life · 技术社区 · scanf floating-point c · 2 年前

无法获取vrndscalepd的正确舍入模式代码

RTC222 · 技术社区 · avx512 nasm x86-64 floating-point assembly · 2 年前

“从'int'转换为'float'可能会更改其值”

Peter Kirsch · 技术社区 · variable-assignment floating-point compiler-errors c · 2 年前

如何在PHP中使用/分配负浮动〔closed〕

Catso · 技术社区 · negative-number floating-point php · 2 年前

如何计算转换规范%.*f的精度以保持浮点值的精度?

pmor · 技术社区 · precision printf floating-point c · 2 年前

在微控制器上避免C溢出的同时,从时钟“freq”确定“ticks”的正确方法是什么?

SRobertJames · 技术社区 · integer-overflow real-time embedded floating-point c · 2 年前

如何根据当前舍入方向将float转换为int?

pmor · 技术社区 · rounding type-conversion floating-point exception c · 2 年前

如何使用scanf读取nasm x86 64中的浮点值?

Jonas · 技术社区 · nasm x86-64 printf floating-point assembly · 2 年前

将字节数组转换为浮点的正确方法?(阿杜伊诺)

Runsva · 技术社区 · byte floating-point arduino c++ · 2 年前

显示为难以置信的小小数的复数

BigBoronto · 技术社区 · mathnet-numerics floating-point math .net c# · 2 年前

for循环不接受任何浮点变量

Rik Bloemers · 技术社区 · floating-point for-loop c++ · 3 年前

为什么0.125(格式为2位十进制精度)显示“0.12”而不是“0.13”?

Nathan Pierson · 技术社区 · string-formatting floating-point c++ · 3 年前

为什么存储7个浮点数需要34字节?

zell · 技术社区 · operating-system floating-point linux · 3 年前

如何删除任意数的小数点?

Atharva Sunil Sathe · 技术社区 · floating-point string python · 4 年前

如何从python中给定的半径打印计算出的面积和周长列表

fauzan.py · 技术社区 · radius area floating-point list python · 5 年前

为什么**2!=a*a一些彩车?

user1658887 · 技术社区 · ieee floating-point python · 7 年前

末位单位定义

Kay · 技术社区 · floating-point · 7 年前

为数据类型分配的默认内存在舍入中起作用吗?如果浮点超过分配的内存,则以何种方式舍入?

vApor · 技术社区 · rounding floating-point python-3.x · 7 年前

如何将函数输出转换为数字[重复]

Caucasian Malaysian · 技术社区 · sh floating-point if-statement function bash · 7 年前

在C中使用rand()生成大量双精度时发生分段错误

Ritielko · 技术社区 · double segmentation-fault floating-point random c · 7 年前

x8086组件,将0.0001推到堆栈上成为9.99999。。而不是0.0001

Some_Dude · 技术社区 · x87 floating-point-conversion floating-point assembly · 7 年前

C提供二进制位的浮点产生错误的数字

Dylan Holmes · 技术社区 · hex binary floating-point c · 7 年前