代码之家 › 专栏 › 技术社区 › Geo

在不安装额外宝石的情况下进行浮球分割?

division floating-point ruby

Geo · 技术社区 · 15 年前

假设我有这两个浮点数:

a = 50.0
b = 1048576.0
c = a/b

通过印刷 c 我得到这个:

4.76837158203125e-005

做除法 calc.exe 给出结果0.000047683715820325。在不安装任何额外的gem的情况下,有没有任何方法可以用Ruby实现相同的功能?

2 回复 | 直到 13 年前

fl00r 15 年前

a = 50.0
b = 1048576.0
c = a/b
#=> 4.76837158203125e-005
sprintf("%.20f", c)
#> "0.00004768371582031250"

maerics 15 年前

您可以使用 string formatting 像红宝石一样:

irb> "%.019f" % c
=> "0.0000476837158203125"

推荐文章

Rik Bloemers · for循环不接受任何浮点变量

3 年前

Nathan Pierson · 为什么0.125(格式为2位十进制精度)显示“0.12”而不是“0.13”?

3 年前

zell · 为什么存储7个浮点数需要34字节?

3 年前

Atharva Sunil Sathe · 如何删除任意数的小数点?

3 年前

user1658887 · 为什么**2!=a*a一些彩车?

7 年前

Kay · 末位单位定义

7 年前

vApor · 为数据类型分配的默认内存在舍入中起作用吗?如果浮点超过分配的内存,则以何种方式舍入?

7 年前

Caucasian Malaysian · 如何将函数输出转换为数字[重复]

7 年前

Ritielko · 在C中使用rand()生成大量双精度时发生分段错误

7 年前

Some_Dude · x8086组件,将0.0001推到堆栈上成为9.99999。。而不是0.0001

7 年前