代码之家 › 专栏 › 技术社区 › Geo

在不安装额外宝石的情况下进行浮球分割?

division floating-point ruby

2

Geo · 技术社区 · 15 年前

假设我有这两个浮点数:

a = 50.0
b = 1048576.0
c = a/b

通过印刷 c 我得到这个:

4.76837158203125e-005

做除法 calc.exe 给出结果0.000047683715820325。在不安装任何额外的gem的情况下,有没有任何方法可以用Ruby实现相同的功能?

2 回复 | 直到 13 年前

1

5

fl00r 15 年前

a = 50.0
b = 1048576.0
c = a/b
#=> 4.76837158203125e-005
sprintf("%.20f", c)
#> "0.00004768371582031250"

2

maerics 15 年前

您可以使用 string formatting 像红宝石一样:

irb> "%.019f" % c
=> "0.0000476837158203125"