代码之家 › 专栏 › 技术社区 › Martin Liversage

将表示形式从十进制数转换为浮点数-陷阱

decimal floating-point

1

Martin Liversage · 技术社区 · 16 年前

我正在研究金融应用程序的一些功能。在代码和数据库中,所有数字都表示为小数,不存在舍入错误。但是,我遇到了一些性能问题,我正在考虑在自己的计算中切换到浮点数(float/double)。这是基于四舍五入误差不是问题的假设(我将不得不与客户核实)。

2 回复 | 直到 16 年前

1

3

Aaron 16 年前

使用float的问题是,最终会(可能)出现意外的精度问题。

如果使用float,那么可以正确表示的最大值将为167772.16美元。如果你使用双倍,那么最大值会更好(大约180万亿美元)。

2

1

itsadok 16 年前

财务应用程序通常是不使用浮点。所以要小心。

不管怎样, this article