代码之家 › 专栏 › 技术社区 › INs

MySQL保存浮点错误

rounding decimal double mysql

INs · 技术社区 · 8 年前

尝试将此数字保存到任何浮点或双精度字段中 588966.68

SQL查询将完成它的任务并保存日期并返回成功。现在检索与刚才保存的值相同的值,它将显示 588966.69

您保存了 .68 一读你就会明白 .69 !!?!

这怎么可能?我的字段类型是FLOAT(10,2),也尝试了带小数(12,2)和小数(12,3)的DOUBLE(12,2),尽管我只需要显式的2个小数。

我注意到这种情况发生在超过12万人的情况下

2 回复 | 直到 8 年前

Rick James diyism 8 年前

FLOAT 有24个位精确性。数字高达 128K需要17位来表示整数部分,只剩下7位用于小数部分。

在128K和256K之间:整数为18位;分数只有6位。6位给出64个不同的值——但2位小数需要100个不同的值。精度不够。

INs 8 年前

它的工作原理是 十进制的 字段类型!

推荐文章

Naldo Ash · 如何将此字符串的格式设置为双x,y,总计到两位小数。输出=(x+“+”+y+“=”+总计);

8 年前

Brendan McDonnell · 应为:参考。找到:双精度。参数错误。发生了什么?

8 年前

uma · 将1.0、2.0等浮点值更改为1、2 |从浮点二进制点类型中删除尾随零

8 年前

Mara · 按时双重格式化

8 年前

Justin · 如何在Java中以全精度格式化double?

8 年前

Pernoctador · 两个给定数字之间的双精度密度

8 年前

Josh · 右箭头等于右箭头

8 年前

INs · MySQL保存浮点错误

8 年前

Philip.W · 在C中格式化类似xxxxE+xx的双精度

8 年前

Steve Chambers · 混合数字类型时,Java编译器是否优化了类型转换?

8 年前