代码之家 › 专栏 › 技术社区 › fadedbee

DBSlayer中浮点值的截断问题

dbslayer json mysql

fadedbee · 技术社区 · 15 年前

当我通过DBslayer运行查询时 http://code.nytimes.com/projects/dbslayer 浮点结果是截断为六位数(加小数点和负数需要时签字)。

当我在MySQL中运行相同的查询时,结果与预期一样。

| 52.22280884 | -2.19906425 |

首先,我认为DBSlayer是造成这种情况的原因是正确的吗效果如何(或者它使用的JSON库等)

第二,这个浮点精度在DBSlayer中是可配置的吗?

克里斯。

附赠Ubuntu 9.10,x86\u 64

路径:。 http://dbslayer.googlecode.com/svn/trunk 存储库根目录: http://dbslayer.googlecode.com/svn 存储库UUID:5df2be84-4748-0410-afd4-f777a056bd0c 版次:65 节点类型:目录日程安排:正常上次更改作者:dgottfrid 上次更改版本:65 上次更改日期:2008-03-28 22:52:46+0000(2008年3月28日星期五)

1 回复 | 直到 15 年前

fadedbee 15 年前

我最终解决了这个问题。

有几个地方DBSlayer使用printf的%g来格式化double。这只给出6个有效数字。

用%.15g替换所有这些事件并重新编译,解决了问题。

推荐文章

Sweepy Dodo · JSON lite的格式化

8 月前

SebMa · 为什么我用mikefarah/yq得到两倍的JSON输出?

8 月前

Dione Saturn · JSON、fetch、HTML中的javascript和未定义或空字符串[重复]

9 月前

user24242514 · 将嵌套查询字符串请求转换为字典

9 月前

Shane Harley · 通过这些JSON元素进行映射

9 月前

Milenko Markovic · 如何使用Python读取JSON?操作系统错误:[Errno 36]文件名太长:

9 月前

Shane Harley · 将HTML作为JSON字符串的一部分?

9 月前

user6631314 · 使用PHP从api响应中提取视频数据[复制]

9 月前

Matt Miles · 如何将嵌套的JSON转换为数据帧?

9 月前

ololo · 不支持目录导入

9 月前