代码之家 › 专栏 › 技术社区 › Metrics

Stata中的数据精度

floating-point-precision stata floating-accuracy precision

Metrics · 技术社区 · 12 年前

这是一个微不足道的问题,我只是想知道这里发生了什么。

以下是我的示例数据,我正试图在其中找到行最大值 stata

  x1            x2             x2
70001102    70001102    70001102
70001102    70001102    70001102

现在,我使用以下代码来查找 row max:

egen maxi rmax(x1 x2 x3)

然而,在数据表上,我发现第一行和第二行的rmax为70001104,这显然不是真的。

1 回复 | 直到 12 年前

dimitriy 12 年前

尝试 egen double maxi = rmax(x1 x2 x3) 或 egen double maxi = rowmax(x1 x2 x3) 在这种情况下,做多也行。

以下是各种存储类型的限制:

     type                   minimum                 maximum
     ------------------------------------------------------
     byte                      -127                     100
     int                    -32,767                  32,740
     long            -2,147,483,647           2,147,483,620
     ------------------------------------------------------
     float              -16,777,216              16,777,216
     double  -9,007,199,254,740,992   9,007,199,254,740,992

你可以了解更多关于精度的信息 on the Stata blog

此外,数据中的第二个x2应该是上面的x3。

推荐文章

Denis · 双精度C++,308位数字或15位数字?

3 年前

nellapizza · python楼层划分操作符是如何实现的?

7 年前

Evan Carroll · GCC如何在x86\u 64上编译80位宽的10字节浮点\uu float80?

7 年前

comte · 如何在SQL数据库中存储python浮点

7 年前

user2255757 · 如何正确分配cuda半精度阵列?

7 年前

00__00__00 · 如何检查float pandas列是否只包含整数?

7 年前

Hari · 除以2后的结果与乘以0.5后的结果之差

7 年前

bhushan23 · 在Matlab中,为什么整个矩阵的L2范数的平方和行/列L2范数的平方和不匹配?

7 年前

gansub · Newton Raphson迭代-无法迭代

7 年前

Alex · 任意精度的numpy数组(10位int)

7 年前