代码之家 › 专栏 › 技术社区 › Metrics

Stata中的数据精度

floating-point-precision stata floating-accuracy precision

Metrics · 技术社区 · 13 年前

这是一个微不足道的问题,我只是想知道这里发生了什么。

以下是我的示例数据,我正试图在其中找到行最大值 stata

  x1            x2             x2
70001102    70001102    70001102
70001102    70001102    70001102

现在,我使用以下代码来查找 row max:

egen maxi rmax(x1 x2 x3)

然而,在数据表上,我发现第一行和第二行的rmax为70001104,这显然不是真的。

1 回复 | 直到 13 年前

dimitriy 13 年前

尝试 egen double maxi = rmax(x1 x2 x3) 或 egen double maxi = rowmax(x1 x2 x3) 在这种情况下,做多也行。

以下是各种存储类型的限制:

     type                   minimum                 maximum
     ------------------------------------------------------
     byte                      -127                     100
     int                    -32,767                  32,740
     long            -2,147,483,647           2,147,483,620
     ------------------------------------------------------
     float              -16,777,216              16,777,216
     double  -9,007,199,254,740,992   9,007,199,254,740,992

你可以了解更多关于精度的信息 on the Stata blog

此外,数据中的第二个x2应该是上面的x3。

推荐文章

BlurKid · R中for循环时结果的奇怪差异

1 年前

SapereAude · 在Python中,为什么numpy数组的预分配无法限制其打印精度?

2 年前

RuralAnemone · 需要帮助了解Google Sheets百分比

2 年前

Dakolas · 对python十进制库感到困惑

2 年前

IIXenon · for循环的printf仅跳过0[已关闭]

2 年前

despinxz · MIPS:如何在使用双打时保持精度或将其四舍五入到特定的小数位数?

3 年前

pmor · 如何计算转换规范%.*f的精度以保持浮点值的精度?

3 年前

Dessie · 如何提高此python代码中的计算精度

3 年前

ramgorur · 字符串流、setw和setprecision的C++困难[重复]

3 年前

Kevin Spaghetti · 使用numpy.sin时出现精度问题

3 年前