代码之家  ›  专栏  ›  技术社区  ›  Trap

为什么1.0f+0.0000000171785715f返回1f?

precision floating-point .net c#
  •  3
  • Trap  · 技术社区  · 16 年前
    内容过于久远，请刷新稍后重试
    8 回复  |  直到 16 年前
        1
  •  21
  •   Community CDub    8 年前
        2
  •  7
  •   Rex M    16 年前
        3
  •  4
  •   unwind    16 年前
        4
  •  3
  •   Alex Fort    16 年前
        5
  •  3
  •   Delta76    16 年前
        6
  •  3
  •   akuhn    15 年前
        7
  •  2
  •   sblair    16 年前
        8
  •  0
  •   Dave Van den Eynde    16 年前
    推荐文章
    BlurKid  ·  R中for循环时结果的奇怪差异
    6 月前
    SapereAude  ·  在Python中,为什么numpy数组的预分配无法限制其打印精度?
    11 月前
    RuralAnemone  ·  需要帮助了解Google Sheets百分比
    1 年前
    Dakolas  ·  对python十进制库感到困惑
    1 年前
    IIXenon  ·  for循环的printf仅跳过0[已关闭]
    1 年前
    despinxz  ·  MIPS:如何在使用双打时保持精度或将其四舍五入到特定的小数位数?
    1 年前
    pmor  ·  如何计算转换规范%.*f的精度以保持浮点值的精度?
    1 年前
    Dessie  ·  如何提高此python代码中的计算精度
    1 年前
    ramgorur  ·  字符串流、setw和setprecision的C++困难[重复]
    2 年前
    Kevin Spaghetti  ·  使用numpy.sin时出现精度问题
    2 年前
    关于   移动版
    代码之家 - 一站式码农服务社区
    沪ICP备11025650号