代码之家  ›  专栏  ›  技术社区  ›  vmg

如何使用vbscript处理大量数据

  •  0
  • vmg  · 技术社区  · 15 年前

    我正在为金融应用程序的自动化测试创建脚本。

    需要使用大浮点数(超过100亿)进行操作-进行加法、乘法等操作。但是vbscript没有大数的数据类型。

    请告诉我这个问题的解决方案或解决方法。

    谢谢!

    4 回复  |  直到 15 年前
        1
  •  0
  •   Rob    15 年前

    VBScript有一些用于大数的数据类型。在您的情况下,您可能需要使用Double。 http://www.csidata.com/custserv/onlinehelp/vbsdocs/vbs0.htm

        2
  •  1
  •   John Saunders    14 年前

    使用它:

    function mmod(a,moduloValue)
      dim k,t
      k=CDbl(a)
      t=Fix(k/moduloValue)
      mmod = k-(t*moduloValue)
    end function
    
    msgbox mmod(4010051786300000078934,1024)
    

    msgbox mmod(4010051786300000078934,2)
    

    输出:0

        3
  •  1
  •   Community CDub    8 年前

    @Rob的链接是好的,但是他选择的数据类型是危险的。使用货币类型,因为它在内部由固定点数表示。

    如果您需要超过4个小数点,则您将面临以下任一情况:

    • 需要更改语言(Java、C#和其他支持BigDecimal等名称的数据类型,这些名称比较合适,可能精度更高)

    二进制浮点数不能准确地表示十进制数,最终可能会出现舍入错误,使数据无效。看到了吗 Why not use Double or Float to represent currency? 如果你想知道细节的话。