代码之家 › 专栏 › 技术社区 › Siebe Bosch

为什么这个乘法会导致OverflowException?

multiplication overflow exception vb.net

-5

Siebe Bosch · 技术社区 · 8 年前

我的代码尝试将12303乘以174596。

任何一个像样的计算器都能提供这个问题的答案,那么为什么我会得到OverflowException呢?当我在即时窗口中直接执行它时,也会发生这种情况。

该代码旨在确定某个值在二进制文件中的位置。文件本身的大小为7 Gb。

有没有办法解决这个问题?

Dim position As Long = hisFileHeader.StreamStartDataPosition + 
  (TSIdx * hisFileHeader.StreamDataBlockSize)

tsidx 值为12303和 StreamDataBlockSize 值为174596

screenshot

1 回复 | 直到 8 年前

David Wilson 8 年前

我猜是吧 tsidx 和 StreamDataBlockSize 是 Integer 类型。最大数字an 整数 可容纳的类型为2147483647。然后,括号中的乘法会得到一个整数结果,但答案超出了 整数 类型。将代码更改为。。

Dim position As Long = hisFileHeader.StreamStartDataPosition + (CLng(TSIdx) * hisFileHeader.StreamDataBlockSize)

乘法将以 Long 类型

推荐文章

Mehmet Aslan · freertos堆栈不会溢出

1 年前

MaSc. H. · 当一切看起来都很好的时候,为什么这是堆缓冲区溢出?

2 年前

DCR · 防止用预标记包围的长行溢出

2 年前

PasswordMissing · gcc-fno堆栈保护器不工作,如何修复?

2 年前

TJream · MIPS中使用addu检测溢出

2 年前

hallo02 · Java Integer下溢/上溢是否在数学运算期间发生?

2 年前

AntonyCatcher · 如何在Javascript中通过控制台更改宽度和溢出?

2 年前

Mkhomiak2 · DateAdd语句中的Int和Data

3 年前

Mr. Lavalamp · 带有图像的CSS溢出容器不工作?

13 年前

John Bernal · JQuery花式框文本溢出

13 年前