代码之家 › 专栏 › 技术社区 › Benjamin Oakes

如何在Matlab中识别溢出错误?

matlab

Benjamin Oakes · 技术社区 · 15 年前

我昨天和今天花了一部分时间在一些Matlab代码中查找一个bug。我原以为我的问题是索引(有许多结构,我没有定义,仍在习惯),但结果却是一个溢出错误。我错过这个是因为一个非常具体的原因:

>> uint8(2) - uint8(1)

ans =

    1

>> uint8(2) - uint8(2)

ans =

    0

>> uint8(2) - uint8(3)

ans =

    0

我本以为最后一个会是 -1 (或) 255 )在一个大向量的中间,错误的 0 很难发现,但是 二百五十五 很容易脱颖而出。

有什么建议可以帮助你在将来轻松发现这些问题吗?(理想情况下,我希望关闭溢出检查,使其像c一样工作)更改为 double 当然可以,但如果我不知道 uint8 首先,这没有帮助。

3 回复 | 直到 13 年前

neuroguy123 15 年前

首先可以打开整数警告:

intwarning('on')

当整数运算溢出时,这将给您一个警告。

不过,请注意,如前所述 here ,这会减慢整数运算速度,因此仅在调试期间使用。

gnovice 13 年前

因此,使用intwarning不再是确定何时发生整数溢出的可行选项。另一种方法是使用 CLASS 函数来测试数据的类,并在执行操作之前相应地重铸它。下面是一个例子:

if strcmp(class(data),'uint8')  %# Check if data is a uint8
  data = double(data);          %# Convert data to a double
end

你也可以使用 ISA 功能也:

if ~isa(data,'single')  %# Check if data is not a single
  data = single(data);  %# Convert data to a single
end

yuk 15 年前

请参阅intwarning函数以控制整数操作的警告。

推荐文章

Emily · 将Matlab转换为python代码:索引器:索引-1超出大小为0的轴0的界限

2 年前

Y.C. · 以不同颜色打印x轴上方的y值

3 年前

dd24 · 在MATLAB中逐部分执行python程序

3 年前

fateme · MATLAB,神经网络

3 年前

Emmanuel Goldstein · 理解Matlab中相关系数公式之间的类比

3 年前

John Smith · JNA与64位libmx崩溃。所以在Linux上

3 年前

john wang · matlab使用可调用的python函数,但需要输入

3 年前

Marta · 使用*时出错-内部尺寸矩阵必须一致

7 年前

Morpheus · x*x^T的Matlab符号计算

7 年前

Lawa · 如果列中的一个元素等于零,则将整列设为零

7 年前