代码之家 › 专栏 › 技术社区 › makerofthings7

在x32和x64平台上使用.NET时,应该注意哪些常见的数学错误?

largenumber floating-point clr math .net

0

makerofthings7 · 技术社区 · 15 年前

在使用.NET进行计算时,我应该记住什么?

例如,我对浮点错误略知一二,但对 this 关于CodeProject的论坛帖子。我需要知道什么才能完成基于.NET的数学知识,以便我可以建议如何处理不同位大小的参数和结果。

2 回复 | 直到 15 年前

1

James Dunne 15 年前

请始终记住,浮点存储二进制分数,即您的数字将用2^(-n)的求和序列表示,其中n是从1到(尾数大小)提升到某个指数n的任何整数 decimal 用于财务计算。

还要记住,32位处理器上的64位字读/写不是原子的,因此不是线程安全的。一般来说,尽量不要期望共享可变状态总是可以安全读取的。

2

1

Richie Cotton Joris Meys 15 年前

MinValue 和 MaxValue