回 帖 发 新 帖 刷新版面

主题:为什么32/64位计算结果不同

为什么在用studio 2012+ ivf 做数值计算时,relase 下32/64位编译计算结果完全不同。
而且debug下,有时候设置的断点会被程序跳过。
这个和单、双精度还有设置的系统默认单精度字节数有关吗?

回复列表 (共1个回复)

沙发


可能是类型转化的问题。假如一个整型数超过了32位,在32位下被截断,而在64位下不截断,从而计算的结果就不一样

我来回复

您尚未登录,请登录后再回复。点此登录或注册