回 帖 发 新 帖 刷新版面

主题:double 数据类型问题

有个问题,当定义某个数据为double类型,数据值为1.2,在.NET中为什么他有时会当成1.20000000001或1.19999999999来处理,有时0.5+1.0计算结果会是1.500000000002,这是什么原因,如何可以避免这种情况出现?谢谢指导

回复列表 (共1个回复)

沙发

浮点类型,有这种误差是正常的,取决于CPU。

像double类型的0.1累加100次极有可能不等于10(累加10次也是)。

我来回复

您尚未登录,请登录后再回复。点此登录或注册