回 帖 发 新 帖 刷新版面

主题:简单 但是 很奇怪的 一个问题


在程序中 c=b-a    
debug的过程中,可以看到:    
a=    0.00705797460
b=    0.01130300000
然后程序算出来的c=    0.00424502560
但实际上c应该=    0.00424502540

反复核算了好几遍都是这样,为什么呢?

上次在这里问过问题,现在找不到那个帖子了,在这里一并谢谢论坛帮助的人

回复列表 (共13个回复)

11 楼

What every computer scientist should know about Floating-point Arithmetic
这篇文档,在本版我至少提及 3 次,但又有几人真正花时间去领悟、理解了呢?

12 楼

[quote]What every computer scientist should know about Floating-point Arithmetic
这篇文档,在本版我至少提及 3 次,但又有几人真正花时间去领悟、理解了呢?[/quote]
我算半认真看了一次[em1]

13 楼

谢谢楼上的专家们! 这就去看那篇文章

我来回复

您尚未登录,请登录后再回复。点此登录或注册