主题:简单 但是 很奇怪的 一个问题
a_april
[专家分:0] 发布于 2011-05-24 08:04:00
在程序中 c=b-a
debug的过程中,可以看到:
a= 0.00705797460
b= 0.01130300000
然后程序算出来的c= 0.00424502560
但实际上c应该= 0.00424502540
反复核算了好几遍都是这样,为什么呢?
上次在这里问过问题,现在找不到那个帖子了,在这里一并谢谢论坛帮助的人
回复列表 (共13个回复)
11 楼
asymptotic [专家分:16630] 发布于 2011-05-26 16:18:00
What every computer scientist should know about Floating-point Arithmetic
这篇文档,在本版我至少提及 3 次,但又有几人真正花时间去领悟、理解了呢?
12 楼
yeg001 [专家分:14390] 发布于 2011-05-26 16:25:00
[quote]What every computer scientist should know about Floating-point Arithmetic
这篇文档,在本版我至少提及 3 次,但又有几人真正花时间去领悟、理解了呢?[/quote]
我算半认真看了一次[em1]
13 楼
a_april [专家分:0] 发布于 2011-06-11 01:34:00
谢谢楼上的专家们! 这就去看那篇文章
我来回复