主题:(46.800000*100.000000)/100.000000=46.79000000
x521516
[专家分:200] 发布于 2008-08-26 17:30:00
如题示
回复列表 (共5个回复)
沙发
x521516 [专家分:200] 发布于 2008-08-26 17:36:00
我怎么上传文件呀?
上传也没有看到
哪位高手指点一下
板凳
moz [专家分:37620] 发布于 2008-08-26 19:04:00
在实数运算的过程中,有很多时候的确是会出现误差的,虽然这个误差很小.
机器(包换VFP)并不能智能的识别整数运算,
所以在某种情况下,建议不要使用等号来作比较,
而使用两数之差的绝对值来作判断.
比如是:
abs(46.800000*100.00000)/100.00000-46.8)<0.0001
但我在VFP9里测试过,好像并没有这个问题.
3 楼
x521516 [专家分:200] 发布于 2008-08-27 12:32:00
这个是命令窗口都不会出现的
我是在调试环境中碰到的
上传的图片怎么显示出来?
4 楼
homayzh [专家分:7040] 发布于 2008-08-27 13:32:00
楼主用的是什么版子的VFP呀
5 楼
x521516 [专家分:200] 发布于 2008-08-27 14:12:00
VFP6.0
我来回复