vb中的一个溢出错误 — 编程爱好者社区

您所在位置：社区首页 — Visual Basic讨论区 — vb中的一个溢出错误

回帖发新帖刷新版面

主题：vb中的一个溢出错误

llylfz [专家分：0] 发布于 2012-12-04 19:25:00

新手学习

dim a as double

a=sqr(500*500) 为什么会出现溢出错误啊

本帖地址： http://bbs.pfan.cn/post/395904.html

回复列表（共3个回复）

沙发

曙光软件 [专家分：0] 发布于 2012-12-05 11:12:00

[size=4]刚开始很奇怪，现在明白了，vb6.0 的常量是按照最小内存存储的，500就默认成了integer 类型，500*500= 250000 ＞ 32767所以溢出，应该代码改成：

dim a as double

a = 500

a = sqr（a * a)[/size]

板凳

老大徒伤悲 [专家分：29120] 发布于 2012-12-05 19:15:00

实际上也可以写作：
a=sqr(500&*500)

3 楼

孙瑞 [专家分：590] 发布于 2014-04-24 23:29:00

这个问题提出了一个我们很少注意的问题，值得肯定。加精。

我来回复

您尚未登录，请登录后再回复。点此登录或注册