回 帖 发 新 帖 刷新版面

主题:关于负指数的代码格式

今天在写代码时,我想表示1.2*10^(-6),写成代码1.2*10**(-6)会出问题,算出来的结果为零。把它写成1.2/10**6时可以算出正确结果,以前没有注意过这个问题,请问这是什么原因呢?这个问题可能简单了,但在网上还没有找到,请教高手

回复列表 (共1个回复)

沙发

其实完全可以写为 1.2E-6

这是常数的表达形式。

如果你真的要用计算代码来表示,10 也应该写为 10.0

1.2*10.0**(-6)

因为 10 是个整数,经过指数运算后,还是整数,0.0000001 转换成整数就是 0

而 10**6 转换成整数,确实是 1000000。被 1.2 除,能得到正常结果。

我来回复

您尚未登录,请登录后再回复。点此登录或注册