主题:求助各位大神,关于有效数字的问题
各位大神:
用fortran编程,matrix里面的变量设为double,即双精度。每一个数有15-16位数,后面是10的几次方。现在我只想要前12位数,后面几位置为0,请问如何做到?
如
1.12132341412341e-9
1.32132403249123e-8
3.23243211231231e-3
变为:
1.12132341412000e-9
1.32132403249000e-8
3.23243211231000e-3
谢了~:)
用fortran编程,matrix里面的变量设为double,即双精度。每一个数有15-16位数,后面是10的几次方。现在我只想要前12位数,后面几位置为0,请问如何做到?
如
1.12132341412341e-9
1.32132403249123e-8
3.23243211231231e-3
变为:
1.12132341412000e-9
1.32132403249000e-8
3.23243211231000e-3
谢了~:)