主题:数据类型请教
各位老师,大家好。
我前面有个数组要占用很大内存,最近调整算法之后可以进行运算了,但是我还想再减小占用内存,大家帮忙看下下面方法行得通吗?
我所有的矩阵都定义为
COMPLEX*16
我想把这些矩阵定义为
COMPLEX*8
这样是不是占用的内存就少多了啊?或者只有原先的1/4,但是计算精度会不会差距很大啊。
如果我要求在10^(-9)内相等,可以这样修改吗?
谢谢啊!!
二者在多少精度范围内是相等的?
我前面有个数组要占用很大内存,最近调整算法之后可以进行运算了,但是我还想再减小占用内存,大家帮忙看下下面方法行得通吗?
我所有的矩阵都定义为
COMPLEX*16
我想把这些矩阵定义为
COMPLEX*8
这样是不是占用的内存就少多了啊?或者只有原先的1/4,但是计算精度会不会差距很大啊。
如果我要求在10^(-9)内相等,可以这样修改吗?
谢谢啊!!
二者在多少精度范围内是相等的?