回 帖 发 新 帖 刷新版面

主题:数据类型请教

各位老师,大家好。
我前面有个数组要占用很大内存,最近调整算法之后可以进行运算了,但是我还想再减小占用内存,大家帮忙看下下面方法行得通吗?

我所有的矩阵都定义为
COMPLEX*16
我想把这些矩阵定义为
COMPLEX*8
这样是不是占用的内存就少多了啊?或者只有原先的1/4,但是计算精度会不会差距很大啊。
如果我要求在10^(-9)内相等,可以这样修改吗?

谢谢啊!!

二者在多少精度范围内是相等的?

回复列表 (共2个回复)

沙发

因为矩阵都是复数矩阵,可以这样修改吗?
修改之后对数据影响有多大?

板凳

修改后达不到精度要求。

我来回复

您尚未登录,请登录后再回复。点此登录或注册