主题：矩阵求逆的子程序里数据溢出，求高手指点，急急急！！！！！！！！！！！
493508923@qq,com
[专家分：0] 发布于 2012-08-21 22:46:00
我编写了一个阻尼最小二乘法模拟波速的程序，迭代了四次显示数据溢出了，经查看发现数据溢出发生在矩阵求逆的子程序处，被求逆的矩阵是36*36的矩阵，矩阵中的大多数元素都是-11次方左右的数量级，请高手帮忙分析下这种溢出问题该怎么解决。急急急
您所在位置：社区首页 — Fortran讨论区 — 矩阵求逆的子程序里数据溢出，求高手指点，急急急！！！！！！！！！！！
493508923@qq,com
[专家分：0] 发布于 2012-08-21 22:46:00
我编写了一个阻尼最小二乘法模拟波速的程序，迭代了四次显示数据溢出了，经查看发现数据溢出发生在矩阵求逆的子程序处，被求逆的矩阵是36*36的矩阵，矩阵中的大多数元素都是-11次方左右的数量级，请高手帮忙分析下这种溢出问题该怎么解决。急急急
沙发
mikkozhang [专家分：10] 发布于 2012-08-26 19:11:00
3 楼
idealguy [专家分：110] 发布于 2012-09-02 20:41:00
您尚未登录，请登录后再回复。点此登录或注册