主题：请问长达18位的浮点数进行计算,如何确保精度谢谢
逍遥仙君
[专家分：10] 发布于 2008-06-04 23:25:00
请问长达18位的浮点数进行计算,如何确保精度
谢谢!
回复列表 （共2个回复）
沙发
Greg_han [专家分：50] 发布于 2008-06-06 09:20:00
可以乘以N个10。
在除以M个10。
这样就可以控制你想要的精度了！
板凳
小令00 [专家分：1040] 发布于 2009-04-15 07:58:00
[quote]可以乘以N个10。
在除以M个10。
这样就可以控制你想要的精度了！[/quote]
不可能吧
我来回复
您所在位置：