肖雄新
IDL数据类型错误
2019-2-26 10:03
阅读:7096
标签:IDL

遇到了IDL的数据类型使用错误导致程序报错,以此来记录一下 以防下次再出错。注:下面的博文为转载其他地方(附上网页链接)http://blog.sina.com.cn/s/blog_95882f710102x7ec.html


有时idl在运算过程中会出现

1、 %Program caused arithmetic error: Floating overflow:因为浮点溢出,使用!except=2 可以检测错误的所在,之后检查数据类型,将float改为double解决.

 2、%Program caused arithmetic error: Floating illegal operand :可能由于浮点数太小,四舍五入后为0,并且做了除法导致,也可能是在无格式的二进制数据中混用了float和double 导致。

3、% Program caused arithmetic error: Floating divide by 0:遇到了0做分母的情况,导致inf


对于数据类型精度的描述,请参考上述网页。



转载本文请联系原作者获取授权,同时请注明本文来自肖雄新科学网博客。

链接地址:https://wap.sciencenet.cn/blog-1109904-1164289.html?mobile=1

收藏

分享到:

当前推荐数:0
推荐到博客首页
网友评论0 条评论
确定删除指定的回复吗?
确定删除本博文吗?