IDL数据类型错误
2019-2-26 10:03
阅读:7566
标签:IDL
遇到了IDL的数据类型使用错误导致程序报错,以此来记录一下 以防下次再出错。注:下面的博文为转载其他地方(附上网页链接)http://blog.sina.com.cn/s/blog_95882f710102x7ec.html
有时idl在运算过程中会出现
1、 %Program caused arithmetic error: Floating overflow:因为浮点溢出,使用!except=2 可以检测错误的所在,之后检查数据类型,将float改为double解决.
2、%Program caused arithmetic error: Floating illegal operand :可能由于浮点数太小,四舍五入后为0,并且做了除法导致,也可能是在无格式的二进制数据中混用了float和double 导致。
3、% Program caused arithmetic error: Floating divide by 0:遇到了0做分母的情况,导致inf
对于数据类型精度的描述,请参考上述网页。
转载本文请联系原作者获取授权,同时请注明本文来自肖雄新科学网博客。
链接地址:https://wap.sciencenet.cn/blog-1109904-1164289.html?mobile=1
收藏
当前推荐数:0
推荐到博客首页
网友评论0 条评论