博文
MATLAB双精度向下取整问题
|
MATLAB中在使用floor函数的时候会遇到双精度向下取整要比实际数值小 1 的问题。比如双精度的a=49.9/0.1, 如果使用floor（a），那么得到的结果是498，这时如果使用floor（single（a））则可以成功得到499.不知道为什么。
IDL也有类似问题。
https://wap.sciencenet.cn/blog-767575-1014743.html
上一篇：ultraedit宏&不打开文件替换字符&删除文件多余空行
|
MATLAB中在使用floor函数的时候会遇到双精度向下取整要比实际数值小 1 的问题。比如双精度的a=49.9/0.1, 如果使用floor（a），那么得到的结果是498，这时如果使用floor（single（a））则可以成功得到499.不知道为什么。
IDL也有类似问题。
Archiver|手机版|科学网 ( 京ICP备07017567号-12 )
GMT+8, 2024-4-18 11:50
Powered by ScienceNet.cn
Copyright © 2007- 中国科学报社
