10000.2与10000.20000的意义相同吗

张学文，2024 10 26

最近在核定一个统计表格上的数据。其合计值应当是各个分量代数和。但是各个分量的小数点位数不同。它们相加以后小数点前面的数值不小，而小数点后面的数据也是好几位。这导致合计值的数据的位数增加了。

于是我形成了疑问：

如数据1是100，数据2是0.001

它们相加从表面上看应当=1.001，可从数字的有效性看，相加以后的数据的有效位数增加了。这从测量精度的角度看我觉得是不合理的。

我觉得10000.2与10000.20000的意义（精度）是不相同！

不知道各位如何看待这个问题。

特此请教

转载本文请联系原作者获取授权，同时请注明本文来自张学文科学网博客。

链接地址：https://wap.sciencenet.cn/blog-2024-1457067.html?mobile=1

收藏

分享