博文
10000.2与10000.20000的意义相同吗
||
10000.2与10000.20000的意义相同吗
张学文，2024 10 26
最近在核定一个统计表格上的数据。其合计值应当是各个分量代数和。但是各个分量的小数点位数不同。它们相加以后小数点前面的数值不小，而小数点后面的数据也是好几位。这导致合计值的数据的位数增加了。
于是我形成了疑问：
如数据1是100，数据2是0.001
它们相加从表面上看应当=1.001，可从数字的有效性看，相加以后的数据的有效位数增加了。这从测量精度的角度看我觉得是不合理的。
我觉得10000.2与10000.20000的意义（精度）是不相同！
不知道各位如何看待这个问题。
特此请教
https://wap.sciencenet.cn/blog-2024-1457067.html
上一篇：随机变量的反义词是什么？
下一篇：测量学、有效数字应当属于量学？！
扫一扫，分享此博文
全部作者的精选博文
- • 漫话空中水
- • 大规模调水对降水的影响的旁例分析
- • 感谢许局长为我的书写了序言
- • 乌鲁木齐地震了！
- • 悼丁裕国教授!
- • 我的同学因为天气预报错误而判刑！