【求助】检测结果的有效位数问题

应助达人

在报告中报出的值应该是0.01。

报告中出具0.01的数据。

明白,谢谢!

仪器出的数据是0.1，公式运算如果是乘除法，结果的有效位数以公式中位数最少的为准，如果是加减法，以小数位数最少的为准。所以不管是那种情况，结果修约后也应该是一位有效数字，应该是0.01.
还是跟另外一个帖子的解释一样，你的结果跟标准规定的数值的有效位数无关

此处小数位数最少的为小数後1位, 即是 #.#格式。 (小数後2、3、4位的格式分别为 #.##, #.###, #.####)

换言之, 0.0更合适。

0.0都没有有效数字了哦。是不行的。所谓的加减法，以小数位数最少的为准是有效数字的修约法则，没有有效数字不在这个范围之内。

0.01是正解的

以下是量度某液体温度变化的记录:

时间 温度
2:00 -2.1
3:00 -1.5
4:00 0.0
5:00 1.8
6:00 3.2

3:00 4:00 时量度的温度没有有效数字吗?

= = = = = =

2.3 : 2位有效数字, 精确至小数後1位
1.121 : 4位有效数字, 精确至小数後3位
3.41 : 3位有效数字, 精确至小数後2位

(A)
计算(1) : 2.1 + 1.221 + 3.31 =4.531
应报 4.5, 即2位有效数字, 精确至小数後1位, 小数後2、3位的数字都是可舍之怀疑数字。

(B)
计算(2) : 2.1 + 1.221 - 3.31 =0.011
小数後2、3位的数字还是可舍之怀疑数字吗?
若是, 应报0.0
若不是, 为什么?

2,3位依然是可疑数字，这样的结果的确就是0.0。这样的加减运算在实际分析中出现的可能很小。