calfstone
第5楼2008/08/22
有效数字的运算规则也根植于误差的传播律:
1、在加减法运算中,保留有效数字的以小数点后位数最小的为准,即以绝对误差最大的为准。
2、乘除运算中,保留有效数字的位数以位数最少的数为准,即以相对误差最大的为准。
0.72kg^2的计算结果须按0.01kg(一位有效数字,相对误差E%=(±0.01)/0.01×100=±100)的有效数字取舍,所以是0.7kg^2。
而72kg的相对误差E%=(±1)/72×100=±1.39。虽然1kg^2也是一位有效数字,但从0.72kg^2开始修约的话应该是0.7kg^2。