+关注 私聊
  • poorlittle

    第31楼2009/07/22

    很同意。

    若在电子天秤上秤得A重0.1234 g, “有效数字”一词会令人联想到1、2、3是准确数字, 4估算数字, 误差范围是±0.00005 g。 但现实往往不是这样。 若此天秤的不确定度是U=0.002 g (k=2), 则0.12 g 是准确的, 4是没意义的。 A的真值在0.121 g 至 0.125 g之间, 应报 A=0.123 g ± 0.002 g (k=2)。 但有时客户不明± 0.002 g (k=2), 还说别家秤至小数後4、5位, 准很多。

    calfstone 发表:3、如果以不确定度合成角度,运算过程都是在增加不确定度。解决问题的关键就是现在的趋势:报告结果+该结果的不确定度

0
    +关注 私聊
  • 魅力星光

    第32楼2009/07/27

    同意!
    我觉得还可以写<0.1

    jennysing 发表:仪器出的数据是0.1,公式运算如果是乘除法,结果的有效位数以公式中位数最少的为准,如果是加减法,以小数位数最少的为准。所以不管是那种情况,结果修约后也应该是一位有效数字,应该是0.01.
    还是跟另外一个帖子的解释一样,你的结果跟标准规定的数值的有效位数无关

0