仪器信息网APP
选仪器、听讲座、看资讯

【讨论】有效数字的保留

  • 立静致远
    2008/08/21
  • 私聊

数据处理

  • 统计原理上有这样的描述
    近似测量值进行加减运算时,所得结果应进行舍入运算,使其与最底精密度(自然科学中定义)的测量值具有相同的精密度水平;进行乘除运算时,所得结果也应进行舍入运算,使其与最地准确度(自然科学中的定义)的测量值具有相同的准确度水平。
    因此有如下例子
    7.123kg+8.9kg=16.023kg,并舍入到16.0kg
    72kg*0.01kg=0.72kg^2,并舍入到0.7kg^2

    疑问,不明白为什么不是1kg^2
    +关注 私聊
  • 立静致远

    第1楼2008/08/21

    在自然科学中,测量的准确度水平是用测量值的有效数字的个数表示的,而测量精密度水平则是由最小测量单位的大小确定的。如4.32cm,43.2cm,432cm都有三个有效数字,所以他们都是在相同的准确水平下测量的。而432.3mg,43.2mg和4.3mg都精确到0.1mg,所以他们都是相同的精密水平下测量。

0
    +关注 私聊
  • youjian000

    第2楼2008/08/21

    看了这个解释,有点明白了。

    christe 发表:在自然科学中,测量的准确度水平是用测量值的有效数字的个数表示的,而测量精密度水平则是由最小测量单位的大小确定的。如4.32cm,43.2cm,432cm都有三个有效数字,所以他们都是在相同的准确水平下测量的。而432.3mg,43.2mg和4.3mg都精确到0.1mg,所以他们都是相同的精密水平下测量。

0
    +关注 私聊
  • box

    第3楼2008/08/22

    哦,明白了
    以前也问过很多人,现在终于有个概念了,多谢

    christe 发表:在自然科学中,测量的准确度水平是用测量值的有效数字的个数表示的,而测量精密度水平则是由最小测量单位的大小确定的。如4.32cm,43.2cm,432cm都有三个有效数字,所以他们都是在相同的准确水平下测量的。而432.3mg,43.2mg和4.3mg都精确到0.1mg,所以他们都是相同的精密水平下测量。

0
    +关注 私聊
  • liu999999

    第4楼2008/08/22

    遵循有效数字的运算规则即可以了。

0
    +关注 私聊
  • calfstone

    第5楼2008/08/22

    有效数字的运算规则也根植于误差的传播律:
    1、在加减法运算中,保留有效数字的以小数点后位数最小的为准,即以绝对误差最大的为准。
    2、乘除运算中,保留有效数字的位数以位数最少的数为准,即以相对误差最大的为准。
    0.72kg^2的计算结果须按0.01kg(一位有效数字,相对误差E%=(±0.01)/0.01×100=±100)的有效数字取舍,所以是0.7kg^2。
    而72kg的相对误差E%=(±1)/72×100=±1.39。虽然1kg^2也是一位有效数字,但从0.72kg^2开始修约的话应该是0.7kg^2。

    christe 发表:统计原理上有这样的描述
    近似测量值进行加减运算时,所得结果应进行舍入运算,使其与最底精密度(自然科学中定义)的测量值具有相同的精密度水平;进行乘除运算时,所得结果也应进行舍入运算,使其与最地准确度(自然科学中的定义)的测量值具有相同的准确度水平。
    因此有如下例子
    7.123kg+8.9kg=16.023kg,并舍入到16.0kg
    72kg*0.01kg=0.72kg^2,并舍入到0.7kg^2

    疑问,不明白为什么不是1kg^2

0
    +关注 私聊
  • 第6楼2008/08/22

    因为,0.7已经是从0.72四舍五入约过了。不要连续约2次!

    另,kg^2是个什么概念的单位?我完全不懂啊!还是仅仅是为了教学举例用的?

    christe 发表:72kg*0.01kg=0.72kg^2,并舍入到0.7kg^2

    疑问,不明白为什么不是1kg^2

0
    +关注 私聊
  • youjian000

    第7楼2008/08/22

    请问:你的说法与一楼的说法是统一的吗?

    calfstone 发表:2、乘除运算中,保留有效数字的位数以位数最少的数为准,即以相对误差最大的为准。
    0.72kg^2的计算结果须按0.01kg(一位有效数字,相对误差E%=(±0.01)/0.01×100=±100)的有效数字取舍,所以是0.7kg^2。
    而72kg的相对误差E%=(±1)/72×100=±1.39。虽然1kg^2也是一位有效数字,但从0.72kg^2开始修约的话应该是0.7kg^2。

0
    +关注 私聊
  • calfstone

    第8楼2008/08/23

    我的回答一来是想说明为什么是1kg^2.二来是想解释下有效数字的运算规则的本质,跟一楼的说法本质上一样.

0
0
    +关注 私聊
  • 立静致远

    第10楼2008/08/23

    另,kg^2是个什么概念的单位?我完全不懂啊!还是仅仅是为了教学举例用的?[/quote]
    kg^2是指kg的平方

0
查看更多
猜你喜欢最新推荐热门推荐更多推荐
举报帖子

执行举报

点赞用户
好友列表
加载中...
正在为您切换请稍后...