+关注 私聊

  • sharkwein

    第11楼2009/07/13

    按照数字修约好像是不确定度最大的为准出发，0.0是结果，但是不合理，建议使用0.01

    poorlittle 发表:以下是量度某液体温度变化的记录:

    时间 温度
    2:00 -2.1
    3:00 -1.5
    4:00 0.0
    5:00 1.8
    6:00 3.2

    3:00 4:00 时量度的温度没有有效数字吗?

    = = = = = =

    2.3 : 2位有效数字, 精确至小数後1位
    1.121 : 4位有效数字, 精确至小数後3位
    3.41 : 3位有效数字, 精确至小数後2位

    (A)
    计算(1) : 2.1 + 1.221 + 3.31 =4.531
    应报 4.5, 即2位有效数字, 精确至小数後1位, 小数後2、3位的数字都是可舍之怀疑数字。

    (B)
    计算(2) : 2.1 + 1.221 - 3.31 =0.011
    小数後2、3位的数字还是可舍之怀疑数字吗?
    若是, 应报0.0
    若不是, 为什么?

0
    +关注 私聊

  • pfz1985

    第12楼2009/07/13

    能不能把公式写出来，一头雾水

0
    +关注 私聊

  • 孤独走过

    第13楼2009/07/13

    0.01不会有错的

0
    +关注 私聊

  • 王者归来

    第14楼2009/07/13

    说的很对，0.01

    jennysing 发表:仪器出的数据是0.1，公式运算如果是乘除法，结果的有效位数以公式中位数最少的为准，如果是加减法，以小数位数最少的为准。所以不管是那种情况，结果修约后也应该是一位有效数字，应该是0.01.
    还是跟另外一个帖子的解释一样，你的结果跟标准规定的数值的有效位数无关

0
    +关注 私聊

  • xianxin

    第15楼2009/07/13

    1、根据具体的分析要求，如果样品含量低而分析方法的检出限不够的话，可以报未检出，但分析报告是不允许报零的；
    2、从有效数字的修约规则和实际应用而言，应该报0.01合适。

    cynthiaian 发表:测量仪器出的数据是0.1，经过公式运算后，结果为0.0125，而标准≦0.8，想问一下，在报告中报出的值应该是0.01? 0.0? 还是未检出?

0
    +关注 私聊

  • roland2008

    第16楼2009/07/13

    数值相加减时，结果保留小数点后位数应与小数点后位数最少者相同（绝对误差最大）
    0.0121+12.56+7.8432=0.01+12.56+7.84=20.41
    4位 2位 4位 2位
    数值相乘除时，结果保留位数应与有效数字位数最少者相同。（相对误差最大），
    (0.0142×24.43×305.84)/28.7=
    3位 4位 5位 3位
    (0.0142×24.4×306) /28.7=3.69
    3位

0
    +关注 私聊

  • jennysing

    第17楼2009/07/13

    这是怎么回事？为何划掉?呵呵，笔误？

    sharkwein 发表:按照数字修约好像是不确定度最大的为准出发，0.0是结果，但是不合理，建议使用0.01

0
    +关注 私聊

  • poorlittle

    第18楼2009/07/13

    sharkwein老师所说的不确定度有其道理, 有效数字的确与不确定度、重复性之类的东西有关。

    假设不确定度低至可忽略的话, 有效数字可单从误差理论方面入手。 简单来说, 2.1的误差范围是±0.05, 同理, 0.01 和0.011的误差范围分别是±0.005和±0.0005。

    请想想, 一个测定值2.1, 其误差范围是±0.05, 经过加减後, 其运算值若是0.01 (或0.011)的话, 其误差范围则大幅减小到十份之一(±0.005), 甚至百份之一, 合理吗?

    午饭时间已过, 晚上再讨论。

    sharkwein 发表:按照数字修约好像是不确定度最大的为准出发，0.0是结果，但是不合理，建议使用0.01

0
    +关注 私聊

  • cxr7521

    第19楼2009/07/13

    按进舍原则0.1以上的出数据，0.1以下的写符合规定。

    cynthiaian 发表:测量仪器出的数据是0.1，经过公式运算后，结果为0.0125，而标准≦0.8，想问一下，在报告中报出的值应该是0.01? 0.0? 还是未检出?

0
    +关注 私聊

  • jennysing

    第20楼2009/07/13

    赞同你用误差的方式来解释有效数字。所以你举的例子按照这个理论来计算结果的确是0.0.
    sharkwein老师的意思恐怕不局限于误差，就好像一般的测定结果可以多一位小数一样。

    poorlittle 发表:sharkwein老师所说的不确定度有其道理, 有效数字的确与不确定度、重复性之类的东西有关。

    假设不确定度低至可忽略的话, 有效数字可单从误差理论方面入手。 简单来说, 2.1的误差范围是±0.05, 同理, 0.01 和0.011的误差范围分别是±0.005和±0.0005。

    请想想, 一个测定值2.1, 其误差范围是±0.05, 经过加减後, 其运算值若是0.01 (或0.011)的话, 其误差范围则大幅减小到十份之一(±0.005), 甚至百份之一, 合理吗?

    午饭时间已过, 晚上再讨论。

0
查看更多