仪器信息网APP
选仪器、听讲座、看资讯

平行样修约问题

  • Insm_c56b28ac
    2020/07/13
  • 私聊

水质检测

  • 平行样计算先修约再计算,还是计算了在修约。例:结果保留三位有效数字,0.35561还是和0.35705,是修约到三位有效数字再计算平均值,还是计算平均值结果再修约。还有个问题如果平行样小数点后有很多数,如何取值,如0.315555....。
    +关注 私聊
  • 砂锅粥

    第1楼2020/07/13

    应助达人

    我认为是平行计算后再修约,不然很可能会修约2次。

    0.35561和0.35705=0.35561+0.35705=0.71266

    0.71266/2=0.35633

    修约得到0.356

    0.315555=0.316

0
    +关注 私聊
  • Insm_c56b28ac

    第2楼2020/07/13

    老师,这是修约之后在计算平均值吗?

    砂锅粥(czcht) 发表:0.35561=0.356
    0.35705=0.357
    0.315555=0.316

0
    +关注 私聊
  • 砂锅粥

    第3楼2020/07/13

    应助达人

    重新看我的回复,刚维护了一下。

    Insm_c56b28ac(Insm_c56b28ac) 发表: 老师,这是修约之后在计算平均值吗?

0
    +关注 私聊
  • Insm_c56b28ac

    第4楼2020/07/13

    老师,如果平行样的值是有很多位数,该如何取舍数值。有效数字三个,0.3155555...和0.31666666.....,如何取值计算平均值

    砂锅粥(czcht) 发表:我认为是平行计算后再修约,不然很可能会修约2次。

    0.35561和0.35705=0.35561+0.35705=0.71266

    0.71266/2=0.35633

    修约得到0.356

    0.315555=0.316

0
    +关注 私聊
  • 老兵

    第5楼2020/07/13

    应助达人

    平行样计算先修约再计算或是计算了在修约均是可以的,只是需注意平行样先修约再计算时的录入数字修约必须比最终要求上报的数字多取一位,在计算得到的平均值时再按最终要求上报的数字取舍,这样可以减少小数位数较多时的录入工作量。

1
    +关注 私聊
  • Insm_c56b28ac

    第6楼2020/07/13

    谢谢老兵老师!

    老兵(wangliqian) 发表:平行样计算先修约再计算或是计算了在修约均是可以的,只是需注意平行样先修约再计算时的录入数字修约必须比最终要求上报的数字多取一位,在计算得到的平均值时再按最终要求上报的数字取舍,这样可以减少小数位数较多时的录入工作量。

0
    +关注 私聊
  • 未来工程师

    第7楼2020/07/13

    应助达人

    都可以,比最终结果多1至2位,都可以保证不出现误差

0
    +关注 私聊
  • 砂锅粥

    第8楼2020/07/13

    应助达人

    位数可以设少一点,这个软件里面应该是可以设置的。比如你要保留小数点后3位,那就设置平行样小数点后5位就好了。

    Insm_c56b28ac(Insm_c56b28ac) 发表: 老师,如果平行样的值是有很多位数,该如何取舍数值。有效数字三个,0.3155555...和0.31666666.....,如何取值计算平均值

0
    +关注 私聊
  • 那片雪

    第9楼2020/07/14

    应助达人

    我都是比要求多保留一位有效数字,计算,最后再修约到要求的位数。HJ91.1-都有相关规定,楼主可以看看!

0
    +关注 私聊
  • Insm_c56b28ac

    第10楼2020/07/14

    好的,谢谢老师

    那片雪(hanxueyixiao) 发表:我都是比要求多保留一位有效数字,计算,最后再修约到要求的位数。HJ91.1-都有相关规定,楼主可以看看!

0
查看更多
猜你喜欢最新推荐热门推荐更多推荐
举报帖子

执行举报

点赞用户
好友列表
加载中...
正在为您切换请稍后...