+关注 私聊

  • 123edr

    第11楼2020/05/17

    有更新，求助，我怕了我那家机构了

    sdlzkw007(sdlzkw007) 发表:不管怎么算，最后结果都应该是0.020，不会是0.021 4舍6入5成双。

0
    +关注 私聊

  • 123edr

    第12楼2020/05/17

    哪里错了？

    仪器小(Ins_09b307ba) 发表:是不是搞错了

0
    +关注 私聊

  • zyl3367898

    第13楼2020/05/17

    应助达人

    更新后的后一种计算方法是对的，《1时保留3位有效数字，要按NY761的规定来做，不能按设备读数来做，有方法要求的一定按方法规定的保留位数来做，这时与设备读数无关。

0
    +关注 私聊

  • 轩轩

    第14楼2020/05/17

    这个问题我们平时也会遇到，求专家解答。

0
    +关注 私聊

  • 123edr

    第15楼2020/05/17

    上面有个地方我写错了，改成"＞1的保留3位有效，≤1的保留2位有效",不好意思

    zyl3367898(zyl3367898) 发表:更新后的后一种计算方法是对的，《1时保留3位有效数字，要按NY761的规定来做，不能按设备读数来做，有方法要求的一定按方法规定的保留位数来做，这时与设备读数无关。

0
    +关注 私聊

  • 123edr

    第16楼2020/05/17

    我觉得，一般设备的读数应该由设备的精度来决定,。例如：气相给出的值为0.150756，那么设备读数就是0.150756，类似与读分析天平的读数一样。

    可以人为地设置设备读数给出的精度，比如调整气相的读数显示为保留小数点后4位。

    但是不能讲：“当设备读数＞1时，设备读数的精度应该保留至3位，，当设备读数≤1时，设备精度应该保留至2位”

    zyl3367898(zyl3367898) 发表:更新后的后一种计算方法是对的，《1时保留3位有效数字，要按NY761的规定来做，不能按设备读数来做，有方法要求的一定按方法规定的保留位数来做，这时与设备读数无关。

0
    +关注 私聊

  • 我是风儿

    第17楼2020/05/18

    应助达人

    问：机构的要求“当标准要求结果保留2位有效数字时，设备的读数要求比结果保留多一位，但不修约”合理吗？：我认为第三方的机构是合理的

0
    +关注 私聊

  • zyl3367898

    第18楼2020/05/18

    应助达人

    这一条是哪个标准里规定的？

0
    +关注 私聊

  • 123edr

    第19楼2020/05/19

    如果是这样，那为什么要把设备读数3位有效数字后面的其它读数都舍去呢？它们都是精确值呀

    哪条依据支持第三方机构合理？

    我是风儿(nphfm2009) 发表:问：机构的要求“当标准要求结果保留2位有效数字时，设备的读数要求比结果保留多一位，但不修约”合理吗？：我认为第三方的机构是合理的

0
    +关注 私聊

  • 123edr

    第20楼2020/05/19

    标准没有规定，那是机构规定的，我认为机构舍弃设备读数值这一项就不合理，舍弃的那部分数字对于设备来说本身就是精确值

    zyl3367898(zyl3367898) 发表:这一条是哪个标准里规定的？

0
查看更多