仪器信息网APP
选仪器、听讲座、看资讯

原始记录问题

  • Ins_f8781a96
    2023/08/26
  • 私聊

水质检测

  • 做理化实验写原始记录时,相对偏差和相对误差用公式算和直接算不一样的结果,用公式算的话选中的单元格会有好几位小数,直接按照原始记录上体现出的小数位数算的话会有不一样的结果,应该按照那个方法算?
    +关注 私聊
  • 等一个晴天

    第1楼2023/08/26

    应助达人

    计算结果可以多保留一位,报告值要修约到与标准规定一致的位数

0
    +关注 私聊
  • JOE HUI

    第2楼2023/08/26

    应助达人

    楼主,按照测试方法要求来,若方法有规定比如修约后保留小数点后2位,那么按照要求执行,否则都需要依据数据修约可参考GB/T 8170-2008(数值修约规则与极限数值的表示和判定)

0
    +关注 私聊
  • qq250083771

    第3楼2023/08/26

    应助达人

    HJ 168有要求的

0
    +关注 私聊
  • ztyzb

    第4楼2023/08/27

    应助达人

    做理化实验写原始记录时,相对偏差和相对误差用公式算和直接算不一样的结果,用公式算的话选中的单元格会有好几位小数,直接按照原始记录上体现出的小数位数算的话会有不一样的结果,应该按照那个方法算?
    楼主,这是典型的excel公式套公式的问题,需要避免,应该按照最终报出结果计算。
    举个例子:HJ 535-2009测氨氮,检出限是0.025mg/L,假如平行样报出结果是A:0.240mg/L;B:0.245mg/L,但是您用excel实际结果可能是A:0.24000286mg/L;B:0.2449685mg/L,如果您直接用excel套公式的话实际上是A:0.24000286mg/L;B:0.2449685mg/L参与了计算,和报出结果是A:0.240mg/L;B:0.245mg/L计算结果不同,应该按照最终报出的结果报出。个人一般在工作中用文本文档复制一下解决这个问题

1
    +关注 私聊
  • Ins_de3ac1bd

    第5楼2024/01/17

    对于例子里面这个问题,我一般都是在EXCEL中加一列设置四舍六入五单双的公式,先把计算结果与报出结果一致了再计算偏差

    ztyzb(zxz19900120) 发表:做理化实验写原始记录时,相对偏差和相对误差用公式算和直接算不一样的结果,用公式算的话选中的单元格会有好几位小数,直接按照原始记录上体现出的小数位数算的话会有不一样的结果,应该按照那个方法算?
    楼主,这是典型的excel公式套公式的问题,需要避免,应该按照最终报出结果计算。
    举个例子:HJ 535-2009测氨氮,检出限是0.025mg/L,假如平行样报出结果是A:0.240mg/L;B:0.245mg/L,但是您用excel实际结果可能是A:0.24000286mg/L;B:0.2449685mg/L,如果您直接用excel套公式的话实际上是A:0.24000286mg/L;B:0.2449685mg/L参与了计算,和报出结果是A:0.240mg/L;B:0.245mg/L计算结果不同,应该按照最终报出的结果报出。个人一般在工作中用文本文档复制一下解决这个问题

0
    +关注 私聊
  • ztyzb

    第6楼2024/01/17

    应助达人

    谢谢支持

    Ins_de3ac1bd(Ins_de3ac1bd) 发表: 对于例子里面这个问题,我一般都是在EXCEL中加一列设置四舍六入五单双的公式,先把计算结果与报出结果一致了再计算偏差

0
猜你喜欢最新推荐热门推荐更多推荐
举报帖子

执行举报

点赞用户
好友列表
加载中...
正在为您切换请稍后...