仪器信息网APP
选仪器、听讲座、看资讯

标准曲线的相关系数的有效数字保留

  • Ins_9e2c807a
    2022/09/20
  • 私聊

原子吸收光谱(AAS)

  • GB5750.3-2006中的8.2.7项规定:校准曲线相关系数只舍不入,保留到小数点后出现非9的一位,如0.99989→0.9998。但这是生活饮用水中的检测要求,在GB8170-2008数值修约标准中没看到明确要求,请问其他的检测如粮食作物标曲相关系数也是只舍不入吗,谢谢
    +关注 私聊
  • 123

    第1楼2022/09/21

    应助达人

    线性相关系数3个9及以上就可以了

0
    +关注 私聊
  • JOE HUI

    第2楼2022/09/21

    应助达人

    是的,相关系数只舍不入 ,线性回归方程的相关系数不应低于0.98,对于确证方法,相关系数不应低于0.99。

    其实,大于0.99是判断是否为线性相关的一个标准,实际应用中线性大于0.999才是比较理想的。线性在0.99到0.999之间的监测结果只用接近最高浓度一半(中间浓度)的位置才比较准确,如果线性大于0.999的话,在整个线性范围内都会有一个比较满意的结果。

0
    +关注 私聊
  • ztyzb

    第3楼2022/09/21

    应助达人


    楼主,环保检测领域也是如此规定的,相关系数只舍不入,如上图HJ 630-2011《环境监测质量管理技术导则》。如果楼主所从事行业没明确规定可以参考其他行业的

0
    +关注 私聊
  • Ins_9e2c807a

    第4楼2022/09/21

    好的,谢谢

    JOE HUI(xurunjiao5339)发表:是的,相关系数只舍不入 ,线性回归方程的相关系数不应低于0.98,对于确证方法,相关系数不应低于0.99。

    其实,大于0.99是判断是否为线性相关的一个标准,实际应用中线性大于0.999才是比较理想的。线性在0.99到0.999之间的监测结果只用接近最高浓度一半(中间浓度)的位置才比较准确,如果线性大于0.999的话,在整个线性范围内都会有一个比较满意的结果。

0
    +关注 私聊
  • Ins_9e2c807a

    第5楼2022/09/21

    谢谢了

    ztyzb(zxz19900120)发表:
    楼主,环保检测领域也是如此规定的,相关系数只舍不入,如上图HJ 630-2011《环境监测质量管理技术导则》。如果楼主所从事行业没明确规定可以参考其他行业的

0
举报帖子

执行举报

点赞用户
好友列表
加载中...
正在为您切换请稍后...