仪器信息网APP
选仪器、听讲座、看资讯

大家做曲线的时候,一般斜率和截距都保存几位小数

水质检测

  • 如题所示,,主要是水质分析
    +关注 私聊
  • 123

    第1楼2022/09/01

    应助达人

    截距和斜率可比最终检测结果要求的3位有效数字数多取一位

0
    +关注 私聊
  • wuyuzegang

    第2楼2022/09/01

    应助达人

    参考标准HJ 630,其他行业参考使用。
    1.相关系数r保留的有效数字
    校准曲线相关系数只舍不入,保留到小数点后第一个非9数字。如果小数点后多于4个9,最多保留4位。
    2.校准曲线斜率的有效位数
    校准曲线斜率的有效位数,应与自变量的有效数字位数相等。
    3.校准曲线截距的有效位数


    校准曲线截距的最后一位数,应与因变量的最后一位数取齐。

    水质分析中上报结果一般是3位有效数字,考虑到斜率是参与结果计算的参数,因此按可多取一位的修约规则,斜率取4位有效数字为宜;而截距在后续结果计算中属加减运算,因此截距按小数比吸光度多取1位,最多保留到小数点后第4位即可。

0
    +关注 私聊
  • JOE HUI

    第3楼2022/09/01

    应助达人

    其实GB5750.3-2006 8.2.7项有规定:
    校准曲线相关系数只舍不入,保留到小数点后出现非9的一位,如0.99989→0.9998。如果小数点后都是9时,最多保留小数点后4位。所以曲线斜率r的平方就是曲线相关系数,最多保留小数点后四位,截距你可以跟斜率保持一致,最多保留四位可以

0
    +关注 私聊
  • oscar_2007

    第4楼2022/09/01

    应助达人

    答案:
    1.做曲线的时候,一般斜率和截距都保存4位小数。
    2.根据标准GB5750.3-2006《生活饮用水标准检验方法 水质分析质量控制》中 8.2.7项有规定:校准曲线相关系数只舍不入,保留小数点后4位,如0.99989→0.9998。截距可以跟斜率保持一致,保留小数点后四位有效数据。

0
    +关注 私聊
  • lsy268

    第5楼2022/09/02

    HJ91.1-2019和HJ630-2011都有这方面的要求

0
    +关注 私聊
  • ztyzb

    第6楼2022/09/02

    应助达人

    引自HJ 91.1-2019
    楼主,生态环境监测领域标曲斜率截距位数保留原则如上图,斜率b有效位数和横坐标即浓度有效位数相等或多一位,楼主看环保分析标准一般就能发现横坐标不管是以质量还是浓度都是XX.X、X.XX的样式即有三个数存在的情况居多,所以建议斜率保留三位或四位有效数字;截距a和吸光值最后一位取齐,一般吸光值是小数点后三位或者四位,所以截距一般保留到小数点后三位到四位或四位到五位,根据贵单位光度计来选择。个人比较推荐斜率保留三位有效数字,截距保留到小数点后第三位。

1
    +关注 私聊
  • wazcq

    第7楼2022/09/02

    应助达人

    如果是 斜率很大(比如色谱峰面积) 个人习惯取整数

0
猜你喜欢最新推荐热门推荐更多推荐
举报帖子

执行举报

点赞用户
好友列表
加载中...
正在为您切换请稍后...