仪器信息网APP
选仪器、听讲座、看资讯

仪器做的标曲与用EXCEL自做的有差别

原子吸收光谱(AAS)

  • 如题。最近发现仪器做的标曲跟自己在EXCEL上做出来的标曲有所差别,不知是怎么回事?难道用最小二乘法做出来的标曲还会不一样?看来两者不是用同样的方法。哪位老师为我们解释一下好吗?
    在下图中,仪器做出来的标曲方程:A=0.00197-0.00044,而EXCEL做的标曲方程:y=0.00189x+0.00274,斜率和截距都有差别。呃,这两者是同一组数据做出来的这一点是肯定的

    图1 仪器系统做的标曲 斜率:0.00197 截距:-0.00044



    图2 EXCEL做的标曲 斜率:0.00189 截距:0.00274

    +关注 私聊
  • 活到九十 学到一百

    第1楼2016/12/13

    这是因为曲线在拟合过程中部分设置不同造成的,比如是否强制过原点等。

0
    +关注 私聊
  • 冰山

    第2楼2016/12/13

    应助达人

    没有,两者都不是强制过零点。仪器选的是“线性 截距”,EXCEL选的是“线性”,不选“设置截距”

    活到九十 学到一百(wangboxzzjs) 发表:这是因为曲线在拟合过程中部分设置不同造成的,比如是否强制过原点等。

1
    +关注 私聊
  • lumalone

    第3楼2016/12/14

    LZ可以看看是不是设置的小数点位数不同,仪器默认的小数点位数是可以修改的,像A家的液相在校正里就可以修改,它显示出来的是4位小数,实际带入线性的是6位小数

1
    +关注 私聊
  • skytoboo

    第4楼2016/12/14

    应助达人

    不仅仅是GFS ,ICP-MS 也是如此,目前发现一样的只有国产的 原子荧光和EXCEL 计算是一样的。
    细微之处见实力,估计这就是进口和国产的区别。
    以前我在MS板块也和他们说了一下,他们也不服。 MS用EXCLE计算是996 仪器显示999.

1
    +关注 私聊
  • 冰山

    第5楼2016/12/14

    应助达人

    有道理,不过我在EXCEL上做标曲时,Abs的小数位数跟仪器上是一样的,大约在15一18位

    lumalone(v3130012)发表:LZ可以看看是不是设置的小数点位数不同,仪器默认的小数点位数是可以修改的,像A家的液相在校正里就可以修改,它显示出来的是4位小数,实际带入线性的是6位小数

0
    +关注 私聊
  • jack510070

    第6楼2016/12/14

    这是截断误差引起的,原子吸收信号(吸光值)只有0.0XX时,最末位误差可以有1%,多点误差累积就会产生统计结果的偏差,尤其是越接近零点的实验点数据对斜率的影响越大,而这些点又是截断误差最大的点。如果你想有效数值位第3位是精确的,你就必须看得到数据有效位的第4位。

0
    +关注 私聊
  • 冰山

    第7楼2016/12/14

    应助达人

    老师,我冤。您看这小数位数也取了不老少啊!

    jack510070(jack510070)发表:这是截断误差引起的,原子吸收信号(吸光值)只有0.0XX时,最末位误差可以有1%,多点误差累积就会产生统计结果的偏差,尤其是越接近零点的实验点数据对斜率的影响越大,而这些点又是截断误差最大的点。如果你想有效数值位第3位是精确的,你就必须看得到数据有效位的第4位。

0
猜你喜欢最新推荐热门推荐更多推荐
举报帖子

执行举报

点赞用户
好友列表
加载中...
正在为您切换请稍后...