仪器信息网APP
选仪器、听讲座、看资讯

【讨论】标准曲线计算中保留位数??

  • zjchen3189
    2009/09/09
  • 私聊

水质检测

  • 标准曲线计算中保留位数应该保留几位?
    我们配置了一条氨氮标准曲线,
    计算曲线:保留三位小数是:Y=0.004X-0.009 r=0.9998 回归方程1
    计算曲线:保留四位小数是:Y=0.0036X-0.0087 r=0.9998 回归方程2
    样品的吸光度是0.146 空白吸光度是0.017
    经计算: 回归方程1 计算结果是0.69
    经计算: 回归方程2 计算结果是0.74
    我到底应该用哪个回归方程计算结果???
    请大家讨论!!!
    +关注 私聊
  • chemistryren

    第1楼2009/09/09

    斜率的保留位数应该比吸光度位数最多多一位,。比如吸光度是0.00X的。那么斜率最多可到小数点4位。截距与斜率位数一致/

0
    +关注 私聊
  • zjchen3189

    第2楼2009/09/10

    依据是什么呀?!

    chemistryren 发表:斜率的保留位数应该比吸光度位数最多多一位,。比如吸光度是0.00X的。那么斜率最多可到小数点4位。截距与斜率位数一致/

0
    +关注 私聊
  • 东方逸

    第3楼2009/09/10

    结果差别很小啊

0
    +关注 私聊
  • 太白金星

    第4楼2009/09/10

    源于数理统计计算原则。基本常识。

    zjchen3189 发表:依据是什么呀?!

0
0
0
    +关注 私聊
  • ldgfive

    第7楼2009/09/14

    应助工程师

    我们也是这样留的,这样取值比较准,误差小

    chemistryren 发表:斜率的保留位数应该比吸光度位数最多多一位,。比如吸光度是0.00X的。那么斜率最多可到小数点4位。截距与斜率位数一致/

0
    +关注 私聊
  • zhang3006

    第8楼2009/09/28

    我也一直在找这个答案,现在有了结果了,谢谢了!

0
    +关注 私聊
  • s20082087

    第9楼2009/10/03

    请楼主不要抓住这么点误差不放,标准曲线本来就是有误差的,要深究的话再往下保留一位那又是不一样了!一般情况就取斜率和截距的有效位数和你的X值一样就行!

0
    +关注 私聊
  • 简单

    第10楼2009/10/03

    平时就是将吸光度的直接用EXCEL做图,回归曲线就直接显示了。
    没有考虑过保留位数的问题!
    那位数保留的是不是至少应该和作图时的x,y的位数相同才好呢!!

0
查看更多
猜你喜欢最新推荐热门推荐更多推荐
举报帖子

执行举报

点赞用户
好友列表
加载中...
正在为您切换请稍后...