仪器信息网APP
选仪器、听讲座、看资讯

结果计算中的修约问题

化学药检测

  • 最近在整理申报资料的时候发现一个问题。比如工作曲线测定时,我们在Excel表格中用公式计算出了浓度(通过称量除以稀释倍数得到)及相应的峰面积(从图谱中直接得到),进而得到相应的工作曲线,但在资料中给出的浓度数据却是修约过的。

    在这里我有个疑问:根据资料中给出的浓度和峰面积线性回归得出的工作曲线和我们通过Excel得出的工作曲线还是有所区别的,那到底该以哪个为准呢?计算过程中该不该修约呢?记得有次GMP专家来检查,就让同事拿出计算器重新计算,结果发现得出的结果和之前Excel做的结果还是有些差别的。
  • 该帖子已被版主-生活就这么美好加3积分,加2经验;加分理由:参与奖励
    +关注 私聊
  • xiaowang268

    第1楼2013/06/25

    最好是每步都修约后再计算

0
    +关注 私聊
  • xiaowang268

    第2楼2013/06/25

    在用Excel计算时,只是在最后一步修约的,和计算器算出来的是不一样的,现场检查时,用计算器一核对就不一样了

0
    +关注 私聊
  • doczheng

    第3楼2013/06/26

    这个修约有个条件就是前一步的位数一定要比后一步的多,

    不然两种结果会有一点区别的

    xiaowang268(xiaowang268) 发表:最好是每步都修约后再计算

0
  • 该帖子已被版主-生活就这么美好加2积分,加2经验;加分理由:参与奖励
    +关注 私聊
  • xiangever

    第4楼2013/06/26

    应该是这样的,每步计算都应修约,计算中的“中间结果”可以多保留一位,但最终结果应该符合相应要求,如测定含量时平行样的结果应为'99.95%,99.94%",但最终含量结果应该为99.9%,但用Excel计算的话,就有可能因为计算过程中未修约而得出结果为99.95%≈100.0%。

    doczheng(doczheng) 发表:这个修约有个条件就是前一步的位数一定要比后一步的多,

    不然两种结果会有一点区别的

0
    +关注 私聊
  • xiaowang268

    第5楼2013/06/26

    哪来的规定呢?

    doczheng(doczheng) 发表:这个修约有个条件就是前一步的位数一定要比后一步的多,

    不然两种结果会有一点区别的

0
    +关注 私聊
  • xiaowang268

    第6楼2013/06/26

    我们一般都是每步直接约分的,小数点和最终结果保持一致

    doczheng(doczheng) 发表:这个修约有个条件就是前一步的位数一定要比后一步的多,

    不然两种结果会有一点区别的

0
    +关注 私聊
  • doczheng

    第7楼2013/06/26

    这个不能算是规定,我这边的做法

    xiaowang268(xiaowang268) 发表:哪来的规定呢?

0
  • 该帖子已被版主-生活就这么美好加2积分,加2经验;加分理由:参与奖励
    +关注 私聊
  • doczheng

    第8楼2013/06/26

    一般一步计算到结果的直接最后约分,如果计算分几步,一步结果计算二步,二步计算三步,每步得多保留一位,最终结果约分和要求保留一致

    xiaowang268(xiaowang268) 发表:我们一般都是每步直接约分的,小数点和最终结果保持一致

0
  • 该帖子已被版主-生活就这么美好加2积分,加2经验;加分理由:参与奖励
    +关注 私聊
  • doczheng

    第9楼2013/06/26

    对,就是上面的情况,只是记录纸上填写很详细的计算公式和结果,所以分步了,就得多保留一位,不然就像上面的出现0.1个百分点的差别

    xiangever(xiangever) 发表:应该是这样的,每步计算都应修约,计算中的“中间结果”可以多保留一位,但最终结果应该符合相应要求,如测定含量时平行样的结果应为'99.95%,99.94%",但最终含量结果应该为99.9%,但用Excel计算的话,就有可能因为计算过程中未修约而得出结果为99.95%≈100.0%。

0
    +关注 私聊
  • xiaowang268

    第10楼2013/06/26

    当然多保留一位还是准确些的

    doczheng(doczheng) 发表:一般一步计算到结果的直接最后约分,如果计算分几步,一步结果计算二步,二步计算三步,每步得多保留一位,最终结果约分和要求保留一致

0
查看更多
猜你喜欢最新推荐热门推荐更多推荐
举报帖子

执行举报

点赞用户
好友列表
加载中...
正在为您切换请稍后...