仪器信息网APP
选仪器、听讲座、看资讯

关于报告数值中小数点的问题

数据处理

  • 今日被问及一问题,一时没找到好的解释,特来坛里请教大虾。

    详情是这样的:

    重金属检测中,标准(一知名企业的企业标准)中总量的限值都是整数,所以我们的检出限也取整数,报告中报出的数值也是整数。比如:Pb,限量是20ppm,我们的检出限为5ppm,当仪器检出数值为6.925时,报告中就报7ppm;但是标准中对个别元素的溶出数值要求是带小数的 比如Sn,溶出值要 >2.5,溶出和总量的处理方法不一样,方法检出限是可以做到2.5ppm以下,平时检出有数据,出报告是也会带一位小数的,如果溶出Sn检出值是3.756,我们报告中就写3.8。

    而突然被问到的就是,一份报告中,前面总量的数值都是整数,且单单只有这一个元素的溶出值是带小数的,这根据什么?我说标准中人家的限量值就是精确到小数点后一位啊,其他的都是精确到个位,那我就依照标准来啊,所以这有这一项的数值是有小数点的。

    后来想想,我这么回答貌似还是没有很好的解释出原因,因为原标准中并没有对报告报出数值作出明确要求,后来又翻看了其他的一些标准,有些即便对数据处理有说明,但都没涉及到数值的精确位数。而国标 GB/T8170 讲的是数值的修约,还是没弄清楚报告数值的精确位数和标准中限量值精确位数有什么直接的关系。
    +关注 私聊
  • epwmjiam

    第1楼2014/02/26

    1.GB/T8170数值的修约,更多强调的计算值与规定限值比较,也会发现
    1.1报告数值远大于规定限值时,数据如何修约都没影响。
    1.2报告数值在规定限值附近时,修约会带来比较大的影响。
    关于结果报出位数问题,也如此吧。

0
    +关注 私聊
  • whuisvfg

    第2楼2014/02/28

    请参阅calfstone老师的帖子:
    http://bbs.instrument.com.cn/shtml/20080528/1280238/
    一般情况下,分析结果有效数字所能达到的位数不能超过方法最低检出浓度的有效位数所能达到的位数。
    但当检测结果处于临界值附近,就要按GB/8170的要求,有时需要全数据比较,可不按标准修约。

0
    +关注 私聊
  • 漠独

    第3楼2014/03/03

    嗯 就是报出数值在限量附近的时候才纠结的。他限量是小于2.5,要是检出来的数值是15.452,我们报15或者15.5都没多大影响,但是要是2.452呢?要是报2,说明是达标的,要是报2.5那就不达标了。

    epwmjiam(epwmjiam) 发表:1.GB/T8170数值的修约,更多强调的计算值与规定限值比较,也会发现
    1.1报告数值远大于规定限值时,数据如何修约都没影响。
    1.2报告数值在规定限值附近时,修约会带来比较大的影响。
    关于结果报出位数问题,也如此吧。

0
    +关注 私聊
  • 漠独

    第4楼2014/03/03

    认真的看了下你推荐的帖子,又回头认真的看了下GB/T 8170 现在基本上明白怎么写报告数值了。

    whuisvfg(whuisvfg) 发表:请参阅calfstone老师的帖子:
    http://bbs.instrument.com.cn/shtml/20080528/1280238/
    一般情况下,分析结果有效数字所能达到的位数不能超过方法最低检出浓度的有效位数所能达到的位数。

    但当检测结果处于临界值附近,就要按GB/8170的要求,有时需要全数据比较,可不按标准修约。

0
猜你喜欢最新推荐热门推荐更多推荐
举报帖子

执行举报

点赞用户
好友列表
加载中...
正在为您切换请稍后...