仪器信息网APP

选仪器、听讲座、看资讯

立即体验

当前位置：仪器社区 >食品检测 > 农残检测 > 帖子详情

农残数据计算问题

123edr

2020/05/16

假设测某农药
前处理参数：浓缩比10，定容1mL
计算公式：农药含量=设备读数*浓缩比*定容/称样量（结果保留2位有效数字）
双样情况下，已知称样量分别为10.04g与9.98g，设备读数分别为0.0203ug/mL与0.0208ug/mL
我的计算过程：
-1：
0.0203*10*1/10.04=0.020219124
-2：
0.0208*10*1/9.98=0.020841683
平均：
（0.020219124+0.020841683）/2=0.02053（修约前）=0.021（修约后）
有家机构说他们的计算方法是：
-1：
0.0203*10*1/10.04=0.0202（先保留多一位，后面多余的数字去掉）
-2：
0.0208*10*1/9.98=0.0208（先保留多一位，后面多余的数字去掉）
平均：
（0.0202+0.0208）/2=0.0205（修约前）=0.020（修约后）
问：哪个是正确计算结果？
更新：
我在的那家机构是用第二种方法的。
另外机构还要求：“当标准要求结果保留2位有效数字时，设备的读数要求比结果保留多一位，但不修约”。也就是说，设备读数3位，未参与平均前的结果3位，参与平均后的结果2位
假如遇上了类似761方法的修约要求：结果≤1的保留2位有效，＞1的保留3位有效。
在此基础上改变一下设备读数再举一个例子：
设备读数分别为0.994842ug/mL与1.00783ug/mL
计算过程：
①首先确认结果是否大于1，然后再判断设备读数应该保留几位
-1：
0.994842*10*1/10.04=0.990978486
-2：
1.00783*10*1/9.98=1.009849699
平均：
（0.990978486+1.009849699）/2=1.00364093>1，根据机构要求，得出设备读数应保留4位，平均前结果应保留4位，结果应保留3位
得出：设备读数分别为0.9948与1.007
②求值
-1：
0.9948*10*1/10.04=0.990837=0.9908
-2：
1.007*10*1/9.98=1.009018=1.009
平均：
（0.9908+1.008）/2=0.9999（修约前）=1.00（修约后）
这个时候结果就与标准要求有冲突了，明明结果是1却保留3位有效？
问：机构的要求“当标准要求结果保留2位有效数字时，设备的读数要求比结果保留多一位，但不修约”合理吗？

分
该帖子已被版主-雾非雾加2积分，加2经验;加分理由:讨论

相关话题

hujiangtao

第1楼2020/05/16

应助达人

我们用后一种方式计算，平行样比最后平均值多一位有效数字

0

雾非雾

第2楼2020/05/16

应助达人

这家机构对于中间数据先多保留一位这个办法有国标规则支持么，看了半天好像没有看到，而且它这个对于中间值的修约和最后的修约在一起算不算是连续修约，国标规则里强调不能连续多次修约。

0

sdlzkw007

第3楼2020/05/16

应助达人

不管怎么算，最后结果都应该是0.020，不会是0.021 4舍6入5成双。

0

zyl3367898

第4楼2020/05/16

应助达人

不是的，0.02053保留两位有效数字是0.021，后一个计算方法是对的，数据结果多保留一位，平均值时保留两位。

0

123edr

第5楼2020/05/17

中间的是没有修约的，只是直接将3位有效数字之后的其它数字直接抛弃
雾非雾(mcds) 发表:这家机构对于中间数据先多保留一位这个办法有国标规则支持么，看了半天好像没有看到，而且它这个对于中间值的修约和最后的修约在一起算不算是连续修约，国标规则里强调不能连续多次修约。

0

123edr

第6楼2020/05/17

0.021是前一种的结果，你搞错了吧
zyl3367898(zyl3367898) 发表:不是的，0.02053保留两位有效数字是0.021，后一个计算方法是对的，数据结果多保留一位，平均值时保留两位。

0

123edr

第7楼2020/05/17

第一种方法里，未修约前的结果是0.020530403，修约后是0.021

修约数值为5，后面可不全是0喔
sdlzkw007(sdlzkw007) 发表:不管怎么算，最后结果都应该是0.020，不会是0.021 4舍6入5成双。

0

仪器小

第8楼2020/05/17

是不是搞错了

0

123edr

第9楼2020/05/17

有更新，求助，我怕了我那家机构了
hujiangtao(hujiangtao) 发表:我们用后一种方式计算，平行样比最后平均值多一位有效数字

0

123edr

第10楼2020/05/17

有更新，求助，我怕了我那家机构了
雾非雾(mcds) 发表:这家机构对于中间数据先多保留一位这个办法有国标规则支持么，看了半天好像没有看到，而且它这个对于中间值的修约和最后的修约在一起算不算是连续修约，国标规则里强调不能连续多次修约。

0

查看更多

近期热榜

热门活动

猜你喜欢最新推荐热门推荐更多推荐

品牌合作伙伴

日立科学仪器

珀金埃尔默仪器（上海）有限公司（PerkinElmer）

珀金埃尔默仪器（上海）有限公司（PerkinElmer）

日本电子株式会社

赛默飞世尔科技

马尔文帕纳科

上海仪电科仪

梅特勒托利多

布鲁克核磁

举报帖子

点赞用户

好友列表

加载中...

正在为您切换请稍后...