仪器信息网APP

选仪器、听讲座、看资讯

立即体验

当前位置：仪器社区 >食品检测 > 农残检测 > 帖子详情

关于仪器结果的数据处理问题

123edr

2019/02/26

假如在气相中仪器测农药甲胺磷，给出的仪器读数是0.023ug/mL，标准要求保留2位有效数字，
通常在未计算出结果（mg/kg）之前，所有的仪器读数都要多保留一位（即3位有效数字），那么：
仪器只给出0.023，那我在记录中填写仪器读数时，应该填写“0.023”还是“0.0230” ？
后来我又查了一下资料，发现计算机计算有一个特征是："末尾数只要全是0，均不保留"，也就是说仪器读数0.023实际上是0.0230000...，咋看一下记录填写0.0230或许有些道理。
也有可能是仪器读数0.023后面的数值直接被砍掉了，显示不出来，导致在计算结果（mg/kg）时存在进位误差，领导说直接填0.023，但这样填却并不符合保留有效位数的要求，所以只能求助仪器工程师调一下仪器读数的显示为数这个办法。
问一下大家，你们会填多少？

分
该帖子已被版主-zjn1123加4积分，加2经验;加分理由:鼓励发帖

相关话题

zyl3367898

第1楼2019/02/26

应助达人

软件上可以设结果为小数点四位，这样你就自己保留两位有效数字就行了。

1

老兵

第2楼2019/02/26

应助达人

与仪器读数一样，保留0.023即可；如果数据大于0.1，保留3位小数。

0

xiaogumd11

第3楼2019/02/27

应助达人

应该是数据大于1.0保留3位有效数字？

0

senke

第4楼2019/02/27

应助达人

0.023即可

0

掌舵的鱼儿

第5楼2019/02/27

与仪器读数一样，保留0.023即可。。。

0

HarryHuang

第6楼2019/02/27

应助达人

调整仪器的数值显示位数，现在的仪器应该都有这个功能的。真的没有就按照仪器实际的进行保留。自己不能私自增加有效位数。

0

雾非雾

第7楼2019/02/27

应助达人

按照您说的要求我会填0.0230。

0

雾非雾

第8楼2019/02/27

应助达人

您要想再准确些，就找一下工作站里相关的设置，把小数保留位数设多一些，自已按标准要求抄录数据即可。

0

hujiangtao

第9楼2019/02/27

应助达人

还是按要求来吧

0

123edr

第10楼2019/02/27

好吧，我去找找
雾非雾(mcds) 发表:您要想再准确些，就找一下工作站里相关的设置，把小数保留位数设多一些，自已按标准要求抄录数据即可。

0

查看更多

近期热榜

热门活动

猜你喜欢最新推荐热门推荐更多推荐

品牌合作伙伴

日立科学仪器

珀金埃尔默仪器（上海）有限公司（PerkinElmer）

珀金埃尔默仪器（上海）有限公司（PerkinElmer）

日本电子株式会社

赛默飞世尔科技

马尔文帕纳科

上海仪电科仪

梅特勒托利多

布鲁克核磁

举报帖子

点赞用户

好友列表

加载中...

正在为您切换请稍后...