仪器信息网APP

选仪器、听讲座、看资讯

立即体验

当前位置：仪器社区 >认证认可专区 > 实验室认可/资质认定 > 帖子详情

请问关于数据修约的问题

蘑菇砼

2018/03/12

实验室认可/资质认定

我们实验室所用到的标准中有好几个检测项目涉及到长度或者厚度的测量，标准要求是≥2mm，类似于这种的，极限值为整数的，我们选择的量具是游标卡尺或者千分尺，众所周知这类量具的读数都有小数位数，有的是两位，有的是三位等。问题来了：标准要求的极限值是≥2mm，是整数位数，测量出来的是带小数位数的，那判定的时候是把测量数据修约为整数位跟极限值来比对呢，还是不修约直接按量具的实测值比对，还是约定一个修约的位数，修约后进行比对呢？
请大神们帮忙啊，谢谢！！！

分
该帖子已被版主-zal加5积分，加2经验;加分理由:鼓励发帖

相关话题

senke

第1楼2018/03/12

应助达人

那要看是全数值比较法还是修约比较法

0

蘑菇砼

第2楼2018/03/12

标准并没有规定用哪个方法，也没有规定修约到几位，只有一句要求：要求某某厚度≥2mm。这种情况下我们该怎么操作呢？我们之前的操作是：修约到比标准多一位，标准是整数，那我们修约到小数点后一位。现在有人提出了新的看法，认为应该全数值比较，因为有时候测量出来的结果是1.997之类的，修约和不修约的判定结果完全不一样。这又该如何操作呢
senke(lifen4607) 发表:那要看是全数值比较法还是修约比较法

0

senke

第3楼2018/03/12

应助达人

请看标准的规定
蘑菇砼(Ins_2d3d9341) 发表: 标准并没有规定用哪个方法，也没有规定修约到几位，只有一句要求：要求某某厚度≥2mm。这种情况下我们该怎么操作呢？我们之前的操作是：修约到比标准多一位，标准是整数，那我们修约到小数点后一位。现在有人提出了新的看法，认为应该全数值比较，因为有时候测量出来的结果是1.997之类的，修约和不修约的判定结果完全不一样。这又该如何操作呢

0

蘑菇砼

第4楼2018/03/12

明白了，没有特殊规定时应使用全数值比较法。还有，若全数值是很长的小数位数，或者是无限循环的小数，那我们要在文件中明确规定修约的位数，然后再修约后比较。谢谢老师
senke(lifen4607) 发表: 请看标准的规定

0

yayicuo

第5楼2018/03/12

应助达人

长知识了，

0

未来工程师

第6楼2018/03/13

应助达人

一般没要求规定的当然用全数值比较，修约是增加不确定度了

0

yzguo

第7楼2018/03/13

使用全数值比较法

0

碧汐吹沙

第8楼2018/03/13

游标卡尺测出来的位数也不是很多，最好采取全数值比对！

0

近期热榜

热门活动

猜你喜欢最新推荐热门推荐更多推荐

品牌合作伙伴

日立科学仪器

珀金埃尔默仪器（上海）有限公司（PerkinElmer）

珀金埃尔默仪器（上海）有限公司（PerkinElmer）

日本电子株式会社

赛默飞世尔科技

马尔文帕纳科

上海仪电科仪

梅特勒托利多

布鲁克核磁

举报帖子

点赞用户

好友列表

加载中...

正在为您切换请稍后...