数据处理
tygy
第1楼2008/07/28
期待ing....
jimmy841228
第2楼2008/07/28
标准方法上要求数据精确到0.05应该是最小刻度为0.05吧难道检测的数据只有两位数,还是你修约后是两位?
樱桃小丸子
第3楼2008/07/29
精确至0.05是指数据范围为0.046-0.054之间7.02应该是7.00
youjian000
第4楼2008/07/29
将所测数据乘以2.00,精确至0.1,再除以2.00即可。7.02*2.00=14.04 精确至0.1后得到14.0,14.0/2.00=7.007.64*2.00=15.28 精确至0.1后得到15.3,15.3/2.00=7.65
第5楼2008/07/30
原来是这样~
hhk123
第6楼2014/04/17
请问这个有相关资料可以参考吗?看了你的解答还是不是还理解!
999youran
第7楼2014/07/15
以0.05为进制,然后四舍六入五考虑来保留有效数字!
高冷病患者
第8楼2014/08/22
在GBT8170-2008 <数值修约规则与极限数值的表示和判定>中介绍了0.5和0.2的修约方式,就是这么算的。在这里可以延伸到0.05修约上。
溺水虾米
第9楼2024/08/08
再请教下,如果是修约到0.02mm呢
品牌合作伙伴
丹纳赫苏州基地 打工人的梦想
执行举报