shaoyingzhao
第13楼2010/10/29
我觉得不管是直接测试所得的数值,还是测试后经计算所得的数值,都是测量值。好多情况下计算所得数值为无限数位,但这并不代表写出的数位越多越科学,检验结果判定只能考虑有限的数位。虽然是全数值比较法,但这并不影响采用修约值的形式表示,可以把结果像GB/T 8170-2008中规定的一样表示:例如,1.0317700667..........可以表示为1.032-,负号的意思是全数值比1.032要小,是进位以后才得到的数值。结果判定时,仍采用全数值进行比较:如果技术要求为不小于1.032,那么测量结果1.0317700667..........的判定结论应为不合格。
黄金战士
第14楼2010/11/06
你表示为1.032-肯定没问题,但有在检验报告中很少能见到这样报出结果的(假如标准要求不小于1.0,常见为1.0),很多单位是按照修约比较法出具检验报告的,一些单位是按方法要求保留位数出具检验报告的。
黄金战士
第17楼2011/05/30
经过请教专家和对GB/T8170-2008标准的反复理解,终于弄清楚了“全数值”的理解。GB/T8170-2008标准中提到的“修约与不修约”是相对于产品判定标准的,不是相对于检测方法标准的。我们检测采用的检测方法标准中一般会给出结果保留的有效位数,这个测定结果是要满足“数值运算规则和修约规则”的,这个检测结果(这可理解为用此检测方法"直接测量"得到的结果)相对于产品标准是没修约的,按此结果报出并与规定的极限数值作比较即为全数值比较法。我们所出具的检验报告多数是应用全数值比较法(目前本人还没发现要求用修约值比较法的产品标准)。所以本人认为当标准或有关文件中对极限数值无特殊要求时,均应使用全数值比较法,而不是将测定值或计算值进行修约(将结果数位修约成与规定的极限数值数位一致),采用修约比较法。
poorlittle
第18楼2011/06/03
尽管很多情况下得到的数值会有无限数位, 但”有効位数”不是无限。3.1406/3.0441=1.0317, 其后之700667..........并没意义。
若极限值是1.03, 则:
全数值比较法
1.0317 与 1.03 比较
修约值比较法
若修约至小数后2位, 则1.03与 1.03 比较
若修约至小数后3位, 则1.032与 1.03 比较