数据处理
家有田
第1楼2008/11/06
还是按照标准来吧!
jennysing
第2楼2008/11/06
应该是都保留三位有效数字。COD的计算公式中最后是一个乘除运算。根据误差理论,乘除运算结果的相对误差等于参加运算各数值的相对误差之和。由于一般说来有效数字位数越少,它的相对误差就越大,所以乘除运算后的有效数字位数,可估计为与参加运算各数中有效数字位数最少的相同。 公式中的C为4个有效数字,V的有效数字位数在3-4之间。因此结果的有效数字也是3-4位。如果报8.5,5.5这类数值,就降低了你量具的精度。
eee9999eee
第3楼2009/05/14
说的好!!!
irisyan
第4楼2009/05/22
最终结果有效数字的位数应该与技术指标要求一致。例如标准中要求水分≤0.03%,检验结果是0.024%,检验报告应该写0.02%。
品牌合作伙伴
执行举报