sgxy
第103楼2014/02/27
对于氨氮的测定结果,既然吸光度的有效位数是三位,根据校准曲线计算,测定结果怎么能计算出四位呢,只能是三位呀
sgxy
第104楼2014/02/27
HJ/T91-2002中,10.2.7和10.6.2好像不矛盾吧,10.6.2是说的特殊情况下,小数点后有很多零时,斜率最多保留3位有效数字,并以幂表示,如0.0000234要写成2.34乘以10的负5次方。一般情况下我们写斜率都不用幂的形式表示,既然10.6.2中让用幂的形式表示,这一定指的是特殊情况下。再退一步讲,最后的计算结果是由样品的吸光度的有效位数决定的,吸光度的有效位数最多只有3位,所以无论斜率是4位或者5位有效数字,样品计算结果只能是3位有效数字,斜率的有效位数,对计算结果没有决定意义
sgxy
第106楼2014/02/27
HJ/T91-2002中,10.2.7和10.6.2好像不矛盾吧,10.6.2是说的特殊情况下,小数点后有很多零时,斜率最多保留3位有效数字,并以幂表示,如0.0000234要写成2.34乘以10的负5次方。一般情况下我们写斜率都不用幂的形式表示,既然10.6.2中让用幂的形式表示,这一定指的是特殊情况下。再退一步讲,最后的计算结果是由样品的吸光度的有效位数决定的,吸光度的有效位数最多只有3位,所以无论斜率是4位或者5位有效数字,样品计算结果只能是3位有效数字,斜率的有效位数,对计算结果没有决定意义