sgxy
第86楼2013/09/15
非常感谢你能提出不同意见,我感到很兴奋,我们终于可以探讨一下原始记录的问题了。我平常都严格要求我单位的人按照修约规则逐步运算得到最终结果的。
你说的GB/T8170是允许的,我不太明白是允许什么,你能说的再具体点吗?
11*11=121,11的个位1是不确定数字,代表11的最大误差是0.5,让11再乘以11,等于11扩大了10倍,那么它的误差也扩大10倍,结果的最大误差是5。但121的个位1是不确定数字,代表121的最大误差是0.5,而真实结果的最大误差是5,所以121是不对的,太精确了,不能表示真实误差。如果121按乘数的有效位数,保留两位,写成1.2*100,这个问题就解决了,因为1.2的最大误差是0.05,0.05乘以100,是5,1.2*100的最大误差是5,这和真实结果的最大误差5是符合的。不知道你怎么看,我们可以继续探讨。
sgxy
第87楼2013/09/15
你提的这个质疑也很好,这两天我回老家了,没有及时回复你,望你能谅解。取样量、空白滴定量、样品滴定量之所以都取4位有效数字,是因为我的管子的刻度能达到这个精度,所以必须写4位有效数字。COD的结果计算公式里,要先算括号里的减法,两个4位有效数字相减,得到的结果0.55是两位有效数字,所以总的计算结果只能是两位有效数字,不能是别的。
sgxy
第88楼2013/09/15
很佩服你能仔细去体会GB/T11914-1989里的规定,我的理解是,它说的是一般保留3位有效数字,“一般”并不是绝对,“一般”指的是通常情况下。COD含量在100-999时,结果保留3位有效数字是对的,按有效数字运算规则计算出来的结果也是3位有效数字,这很符合GB/T11914的规定。但如果COD的含量小于100时,就要写成两位,就不能“一般”了,因为按有效数字运算规则,算出来的结果是两位,只能写两位,而GB/T11914里也告诉你要写两位了,因为GB/T11914里说,COD含量低于10时,计算结果要写成“小于10”,10是两位有效数字,它并没有规定成10.0,因为10.0才是3位有效数字。
你能提出来问题,我非常感谢你,也非常愿意和你探讨。希望你能继续提出问题,我们共同学习。