数据处理
云☆飘☆逸
第1楼2012/02/01
这个没有明确的规定吧,不过对于一些大数,是可以多保留一位的,这个是有文献报道的。
calfstone
第2楼2012/02/05
GB5750.3-2006 8.2.7项有规定:校准曲线相关系数只舍不入,保留到小数点后出现非9的一位,如0.99989→0.9998。如果小数点后都是9时,最多保留小数点后4位。
newdiablo007
第3楼2012/02/15
这个也不清楚,学习了。
lczhfj
第4楼2012/03/05
《地下水环境监测技术规范》、《地表水和污水监测技术规范》也有这个规定。
zhangxl9900
第5楼2012/04/17
有没有什么英文的关于这方面的文献呢?要发英文的文章用。
chongzi36
第6楼2012/06/24
HJ/T91-2002《地表水和污水监测技术规范》里10.2.7有规定的:“以一元线性回归方程计算时,校准曲线斜率b的有效位数,应与自变量xi的有效数字位数相等,或最多比xi多保留一位。”
第7楼2012/06/24
不好意思,看错了,是相关系数啊,呵呵,还是一样的出处,10.6.1:“校准曲线的相关系数只舍不入,保留到小数点后出现非9的一位,如0.99989-0.9998。如果小数点后都是9时,最多保留4位。”
品牌合作伙伴
执行举报