仪器信息网APP
选仪器、听讲座、看资讯

标准曲线的相关系数应保留多少位有效数字?如何修约?

数据处理

  • 我们相关系数有时保留4位有效数字,有时是最末位是9后再保留多一位,究竟如何才合适呢?
    相关系数是只舍不进,为什么?
    +关注 私聊
  • 云☆飘☆逸

    第1楼2012/02/01

    应助达人

    这个没有明确的规定吧,不过对于一些大数,是可以多保留一位的,这个是有文献报道的。

0
    +关注 私聊
  • calfstone

    第2楼2012/02/05

    GB5750.3-2006 8.2.7项有规定:
    校准曲线相关系数只舍不入,保留到小数点后出现非9的一位,如0.99989→0.9998。如果小数点后都是9时,最多保留小数点后4位。

    tiger333(tiger333) 发表:我们相关系数有时保留4位有效数字,有时是最末位是9后再保留多一位,究竟如何才合适呢?
    相关系数是只舍不进,为什么?

0
    +关注 私聊
  • newdiablo007

    第3楼2012/02/15

    这个也不清楚,学习了。

0
    +关注 私聊
  • lczhfj

    第4楼2012/03/05

    《地下水环境监测技术规范》、《地表水和污水监测技术规范》也有这个规定。

    calfstone(calfstone) 发表:GB5750.3-2006 8.2.7项有规定:
    校准曲线相关系数只舍不入,保留到小数点后出现非9的一位,如0.99989→0.9998。如果小数点后都是9时,最多保留小数点后4位。

0
    +关注 私聊
  • zhangxl9900

    第5楼2012/04/17

    有没有什么英文的关于这方面的文献呢?要发英文的文章用。

0
    +关注 私聊
  • chongzi36

    第6楼2012/06/24

    HJ/T91-2002《地表水和污水监测技术规范》里10.2.7有规定的:“以一元线性回归方程计算时,校准曲线斜率b的有效位数,应与自变量xi的有效数字位数相等,或最多比xi多保留一位。”

1
    +关注 私聊
  • chongzi36

    第7楼2012/06/24

    不好意思,看错了,是相关系数啊,呵呵,还是一样的出处,10.6.1:“校准曲线的相关系数只舍不入,保留到小数点后出现非9的一位,如0.99989-0.9998。如果小数点后都是9时,最多保留4位。”

    chongzi36(chongzi36) 发表:HJ/T91-2002《地表水和污水监测技术规范》里10.2.7有规定的:“以一元线性回归方程计算时,校准曲线斜率b的有效位数,应与自变量xi的有效数字位数相等,或最多比xi多保留一位。”

0
猜你喜欢最新推荐热门推荐更多推荐
举报帖子

执行举报

点赞用户
好友列表
加载中...
正在为您切换请稍后...