仪器信息网APP
选仪器、听讲座、看资讯

修约数据间隔的问题

前处理综合讨论

  • 在网上看到修约数据间隔的不确定度计算,示例是这样的,检测数据20.2,如果保留位数修约至20,那么修约间隔为1,如果保留位数修约至20.2,那么修约间隔为0.1。我们在做数值修约时,不是多保留一位位数吗?比如20.2修约至20,修约间隔是不是0.1才对呢?这个怎么理解?
    +关注 私聊
  • 未来工程师

    第1楼2022/08/17

    应助达人

    保留至整数位,修约就是按照0.5一级,保留至小数点第一位,修约按照0.05一级

0
    +关注 私聊
  • ztyzb

    第2楼2022/08/17

    应助达人


    楼主看一下GBT 8170-2008 《数值修约规则与极限数值的表示和判定》,修约间隔指的是修约值的最小数值单位,所以一开始说法是对的。至于在数字加减乘除运算过程中,有效数字可以多保留一位,但结果仍按修约规则处理。

0
  • 该帖子已被版主-omjia加5积分,加2经验;加分理由:感谢分享,传递知识
    +关注 私聊
  • JOE HUI

    第3楼2022/08/17

    应助达人

    修约间隔其实就是修约值的最小数值单位。按照楼主提示20.2修约至20,其修约间隔是1才对,

    例1:如修约间隔为0.1,修约值应为0.1的整数倍,也就是修约到小数点后一位。

    例2:如修约间隔为100,修约值应为100的整数倍,也就是修约到百位。

    修约步骤

    确定修约间隔

    常用间隔小数点后几位、个位、十位、百位、千位……

    总之间隔是多少修约后的数值就是这个间隔的整数倍(尾数不再取舍)。

0
  • 该帖子已被版主-omjia加5积分,加2经验;加分理由:感谢分享,传递知识
猜你喜欢最新推荐热门推荐更多推荐
举报帖子

执行举报

点赞用户
好友列表
加载中...
正在为您切换请稍后...