仪器信息网APP
选仪器、听讲座、看资讯

请教有效数字的问题

数据处理

  • 比如我们标准中的限度规定为1.0 按照我们程序文件,检验结果与标准规定有效位数一致,假如我做了0.843 修约为两位为0.84

    但是有同事认为应该是修约为0.8 因为“ 有效数字的首位数字为8或9时,其有效位数可以多计一位。例如85%与115%,都可以看成是三位有效位数;99.0%与101.0%都可以看成是四位有效数字。”
    +关注 私聊
  • nielei127

    第1楼2014/02/21

    但我认为 当首位为8或9时只是可以看作是多一位有效位数,可以认为不代表一定是,只是应用在计算当中时这样看。大家讨论讨论 一直没搞清楚这个问题 导致出检验结果时 有点为难

0
    +关注 私聊
  • epwmjiam

    第2楼2014/02/26

    限度规定为1.0,有公差吗?
    “有效数字的首位数字为8或9时,其有效位数可以多计一位。”
    可以理解为数值出现在限度规定1.0左右,多保留位有效数字来判定是否合格吧?
    举例说明:
    极限数值    计算值        修约值   
    10.0±0.1    9.88    不符合    9.9    符合

0
    +关注 私聊
  • dyd3183621

    第3楼2014/06/11

    同意上述观点

    epwmjiam(epwmjiam) 发表:限度规定为1.0,有公差吗?
    “有效数字的首位数字为8或9时,其有效位数可以多计一位。”
    可以理解为数值出现在限度规定1.0左右,多保留位有效数字来判定是否合格吧?
    举例说明:
    极限数值 计算值 修约值
    10.0±0.1 9.88 不符合 9.9 符合

0
    +关注 私聊
  • dyd3183621

    第4楼2014/06/11

    没有必要一定要保留几位有效数字,只要和限定值保持最右侧的位数一致即可。
    比如(计算值9.88) 限定值 测试结果
    10 10
    10.0 9.9
    10.00 9.88

0
0
    +关注 私聊
  • 张十三

    第6楼2014/10/08

    应助达人

    没太看明白楼主的问题。

    0.0008的有效数字是1.

    0.8000的有效数字是4.

    至于楼主所说的例如1.0检测的规格线,程序文件中规定要进行修约到与规格线相同的有效数字?

    如果说是规格线是1.0,,想必应该有上下公差线吧,假如没有上下公差限,得出的数据应修约至小数点后一位后在做判定,具体修约标准请查阅1877.

    如果说1.0有其公差线,那么在做检测结果判定时要看你们程序文件或指导书的规定了,一般情况下在做出判定时应该考虑到测量不确定度的影响,要考虑到客户的要求,要考虑到使用方和生产方哪方风险比较重,这个可以查阅1059.

1
猜你喜欢最新推荐热门推荐更多推荐
举报帖子

执行举报

点赞用户
好友列表
加载中...
正在为您切换请稍后...