仪器信息网APP
选仪器、听讲座、看资讯

有效数字修约的玄机

  • xyzyd
    2020/09/30
    鹤壁农检联合队
  • 私聊

水质检测

  • 有效数字修约的玄机

    有效数字修约,是国家标准规定的,也是在检测运算过程中很容易错的。有效数字修约最关键的就是,四舍六入五成双。五成双是指,5后面有数字时,5直接进位,不需要考虑五成双;5后面没有数字时,才需要考虑五成双,如果5前面是奇数时,5需要进位,让奇数变成偶数,如果5前面是偶数时,5不需要进位。

    下面举例进行说明:

    (一)32.1502,保留三位有效数字是32.2,因为5后面有数值2所以5必须进位。

    (二)32.1500,保留三位有效数字是32.2,因为5后面没有数值(5后面的数值是00,00等于没有数值)又因为5前面是奇数,所以5需要进位,让奇数变成偶数。

    (三)32.2500,保留三位有效数字是32.2,因为5后面没有数值(5后面的数值是00,00等于没有数值)又因为5前面是偶数,所以5不需要进位。

    这个奇数进位,偶数不进位,是最容易让人迷惑和出错的。

    下面再用实例进行说明:

    用天平称取样品,两次称样量分别是10.01克和9.96克,两次称量的平均值是多少?

    解:(10.01+9.96)÷2

    = 19.97÷2

    = 9.985

    = 9.98 克

    为什么不是9.985而是9.98 ?

    因为10.01克和9.96克都是小数点后两位数字,表示的是用百分之一天平对样品进行称量,求两个数的平均值,得出来9.985克,但9.985是小数点后三位数字,代表的是用千分之一天平对样品进行称量,明显超过了百分之一天平的称量精度,所以平均值是9.985克,是不对的,只能对9.985进行修约,保留到小数点后两位数字,把9.985修约成9.98。之所以把5舍掉,是因为5前面是8,8是偶数,5不需要进位。
  • 该帖子已被管理者-sgxy设置为精华,下面是奖励记录:加20积分,加5声望
  • 该帖子已被版主-sgxy加10积分,加2经验;加分理由:发表原创
    +关注 私聊
  • QC

    第1楼2020/09/30

    应助达人

    有效数字修约在实际应用中比较容易出错

0
    +关注 私聊
  • JOE HUI

    第2楼2020/09/30

    应助达人

    有效数字修约還是需要嚴謹看待 ,日常容易馬虎

0
    +关注 私聊
  • sgxy

    第3楼2020/09/30

    弄懂搞会有效数字修约,是需要本事的

0
    +关注 私聊
  • yanli197604

    第4楼2020/10/01

    应助达人

    五成双这个容易出错,其它的相对容易理解。

    QC(m3056547) 发表:有效数字修约在实际应用中比较容易出错

0
    +关注 私聊
  • 箬竹竹

    第5楼2020/12/14

    比较容易犯连续修约错误

0
    +关注 私聊
  • huomiao

    第6楼2021/05/29

    应助达人

    有没有人挑战十分位、百分位、千分位的修约

0
    +关注 私聊
  • JOE HUI

    第7楼2021/05/31

    应助达人

    具体情况具体分析

0
    +关注 私聊
  • Ins_afff75c5

    第8楼2021/09/09

    楼主的解释非常到位,再补充一点就是不能连续修约,必须一次修约到位;还有就是最后一段话略微有争议,平行试验平均值的保留位数与单次试验没有必然联系,一般情况下,平均值的修约位数与单次试验的保持一致,也有比单次试验少一位的情况,基本不会出现比单次试验保留位数多的情况

0
    +关注 私聊
  • 123

    第9楼2024/01/24

    应助达人

    谢谢分享!

0
猜你喜欢最新推荐热门推荐更多推荐
举报帖子

执行举报

点赞用户
好友列表
加载中...
正在为您切换请稍后...