仪器信息网APP
选仪器、听讲座、看资讯

如何做数值修约?

实验室认可/资质认定

  • 数据处理是计量工作中常见内容之一, 科学的对数据进行处理至关重要, 这是测量过程的最后环节。在计量工作中, 为了保证其数值的准确性, 需要根据测量、计算的目的和要求, 对所得数据结果进行估读及对估读后的数值进行合理有效的修约, 从而保证所传递量值的有效可靠。以期得到精确的数值结果。
    1 测量结果有效位数的确定
    测量结果的有效位数应该保留适宜, 如果保留位数保留过少会降低测量准确性, 过多会带来计算上的繁琐。因此确定测量结果的有效位数十分重要。
    1.1 测量、测量结果
    按照JJF1001-2011《通用计量术语及定义》, 测量被定义为:“通过实验获得并可合理赋予某量一个或多个量值的过程。”
    实际的测量不可能没有误差, 测量读数由准确数字和可疑数字构成。准确数字指把通过直读获取的数字;可疑 (不确定) 数字指通过估读得到的数字。
    1.2 有效数字
    有效数字指在分析和测量中所能得到的有实际意义的数字, 其由测量结果中能够反映被测量大小的带有一位可疑 (不确定) 数字的全部数字构成。
    如2.0370, 那么其前几位数字2、0、3、7都是准确数字, 而最后一位数字是估读出来的, 即可疑 (不确定) 数字。
    1.3 有效数字位数
    所有有效数字占有的数位个数称为有效数字位数。而一般的, 对一个数值从其第一个不是零的数字起到最末一位数的全部数字就称为有效数字。如:
    0.571有效位数:3位
    0.3000有效位数:4位
    2.003有效位数:4位
    23有效位数:2位
    但对于以“0”结尾的正整数, “0”是不是有效数字不能确定, 如5200, 有效位数不能确定, 若写为:
    5.2×有效位数:2位
    5.20×有效位数:3位
    1.4 直接测量结果位数规定
    凡是用测量仪器直接测量的结果, 一般而言, 在记录测量值时必须记录全部准确数字和一位不确定数字且只能记录一位不确定数字读数 (即一般要求在读出仪器最小刻度所在位的数值后, 再向下估读一位) 。
    +关注 私聊
  • senke

    第1楼2018/10/17

    应助达人

    2 数值的修约
    出于对准确表达测量结果的需求和在进行数值计算中, 简化计算, 降低计算出错机会的考虑, 应进行合理的数值修约。
    修约的含义是对某已知数 (或称为拟修约数) 根据保留位数的要求, 取舍多余的位数, 按照一定的规则, 选取一个为修约间隔整数倍的数 (称为修约数) 代替已知数。
    2.1 修约间隔
    修约间隔不但是修约值的最小数值单位, 而且是确定修约保留位数的前提条件, 通常情况下依据被检对象的准确度等级而确定, 其一般形式为k× (k=1, 2, 5;n为正、负整数) 。修约间隔一经确定, 修约值即为该数值的整数倍。如指定修约间隔为0.5。那么修约值应在0.5的整数倍中选取, 也即将拟修约数修约到了一位小数。

0
    +关注 私聊
  • senke

    第2楼2018/10/17

    应助达人

    2.2 修约规则
    (一) “四舍五入法”是我们过去所熟悉的修约规则。可是, 在工程技术和科学实验中, 经常要对大量的数据进行统计分析。如果仍用“四舍五入法”, 就不够精确, 因此我国国标中提出来替代“四舍五入法”的新的修约规则。我国关于数值修约的国标GB/T 8170-2008中规定的修约规则:拟舍去数字最左一位小于5时则舍去, 保留其余数字不变;拟舍去数字最左一位大于5时则进一;拟舍去数字最左一位为5时, 其后有非0数字时进一;拟舍去数字最左一位为5, 其后没有数字或者数字均为0时, 其所保留的末位数字为奇数时则进一, 为偶数时则舍去;当负数进行修约时, 应将它的绝对值照上述方法修约, 然后在修约所得值后加负号。该修约规则被称为“四舍六入五凑偶”。
    (1) 拟舍去数字最左一位小于5时则舍去, 保留其余数字不变。如:
    将9.2499修约到小数点后一位, 得9.2
    (2) 拟舍去数字最左一位大于5时则进一。如:
    将6.3256修约到小数点后两位, 得6.33
    (3) 拟舍去数字最左一位为5时, 其后有非0数字时进一。如:
    将7.1501修约到小数点后一位, 得7.2
    (4) 拟舍去数字最左一位为5, 其后没有数字或者数字均为0时, 其所保留的末位数字为奇数时则进一, 为偶数时则舍去。如:
    将5.350修约到小数点后一位, 得5.4
    将11.250修约到小数点后一位, 得11.2
    (5) 当负数进行修约时, 应将它的绝对值照上述方法修约, 然后在修约所得值后加负号。如:
    将-235修约到十位, 得-240
    将-0.0657修约到一位有效数, 得-0.07

0
    +关注 私聊
  • senke

    第3楼2018/10/17

    应助达人

    (6) 0.5单位修约与0.2单位修约。
    a.0.5单位修约即是指将拟修约数乘以二, 再按上述规则修约, 最后将修约所得数除以2。
    如:将下面的数值修约到个数位的0.5单位 (即修约间隔为0.5)
    拟修约数:37.43, 修约过程:37.43×2=74.86, 即对74.86进行修约 (修约间隔为1) , 即得75, 可得最终修约值为:37.5 (修约间隔为0.5)
    b.0.2单位修约即是指将拟修约数乘以5, 再按上述规则修约, 最后将修约所得数除以5。
    如:将下面的数值修约到百数位的0.2单位 (即修约间隔为20)
    拟修约数:770, 修约过程:770×5=3850, 即对3850修约 (修约间隔为100) , 即得3800, 可得最终修约值:760 (修约间隔为20)
    (二)简单易行的直观判断修约方法, 修约数是修约间隔一系列整数倍的数最接近拟修约数的一个;在修约间隔一系列整数倍的数中, 如果有连续两个同等接近于拟修约数, 则这两者中, 为修约间隔偶数倍的数就是修约数。
    (1) 修约数是修约间隔一系列整数倍的数最接近拟修约数的一个。如:
    将11.3372按0.01修约间隔进行修约, 此时与拟修约数11.3372邻近的为修约间隔整数倍的数有11.33和11.34, 可以判断得出11.34更接近于11.3372, 因为修约数为11.34。
    ( 2) 在修约间隔一系列整数倍的数中, 如果有连续两个同等接近于拟修约数, 则这两者中, 为修约间隔偶数倍的数就是修约数。如:
    将11.3550按0.01修约间隔进行修约, 此时与拟修约数11.3500邻近的为修约间隔整数倍的数有11.35和11.36, 可以判断得出二者同等接近于11.3550, 那么由于11.36为修约间隔0.01的偶数倍 (1136倍) , 可知修约数为11.36。

0
    +关注 私聊
  • senke

    第4楼2018/10/17

    应助达人

    3 修约与计算顺序的问题
    在实际工作中常需要涉及大量原始数据, 最终结果常需要通过这些数据, 经过一系列复杂计算之后才能得到。以前, 受制于科技大多采用手工计算因此在进行比较复杂的计算时, 提倡的都是先修约后计算, 这样可以使运算简化, 减少运算强度, 同时也能减少因舍掉任何不重要的数字而使准确度受损程度, 然而受损是不可避免的。现如今, 随着计算机的发展, 人们普遍采用计算机来完成计算任务, 其可以完成各种复杂运算。现如今修约因过程繁琐, 反而有可能易出错, 降低数据精确度, 通过下面的例子, 说明先运算后修约精确度更高。 (乘法运算的修约规则:先将各数值修约至比有效数字位数最少者多保留一位有效数字运算, 计算结果的有效数字的位数与有效数字位数最少的数值相同)
    先运算后修约:
    35.79×2.31×11.245=929.6792505修约得930
    先修约后运算:
    35.79×2.31×11.245=35.79×2.31×11.24=929.265876修约得929
    可以得出先计算后修约得到的结果精确度更高, 在计算机时代, 使用计算机进行运算不但过程简化, 效率提高, 并且避免了多次修约出现的错误。因此在当今时代, 先计算后修约是比较优的选择。

0
    +关注 私聊
  • zal

    第5楼2018/10/18

    应助达人

    楼主整理出来没少费事呀,辛苦了,谢谢分享

0
    +关注 私聊
  • 西瓜猫猫西瓜

    第6楼2018/10/18

    问个不厚道的问题,版主,你近来整理了好多这种资料,有Word或PDF版本的吗?打包已经发出来的资料给我一份行不行?(实在有点脸皮厚。。。我有点不好生意了)

0
    +关注 私聊
  • wazcq

    第7楼2018/10/18

    应助达人

    非甲烷总烃平行数据平均值计算(非甲烷总烃保留3个有效数字): 第一次总烃22.64,甲烷1.38 第二次总烃22.36,甲烷1.33
    计算方式一: 22.64-1.38=21.26修约成21.3 22.36-1.33=21.03修约成21.0 21.3 21.0平均21.15修约成21.2
    计算方式二: 21.26 21.03平均21.145修约成21.1
    大家采用哪种计算方式?

0
    +关注 私聊
  • senke

    第8楼2018/10/18

    应助达人

    整理资料是为了活跃版面发帖量啊,你们每天都不来看贴了。
    我觉得整理成WORD或者PDF就有很多人下载了说句谢谢,存储起来也就不看了,这样展示出来,多少也有人会看到。
    再说这样展示需要的人用搜索引擎很容易找到,真正起到帮助别人的目的。

    西瓜猫猫西瓜(vivi_vivi) 发表:问个不厚道的问题,版主,你近来整理了好多这种资料,有Word或PDF版本的吗?打包已经发出来的资料给我一份行不行?(实在有点脸皮厚。。。我有点不好生意了)

0
    +关注 私聊
  • 西瓜猫猫西瓜

    第9楼2018/10/18

    我以前可是版面的活跃分子。。。就是最近肚子大了。。。不怎么上班。。。基本上论坛就不来了。。。
    嘻嘻,我也知道这样打包不好,我是厚着脸皮问问,因为我以前保存的这些资料在这次我休长假回来后全部随着硬盘毁坏而丢失了(请想象一下我内心的悲痛。。。)
    最近来公司准备资料才发现,自己好多资料都找不齐了。。。。发现您分享了蛮多资料的。。。一个个copy有点吃力。。。所以厚着脸皮问了问。。。实在抱歉(。・_・。)ノ嘿嘿嘿

    senke(lifen4607) 发表: 整理资料是为了活跃版面发帖量啊,你们每天都不来看贴了。
    我觉得整理成WORD或者PDF就有很多人下载了说句谢谢,存储起来也就不看了,这样展示出来,多少也有人会看到。
    再说这样展示需要的人用搜索引擎很容易找到,真正起到帮助别人的目的。

0
    +关注 私聊
  • senke

    第10楼2018/10/18

    应助达人

    呀,恭喜恭喜啊,宝妈身体是最重要的。
    以后我把资料做成word 分享在帖子后头。

    西瓜猫猫西瓜(vivi_vivi) 发表: 我以前可是版面的活跃分子。。。就是最近肚子大了。。。不怎么上班。。。基本上论坛就不来了。。。
    嘻嘻,我也知道这样打包不好,我是厚着脸皮问问,因为我以前保存的这些资料在这次我休长假回来后全部随着硬盘毁坏而丢失了(请想象一下我内心的悲痛。。。)
    最近来公司准备资料才发现,自己好多资料都找不齐了。。。。发现您分享了蛮多资料的。。。一个个copy有点吃力。。。所以厚着脸皮问了问。。。实在抱歉(。・_・。)ノ嘿嘿嘿

0
查看更多
猜你喜欢最新推荐热门推荐更多推荐
举报帖子

执行举报

点赞用户
好友列表
加载中...
正在为您切换请稍后...