仪器信息网APP
选仪器、听讲座、看资讯

浅谈数值修约的使用方法

论文写作和投稿

  • 实验室在出具正式报告时,需要对检测出的原始数据进行修约再报出,在修约时会出现不按规则修约或修约错误的现象。因此,与大家共同探讨数值修约的使用方法,不当之处请大家指正!



    一、数值修约的定义和术语

    数值修约是将带有误差的测量或计算结果的数字,在进行具体的数字运算前,通过省略原数值的最后若干位数字,调整保留的末位数字,使最后所得到的值最接近原数值的过程。指导数字修约的具体规则被称为数值修约规则。数值修约时应首先确定修约间隔进舍方法

    1、 修约间隔

    是确定修约保留位数的一种方式,是修约值的最小数值单位。修约间隔的数值一旦确定,修约值即为该数值的整数倍。修约间隔主要有以下3种:

    1.1指定修约间隔为10-n(n为正整数),或指明将数值修约到n位小数;

    1.2指定修约间隔为1,或指明将数值修约到“个”数位;

    1.3指定修约间隔为10n(n为正整数),或指明将数值修约到10n数位,或指明将数值修约到“十”、“百”、“千”……数位。

    例1:如指定修约间隔为0.1,修约值应在0.1的整数倍中选取,相当于将数值修约到一位小数。如把1.050和0.35按0.1修约间隔进行修约,则:1.050的修约值为10×10-1(特定场合可写成1.0);0.35的修约值为4×10-1(特定场合可写成0.4)。

    例2:如指定修约间隔为100,修约值应在100的整数倍中选取,相当于将数值修约到“百”数位。如把250和350按100修约间隔进行修约,则:250的修约值为2×102(特定场合可写成200);350的修约值为4×102(特定场合可写成400)。

    2、 进舍方法

    2.1四舍五入法是人们习惯采用的一种数字修约规则,逢五就进,逢四就舍。理论与实际表明,采用该方法并不准确,因为逢五必进,使得舍入不平衡,结果偏高,误差偏大,总的来说,入的多,舍的少。

    2.2四舍六入五留双法是为了避免四舍五入规则造成的结果偏高,误差偏大的现象出现,一般采用四舍六入五留双规则进行修约,该方法能够做到舍入相对平衡,偏差较小。

    二、四舍六入五留双的使用方法

    口诀:“四舍六入五考虑,五后非零则进一,五后皆零视奇偶,五前为偶应舍去,五前为奇则进一,不论数字多少位,都要一次修约成。”具体操作如下:

    1、 当尾数小于或等于4时,直接将尾数舍去;当尾数大于或等于6时,将尾数舍去向前一位进位。

    2、 当尾数为5,而尾数“5”的后面还有任何不是0的数字时,无论前一位在此时为奇数还是偶数,也无论“5”后面不为0的数字在哪一位上,都应向前进一位。如将下列数字修约到两位小数:

    12.73507—12.74 21.8452—21.85 38.305000001—38.31

    3、当尾数为5,而尾数后面无数字或数字均为0时,应看尾数“5”的前一位:若前一位数字此时为奇数,就应向前进一位;若前一位数字此时为偶数,则应将尾数舍去。数字“0”在此时应被视为偶数。如将下列数字修约到两位小数:

    5.745—5.74 27.475—27.48 12.6450—12.64 18.2750—18.28

    12.7350—12.74 21.845000—21.84

    ,4、负数修约时,先将它的绝对值按上述规定进行修约,然后在修约值前面加上负号。如将下列数字修约到“十”数位:

    拟修约数值 修约值

    -355 -36×10(特定场合可写为-360)

    -325 -32×10(特定场合可写为-320)

    5、拟修约数字应在确定修约位数后应一次修约获得结果,不得多次连续修约。

    如:修约15.4546,修约间隔为1:

    正确的做法:15.4546→15

    不正确的做法:15.4546→15.455→15.46→15.5→16

    6、在具体实施中,有时先将获得数值按指定的修约位数多一位或几位报出,而后由其他人员判定。为避免产生连续修约的错误,应按下述步骤进行:

    (1)报出数值最右的非零数字为5时,应在数值后面加“(+)”或“(-)”或不加符号,以分别表明已进行过舍、进或未舍未进。

    如:16.50(+)表示实际值大于16.50,经修约舍弃成为16.50;16.50(-)表示实际值小于16.50,经修约进一成为16.50

    (2)如果判定报出值需要进行修约,当拟舍弃数字的最左一位数字为5而后面无数字或皆为0时,数值后面有(+)号者进一,数值后面有(-)号者舍去。

    如:将下列数字修约到个数位后进行判定(报出值多留一位到一位小数)

    实测值:15.4546 16.5203 17.5000 -15.4546

    报出值:15.5(-) 16.5(+) 17.5 -(15.5(-))

    修约值:15 17 18 -15

    三、0.5单位修约使用方法(半个单位修约)

    是指按指定修约间隔对拟修约的数值以0.5单位进行修约。

    修约方法为:将拟修约数值乘以2,按指定修约间隔依修约规则进行修约,所得数值再除以2。如将下列数字修约到个数位的0.5单位修约:

    拟修约数值 乘2 2A修约值 A修约值

    (A) (2A) (修约间隔为1) (修约间隔为0.5)

    60.25 120.50 120 60.0

    60.28 120.56 121 60.5

    -60.75 -121.50 -122 -61.0

    四、0.2单位修约使用方法

    是指按指定修约间隔对拟修约的数值以0.2单位进行修约。

    修约方法如下:将拟修约数值乘以5,按指定修约间隔依修约规则进行修约,所得数值再除以5。如将下列数字修约到百数位的0.2单位修约

    拟修约数值 乘5 5A修约值 A修约值

    (A) (5A) (修约间隔为100) (修约间隔为0.2)

    830 4150 4200 840

    842 4210 4200 840

    -930 -4650 -4600 -920

    五、结语

    在使用数值修约规则对检测原始数据进行修约时,首先需要注意的是不能连续修约,避免出现连续修约导致报出结果偏差较大;其次在分析岗位报出结果需要修约时,在结果后面应标注相应符号,以便出具正式报告的人员知道该结果是否经过修约,避免修约出错;最后应特别注意末尾数字5的修约。只要严格按照数值修约规则进行修约,就能在结果报出中不会出现错误。
猜你喜欢最新推荐热门推荐更多推荐
举报帖子

执行举报

点赞用户
好友列表
加载中...
正在为您切换请稍后...