仪器信息网APP
选仪器、听讲座、看资讯

【求助】有关数字修约的计算

数据处理

  • 对于测试数据的修约计算问题请教大家,按以下条件把数据修约:
    测量数据 有效数据位数 修约间隔 修约结果
    3.457 1 0.5 ?
    176.5342 2 0.05 ?
    0.0012 1 0.002 ?
    1800.32 2 0.1 ?
    请问是怎么算的,希望提供计算的步骤,谢谢!
0
    +关注 私聊
  • 善良的鬼

    第2楼2010/12/31

    不理解修约间隔,

0
    +关注 私聊
  • yzguo

    第3楼2010/12/31

    修约间隔(rounding interval)—— 修约值的最小数值单位。属于确定修约保留位数的一种方式。

      注:修约间隔的数值一经确定,修约值即为该数值的整数倍。
    来自百度

    ygw8(ygw8) 发表:不理解修约间隔,

0
    +关注 私聊
  • 牛牛

    第4楼2010/12/31

    2.1 修约间隔
    修约间隔是确定修约保留位数的一种方式,也称为修约区间。修约间隔的量值一经确定,修约数只能是该修约间隔的整数倍。修约间隔一般以k×10n的形式,称为以“k”间隔修约,并由n确定修约到哪一位。当n为负整数时,表明将数值修约到n位小数,如n=-1相当于将数值修约到一位小数;当n=0时相当于将数值修约到个位;当n为正整数时,表明将数值修约到10n数位,如n=2相当于将数值修约到“百”位。大多数情况下,k=1,即以“1”间隔修约。在某些特殊领域或特殊情况下,也有采用“2”间隔或者“5”间隔。
    2.2 近似数的基本修约规则
    由于“四舍五入”修约原则下的舍入误差较大,我们选用更合理的修约原则,具体如下。
    (1) 对于“1”间隔修约:
    a.拟舍弃的数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。
    例如: 拟修约数15.24499,修约间隔0.01,则为
    15.24499→15.24。
    b.拟舍弃的数字的最左一位数字大于5时,则进1,即保留的末位数字加1。
    例如: 拟修约数18.4601,修约间隔0.1,则为
    18.4601→18.5。
    c.拟舍弃的数字的最左一位数字等于5,且其后跟有并非全部为0的数字时,则进1,即保留的末位数字加1(不管5前面的数字是奇数还是偶数)。
    例如: 拟修约数18.4501,修约间隔0.1,则为
    18.4501→18.5。
    d.拟舍弃的数字的最左一位数字等于5,且其后没有数字或皆为0时,若保留的数字为奇数(1,3,5,7,9),则进1,即保留的末位数字加1;若为偶数(0,2,4,6,8),则舍去,即保留的各位数字不变。
    例如: 拟修约数18.45,修约间隔0.1,则为
    18.45→18.4;
    拟修约数18.55,修约间隔0.1,则为
    18.55→18.6。
    这个规则简称为:“4舍6入,遇5偶数法则”。
    (2)非“1”间隔修约
    对于非“1”间隔修约,例如“2”间隔或“5”间隔修约,我们可先将拟修约数分别乘以2或5,然后按“1”间隔进行修约,最后再将修约数除以2或5。
    例如: 将下列数按0.05间隔修约:
    拟修约数值 末位保留依修约间隔(0.05)

    例如: 将下列数按0.2间隔修约:
    拟修约数值 末位保留依修约间隔(0.2)

    2.3 负数的修约
    负数的修约按其绝对值进行,修约后再加上负号。
    例如: 拟修约数-18.23,修约间隔0.02,则为

    2.4 勿连续修约
    数据修约应一步到位,不能连续修约,连续修约会导致修约不确定度增大。
    例如: 拟修约数73.149,修约间隔0.1,则为
    73.149→73.1。
    而不能采用下述连续修约的方式:
    73.149→73.15→73.2。
    2.5 舍入误差
    设a为拟修约的数,b为修约后的近似数,则修约的舍入误差|δ|应为

    例如: 将数8750按100间隔修约,并求其舍入误差,

0
    +关注 私聊
  • 牛牛

    第5楼2010/12/31

    按照上面这个方法修约即可

0
    +关注 私聊
  • xing-xing

    第6楼2010/12/31

    测量数据 有效数据位数 修约间隔 修约结果
    3.457 1 0.5 3
    1800.32 2 0.1 1800

0
    +关注 私聊
  • huishao

    第7楼2011/01/02

    谢谢,就是那有效数字位数那不明白什么意思。
    例如
    测量数据 176.5342 有效数据位数 2 修约间隔 0.05 修约结果
    是这样算吗:167.5342/5=33.50684→33.51*5=167.55
    还是这样167.5342→0.17*10^3/5=0.034*10^3→0.03*10^3*5=0.15*10^3哪个对呢,请指导。感觉167.55是5位有效数字了,但0.15*10^3又太离谱了。

0
    +关注 私聊
  • xing-xing

    第8楼2011/01/03

    不是

    176.5342x20= M 修约间隔 1 有效数据位数 2 得 m

    然后 m/20 保留有效数据位数 2 就好了

    huishao(huishao) 发表:谢谢,就是那有效数字位数那不明白什么意思。
    例如
    测量数据 176.5342 有效数据位数 2 修约间隔 0.05 修约结果
    是这样算吗:167.5342/5=33.50684→33.51*5=167.55
    还是这样167.5342→0.17*10^3/5=0.034*10^3→0.03*10^3*5=0.15*10^3哪个对呢,请指导。感觉167.55是5位有效数字了,但0.15*10^3又太离谱了。

0
0
    +关注 私聊
  • poorlittle

    第10楼2011/01/04

    “测量数据 176.5342 有效数据位数 2 修约间隔 0.05”中“有效数据位数 2 ”与 修约间隔 0.05”似乎有矛盾。

    若改成“测量数据 176.5342 有效数据位数 2 修约间隔 0.05, 修约结果为 18×102

    原文原意可能为“测量数据 176.5342 数位为小数后 2 修约间隔 0.05, 修约结果为 176.55

    (“数位”和 “有效位数”的分别, 请看http://bbs.instrument.com.cn/shtml/20100705/2647290/ )

    huishao(huishao) 发表:例如
    测量数据 176.5342 有效数据位数 2 修约间隔 0.05 修约结果

0
查看更多
猜你喜欢最新推荐热门推荐更多推荐
举报帖子

执行举报

点赞用户
好友列表
加载中...
正在为您切换请稍后...