仪器信息网APP
选仪器、听讲座、看资讯

有效数字的运算与修约

  • chenyl4518
    2014/01/15
  • 私聊

数据处理

  • 在日常计算中,遇到这种问题小弟很困惑,希望哪位大虾帮我确定一下,下面的计算是否正确?

    0.0231、24.57和1.16832三个数相乘,根据有效数字的运算规则,有效数字的位数取决于相对误差最大的数据的位数,

    应该写成 0.0231×24.6×1.17=0.6648642≈0.665
    +关注 私聊
  • 【四季风】

    第1楼2014/01/16

    要看这三个数是什么数据,如果是原始数据应该全部数据乘完后再修约吧。

0
    +关注 私聊
  • jiasheng

    第2楼2014/01/16

    乘除法以有效数字最少的数据为基准,其他有效数修约至相同,再进行乘除运算,计算结果仍保留最少的有效数字。
    也可以计算后在修约。

1
    +关注 私聊
  • chenyl4518

    第3楼2014/01/16

    0.0231×24.6×1.17=0.6648642计算结果写成0.6648≈0.665?

    chenyl4518(chenyuanlin) 发表:在日常计算中,遇到这种问题小弟很困惑,希望哪位大虾帮我确定一下,下面的计算是否正确?

    0.0231、24.57和1.16832三个数相乘,根据有效数字的运算规则,有效数字的位数取决于相对误差最大的数据的位数,

    应该写成 0.0231×24.6×1.17=0.6648642≈0.665

0
    +关注 私聊
  • 第4楼2014/01/16

    在乘除運算中,應以參加運算的各數據中相對誤差最大(即有效數字位數最少)的數據為標准,決定結果(積或商)的有效位數。中間算式中可多保留一位。

1
    +关注 私聊
  • zyl3367898

    第5楼2014/01/16

    应助达人

    这个结果是对的。

0
    +关注 私聊
  • whuisvfg

    第6楼2014/01/17

    计算错误
    原因连续修约
    按照近似计算的相关法则,0.0231、24.57和1.16832三个数相乘最终保留3位有效数字,在计算过程中,各位数字可先修约到比最终保留的有效数字多一位再进行计算 0.0231x24.57x1.168≈0.663
    现在人们多使用office计算,可以在计算过程中不加修约,只在最后对计算结果进行修约即可。
    顺便提醒一下:office软件中,如果你使用Access,则不用担心计算修约问题,因为Access是采用四舍六入的计算方法。如果你在word表或者Excel中计算,则要再最后手动修约,因为这两个软件的修约格式是四舍五入,不符合GB/T8170标准。

0
    +关注 私聊
  • 千层峰

    第7楼2014/02/10

    不是应该保留2位小数么?

0
    +关注 私聊
  • lczhfj

    第8楼2014/02/15

    3位有效数字。

    千层峰(jxyan) 发表:不是应该保留2位小数么?

0
猜你喜欢最新推荐热门推荐更多推荐
举报帖子

执行举报

点赞用户
好友列表
加载中...
正在为您切换请稍后...