仪器信息网APP
选仪器、听讲座、看资讯

【求助】有效数字规

数据处理

  • 请问按有效数字规则 3.18×(0.1+0.213)÷1.357=?

    是0.7? 0.73? 0.733?

    多谢
    +关注 私聊
  • jennysing

    第1楼2009/02/24

    0.7.加减以小数点后位数最少的为准,乘除是以位数最少的。

    pilchardshym 发表:请问按有效数字规则 3.18×(0.1+0.213)÷1.357=?

    是0.7? 0.73? 0.733?

    多谢

0
    +关注 私聊
  • liu999999

    第2楼2009/02/24

    同意这位版友的意见,应该是0.7.

    jennysing 发表:0.7.加减以小数点后位数最少的为准,乘除是以位数最少的。

0
0
    +关注 私聊
  • 活到九十 学到一百

    第4楼2009/05/14

    0.73更合适。
    混合运算可以得出最终结果后再修约,即0.73。
    如果逐步运算,则还需要参与运算的数字要比规定的多保留一位。
    3.18×(0.1+0.213)÷1.357
    =3.18×0.31÷1.357
    =3.2×0.31÷1.4
    =0.71

    先修约和最后修约结果会有差别,对于混合运算0.73更接近实际值。

    pilchardshym 发表:请问按有效数字规则 3.18×(0.1+0.213)÷1.357=?

    是0.7? 0.73? 0.733?

    多谢

0
猜你喜欢最新推荐热门推荐更多推荐
举报帖子

执行举报

点赞用户
好友列表
加载中...
正在为您切换请稍后...