仪器信息网APP
选仪器、听讲座、看资讯

有效数字四则运算有没有国家或行业标准

国家标准GB

  • 有效数字四则运算有没有国家或行业标准。

    例如9.0*0.241结果应保留几位小数,不知道如何判断
    +关注 私聊
  • 【四季风】

    第1楼2013/09/29

    这个是有的,在各个标准方法的总则或质量控制里有说明,请你查找一下。

0
    +关注 私聊
  • 【四季风】

    第2楼2013/09/29

    不知你是计算那一类行业标准方法的,现在给两标准参考:

    食品检验GB/T5009-2003

1
    +关注 私聊
  • 【四季风】

    第3楼2013/09/29

    水质检验GB/T5750-2006

1
    +关注 私聊
  • 智慧的弟弟

    第6楼2013/09/29

    应该是GB/T 8170-2008

    这个是通用的

    1518xj(1518xj) 发表:传不了附件
    具体的标准如下:

    GB/T 8170-2009 <<数值修约规则与极限数值的表示和判定>>

0
    +关注 私聊
  • 1518xj

    第7楼2013/09/30

    恩,是的,我打错了年份,是2008版的

    智慧的弟弟(tanghuizhi01) 发表:应该是GB/T 8170-2008

    这个是通用的

0
    +关注 私聊
  • lov_new

    第9楼2013/09/30

    看到一个材料说,9.0因为第一位数字大于8应算做三位有效数字,我找不到相关标准来证明这个说法是正确的。

0
    +关注 私聊
  • lov_new

    第10楼2013/09/30

    计算过程中,一般比规定的有效数字多保留一位数再计算。

    这里的多保留一位数是需要修约还是直接把多的位数删掉?

    【四季风】(gpwrx) 发表:水质检验GB/T5750-2006

0
    +关注 私聊
  • 【四季风】

    第11楼2013/09/30

    在实际应用中与你所说,在计算时按照修约规则多保留一位数计算,这个多的一位数也应该按照修约规则进行修约,“四舍六入五留双”。

    lov_new(v2750298) 发表:计算过程中,一般比规定的有效数字多保留一位数再计算。

    这里的多保留一位数是需要修约还是直接把多的位数删掉?

0
    +关注 私聊
  • zyl3367898

    第12楼2013/10/02

    应助达人

    保留三位有效数字。

0
    +关注 私聊
  • wulin321

    第13楼2013/10/02

    应助达人

    三位吗?有什么依据呢

0
查看更多
猜你喜欢最新推荐热门推荐更多推荐
举报帖子

执行举报

点赞用户
好友列表
加载中...
正在为您切换请稍后...