仪器信息网APP
选仪器、听讲座、看资讯

【讨论】如何处理有效数字

  • 天上的云
    2009/11/18
  • 私聊

仪器检定/校准/计量

  • 想请教各位大侠一个问题:

    我在工作中遇见这样的问题,通常从仪器上直接读出来的都是小数点后面4-5位,这些可以直接记录作为原始数据,但是对这些原始数据进行处理后的结果小数点的后面就有很多位了,我想知道大家都是怎样处理这个结果数据的。
    +关注 私聊
  • coffee8

    第1楼2009/11/18

    一般情况下要看你最终的报出结果要保留极为有效数字。根据运算过程中的数据一般比结果多保留一位的原则进行相应取舍。或者为了更准确可以多保留两位,视情况而定,仪器上的数据也不一定就能准确到那么多位数!

0
    +关注 私聊
  • 老化验工

    第2楼2009/11/18

    看看附件里的处理方法,这是一般遵循的原则。加减法以小数后位数最少者裁齐,乘除法以总位数最少者裁齐。然后再进行计算,并按指定的位数裁减,注意取舍原则:四舍六入五留双(逢5则看入了成双数则入,入后为单数则舍)
    分析化学(有效数字).pdf

0
    +关注 私聊
  • lanbing08

    第3楼2009/11/18

    正解~~

    zlhuang0132(zlhuang0132) 发表:看看附件里的处理方法,这是一般遵循的原则。加减法以小数后位数最少者裁齐,乘除法以总位数最少者裁齐。然后再进行计算,并按指定的位数裁减,注意取舍原则:四舍六入五留双(逢5则看入了成双数则入,入后为单数则舍)
    分析化学(有效数字).pdf

0
    +关注 私聊
  • re8237010

    第4楼2009/11/18

    上海安亭科学仪器厂为了更好的服务北方地区的用户 特此在北京设立了办事处,为您提供售前售中售后的贴心服务,如果您有产品咨询或是维修方面的事情,请拨打电话010-51653553 13718611962 汤小姐
    上海安亭科学仪器厂位于上海国际汽车城安亭工业园区,专业生产离心机近三十年。企业技术实力雄厚,具有成熟的专业工艺和测试手段,设备先进。目前生产的离心机有四大系列65个品种。年常量达到2.8万台。产品设计新颖、分离性能良好,畅销国内外,国内销售量占国内市场的45%,产品40%销往国外。最新开发的超高速离心机填补国内空白。

0
    +关注 私聊
  • 潇洒过明天

    第5楼2009/12/08

    现在什么都要有效数字,前段时间参加测量不确定度评定培训,也对有效数字进行了规定。

0
    +关注 私聊
  • 吉普丽儿

    第6楼2009/12/09

    按修约原则处理就可以了,按先修约后运算,在修约的原则。一步一步进行,运算结果加减法以小数后位数最少者裁齐,乘除法以有效数字最少者裁齐。运算时,进行修约的数字多保留一位

0
猜你喜欢最新推荐热门推荐更多推荐
举报帖子

执行举报

点赞用户
好友列表
加载中...
正在为您切换请稍后...