仪器信息网APP
选仪器、听讲座、看资讯

【讨论】计算中的有效位数确定

液相色谱(LC)

  • 各位好,工作的时候有时候会钻进死胡同。

    有效位数的确定相信大家不会陌生,但是我们在计算含量的时候很多情况下都会稀释2倍,或者5倍,等等。

    因此我们的计算公式中会除以2或者乘以2等等,那么根据乘(除)取有效位数最小的数字为准,那么液相最终的结果也只有一位是准确的?(以2为例)

    欢迎大家讨论

    就是有效数字保留的问题
    (二)乘、除(或乘方、开方)运算
      乘除运算规则:在进行数的乘除运算时,以有效数字位数量少的那个数为准,其余的数的有效数字均比它多保留一位。运算结果(积或商)的有效数字位数,应与参与运算的数中有效数字位数最少的那个数相同。若计算结果尚需参与下一步运算,则有效数字可多取一位。
      例如:1.1m×0.3 268m×0.10300m→1.1m×0.327m×0.103m=0.0370491m3≈0.037m3
      计算结果为0.037m3。若需参与下一步运算,则取0.0370m3。
    +关注 私聊
  • lxx5052

    第1楼2010/10/27

    没 看明白啥意思啊,呵呵,能具体点吗

0
    +关注 私聊
  • 毛毛

    第2楼2010/10/27

    对啊,具体情况具体考虑。

0
    +关注 私聊
  • 〓猪哥哥〓

    第3楼2010/10/27

    有效位数的决定最好是在最后结果的时候才决定取舍。

    楼主说的,我也没看明白

0
    +关注 私聊
  • 老多_小多

    第4楼2010/10/27

    楼主应该是想知道中间计算过程,比如浓度等的有效数字吧

0
    +关注 私聊
  • 有水有渝

    第5楼2010/10/28

    应助达人

    其实深究这个稀释倍数来说也不是整数的,因为你的容量瓶与移液管其实都不是整数,它们的读数应该是小数点后两位(看一下容量器具的误差就知道,一般都会写正负0.01或0.05等),所以稀释倍数也应该保留至小数点后两位。这个纯属个人看法,欢迎指正。

0
    +关注 私聊
  • cxdong96

    第6楼2010/10/29

    这样就对了 结果保留三位小数就可以了 呵呵

    有水有渝(xky0230699) 发表:其实深究这个稀释倍数来说也不是整数的,因为你的容量瓶与移液管其实都不是整数,它们的读数应该是小数点后两位(看一下容量器具的误差就知道,一般都会写正负0.01或0.05等),所以稀释倍数也应该保留至小数点后两位。这个纯属个人看法,欢迎指正。

0
    +关注 私聊
  • lxx5052

    第7楼2010/10/29

    为什么呢?没理解

    cxdong96(cxdong96) 发表:这样就对了 结果保留三位小数就可以了 呵呵

0
    +关注 私聊
  • djbhbez2004

    第8楼2014/04/23

    若计算结果尚需参与下一步运算,则有效数字可多取一位。请注意是“可”,不多取也行。

0
    +关注 私聊
  • 有水有渝

    第9楼2014/04/24

    应助达人

    支持,只要还没有到最终结果,不进行数值的修约,实在没有办法不修约的话,还就多保留几位,我如果遇到这咱情况一般至少保留5位有效数字。

    〓猪哥哥〓(03yx2) 发表:有效位数的决定最好是在最后结果的时候才决定取舍。

    楼主说的,我也没看明白

0
    +关注 私聊
  • 支点

    第10楼2014/04/25

    应助达人

    个人以为:
    1、稀释倍数的2不可以当一位有效数字(实际上是与你使用的移液器具和容量瓶有关,简单可以认为是无限多位),应以其他测量的含有有效位数的最少为准。
    2、前面感觉没有问题,就是“计算结果为0.037m3。若需参与下一步运算,则取0.0370m3”反正我都是Excel计算,觉得只要没有算完,我就不会去修约。

0
查看更多
猜你喜欢最新推荐热门推荐更多推荐
举报帖子

执行举报

点赞用户
好友列表
加载中...
正在为您切换请稍后...