仪器信息网APP
选仪器、听讲座、看资讯

关于参比体积计算过程中的数据修约问题

数据处理

  • 在对参比体积的计算过程中,是需要先对数据进行修约,然后计算,得出结果后再次进行修约;还是直接进行计算,然后对结果进行修约?比如,气温是7.7℃,大气压是1029Pa,采样体积是30.8L,那么按照参比体积的计算公式,就是30.8*1029*298.15/1013.25/(273.15+7.7),那么是要先进行修约,还是直接结果计算
    +关注 私聊
  • 歌名

    第1楼2023/01/05

    应助达人

    计算的时候避免连续修约,对于单个结果修约即可

0
    +关注 私聊
  • 第2楼2023/01/05

    那就是直接按照公式里的数据进行计算,对最后结果进行修约是吗

    歌名(Ins_eedcdc41) 发表:计算的时候避免连续修约,对于单个结果修约即可

0
    +关注 私聊
  • ztyzb

    第3楼2023/01/05

    应助达人



    楼主参考国家总站发的上岗考核试题,中间过程有效数字根本没执行加减乘除运算规则,所以个人建议按照实际数据计算也没问题,最后和实际体积位数保持一致;如果中间过程先按照加减乘有效数字运算规则先修约后计算更好

0
猜你喜欢最新推荐热门推荐更多推荐
举报帖子

执行举报

点赞用户
好友列表
加载中...
正在为您切换请稍后...