仪器信息网APP
选仪器、听讲座、看资讯

计算过程的数据处理有什么原则,规定的吗?

  • 爆发吧,小宇宙
    2014/11/26
  • 私聊

数据处理

  • 我们在使用仪器或者计算一些数据的时候并不是一步计算到位的?我们该如何进行数值修约?
    +关注 私聊
  • whuisvfg

    第1楼2014/11/28

    执行GB/T8170-2008标准
    遵守近似计算的规则(可参阅的标准很多如HJ/T 91-2002中10.4节等)
    如使用计算机软件,注意使用软件的修约规则是否适用。
    其他不适用四舍六入和近似计算规则的数据参数的特殊规定。

0
    +关注 私聊
  • 爆发吧,小宇宙

    第2楼2014/12/01

    8170 我看了,但是仪器上我在定量时它会自己去做一个修约,可能和仪器设置有关,最后算结果的时候,我自己还会做一个修约,那就类似是进行连续修约了。

    whuisvfg(whuisvfg) 发表:执行GB/T8170-2008标准
    遵守近似计算的规则(可参阅的标准很多如HJ/T 91-2002中10.4节等)
    如使用计算机软件,注意使用软件的修约规则是否适用。
    其他不适用四舍六入和近似计算规则的数据参数的特殊规定。

0
    +关注 私聊
  • whuisvfg

    第3楼2014/12/01

    如果仪器给出的有效数字位数比最终报出的结果有效位数多,不算是连续修约。
    现在实验室一般多采用Excel处理数据,计算过程不做修约,只在最后得出结果时做一次修约都没有问题(Excel要加上一个自定义四舍六入的函数)。

0
    +关注 私聊
  • 爆发吧,小宇宙

    第4楼2014/12/03

    我好像明白了。那个函数是你自己编入的还是EXCEL自己带有的?

    whuisvfg(whuisvfg) 发表:如果仪器给出的有效数字位数比最终报出的结果有效位数多,不算是连续修约。

    现在实验室一般多采用Excel处理数据,计算过程不做修约,只在最后得出结果时做一次修约都没有问题(Excel要加上一个自定义四舍六入的函数)。

0
    +关注 私聊
  • whuisvfg

    第5楼2014/12/03

    office中word和excel是四舍五入的,其他四舍六入。

0
    +关注 私聊
  • 爆发吧,小宇宙

    第6楼2014/12/03

    那就是哟自己去调成四舍六入

    whuisvfg(whuisvfg) 发表:office中word和excel是四舍五入的,其他四舍六入。

0
    +关注 私聊
  • tianlan205

    第8楼2014/12/24

    原文由 whuisvfg(whuisvfg) 发表:执行GB/T8170-2008标准
    遵守近似计算的规则(可参阅的标准很多如HJ/T 91-2002中10.4节等)
    如使用计算机软件,注意使用软件的修约规则是否适用。
    其他不适用四舍六入和近似计算规则的数据参数的特殊规定。

    8170 我看了,但是仪器上我在定量时它会自己去做一个修约,可能和仪器设置有关,最后算结果的时候,我自己还会做一个修约,那就类似是进行连续修约了。

    仪器一般是保留4位有效数字,但是报结果的时候一般保留2-3位,应该不算连续修约。

0
    +关注 私聊
  • whuisvfg

    第9楼2014/12/24

    不属连续修约。

0
猜你喜欢最新推荐热门推荐更多推荐
举报帖子

执行举报

点赞用户
好友列表
加载中...
正在为您切换请稍后...