仪器信息网APP
选仪器、听讲座、看资讯

【求助】精确至0.05怎么理解?

数据处理

  • 标准方法上要求数据精确到0.05
    怎么理解?
    仪器测到的数据为7.02 ,如果精确到0.05 那是不是该写成:7.00 还是7.05 ?
    怎么定是7.00还是7.05 ?
    7.64呢? 是7.60还是7.65 呢?
0
    +关注 私聊
  • jimmy841228

    第2楼2008/07/28

    标准方法上要求数据精确到0.05
    应该是最小刻度为0.05吧
    难道检测的数据只有两位数,还是你修约后是两位?



0
    +关注 私聊
  • 樱桃小丸子

    第3楼2008/07/29

    精确至0.05是指数据范围为0.046-0.054之间
    7.02应该是7.00

    tygy 发表:标准方法上要求数据精确到0.05
    怎么理解?
    仪器测到的数据为7.02 ,如果精确到0.05 那是不是该写成:7.00 还是7.05 ?
    怎么定是7.00还是7.05 ?
    7.64呢? 是7.60还是7.65 呢?

0
    +关注 私聊
  • youjian000

    第4楼2008/07/29

    将所测数据乘以2.00,精确至0.1,再除以2.00即可。
    7.02*2.00=14.04 精确至0.1后得到14.0,14.0/2.00=7.00
    7.64*2.00=15.28 精确至0.1后得到15.3,15.3/2.00=7.65

    tygy 发表:标准方法上要求数据精确到0.05
    怎么理解?
    仪器测到的数据为7.02 ,如果精确到0.05 那是不是该写成:7.00 还是7.05 ?
    怎么定是7.00还是7.05 ?
    7.64呢? 是7.60还是7.65 呢?

3
0
    +关注 私聊
  • hhk123

    第6楼2014/04/17

    请问这个有相关资料可以参考吗?看了你的解答还是不是还理解!

    youjian000(youjian000) 发表:将所测数据乘以2.00,精确至0.1,再除以2.00即可。
    7.02*2.00=14.04 精确至0.1后得到14.0,14.0/2.00=7.00

    7.64*2.00=15.28 精确至0.1后得到15.3,15.3/2.00=7.65

0
    +关注 私聊
  • 999youran

    第7楼2014/07/15

    以0.05为进制,然后四舍六入五考虑来保留有效数字!

0
    +关注 私聊
  • 高冷病患者

    第8楼2014/08/22

    在GBT8170-2008 <数值修约规则与极限数值的表示和判定>中介绍了0.5和0.2的修约方式,就是这么算的。在这里可以延伸到0.05修约上。

    hhk123(hhk123) 发表:请问这个有相关资料可以参考吗?看了你的解答还是不是还理解!

1
    +关注 私聊
  • 溺水虾米

    第9楼2024/08/08

    再请教下,如果是修约到0.02mm呢

    youjian000(youjian000) 发表:将所测数据乘以2.00,精确至0.1,再除以2.00即可。
    7.02*2.00=14.04 精确至0.1后得到14.0,14.0/2.00=7.00
    7.64*2.00=15.28 精确至0.1后得到15.3,15.3/2.00=7.65

0
猜你喜欢最新推荐热门推荐更多推荐
举报帖子

执行举报

点赞用户
好友列表
加载中...
正在为您切换请稍后...