仪器信息网APP
选仪器、听讲座、看资讯
立即体验
当前位置： 仪器社区 >基础知识专区 > 数据处理 > 帖子详情

【讨论】数据的修约

数据处理

  • 3.分析结果小数点后的位数，应与分析方法精密度小数点后的位数一致。

    想来想去，也想不明白在分析过程中处理数据的时候应该怎么执行上面那一句话。这句话和下边的又怎么取舍呢？

    在乘除法运算中，每数及它们的积或商的有效数字的保留，以每数中有效数字位数最少的为标准。在乘除法中，因是各数值相对误差的传递，所以结果的相对误差必须与各数中相对误差最大的那个相当。

    例如：13.92×0.0112×1.9723中 0.0112是三位有效数字，位数最少，它的相对误差最大，所以应以0.0112的位数为准，即：13.9×0.0112×1.97 = 0.307
相关话题
    +关注 私聊

  • 。。。。。。。。。

    第3楼2010/11/16

    复习，复习。

0
    +关注 私聊

  • xing-xing

    第4楼2010/11/16

    计算过程中越多越好

0
    +关注 私聊

  • zengzhengce163

    第5楼2010/11/16

    个人觉得，不能把原始数据进行修约后再去计算，而应该在计算后把结果修约到相应的有效位数，上式应该是0.307489459修约为0.307

0
    +关注 私聊

  • 戈壁明珠

    第6楼2010/11/20

    应助达人

    实际上测定时得不到这么多位的精确结果 。

    zengzhengce163(zengzhengce163) 发表:个人觉得，不能把原始数据进行修约后再去计算，而应该在计算后把结果修约到相应的有效位数，上式应该是0.307489459修约为0.307

0
    +关注 私聊

  • 青林

    第7楼2010/11/21

    最好是一次性修约,步骤不要太多!

0
近期热榜
热门活动
猜你喜欢最新推荐热门推荐更多推荐

品牌合作伙伴

岛津
岛津
日立科学仪器
日立科学仪器
珀金埃尔默仪器（上海）有限公司（PerkinElmer）
珀金埃尔默仪器（上海）有限公司（PerkinElmer）
日本电子株式会社
日本电子株式会社
丹纳赫
丹纳赫
安捷伦
安捷伦
赛默飞世尔科技
赛默飞世尔科技
普析通用
普析通用
欧波同
欧波同
天美
天美
天瑞仪器
天瑞仪器
德国耶拿
德国耶拿
海能技术
海能技术
马尔文帕纳科
马尔文帕纳科
磐诺科技
磐诺科技
上海仪电科仪
上海仪电科仪
梅特勒托利多
梅特勒托利多
聚光科技
聚光科技
莱伯泰科
莱伯泰科
盛瀚
盛瀚
多宁生物
多宁生物
丹东百特
丹东百特
科哲
科哲
卓立汉光
卓立汉光
屹尧科技
屹尧科技
华谱科仪
华谱科仪
宝德仪器
宝德仪器
优莱博
优莱博
HORIBA
HORIBA
布鲁克核磁
布鲁克核磁
举报帖子

执行举报

点赞用户
好友列表
加载中...
正在为您切换请稍后...