仪器信息网APP

选仪器、听讲座、看资讯

立即体验

当前位置：仪器社区 >认证认可专区 > 实验室认可/资质认定 > 帖子详情

【原创】有效数字及有数值修约-2

t-z-p1960

2007/07/05

实验室认可/资质认定

6.数值修约
在进行具体的数字运算前，对某一数值，根据保留位数的要求，将多余的数字进行取舍的过程称为数值的修约。数值修约规则GB 8170—87。
修约间隔，系确定修约保留位数的一种方式。修约间隔的数值一经确定，修约值即应为该数值的整数倍。
（1）数值修约一般以1×10n的形式表示：例1：如指定修约间隔为0.1，修约值即应在0.1的整数倍中选取，相当于将数值修约到一位小数。例2：如指定修约间隔为100，修约值即应在100的整数倍中选取，相当于将数值修约到“百”数位。
（2）0.5 单位修约（半个单位修约），指修约间隔为指定数位的0.5单位，即修约到指定数位的0.5单位：例如，将60.28修约到个数位的0.5单位，得60.5(修约方法见本规则5.1)。
（3）0.2 单位修约：指修约间隔为指定数位的0.2单位，即修约到指定数位的0.2单位。
例如，将832修约到“百”数位的0.2单位，得840（修约方法见本规则5.2）。
一般数值修约的口诀：“四舍六入五考虑，五后非零应进一，五后皆零视偶奇，五前偶（包括零）舍奇进一”
　例如：将下面左边的数字修约为三位有效数字
　　2.324→2.32　 2.325→2.32　 2.326→2.33　 2.335→2.34　 2.32501→2.33

7.有效数字运算法则
　　（1）在加减法运算中，每数及它们的和或差的有效数字的保留，以小数点后面位数最少（最末位单位量值最大）的为标准。在加减法中，因是各数值绝对误差的传递，所以结果的绝对误差必须与各数中绝对误差最大的那个相当。
　　例如：2.0375＋0.0745＋39.54 = ？
39.54是小数点后位数最少的，在这三个数据中，它的绝对误差最大，为±0.01，所以应以39.54为准，其它两个数字亦要保留小数点后第二位，因此三数计算应为：2.04＋0.07＋39.54 = 41.65
　　（2）在乘除法运算中，每数及它们的积或商的有效数字的保留，以每数中有效数字位数最少的为标准。在乘除法中，因是各数值相对误差的传递，所以结果的相对误差必须与各数中相对误差最大的那个相当。
　　例如：13.92×0.0112×1.9723 = ？
　　0.0112是三位有效数字，位数最少，它的相对误差最大，所以应以0.0112的位数为准，即：13.9×0.0112×1.97 = 0.307
　　（3）在使用计算器运算时，过程中可以不修约，但结果要修约。
（4）分析测试结果小数点后的位数，应与分析方法精密度小数点后的位数一致。

相关话题

系统设置

第1楼2008/06/17

总结的不错!支持一下!

0

风之彩

第2楼2008/06/17

支持一下

0

ushio

第3楼2008/06/20

总结的很好啊，支持以下一下

0

去年冬天

第4楼2009/04/06

学习了
谢谢楼主分享

0

liu999999

第5楼2009/04/06

基础知识重温一遍。

0

近期热榜

热门活动

猜你喜欢最新推荐热门推荐更多推荐

品牌合作伙伴

日立科学仪器

珀金埃尔默仪器（上海）有限公司（PerkinElmer）

珀金埃尔默仪器（上海）有限公司（PerkinElmer）

日本电子株式会社

赛默飞世尔科技

马尔文帕纳科

上海仪电科仪

梅特勒托利多

布鲁克核磁

举报帖子

点赞用户

好友列表

加载中...

正在为您切换请稍后...