仪器信息网APP

选仪器、听讲座、看资讯

立即体验

当前位置：仪器社区 >样品前处理 > 前处理综合讨论 > 帖子详情

有效数字修约规则

999youran

2014/10/19

前处理综合讨论

1. 有效数字是指在分析工作中实际上能测定到的数字，由准确数字加上最后一位有实际意义的估计数字（也称存疑数字）组成。

例如，我们用毫米尺测量一个物体的长度，我们知道毫米尺的最小刻度为1mm，也就是0.1cm，所以假如我们读出物体的长度为18.26 cm，这个读数的前三位18.2 cm是直接从尺上读出的，是准确的，可靠的，称为准确数字，而最末一位0.06 cm则是从尺上最小刻度之间估计来的，称为存疑数字。准确数字和存疑数字合起来，称为有效数字。

再比如50 mL量筒，最小刻度为1 mL，在两刻度间可再估计一位，所以实际测量能读到0.1 mL，如34.5 mL。

而50 mL滴定管，最小刻度为0.1 mL，在两刻度间可再估计一位，所以实际测量能读到0.01 mL，如27.85 mL。

有效数字不仅表示数量的大小，而且要正确地反映测量的精确程度。

如果有一个结果表示有效数字的位数不同，说明用的称量仪器的准确度不同。

例：7.5克用的是粗天平

7.52克用的是扭力天平

7.5187克用的是分析天平

2. “0”的双重意义　　作为普通数字使用或作为定位的标志。　　例：滴定管读数为20.30毫升。两个0都是测量出的值，算做普通数字，都是有效数字，这个数据有效数字位数是四位。　　改用“升”为单位，数据表示为0.02030升，前两个0是起定位作用的，不是有效数字，此数据是四位有效数字。　　3. 规定　　　(1)．倍数、分数关系无限多位有效数字　　　(2). pH、pM、lgc、lgK等对数值，有效数字由尾数决定。　　　　例： pM＝5.00 （二位） [M]=1.0×10^-5；PH＝10.34（二位）；pH＝0.03（二位）　　注意：首位数字是8，9时，有效数字可多计一位, 如9.83―四位。二、数值修约规则（“四舍六入五成双”规则）

当尾数≤4时则舍，

尾数≥6时则入；

尾数等于5而后面的数都为0时，5前面为偶数则舍，5前面为奇数则入；

尾数等于5而后面还有不为0的任何数字，无论5前面是奇或是偶都入。

例：将下列数字修约为4位有效数字。

修约前修约后

0.526647--------0.5266

0.36266112------0.3627

10.23500--------10.24

250.65000-------250.6

18.085002--------18.09

3517．46--------3517

注意：修约数字时只允许一次修约，不能分次修约。如：13.4748－13.47

三.计算规则

1. 加减法

先按小数点后位数最少的数据保留其它各数的位数，再进行加减计算，计算结果也使小数点后保留相同的位数。

例：计算50.1+1.45+0.5812=?

修约为：50.1+1.4+0.6=52.1

先修约，结果相同而计算简捷。

例：计算 12.43+5.765+132.812=?

修约为：12.43+5.76+132.81=151.00

注意：用计数器计算后，屏幕上显示的是151，但不能直接记录，否则会影响以后的修约；应在数值后添两个0，使小数点后有两位有效数字。

2. 乘除法

先按有效数字最少的数据保留其它各数，再进行乘除运算，计算结果仍保留相同有效数字。

例：计算0.0121×25.64×1.05782=?

修约为：0.0121×25.6×1.06=?

计算后结果为：0.3283456，结果仍保留为三位有效数字。

记录为：0.0121×25.6×1.06=0.328

注意：用计算器计算结果后，要按照运算规则对结果进行修约

例：计算2.5046×2.005×1.52=?

修约为：2.50×2.00×1.52=?

计算器计算结果显示为7.6，只有两位有效数字，但我们抄写时应在数字后加一个0，保留三位有效数字。

2.50×2.00×1.52=7.60

相关话题

夏天的雪

第1楼2014/10/28

应助达人

数字修约很常用，也很重要，尤其对临界值的修约

0

分
该帖子已被版主-999youran加2积分，加2经验;加分理由:参与讨论

999youran

第2楼2014/10/30

是的，最近新同事一直有小问题出现，就给讲解下。
夏天的雪(bingwang228) 发表:数字修约很常用，也很重要，尤其对临界值的修约

0

夏天的雪

第3楼2014/10/30

应助达人

多实践才能领悟
999youran(999youran) 发表:是的，最近新同事一直有小问题出现，就给讲解下。

0

hujiangtao

第4楼2014/11/07

应助达人

很详细谢谢楼主

0

分
该帖子已被版主-999youran加2积分，加2经验;加分理由:参与

999youran

第5楼2014/11/07

继续到前处理版面
hujiangtao(hujiangtao) 发表:很详细谢谢楼主

0

近期热榜

热门活动

猜你喜欢最新推荐热门推荐更多推荐

品牌合作伙伴

日立科学仪器

珀金埃尔默仪器（上海）有限公司（PerkinElmer）

珀金埃尔默仪器（上海）有限公司（PerkinElmer）

日本电子株式会社

赛默飞世尔科技

马尔文帕纳科

上海仪电科仪

梅特勒托利多

布鲁克核磁

举报帖子

点赞用户

好友列表

加载中...

正在为您切换请稍后...