仪器信息网APP

选仪器、听讲座、看资讯

立即体验

当前位置：仪器社区 >基础知识专区 > 分析化学 > 帖子详情

有效数字修约和偏差计算

jiachengqing

2021/08/26

有效数字修约和偏差计算

检验结果、观测值或计算值应按规定的修约规则处理，以便按规范对检测结果做出判断。测试过程中的数据、以及验证研究过程中的数据，不管是百分数还是绝对值，其最后一位有效数字都应慎重考虑。

1、通用规则
观测值和计算值的有效位数应多于规定的限度值位数，然后按下列方法将结果修约到一致的位数:

A. 观测值的保留位数并非越多越好，应适取舍。对于最原始参与计算的观测值，应至少保留 5 位有效数字，如峰面积或峰高;对于是直接结果的观测值，应至少比报告值多保留一位，如面积百分比等。对不参与计算的观测值，应至少比报告值多保留一位; 如果要求为整数位，可直接保留至整数位，如理论塔板数等。对于仪器不能满足以上采集要求的，其观测值为其显示值。

B. 中间计算过程中产生的计算值，若参与 RSD 计算的数字，应至少保留 5 位有效数字: 若为最终结果前一位的计算值，应至少比最终报告结果多保留一位。

C. 除非另有说明，所有数字按照以下方式保留:如果最后一位有效数字的后一位小于 5 ，则舍去，前面一位不变;如果最后一位有效数字的后一位大于或等于 5 ，且其后有大于零的数字，它应舍去，其前一位增加 1;若其后等于零，则四舍六入五成双。

D. 单个检测结果应至少保留到报告值中有效数字后一位;双份的检测结果，在平均前也应至少保留到报告值有效数字后一位，平均后再修约。平均后，有效数字应与报告值中规定的有效数字位数一样。进行修约的数值程序按照最近的计算结果进行。如表

标准
结果(观测值〉
平均( 计算值〉
报告值
不大于 0.10%
0.0939%
0.0844%
0.0892%
X.XXX
0.089%

2、特殊规则

一般数字应按照限度要求位数进行报告。在特殊情况下，一些较小的数字应保留更多的位数，以防止修约过程中的一些重要信息可能的丢失。例如，如下所获得的一些较小的数值: HPLC/gc 测得的杂质、干燥失重、蒸发残渣、灰分和残渣:以及其它灵敏仪器的检测结果等。故需要对数据的修约和保留进行规定。

A. 限度大于1.0%时，报告值与限度要求一致。如含量要求不小于98.5% ，计算值为 98.87% ，则报告为98.9%; 溶出度要求为不小于85% ，计算值为92.5% ，则报告为92%; 如某个指定杂质限度为不大于2.0% ，计算值为0.15% ，则报告为0.2% 。

B.限度小于等于1.0%时，报告值比限度值多保留一位。如未知杂质限度为不大于0.15% ，计算值为0.1258% ，则报告为 0.126%

C. 残留溶剂、元素杂质等比较灵敏的测试结果，或限度以 ppm (百万分之一〉表示的，报告值应保留至ppm 位;但若出现限度值为一位有效数字，则报告值应比限度值增加一位有效数字，两者以多的为准。如残留溶剂乙醇限度为不大于0.5% ，则应报告至 0.0001% (1ppm); 乙腊残留限度不大于 0.042% ，则应报告至0.0001% (1ppm); 苯残留限度不大于 2ppm ，则报告至0.lppm 。

D. 定量限比报告值保留位的最小值还要低，则可以报告最小的报告值。如:苯残留限度为 2ppm ，定量限为 0.05ppm ，若检测数据为0.08ppm ，则报告为<0.lppm。

E. 检测结果按照上述规则保留后，若数据小于定量限应报告小于定量限，若数据小于检出限应报告未检出，其余数据按照要求保留后报告。

F. 注意:对于上述 B 项中报告值比限度值多保留一位后超过限度值时，需要按照修约至限度值相同位数后进行判断，如果仍超过限度值，则判为不合格。如:某一杂质限度要求不大于 0.10% ，若实际测试结果报告0.104%，11多约后结果为 0.10% ，则判断为合格，并按修约后结果报告;若实际测试结果报告0.106% 修约后结果为 0.11% ，则判断为不合格，应根据 F 项进行调查;含量限度要求不小于98.0% ，实际中间计算过程结果为 97.95% ，报告值为 98.0% ，则判断为合格。

G. 如果进行了平行样检测，则两个独立的值都应符合 F 中描述的要求。

3、其它规则

对于非检测结果，如 RSD 、回收率、对照偏差值f 和偏差等数据，则按照以下要求进行:

A. RSD 以%表示，保留小数点后一位，向上修约。

B. 最终报告回收率以%表示，保留小数点后一位，四舍五入。

C. 对照偏差值，以小数表示，保留小数点后两位，四舍五入。

D. 偏差以%表示，保留小数点后一位，四舍五入，计算公式为:偏差（%）=绝对值(A-B)/(A+B)*200。

E. 在求总杂质或杂质之和时，每个单一杂质在计算前应进行修约(比报告值多保留一位)，计算后再修约至规定的有效位数。平均结果的修约应在求和之前进行。

F. 由于浓度计算都是可以算尽的值，故浓度的结果不应该进行修约，应全部进行保留。

G. 标准偏差（SD）的有效数字应与平均值一致(若需要表达至标准偏差) ，例如:100ppm土5ppm ，0.22%±0.03% 。

相关话题

竖琴老人

第1楼2021/08/27

老师，那些特殊规则的依据是什么，为什么非检测结果有的修约，有的四舍五入？请老师讲清楚一点！

0

竖琴老人

第2楼2021/08/27

还有老师的题目含有偏差计算，为什么文章内容几乎找不到偏差计算的内容？

0

wazcq

第3楼2021/08/27

应助达人

还不够全面相关系数检测限也是特殊规定的

1

wazcq

第4楼2021/08/28

应助达人

偏差以%表示这个公式200 不对

0

近期热榜

热门活动

猜你喜欢最新推荐热门推荐

品牌合作伙伴

智启未来，磐诺智慧工厂云端开放日，揭秘国产力量

日立科学仪器

珀金埃尔默仪器（上海）有限公司（PerkinElmer）

珀金埃尔默仪器（上海）有限公司（PerkinElmer）

日本电子株式会社

赛默飞世尔科技

马尔文帕纳科

上海仪电科仪

梅特勒托利多

布鲁克核磁

举报帖子

点赞用户

好友列表

加载中...

正在为您切换请稍后...