仪器信息网APP
选仪器、听讲座、看资讯
立即体验
APP内打开
回版面
1
收藏
点赞
拍砖
举报
取消
发布
当前位置:
仪器社区
>
实验室建设/管理
>
实验室管理/LIMS
>
帖子详情
【金秋计划】数值修约全面汇总
Ins_ac2ecace
2024/09/12
私聊
实验室管理/LIMS
有效数字、数值运算修约规则、运算记录、数值修约基本原则!全面汇总都在这里!
分析实验中,为了得到准确的分析结果,不仅要准确进行测量,而且还要正确记录和计算。处理和计算出来的结果不仅要反映出测量的可信程度,也要反映出实验结果的真实性。本文是基于分析过程中测定数值的修约,希望能对小伙伴有所帮助。
有 效 数 字
有效数字是分析中具有实际意义的测定数值。它是由直接读取的准确数字和通过估读得到的可疑数字(最后一位)组成。
例如:3.2438中的“8”和0.130中的“0”。
有效数字的个数是有效位数,对于不同类型的测定数值其有效位数为:
数 值 修 约 规 则
一般来说,分析工作者习惯采用“四舍五入”修约规则,不过在分析中逢五就进,必然会造成结果的系统偏高,误差偏大,为了避免这样的状况出现,尽量减少因修约而产生的误差,一般采用四舍六入五留双的修约规则:
运 算 修 约 规 则
试 验 过 程 中 数 值 记 录
1、称量实验
“精密称定”是指称取重量应准确至所取重量的千分之一;
“称定”是指称取重量应准确至所取重量的百分之一,按照“精密称定”项原则进行修约;
“称重”,“称取”一般准确到规定重量下一位;
取“约XX”时,指取用量不超过规定量的(100±10)%;
取“XX”时,参照修约规则。
2、量取试验
以刻度为依据可读到最小刻度所在位并估读最小刻度之间。
图中“1”记录为35.00cm,而不能记录35cm,图中“2”记录为35.40cm,图中“3”可记录为35.75cm。
量取5ml的液体应采用5-10ml的量筒;量取5.0ml的液体应采用5-10ml的刻度管;量取5.00ml的液体应采用5-10ml的移液管。
容量瓶的定容应记录为定容至100.00ml。
3、色谱实验
峰面积一般不做修约,按实际测定值进行记录,参与计算后按相关规定进行修约。
拖尾因子、分离度可修约至小数点后两位,理论塔板数一般修约至正整数。
保留时间不做修约。
工作站自动生成数值也可不做修约。
化合物含量应该比标准规定限度的有效位数多一位,根据实际情况以修约规则进行修约。并且至少保留一位有效数字。
RSD按“只进不舍”进行修约。
色谱条件数值不得修约。
方法学验证项的数值应该比标准规定限度的有效位数多一位,根据实际情况以修约规则进行修约。并且至少保留一位有效数字。
4、其他实验
熔点、沸点等物理参数可修约至小数点后一位。
旋光率、折光率、
原子吸收
值可修约至小数点后三位。
数值修约的基础知识
1、什么是有效数字呢?
⑴有效数字是指在分析和测量中所能得到的有实际意义的数字。测量结果是由有效数字组成的(前后定位用的“0”除外)。
例如 测量结果1.1080g,组成数字1、1、0、8、0都是实际测读到的,它们是表示试样质量大小的,因而都是有实际意义的。
⑵有效数字的前几位都是准确数字,只有最后一位是可疑数字。
例如前述的1.1080, 前几位数字1、1、0、8都是称量读到的准确数字,而最后一位数字0则是在没有刻度的情况下估读出来的,是不准确的或者说可疑的。
⑶有效数字是处于表示测量结果的数值的不同数位上。所有有效数字所占有的数位个数称为有效数字位数。
例如 数值3.5,有两个有效数字,占有个位、十分位两个数位,因而有效数字位数为两位;3.501有四个有效数字,占有个位、十分位、百分位等四个数位,因而是四位有效数字。
⑷测量结果的数字,其有效位数反映了测量结果的精确度,它直接与测量的精密度有关。这也是有效数字实际意义的体现,是非常重要的体现。
例如 前述例子中,若测量结果为1.1080g,则表示测量值的误差在10-4量级上,天平的精度为万分之一;若测量结果为1.108g,则表示测量值的误差在10-3量级上,天平的精度为千分之一。
2、有效数字位数的确定原则
在确定有效数字位数时应遵循下列原则:
⑴数值中数字1~9都是有效数字。
⑵数字“0”在数值中所处的位置不同,起的作用也不同,可能是有效数字,也可能不是有效数字。判定如下:
① “0”在数字前,仅起定位作用,不是有效数字。
例如 0.0257中,“2”前面的两个“0”均非有效数字。0.123、0.0123、0.00123中“1”前面的“0”也均非有效数字。
②数值末尾的“0”属于有效数字。
例如 0.5000中, “5”后面的三个“0”均为有效数字;0.50中, “5”后面的一个“0”也是有效数字。
③数值中夹在数字中间的“0”是有效数字。
例如 数值1. 008中的两个“0”是均是有效数字;数值8. 01中间的 “0”也是有效数字。
④以“0”结尾的正整数,“0”是不是有效数字不确定,应根据测试结果的准确度确定。
例如 3600,后面的两个“0”如果不指明测量准确度就不能确定是不是有效数字。测量中遇到这种情况,最好根据实际测试结果的精确度确定有效数字的位数,有效数字用小数表示,把“0”用10的乘方表示。如将3600写成3.6×103表示此数有两位有效数字;写成3.60×103表示此数有三位有效数字;写成3.600×103表示此数有四位有效数字。
3、修约间隔
修约间隔又称修约区间或化整间隔,系确定修约保留位数的一种方式。修约间隔一般以k×10n(k=1,2,5;n为整数)的形式表示,将同一k值的修约间隔,简称为“k”间隔。
修约间隔的数值一经确定,修约值即应为该数值的整数倍。
例如 指定修约间隔为0.1,修约值即应在0.1的整数倍中选取,相当于将数值修约到一位小数。
1.0239修约到0.01,为1.02,
1.02÷0.01=102(倍)
4、修约数位及确定修约位数的表达方式
修约时拟将拟修约数的哪一位数位后部分按修约规则舍去,则该数位就是修约数位。
数值修约时需要先明确修约数位,确定修约位数的表达方式如下:
⑴指明具体的修约间隔。如指明将某数按0.2(2×10-1)修约间隔修约、100(1×102)修约间隔修约等。
⑵指定将拟修约数修约至某数位的0.1、0.2或0.5个单位。
⑶指明“k”按间隔将拟修约数修约为几位有效数字,或修约至某数位。这时“1” 间隔可不必指明,但“2”间隔和“5”间隔必须指明。
数值修约规则
1、GB/T 8170-2008 《数值修约规则》
⑴拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。
例如 将12.1498修约到一位小数,得12.1。
例如 将12.1498修约成两位有效位数,得12。
⑵拟舍弃数字的最左一位数字大于5;或者是5,而其后跟有并非全部为0的数字时,则进一,即保留的末位数字加1。
例如 将1268修约到“百”数位,得13×102(特定时可写为1300)。
例如 将1268修约成三位有效位数,得127×10(特定时可写为1270)。
例如 将10.502修约到个数位,得11。
注:“特定时”的涵义系指修约间隔或有效位数明确时。
⑶拟舍弃数字的最左一位数字为5,而右面无数字或皆为0时,若所保留的末位数字为奇数(1,3,5,7,9)则进一,为偶数(2,4,6,8,0)则舍弃。
⑷负数修约时,先将它的绝对值按上述⑴⑵⑶规定进行修约,然后在修约值前面加上负号。
⑸0.5单位修约与0.2单位修约
①0.5单位修约 既将拟修约数乘以2,按指定数位依3.1-3.4规则修约,所得数再除以2。
②0.2单位修约 既将拟修约数乘以5,按指定数位依3.1-3.4规则修约,所得数值再除以5。
2、通用数值修约方法
⑴如果为修约间隔整数倍的一系列数中,只有一个数最接近于拟修约数,则该数就是修约数。
例如 将1.150001按0.1修约间隔进行修约。此时,与拟修约数1.150001邻近的为修约间隔整数倍的数有1.1和1.2(分别为修约间隔的11倍和12倍),然而只有1.2最接近于拟修约数,因此1.2就是修约数。
⑵如果为修约间隔整数培的一系列数中,有连续两个数同等接近于拟修约数,则这两个数中,为修约间隔偶数培的数就是修约数。
例如,将1150按100修约间隔行修约。此时,与拟修约数1150邻近的为修约间隔整数倍的数有1100和1200(分别为修约间隔的11倍和12倍),这两个数同等接近于拟修约数,然而1200为修约间隔的偶数培(12倍),因此1200 就是修约数。
⑶一个数据的修约只能进行一次,不能分次修约。
相关话题
1
【金秋计划】实验室新人如何巩固基础,实现突破
2
【金秋计划】如何利用同位素提高线性上限
3
【金秋计划】实验室作业指导书及基本技术操作和指导
4
【金秋计划】仪器设备档案管理攻略
5
【金秋计划】LIMS实验室管理系统在食品行业的应用
+关注
私聊
珍奇异宝
第1楼
2024/09/14
应助达人
感谢分享,数值修约的介绍很详细,还有举例,适合培训使用,希望版友可以提供一个word附件附上,分享给大家
0
发表回复
近期热榜
【官方邀请】高效液相色谱使用情况有奖调研
【中秋佳节】 在一起月更圆!
一个“不符合”难住新领导
第三届微课大赛投票进行中ing
热门活动
第三届微课大赛投票进行中ing
【仪采通】仪器采购更轻松
猜你喜欢
最新推荐
热门推荐
更多推荐
实验室的检测方法一般如何分类?
讨论
2022/02/20
【转帖】我国再发“科学难题”征集令 公众可上网提交
2010/02/22
实验室搬迁需要注意什么
讨论
2023/01/31
【讨论】实验室之妙语篇。
2009/08/22
“吃回头草的老马”效率大大高于新人
讨论
2023/05/04
关于转制
讨论
2020/03/30
在实验室从事检测的人员,有些是劳务派遣工,如事业单位的实验室,对于这类不是和认可的实验室组织签订合同的人员该如何授权?可以纳入体系吗?是不是可以视为外部人员?
已应助
2023/01/14
库房管理流程规划
咨询
2017/07/26
lcsolution1.26工作站谁有啊,有偿
求助
2024/09/18
实验室用超纯水的管理
第十七届原创
2024/09/18
实验室如何充分发挥数据作用
第十七届原创
2024/09/18
如何应用现代技术对实验样品进行管理
第十七届原创
2024/09/18
实验室资质认定中人员部分常见问题探讨
第十七届原创
2024/09/18
实验室采购调研策略、挑战与解决方案
第十七届原创
2024/09/18
解锁高效实验室管理 全面探索LIMS系统应用
分享
2024/09/14
智能实验室管理 LIMS系统助力企业降本增效
分享
2024/09/14
【金秋计划】当没有合适的基质时可以用标准加入法来试试看
第十七届原创
2024/09/13
原子吸收火焰法测定土壤中六价铬所用质控样值一直在衰减
求助
2024/09/12
人比人真的该死!”-同是去参观实验室的两个人给带来的收获却是不同的!!
第十七届原创
2024/09/18
关气瓶是先关总阀还是先关减压阀?
求助
2024/09/14
植物油中其他油的色谱检测初探
第十七届原创
2024/09/18
基线(随机出现)突跃有哪些原因?
求助
2024/09/12
分光光度计使用心得体会
第十七届原创
2024/09/18
高温高湿试验箱使用心得体会
第十七届原创
2024/09/18
MAXOS ?250x30mm DIN7080特殊硅酸盐圆盘安全视镜低热膨胀性
分享
2024/09/12
乳成分分析仪维修心得
分享
2024/09/12
【金秋计划】实验化学试剂、药品管理制度
分享
2024/09/12
rohs检测设备有哪些
原创
2024/09/12
icpoes是什么仪器
原创
2024/09/12
【金秋计划】实验室常用试剂的有效期确定方法
分享
2024/09/12
免疫学+细菌学习心得
分享
2024/09/12
光谱仪怎么看测试结果
原创
2024/09/12
品牌合作伙伴
岛津
日立科学仪器
珀金埃尔默仪器(上海)有限公司(PerkinElmer)
日本电子株式会社
丹纳赫
安捷伦
赛默飞世尔科技
普析通用
欧波同
天美
天瑞仪器
德国耶拿
海能技术
马尔文帕纳科
磐诺科技
上海仪电科仪
梅特勒托利多
聚光科技
莱伯泰科
盛瀚
多宁生物
丹东百特
科哲
卓立汉光
屹尧科技
华谱科仪
宝德仪器
优莱博
HORIBA
布鲁克核磁
举报帖子
执行举报
点赞用户
好友列表
加载中...
正在为您切换请稍后...