仪器信息网APP
选仪器、听讲座、看资讯
立即体验
APP内打开
回版面
评论
1
点赞
拍砖
举报
取消
发布
当前位置:
仪器社区
>
基础知识专区
>
数据处理
>
帖子详情
【我们不一YOUNG】有效数字及其有效数字的保留
城头变幻大王骑
2024/07/17
私聊
数据处理
1 .有效数字的定义
我们把通过直读获得的准确数字叫做可靠数字;把通过估读得到的那部分数字叫做存疑数字。把测量结果中能够反映被测量大小的带有一位存疑数字的全部数字叫有效数字。
有效数字指,保留末一位不准确数字,其余数字均为准确数字。有效数字的最后一位数值是可疑值。
如:0.2014为四位有效数字,最末一位数值4是可疑值,而不是有效数值。
再如:1g、1.000g其所表明的量值虽然都是1,但其准确度是不同的,其分别表示为准确到整数位、准确到小数点后第三位数值。因此有效数值不但表明了数值的大小,同时反映了测量结果的准确度。
2 .有效数字的保留
由于有效数字最末一位是可疑值,而不是准确值。
因此,计算过程中,计算的结果应比标准极限或技术指标规定的位数要求多保留一位,最后的报出值应与标准对定的位数相一致。
如:在标准的极限数值(或技术指标)的表示中,×× ≧95 表明结果要求保留到整数位。因此,计算结果一定要保留到小数点后一位,最后再修约到整数位,如计算结果为94.6报出结果为95(-);因为94.6结果的0.6为可疑值,要想保留到整数位结果为准确值,计算结果必须要多保留一位。
如,分析天平的分辨率为0.1mg(即我们常说的万分之一天平),如果我们称取的量是10.4320g,则实际的称取结果结果为10.4320±0.0002g(万分之一的天平误差)。
如GB/T 601-2016《化学试剂 标准滴定溶液的制备》,要求报出结果取4位有效数字,因此在标定计算结果中,应保留5位有效数字,最后再修约到4位有效数字(如果直接保留到4位有效数字,实际上是保留了三位有效数字,因最后一位是可疑值,则由标准溶液的浓度的不准确,会引进系统误差。
“0” 在数字中的作用
“0”作为一个特殊的数字,在数值的不同的位置,有着不同的作用,只有明确了“0”在数字中的作用,才能更好的掌握有效数字及其加减乘除的运算规则。“0”在数字中不同的位置,有不用的作用,根据“0”在数字的位置,起三种作用。即定位(无效)、定值(有效)及不确定作用。
1 .定位(无效)
当“0”在小数点后,又在数字之前(前提:小数点前为“0”)时,为定位。如:0.0001(数字前4个零) 0.02040(数字前2个零)均为定位作用。
2. 定值(有效)
当“0”在小数点后的数值中间或数尾(前提:小数点前必为“0”)时。如:0.00204 0.300020;当“0”在小数点后,而小数点前为非“0”时。如1.000 1.0204,均为有效作用。
3 不确定作用:当“0”在整数后
如:4500 有效数值是几位?回答是:不确定。将4500用三位有效数字表示:0.450×104 4.50×103 。将4500用四位有效数字表示:0.4500×104 、45.00×102。
由上表可以看出,一般情况下全数值比较法严与修约值比较法。
相关话题
1
【金秋计划】检测工作方法验证的8个技术指标如何验证
2
【我们不一YOUNG】数字修约规则
3
暖通空调系统中罗卓尼克温湿度变送器的监测
4
【我们不一YOUNG】数据为什么要进行修约
5
【我们不一YOUNG】系统误差和随机误差
近期热榜
一个“不符合”难住新领导
【中秋佳节】 在一起月更圆!
国农验证-重金属能力验证经验分享
第三届微课大赛投票进行中ing
热门活动
第三届微课大赛投票进行中ing
【仪采通】仪器采购更轻松
猜你喜欢
最新推荐
热门推荐
更多推荐
求教批内批间标准差的计算
求助
2013/01/29
【求助】想知道GB/T1250中“修约值比较法”的内容
2007/07/23
新概念测量误差理论系列讲座8:正确的贝塞尔公式
原创
2022/01/15
迁移方程的解析解怎么求解
求助
2019/07/09
【分享】食品实验设计与数据处理-PPT教程
2008/04/30
共享“环境科学领域学术论文中常用数理统计方法的正确使用问题”
分享
2015/12/17
加标回收率的计算
已应助
2024/04/03
【原创】找一个试验标准
2008/03/10
【金秋计划】检测工作方法验证的8个技术指标如何验证
分享
2024/09/12
【金秋计划】测量误差、随机误差和系统误差、修正值和偏差概念梳理
分享
2024/09/12
新手求问岛津液质LCMS8040校准曲线数据处理问题
求助
2024/09/07
t值检验法中S怎么计算
已应助
2024/08/12
相图的软件绘制
求助
2024/08/06
什么是相对湿度,为什么它很重要?
分享
2024/07/22
【我们不一YOUNG】【建议收藏】十款常见的数据分析软件,工作学习必备!
原创
2024/07/21
【我们不一YOUNG】数据为什么要进行修约
分享
2024/07/20
检测证书加盖CNAS标识的疑问
求助
2024/09/05
报告防伪都有哪些方式?
求助
2024/09/06
请教一下各位老师,一个样品(聚合物)GPC出现这样双峰,应该是如何计算
求助
2024/09/06
建筑涂料和漆类中VOC测定
求助
2024/09/06
赛默飞气相TRACE1300 FPD检测器上出现结晶颗粒物是怎么原因?
求助
2024/09/10
扫描电镜的使用对于怀孕前三个月的危害
已应助
2024/09/08
氧化乐果出峰小
求助
2024/09/05
环境检测仪器的校准技术问题?cnas认可范围问题?
求助
2024/09/05
【我们不一YOUNG】如何理解实验室人员监督和人员监控
分享
2024/07/17
光学投影式三维轮廓测量技术综述
已应助
2024/07/17
我国自主研发解放牌卡车第900万辆
原创
2024/07/17
通信卫星亚太6E卫星投入运营
原创
2024/07/17
推荐灵芝孢子粉
原创
2024/07/17
受寒的感冒该做的7件事
原创
2024/07/17
游泳是较为合适的入门运动
分享
2024/07/17
饮食要遵守“三多三少”的原则
分享
2024/07/17
品牌合作伙伴
岛津
日立科学仪器
珀金埃尔默仪器(上海)有限公司(PerkinElmer)
日本电子株式会社
丹纳赫
安捷伦
赛默飞世尔科技
普析通用
欧波同
天美
天瑞仪器
德国耶拿
海能技术
马尔文帕纳科
磐诺科技
上海仪电科仪
梅特勒托利多
聚光科技
莱伯泰科
盛瀚
多宁生物
丹东百特
科哲
卓立汉光
屹尧科技
华谱科仪
宝德仪器
优莱博
HORIBA
布鲁克核磁
举报帖子
执行举报
点赞用户
好友列表
加载中...
正在为您切换请稍后...