仪器信息网APP
选仪器、听讲座、看资讯
立即体验
APP内打开
回版面
评论
1
点赞
拍砖
举报
取消
发布
当前位置:
仪器社区
>
基础知识专区
>
数据处理
>
帖子详情
【我们不一YOUNG】有效数字及其有效数字的保留
城头变幻大王骑
2024/07/17
私聊
数据处理
1 .有效数字的定义
我们把通过直读获得的准确数字叫做可靠数字;把通过估读得到的那部分数字叫做存疑数字。把测量结果中能够反映被测量大小的带有一位存疑数字的全部数字叫有效数字。
有效数字指,保留末一位不准确数字,其余数字均为准确数字。有效数字的最后一位数值是可疑值。
如:0.2014为四位有效数字,最末一位数值4是可疑值,而不是有效数值。
再如:1g、1.000g其所表明的量值虽然都是1,但其准确度是不同的,其分别表示为准确到整数位、准确到小数点后第三位数值。因此有效数值不但表明了数值的大小,同时反映了测量结果的准确度。
2 .有效数字的保留
由于有效数字最末一位是可疑值,而不是准确值。
因此,计算过程中,计算的结果应比标准极限或技术指标规定的位数要求多保留一位,最后的报出值应与标准对定的位数相一致。
如:在标准的极限数值(或技术指标)的表示中,×× ≧95 表明结果要求保留到整数位。因此,计算结果一定要保留到小数点后一位,最后再修约到整数位,如计算结果为94.6报出结果为95(-);因为94.6结果的0.6为可疑值,要想保留到整数位结果为准确值,计算结果必须要多保留一位。
如,分析天平的分辨率为0.1mg(即我们常说的万分之一天平),如果我们称取的量是10.4320g,则实际的称取结果结果为10.4320±0.0002g(万分之一的天平误差)。
如GB/T 601-2016《化学试剂 标准滴定溶液的制备》,要求报出结果取4位有效数字,因此在标定计算结果中,应保留5位有效数字,最后再修约到4位有效数字(如果直接保留到4位有效数字,实际上是保留了三位有效数字,因最后一位是可疑值,则由标准溶液的浓度的不准确,会引进系统误差。
“0” 在数字中的作用
“0”作为一个特殊的数字,在数值的不同的位置,有着不同的作用,只有明确了“0”在数字中的作用,才能更好的掌握有效数字及其加减乘除的运算规则。“0”在数字中不同的位置,有不用的作用,根据“0”在数字的位置,起三种作用。即定位(无效)、定值(有效)及不确定作用。
1 .定位(无效)
当“0”在小数点后,又在数字之前(前提:小数点前为“0”)时,为定位。如:0.0001(数字前4个零) 0.02040(数字前2个零)均为定位作用。
2. 定值(有效)
当“0”在小数点后的数值中间或数尾(前提:小数点前必为“0”)时。如:0.00204 0.300020;当“0”在小数点后,而小数点前为非“0”时。如1.000 1.0204,均为有效作用。
3 不确定作用:当“0”在整数后
如:4500 有效数值是几位?回答是:不确定。将4500用三位有效数字表示:0.450×104 4.50×103 。将4500用四位有效数字表示:0.4500×104 、45.00×102。
由上表可以看出,一般情况下全数值比较法严与修约值比较法。
相关话题
1
【我们不一YOUNG】数字修约规则
2
暖通空调系统中罗卓尼克温湿度变送器的监测
3
【我们不一YOUNG】数据为什么要进行修约
4
【我们不一YOUNG】系统误差和随机误差
5
什么是相对湿度,为什么它很重要?
近期热榜
注册默克生命科学购GO小程序即送10元话费!
9月发帖享好礼,送拍立得、京东卡
SEC技术挑战赛·江湖英雄帖
第三届微课大赛投票进行中ing
热门活动
9/12高端酶标仪进击之路
【仪采通】仪器采购更轻松
猜你喜欢
最新推荐
热门推荐
更多推荐
【我们不一YOUNG】数据为什么要进行修约
分享
2024/07/20
谁有SIGMAPLOT的破解版啊?请大家分享一下。
求助
2011/10/06
平行样
求助
2021/07/23
【讨论】你们是怎么对待数据的?
2008/11/27
【讨论】实验设计中理论上可以 实际中可以吗
2010/04/08
不确定度\对防雷装置接地电阻测量不确定度的分析和数据处理
2006/10/06
值得玩味的珠峰高程
原创
2018/03/25
【求助】那位高人能帮我解释一下啊,急!!
2009/06/07
t值检验法中S怎么计算
已应助
2024/08/12
相图的软件绘制
求助
2024/08/06
什么是相对湿度,为什么它很重要?
分享
2024/07/22
【我们不一YOUNG】【建议收藏】十款常见的数据分析软件,工作学习必备!
原创
2024/07/21
【我们不一YOUNG】数据为什么要进行修约
分享
2024/07/20
【我们不一YOUNG】系统误差和随机误差
分享
2024/07/20
暖通空调系统中罗卓尼克温湿度变送器的监测
分享
2024/07/19
【我们不一YOUNG】数字修约规则
分享
2024/07/17
【金秋计划】+玻璃仪器能否只验收不校准?
第十七届原创
2024/09/03
求助PE icpms曲线做不出来
求助
2024/09/04
反向液相色谱柱使用过程中的常见问题及排查经验分享
第十七届原创
2024/09/02
极限测试,气相-FPD检测敌敌畏乐果农残能够做到的最低浓度是多少?
已应助
2024/08/30
【金秋计划】+内部质控使用的质控样来源都是有哪些?
第十七届原创
2024/09/03
液质求助贴
已应助
2024/08/30
实验室建设中天平室的建设细节注意事项
第十七届原创
2024/09/03
求助,关于盲样考核
求助
2024/09/03
【我们不一YOUNG】如何理解实验室人员监督和人员监控
分享
2024/07/17
光学投影式三维轮廓测量技术综述
已应助
2024/07/17
我国自主研发解放牌卡车第900万辆
原创
2024/07/17
通信卫星亚太6E卫星投入运营
原创
2024/07/17
推荐灵芝孢子粉
原创
2024/07/17
受寒的感冒该做的7件事
原创
2024/07/17
游泳是较为合适的入门运动
分享
2024/07/17
饮食要遵守“三多三少”的原则
分享
2024/07/17
品牌合作伙伴
生活垃圾填埋标准正式实施!
岛津
日立科学仪器
珀金埃尔默仪器(上海)有限公司(PerkinElmer)
日本电子株式会社
丹纳赫
安捷伦
赛默飞世尔科技
普析通用
欧波同
天美
天瑞仪器
德国耶拿
海能技术
马尔文帕纳科
磐诺科技
上海仪电科仪
梅特勒托利多
聚光科技
莱伯泰科
盛瀚
多宁生物
丹东百特
科哲
卓立汉光
屹尧科技
华谱科仪
宝德仪器
优莱博
HORIBA
布鲁克核磁
举报帖子
执行举报
点赞用户
好友列表
加载中...
正在为您切换请稍后...