仪器信息网APP
选仪器、听讲座、看资讯
立即体验
APP内打开
回版面
评论
1
点赞
拍砖
举报
取消
发布
当前位置:
仪器社区
>
基础知识专区
>
数据处理
>
帖子详情
【我们不一YOUNG】数字修约规则
城头变幻大王骑
2024/07/17
私聊
数据处理
1.数字修约规则
“四舍五入法”是我们所熟悉的求近似数
的方法。它深深地印在我们的脑海里,只要一遇到求近似数的问题,马上就会想到“四舍五入法”。可是,在实验中,经常要对大量的数据进行统计分析。如果仍用“四舍五入法”取近似值,就不够精确。
世界上的许多国家已广泛采用“四舍六入法”。我国国家科委于1955年就作了推荐。“四舍六入法”可以概括为:“四舍六入五考虑,五后非零就进一,五后皆零看奇偶,五前为偶应舍去,五前为奇要进一。”就是说,如果省略的尾数最高位是4或小于4,就将尾数都舍去;如果省略的尾数最高位是6或大于6,去掉尾数后,要向它的前一位进1;如果省略的尾数最高位是5,那就要根据具体情况而定。如果5后不都是0,将尾数略去后要向它的前一位进1;如果5后面都是0,就看它的前一位是单数还是双数,5的前一位是双数,就将尾数舍去;5的前一位是单数,舍去尾数后要向它的前一位进1。
2 .检验结果的修约
根据技术标准的指标要求,在原始记录中,通常检验计算的结果应比标准规定的位数要多保留一位,但被多保留的一位数值,应该体现出修约的情况,或一步修约到位,但不能存在连续修约的现象。
a)检验结果修约后,应体现出修约的情况。
如:标准值 ××<0.5
检测结果为:0.456, 第1步修约:0.46(-) (四舍六入),报出值:0.5(-) 判定:合格。
如:标准值 ×× ≥15
检测结果为:14.55,第1步修约:14.6(-), 报出值:15(-),按全数值比较法(15(-))判定不合格、按修约值比较法(15)判定合格。
14.55(5后非零要进一。讲评:在拟舍弃的数字中即14.55的第一个“5”,虽然“5”前为偶数,但“5”后非“0”,所以要进一。)
如,若检验结果为:14.35,第1步修约:14.4(+) (修约原则,四舍六入) 报出结果:14。
最终的报出结果只有修约到标准值上时,才用+、-表示。
b)一步修约到位 (这种修约更直接和更直观)。
例题:将下列结果修约到整数位
检测结果 报出值
15.4546 15
16.5203 17
17.5000 18
14.5500 15
10.5020 11
c)不准连续修约。
拟修约数字应在确定修约位数后,应一次修约获得结果,而不准多次修约即连续修约。
如15.4546 一次修约结果为:15。
※ 连续修约:15.455 — 15.46-15.5-16
※ 按多保留一位的修约法:15.5(-)
因为.5(-),即修约后到5(-) ,但不足5(<5),所以不进,最终结果为15。
数值的修约方法
1. 数值的修约方法有两种,即修约值比较法和全数值比较法
a)修约值比较法:数值修约
后,体现不出数值的修约情况;
b)全数值比较法:数值修约后,能够体现出数值的修约情况。
2 .如何选择修约值的方法
a)当检测项目牵涉到卫生指标、安全指标等,应首选用全数值比较法;
b)只有当检测结果修约到标准值上时,方采用全数值比较法。
相关话题
1
暖通空调系统中罗卓尼克温湿度变送器的监测
2
【我们不一YOUNG】数据为什么要进行修约
3
【我们不一YOUNG】系统误差和随机误差
4
什么是相对湿度,为什么它很重要?
5
【我们不一YOUNG】【建议收藏】十款常见的数据分析软件,工作学习必备!
近期热榜
注册默克生命科学购GO小程序即送10元话费!
9月发帖享好礼,送拍立得、京东卡
SEC技术挑战赛·江湖英雄帖
第三届微课大赛投票进行中ing
热门活动
9/12高端酶标仪进击之路
【仪采通】仪器采购更轻松
猜你喜欢
最新推荐
热门推荐
更多推荐
【讨论】你的实验数据保存多久?
2009/01/08
【分享】恭喜新版开张大家帮助大家
2006/12/15
过原点Y=bx 形式的最小二乘法不确定度公式?
求助
2019/09/28
求EBSD数据处理教程(HKLchannel 5)
分享
2011/07/24
【第八届原创】如何使用origin批量处理数据
第八届原创
2015/09/04
【转帖】关于正交试验分析的问题
2010/09/06
【求助】关于线性的相关系数
2009/01/08
【讨论】检出限和工作曲线
2013/07/27
新手求问岛津液质LCMS8040校准曲线数据处理问题
求助
2024/09/07
t值检验法中S怎么计算
已应助
2024/08/12
相图的软件绘制
求助
2024/08/06
什么是相对湿度,为什么它很重要?
分享
2024/07/22
【我们不一YOUNG】【建议收藏】十款常见的数据分析软件,工作学习必备!
原创
2024/07/21
【我们不一YOUNG】数据为什么要进行修约
分享
2024/07/20
【我们不一YOUNG】系统误差和随机误差
分享
2024/07/20
暖通空调系统中罗卓尼克温湿度变送器的监测
分享
2024/07/19
【金秋计划】+玻璃仪器能否只验收不校准?
第十七届原创
2024/09/03
反向液相色谱柱使用过程中的常见问题及排查经验分享
第十七届原创
2024/09/02
【金秋计划】+内部质控使用的质控样来源都是有哪些?
第十七届原创
2024/09/03
求助PE icpms曲线做不出来
求助
2024/09/04
【金秋计划】+什么蔬菜不要买-我来告诉你
第十七届原创
2024/09/03
实验室建设中天平室的建设细节注意事项
第十七届原创
2024/09/03
【金秋计划】+认可准则变更,实验室体系文件就一定就要跟着换版吗?
第十七届原创
2024/09/03
【金秋计划】+纺织品水萃取液测定pH值结果不准确的原因分析之设备篇
第十七届原创
2024/09/03
食品生产日期是内包完成日期还是外包完成日期
已应助
2024/07/17
【我们不一YOUNG】有效数字及其有效数字的保留
分享
2024/07/17
【我们不一YOUNG】如何理解实验室人员监督和人员监控
分享
2024/07/17
光学投影式三维轮廓测量技术综述
已应助
2024/07/17
我国自主研发解放牌卡车第900万辆
原创
2024/07/17
通信卫星亚太6E卫星投入运营
原创
2024/07/17
推荐灵芝孢子粉
原创
2024/07/17
受寒的感冒该做的7件事
原创
2024/07/17
品牌合作伙伴
闪谱好礼超多进来抢
岛津
日立科学仪器
珀金埃尔默仪器(上海)有限公司(PerkinElmer)
日本电子株式会社
丹纳赫
安捷伦
赛默飞世尔科技
普析通用
欧波同
天美
天瑞仪器
德国耶拿
海能技术
马尔文帕纳科
磐诺科技
上海仪电科仪
梅特勒托利多
聚光科技
莱伯泰科
盛瀚
多宁生物
丹东百特
科哲
卓立汉光
屹尧科技
华谱科仪
宝德仪器
优莱博
HORIBA
布鲁克核磁
举报帖子
执行举报
点赞用户
好友列表
加载中...
正在为您切换请稍后...