仪器信息网APP
选仪器、听讲座、看资讯
立即体验
APP内打开
回版面
1
收藏
6
拍砖
举报
取消
发布
当前位置:
仪器社区
>
色谱
>
气相色谱(GC)
>
帖子详情
【仪器心得】一起研究学习Excel的四舍六入五成双的公式
无可奈何
2023/10/10
新泰市检验检测中心
私聊
气相色谱(GC)
一起研究学习
Excel
的四舍六入五成双的公式
前段时间设计了一个
Excel
,用来快速计算各种数据。当时发在了这个帖子里面,
https://bbs.instrument.com.cn/topic/8266865
,当时里面还有一个四舍六入五成双的公式。
但是后来我在使用的过程中发现这个公式是存在问题的。
如下图
只能从小数点后面计算保留位数,比如
35.6658
保留
2
位,计算结果是
35.66
,这其实是
4
位了。(国标都是要求保留几位有效数字,而不是小数点后几位数字)
无法正确核对有效数字,比如
0.0855
保留
2
位,计算结果是
0.08
,这个其实是
1
位。
这个公式对
0.755
、
0.855
这类
0
点开头,小数点第一位不是
0
的数字计算结果挺准确。
比如
0.745
保留
2
位,按照四舍五入六成双是
0.74
。
0.855
保留
2
位,按照四舍五入六成双是
0.86
为了弥补缺陷,尽量去研究,我发现在实际操作中存在的可能性非常多。于是写了下面这个公式,纯粹是嵌套了循环(因为我没有找到
Excel
里面的其他好用的循环函数,也没有使用开发工具。),所以可以说这个公式是最笨的一个公式,而且也存在问题。所有的保留位数都是从小数点开始计算。
如下图
1.000065
,保留
5
位数字,就计算为
1.00006
(现在是
6
位了)
0.0265
,保留
2
位数字,计算为
0.026
0.00
17
5
,保留
2
位数字,计算位
0.0018
现在公式写的很笨重,如果再解决这个问题,就更复杂了。希望有更高水平的网友可以写出更好更简单的公式。
公式发图片了,也发附件了
附件:
四舍六入五成双公式.txt
分
该帖子已被
版主-zyl3367898
加20积分,加2经验;加分理由:原创有奖
相关话题
1
关于三卤甲烷检出结果的表述
2
看到了一个快速提取酱油中对羟基苯甲酸的资料,检测器是液相紫外检测器
3
交流一个问题,有时候一种物质既可以用气相检测,也可以用液相检测
4
三氟甲烷磺酸银 检测方法 滴定
5
样品里同一个化合物有不同出峰时间
+关注
私聊
zyl3367898
第1楼
2023/10/10
应助达人
应该有更简单的公式,期待高手回答。
0
发表回复
近期热榜
赛默飞实验室产品焕新计划有奖调研!
【七月征文】不一YOUNG实验“猿”
报名开启:ICS2024第十三届光谱网络会议!
推荐收藏!盘点中药材及饮片检测解决方案
热门活动
甄选国优仪器,助推设备更新
采购咨询618活动:1000元奖励等你拿
猜你喜欢
最新推荐
热门推荐
更多推荐
【原创】气相色谱图的处理
2011/05/23
用GC分析酚醛树脂可能会出现什么问题
求助
2012/02/01
请教白酒漏峰原因~
求助
2018/03/04
安捷伦7820A
已应助
2020/02/21
【求助】:如何查阅EPA标准方法文献
2006/12/06
【求助】waters 2410中文操作说明
2008/05/12
气相色谱仪,对照峰少了,是什么原因?
求助
2019/08/13
非甲烷测定,一批样品,浓度有高有低,曲线都用高浓度曲线计算可以吗?还是低浓度用低浓度曲线,这样挺麻烦的
已应助
2023/11/10
求助TCD分析永久性气体,二氧化碳出峰时间,怎么确定调整
求助
2024/07/06
【我们不一YOUNG】气相色谱法测定橄榄油中6种卤化溶剂残留
原创
2024/07/06
求助有人懂gc7960a怎么换衬管吗
原创
2024/07/06
艾伦GC7960A气相色谱仪
求助
2024/07/06
【我们不一YOUNG】最早接触到的气相色谱仪----上海分析仪器厂102G型气相色谱仪
原创
2024/07/05
求助赛默飞TriPlus 300 自动进样器内部接线正确图
求助
2024/07/05
气相色谱峰异常
求助
2024/07/05
GC-MS跑标品,一直只出现这种峰是怎么回事?
求助
2024/07/04
检测报告一定要有判定结果吗?
求助
2024/07/01
气相FID重现性不好原因
求助
2024/07/01
求助,非甲烷总烃测定中,除烃空气0.4mg/m3,怎么计算的呢?是按总烃计算公式吗?
已应助
2024/06/29
求助安捷伦GC7890B,EPC无响应解决办法
求助
2024/07/01
HJ1332便携非甲实际应用问题
讨论
2024/07/01
衍射斑点标定求助
已应助
2024/06/30
EI源的灯丝镉厂家通用吗?
求助
2024/07/03
‘有奖问答’对错题’:用抽样方案(30,0)对产品批进行连续验收,当批不合格品率为1%时,方案的接收概率为73.97%,则平均检出质量为( )。
讨论
2024/07/05
【微语】人生没有对错,只有选择后的坚持,不后悔,走下去,就是对的,走着走着,花就开了。
讨论
2023/10/10
闲置。便宜出
原创
2023/10/10
雷尼镍催化剂中镍含量测定在原子吸收与EDXRF上的应用
第十六届原创
2023/10/10
《企业标准化促进办法》疑问?市场监管总局回复
资料
2023/10/10
己二胺中杂质含量的方法开发
第十六届原创
2023/10/10
举报资料“FLS980稳态瞬态荧光光谱仪在测量单线态氧中的应用”
2023/10/10
老屋老屋你可懂得
原创
2023/10/10
介绍脱醇设备
原创
2023/10/10
品牌合作伙伴
岛津
日立科学仪器
珀金埃尔默仪器(上海)有限公司(PerkinElmer)
日本电子株式会社
丹纳赫
安捷伦
赛默飞世尔科技
普析通用
欧波同
天美
天瑞仪器
德国耶拿
海能技术
马尔文帕纳科
磐诺科技
上海仪电科仪
梅特勒托利多
聚光科技
莱伯泰科
盛瀚
多宁生物
丹东百特
科哲
卓立汉光
屹尧科技
华谱科仪
宝德仪器
优莱博
HORIBA
布鲁克核磁
举报帖子
执行举报
点赞用户
好友列表
加载中...
正在为您切换请稍后...