仪器信息网APP

选仪器、听讲座、看资讯

立即体验

当前位置：仪器社区 >质谱 > 气质联用（GCMS） > 帖子详情

【我们不一YOUNG】分析化学基本常识--有效数字的运算规则

symmacros

2024/07/24

气质联用（GCMS）

分析化学基本常识--有效数字的运算规则

⑴记录测定数值时，只保留一位可疑数字。

⑵在运算中除应保留的有效数字外，多余的数字一律按“四舍六入五留双”的原则处理。

即当尾数≤4时，则舍；尾数≥6时，则入；尾数等于5时，当5后面还有不是零的任何数时，无论5前面是偶或奇皆入;若5后为零, 前面为偶数则舍，为奇数时则入。

例：以下数字皆保留两位有效数字

1.3572→1.4 2.2561→2.3 2.25 →2.2 2.15 →2.2

⑶当几个数相加减时，在结果中保留的位数，应以各数中小数点后位数最少（即绝对误差最大）的数为依据。

例：0.12+0.375+0.8743=0.12+0.38+0.87=1.37

0.0121+25.64+1.05782=0.01+25.64+1.06=26.71

⑷几个数相乘除时，以有效数字的位数最小者为标准，也就是说，以相对误差最大者的位数为准。

例：0.0121×25.64×1.05782=？

若最后一位都是可疑数，那么它们的相对误差

分别为：

0.0121：（±0.0001）÷0.0121×100%= ±0.8%

25.64：（±0. 01）÷25.64×100%= ±0.04%

1.05782：（±0.00001）÷1.05782×100%= ±0.0009%

可见第一个数的相对误差最大，所以应以三位有效数字为准来确定其他数字的位数，因此上述计算应是：

0.0121×25.6×1.06=0.328

⑸在计算中，所有常数如π、e的数值及√2、 1/2等系数或倍数的有效数字位数，可以不受限制，即计算中需要几位可以写几位，不影响计算结果的准确度。

相关话题

近期热榜

热门活动

猜你喜欢最新推荐热门推荐更多推荐

品牌合作伙伴

研究月球土壤岛津助力郑大用户登Nature顶刊

日立科学仪器

珀金埃尔默仪器（上海）有限公司（PerkinElmer）

珀金埃尔默仪器（上海）有限公司（PerkinElmer）

日本电子株式会社

赛默飞世尔科技

马尔文帕纳科

上海仪电科仪

梅特勒托利多

布鲁克核磁

举报帖子

点赞用户

好友列表

加载中...

正在为您切换请稍后...