仪器信息网APP

选仪器、听讲座、看资讯

立即体验

当前位置：仪器社区 >实验室建设/管理 > 仪器检定/校准/计量 > 帖子详情

【我们不一YOUNG】校准曲线的斜率、截距保留几位有效数字

Ins_d8c51cc1

2024/07/15

仪器检定/校准/计量

1、参考依据
参考标准HJ 630,其他行业参考使用。

2、相关系数r保留的有效数字
校准曲线相关系数只舍不入，保留到小数点后第一个非9数字。如果小数点后多于4个9，最多保留4位。

3、校准曲线斜率的有效位数
校准曲线斜率的有效位数，应与自变量的有效数字位数相等。

4、校准曲线截距的有效位数
校准曲线截距的最后一位数，应与因变量的最后一位数取齐。

5、自变量和因变量的有效数字
记录测定数值时，应同时考虑计量器具的精密度、准确度和读数误差。对检定合格的计量器具，有效数字位数可以记录到最小分度值，最多保留一位不确定数字。

6、实例
相关系数：相关系数计算结果为：r=0.999945，按照规则，小数点后的9多余4个则，最多保留4个9，所以，r=0.9999斜率：
斜率计算结果为：14.48，按照规则，斜率和自变量的有效数字位数相等，自变量的有效数字的位数相同，自变量的有效数字有2位的（如，2.0），有三位的（如，16.0），保持曲线更精确，取有效数字多的位数，取3位。所以斜率取：14.5截距：
计算的截距为0.6442，按照规则，截距的最后一位数，应与因变量的最后一位数取齐，因变量的最后一位为效数点后一位。所以截距取 0.6

相关话题

西瓜猫猫西瓜

第1楼2024/08/02

感谢分享
斜率的有效位数，这个我还是第一次听说，受教了

0

近期热榜

热门活动

猜你喜欢最新推荐热门推荐更多推荐

品牌合作伙伴

闪谱好礼超多进来抢

日立科学仪器

珀金埃尔默仪器（上海）有限公司（PerkinElmer）

珀金埃尔默仪器（上海）有限公司（PerkinElmer）

日本电子株式会社

赛默飞世尔科技

马尔文帕纳科

上海仪电科仪

梅特勒托利多

布鲁克核磁

举报帖子

点赞用户

好友列表

加载中...

正在为您切换请稍后...