仪器信息网APP

选仪器、听讲座、看资讯

立即体验

当前位置：仪器社区 >药物检测 > 中药/天然药检测 > 帖子详情

关于实验室数据计算的问题

Insm_0f7750e9

2018/12/11

中药/天然药检测

因为我们公司用的计算器是这种，显示的位数有限，计算一组数据的时候，0.00000002318+0.00000002311+0.00000002356+0.00000002383的平均值时候，我是直接把后面的数字拿来算，2318+2311+2356+2383=9255，然后除以4得到2313.75，进一位2314，所以我的结果是0.00000002314，记作2.314*10^-8。但是我领导复核的时候，他是直接用计算器点出0.00000002318+0.00000002311+0.00000002356+0.00000002383，求和，然后除以4得出0.00000002313。然后就说我的计算错误，要按照他的方法来计算。
请问各位大侠，是谁对谁错。以及，有没有什么依据可以去找？

相关话题

senke

第1楼2018/12/11

应助达人

2318 2311 2356 2383=9368呀，怎么能是9255呢？

0

Insm_0f7750e9

第2楼2018/12/11

这不是重点，重点是遇到计算器显示的位数有限，我领导直接把不显示出来的部分直接省略，而我认为不应该省略
senke(lifen4607)发表:2318 2311 2356 2383=9368呀，怎么能是9255呢？

0

miss_fairy

第3楼2019/02/13

应该按照有效数字来计算，就是用2.318等来计算，最后结果按照要求舍取进位，再加上10的-8幂。你领导那样虽然好像位数多但有效数字不全，可能有误差（如果只取两位或以下的有效位数其实影响不大，一进位取舍就一样了）

0

lijing320323

第4楼2019/02/24

可以用科学计数法

0

近期热榜

热门活动

猜你喜欢最新推荐热门推荐更多推荐

品牌合作伙伴

日立科学仪器

珀金埃尔默仪器（上海）有限公司（PerkinElmer）

珀金埃尔默仪器（上海）有限公司（PerkinElmer）

日本电子株式会社

赛默飞世尔科技

马尔文帕纳科

上海仪电科仪

梅特勒托利多

布鲁克核磁

举报帖子

点赞用户

好友列表

加载中...

正在为您切换请稍后...