仪器信息网APP
选仪器、听讲座、看资讯

Excel的四舍五入进阶版之自动对小数位数的识别,实现有效位数的取舍

  • myoldid
    2023/10/17
    好好学习
  • 私聊

气相色谱(GC)

  • Excel的四舍五入公式之小于1的小数该怎么办

    事件缘由是看见了此文 一起研究学习Excel的四舍六入五成双的公式 https://bbs.instrument.com.cn/topic/8271343_1_1_2_1_1,楼主在文中说到公式有问题,不能准确识别小数点后的数字。正好我对excel有些兴趣,就想研究一下。



    公式的主要问题还是不能自动识别应该从哪位数字开始做取舍。比如0.123,0.0234,0.00345,0.000456,这样一组数字,若要保留两位有效数字,取舍位应该分别为小数点后第3,4,5,6位。因此我的想法是先找出小数点后第一个不为0的数字。网上搜索后,大多都是从一列数据中查找第一个不为0的数字。此时想到了写公式可以用AI啊,先试试文心一言。以下是我的提问,如图1,图2



    图1



    图2

    文心一言的回答看似很有道理的,还解释了公式的用法,可是我尝试后,完全不可行。

    既然问它返回小数第一个不为0的数字位置,它搞不懂。那就把小数转换为整数,继续问它。如图3



    图3

    这个就更不对了,它回答的是取整,不适用于<1的小数。文心一言还是没听懂人话。

    又想起讯飞还有个星火,问问它吧。问答如图4,图5,图6



    图4



    图5



    图6

    变换了三种方式,它的回答也都不适用。看来它们还搞不懂我问的啥。那就还是问问人吧,在excelhome论坛中,提问后很快有了答复,如图7,图8



    图7

    图8

    两个回答都可以将<1的小数转换为整数。而且方法完全不同。图7是文本替换,将小数点前的0和小数点替换删除,然后去掉多余的0。图8更巧妙,用的小学数学知识,一共多少位就乘多大倍数。既然小数转换成了整数,那就好办了。

    如图9

    图9

    A列是我的源数据,B列是转换为整数,C列是源数据和整数之间的字符长度差异,D列则是四舍五入了,此处是以3位有效数字为例。第二行为公式。我的思路是有了两个数据之间的长度差,那就可以得到小数点后有多少个”0”了,那也就可以得知小数点后第一个不为0的数字的位置,也就可以方便的定位需要做取舍的长度。

    至于大于1的数字,用if函数来判断,大于1的数字直接round即可。

    +关注 私聊
  • wazcq

    第1楼2023/10/17

    应助达人

    应该发数据处理版面

0
    +关注 私聊
  • xx_dxd_xx

    第2楼2023/10/18

    虽然楼主内容写的很好,不过我一向认为四舍六入五成双的做法没有必要。舍入误差一向是整个测定过程中最小的一部分,我们应该抓主要矛盾,没必要在次要矛盾上花费过多的精力

0
    +关注 私聊
  • 爱跑的风

    第3楼2023/10/18

    但是标准这么要求,如果我们按照四舍五入来计算,被检查发现又要被提出来或者开不符合项

    xx_dxd_xx(xx_dxd_xx) 发表:虽然楼主内容写的很好,不过我一向认为四舍六入五成双的做法没有必要。舍入误差一向是整个测定过程中最小的一部分,我们应该抓主要矛盾,没必要在次要矛盾上花费过多的精力

0
    +关注 私聊
  • 玉烟

    第4楼2023/10/19

    四舍五入、对实际数据会有误差吧

0
    +关注 私聊
  • 明天再好好学习吧

    第5楼2023/10/19

    验证了一下,真实有效

0
    +关注 私聊
  • myoldid

    第6楼2023/10/26

    应助达人

    充分利用网络,论坛,可以解决好多问题了

0
    +关注 私聊
  • Ins_fa929bf2

    第7楼2023/10/26

    对我个人而言还是很有帮助的

0
    +关注 私聊
  • yifan1117

    第8楼2023/10/26

    一般没有这么严谨,不过这样不错的。

0
    +关注 私聊
  • 123

    第9楼2023/10/27

    应助达人

    谢谢分享!

0
    +关注 私聊
  • zyl3367898

    第10楼2023/10/28

    应助达人

    很有用的,四舍六入五成双计算时很容易出错的,这样减轻填写原始记录人员的负担。

0
查看更多
猜你喜欢最新推荐热门推荐更多推荐
举报帖子

执行举报

点赞用户
好友列表
加载中...
正在为您切换请稍后...