仪器信息网APP
选仪器、听讲座、看资讯

【仪器心得】一起研究学习Excel的四舍六入五成双的公式

  • 无可奈何
    2023/10/10
    新泰市检验检测中心
  • 私聊

气相色谱(GC)

  • 一起研究学习Excel的四舍六入五成双的公式


    前段时间设计了一个Excel,用来快速计算各种数据。当时发在了这个帖子里面,https://bbs.instrument.com.cn/topic/8266865,当时里面还有一个四舍六入五成双的公式。


    但是后来我在使用的过程中发现这个公式是存在问题的。



    如下图




    只能从小数点后面计算保留位数,比如35.6658保留2位,计算结果是35.66,这其实是4位了。(国标都是要求保留几位有效数字,而不是小数点后几位数字)



    无法正确核对有效数字,比如0.0855保留2位,计算结果是0.08,这个其实是1位。





    这个公式对0.7550.855这类0点开头,小数点第一位不是0的数字计算结果挺准确。



    比如0.745保留2位,按照四舍五入六成双是0.740.855保留2位,按照四舍五入六成双是0.86



    为了弥补缺陷,尽量去研究,我发现在实际操作中存在的可能性非常多。于是写了下面这个公式,纯粹是嵌套了循环(因为我没有找到Excel里面的其他好用的循环函数,也没有使用开发工具。),所以可以说这个公式是最笨的一个公式,而且也存在问题。所有的保留位数都是从小数点开始计算。



    如下图





    1.000065,保留5位数字,就计算为1.00006(现在是6位了)



    0.0265,保留2位数字,计算为0.026



    0.00175,保留2位数字,计算位0.0018



    现在公式写的很笨重,如果再解决这个问题,就更复杂了。希望有更高水平的网友可以写出更好更简单的公式。

    公式发图片了,也发附件了







  • 该帖子已被版主-zyl3367898加20积分,加2经验;加分理由:原创有奖
    +关注 私聊
  • zyl3367898

    第1楼2023/10/10

    应助达人

    应该有更简单的公式,期待高手回答。

0
举报帖子

执行举报

点赞用户
好友列表
加载中...
正在为您切换请稍后...