仪器信息网APP
选仪器、听讲座、看资讯

这个布氏硬度值按修约规则应该是多少?

  • 沧海青城
    2019/03/06
  • 私聊

试验机/硬度计

  • 通过布氏硬度计算公式,计算出硬度值为87.2653043610011,那么按标准修约后,应该是多少呢
    +关注 私聊
  • 沧海青城

    第1楼2019/03/07

    应助达人

    包括653.6382003这个数据,和标准表上修约有差距啊

0
0
  • 该帖子已被版主-沧海青城加2积分,加2经验;加分理由:讨论
    +关注 私聊
  • 沧海青城

    第3楼2019/03/12

    应助达人

    这个是怎么来的呢,和标准修约不一致啊

    小张响当当(v3230428) 发表:87.3

0
    +关注 私聊
  • 路云

    第4楼2019/03/15

    应助达人

    87.2653043610011修约后得87.3,653.6382003修约后得654。修约规则就是保留3位有效数字。

0
  • 该帖子已被版主-沧海青城加2积分,加2经验;加分理由:讨论
    +关注 私聊
  • 沧海青城

    第5楼2019/03/16

    应助达人

    但是和GB231.4上的结果不一样啊

    路云(luyunnc) 发表:87.2653043610011修约后得87.3,653.6382003修约后得654。修约规则就是保留3位有效数字。

0
    +关注 私聊
  • 路云

    第6楼2019/03/16

    应助达人

    我看不出哪里不一样。

    沧海青城(lgt228) 发表: 但是和GB231.4上的结果不一样啊

0
  • 该帖子已被版主-沧海青城加2积分,加2经验;加分理由:讨论
    +关注 私聊
  • 沧海青城

    第7楼2019/03/16

    应助达人

    最大就只有653,另一个修约后是87.2

    路云(luyunnc) 发表: 我看不出哪里不一样。

0
    +关注 私聊
  • 路云

    第8楼2019/03/16

    应助达人

    我不知道您的653.6382003是如何算出来的,我算出的结果是653.454680896815。

    沧海青城(lgt228) 发表: 最大就只有653,另一个修约后是87.2

0
  • 该帖子已被版主-沧海青城加2积分,加2经验;加分理由:讨论
    +关注 私聊
  • 沧海青城

    第9楼2019/03/16

    应助达人

    =0.102*(2*B2/(3.14159*B3*(B3-((B3^2-B4^2)^(1/2))))),是圆周率的小数留多了吗。

    路云(luyunnc) 发表: 我不知道您的653.6382003是如何算出来的,我算出的结果是653.454680896815。

0
    +关注 私聊
  • 路云

    第10楼2019/03/16

    应助达人

    不是圆周率的问题,圆周率实际上是可以用现成的PI()函数取代。你只要去掉公式中的转换系数0.102,将试验力29420以3000取代就行了。要不就将试验力的精确度提高,改为29419.95,将转换系数0.102改为1/9.80665。

    沧海青城(lgt228) 发表: =0.102*(2*B2/(3.14159*B3*(B3-((B3^2-B4^2)^(1/2))))),是圆周率的小数留多了吗。

0
  • 该帖子已被版主-沧海青城加5积分,加2经验;加分理由:解答
查看更多
猜你喜欢最新推荐热门推荐更多推荐
举报帖子

执行举报

点赞用户
好友列表
加载中...
正在为您切换请稍后...