试验机/硬度计
沧海青城
第1楼2019/03/07
包括653.6382003这个数据,和标准表上修约有差距啊
小张响当当
第2楼2019/03/11
87.3
第3楼2019/03/12
这个是怎么来的呢,和标准修约不一致啊
路云
第4楼2019/03/15
87.2653043610011修约后得87.3,653.6382003修约后得654。修约规则就是保留3位有效数字。
第5楼2019/03/16
但是和GB231.4上的结果不一样啊
第6楼2019/03/16
我看不出哪里不一样。
第7楼2019/03/16
最大就只有653,另一个修约后是87.2
第8楼2019/03/16
我不知道您的653.6382003是如何算出来的,我算出的结果是653.454680896815。
第9楼2019/03/16
=0.102*(2*B2/(3.14159*B3*(B3-((B3^2-B4^2)^(1/2))))),是圆周率的小数留多了吗。
第10楼2019/03/16
不是圆周率的问题,圆周率实际上是可以用现成的PI()函数取代。你只要去掉公式中的转换系数0.102,将试验力29420以3000取代就行了。要不就将试验力的精确度提高,改为29419.95,将转换系数0.102改为1/9.80665。
品牌合作伙伴
执行举报