计量检定测试题上得题目，看不懂

请看GB/T8170。 不单理工科, 凡涉及计算的各行业, 这几乎都是必读标准。

= = = = = =

对2π/0.16 解：＝2×3.14/0.16≈39.3≈39 的商榷:

设某个与周期有关的公式H=2π/L; 当L=0.16m, 求H。
H=2π/L=2×3.1415926/0.16= 6.2831852/0.16=39.2699075≈39.27 m^-1
(2在这里是精确值。是实上, 不少数学、物理学、工程的公式中都出现2π, 实指6.2831852……)

出题者亦不算错, 若题中的2是估算值并修约至个位。不过, 最好写成2. 。

.

应该是有效位数

加减法按小数位最少的修约，乘除按有效位数最少的修约

补充一下 : 以上法则只用于估算值运算。

若以下的1和3是整数 (整数都是精确值), 千万不要以为1和3的有効位数是个位而写成这样 :

1 × π = 1 × 3.1415926 = 3.1415926 ≈ 3

3 × π = 3 × 3.1415926 = 9.4246878 ≈ 9

.

应助达人

有效数字的修约不应该将常数纳入，公式中的整数、圆周率π、自然对数的底数e等，都应视为常数。

出现常数就要按实际需要修约了

商榷:

在公式中有变量和常量 (或稱常数), 而常数可以是精确值或估算值。 当常数为精确值, 修约规则对其不适用。 (请看 “中国银行侵吞了我三千一百万元” 之26楼http://bbs.instrument.com.cn/shtml/20100519/2563991/ )

当常数为估算值, 修约规则对其适用。例如虎克定律的公式中(σ=Eε), 弹性模量E是常数, 但因弹性模量是估算值, 对计算结果σ修约时要考虑此常数的有効位数。

应助达人

常量分为两种，一种是有理数，可以整数、分数的形式表达，运算前不存在修约的问题。另一种是无理数(如：圆周率π、自然对数的底数e)，这类数因为可以修约至任意精度，所以在手工运算前，对于加减运算，可修约至比其它变量中小数位数最少的多一位。乘除运算则依据有效数字的位数，修约至比有效数字位数最少的多一位。如果是使用计算工具或软件，则无须进行修约，可直接使用其内置的常数，只对最终结果进行修约即可。