poorlittle
第23楼2009/07/13
原例是:
(B)
计算(2) : 2.1 + 1.221 - 3.31 =0.011
若基于2.1的小数後一位而多取一位的话, 是0.01
若原例的3.31改为3.32, 则
(B)
计算(2) : 2.1 + 1.221 - 3.32 =0.001
若基于2.1的小数後一位而多取一位的话, 是否0.00?
其实, 始终都要决定是否接受0.0, 0.00, 0.000这样的表达方式。 在GB/T 8170 和 ASTM E29 中都没找到直接的答案, 只能推论。 或者, 其他网友知道有关理论?
要到外地几天, 回来再讨论。
poorlittle
第24楼2009/07/22
从ASTM E29 Clause 3.1.4.2知1270.(有小数点)与32.00均为4位有效数字。 同理:
9.00
8.00
7.00
.
.
.
2.00
1.00
-1.00
-2.00
.
.
.
.
-8.00
-9.00
以上均为3位有效数字。
但0.00呢? GB8170和ASTM E29 都没提及, 谁有有关资料呢?
若 A=1.11+2.22-3.33=0.00, B=0.11+0.22-0.33=0.00, C=0.01+0.02-0.03=0.00
则A、B、C似乎分别为3、2、1位有效数字, 但光看0.00我又怎分辨它多少位?
A、B、C都精确至小数後2位, 似乎都代表其误差范围±0.005。 可能基于此,有些机构*亦指定0.00的表达方式。
(*见 “Precision”, page 3 of “Guidance Memo No. 04-2020_Significant Figures for discharge monitoring Reports” in http://www.deq.state.va.us/waterguidance/pdf/042020.pdf )
0.00 还有待大家进一步讨论。
= = = = = =
在学习的过程中, 发现另一些见解 : “The whole notion of significant digits is heavily flawed”; “Significant figures are a convenient way of getting the wrong answer.” (见Section 1.3, 11 and 12 at http://www.av8n.com/physics/uncertainty.htm )
亦有 “A number with all zero digits (e.g. 0.000) has no significant digits, because the uncertainty is larger than the actual measurement.” (见 http://en.wikipedia.org/wiki/Significant_figures ) (但我对此有保留, 0.00ºC with U=0. 03转为273.15ºK with U=0.03 ºK可反证)
我是半途出家做检测的, 基础理论差, 看的资料越多越糊涂。 版主似乎在读研, 是做学问的人, 望指点一二。
jennysing
第25楼2009/07/22
您抬举啦.您的资料很有意思,共同学习而已.谈不上指点.