路云
第2楼2024/05/16
(3)y=1.500 05 ms,U=10 015 ns,首先将y和U变换成相同的计量单位ns,然后对不确定度修约;
对U=10015 ns修约,取2位有效数字为U=10 ns,然后对被测量的估计值修约:对y=1.50005 ms=1 500.05 ns修约,使其末位与U的末位相对齐,得最佳估计值y=1500 ns,则测量结果为y±U=1 500 ns±10 ns。
估计是漏了小数点吧。应该是U=10.015 ns吧。
测量结果的规范表达应该是:y=(1500±10) ns,“±”号之后的数值为U之值,k=2。这样可避免与“最大允许误差”概念混淆。
JOE HUI
第3楼2024/05/16
感谢路云老师指正。