关于标称值的有效位数（小数点位数）

应助达人

我个人感觉第一种比较合适一些，因为第二种有点像两次修约了，这样是不合理的。如果计算的话起码应该保持数值的修约位数一致才对。从内控的角度来看可以从严把控。

应助达人

请教各位老师，如果一个产品的输出电压标称值为220V，实际测试时用仪表测到的电压为220.6V，现在要计算相对偏差（220.6-220）/220，下面哪种计算是符合有效数字运算规则的？谢谢！
1、将标称值220V的小数点位数视为无穷位，220.6-220视为220.6-220.00000......，由于分子是加减运算，结果要按小数点位数最少的保留，因此，分子计算结果为0.6；分母视为220.00000.....，乘除运算的结果按有效位数最少的保留，因此相对偏差0.6/220.00000......的结果0.00272727......，保留1位有效数字（因为分子0.6有效数字为1位，比分母有效位数少），最终结果为0.3%。
2、将标称值220V视为不带小数点的整数，则分子220.6-220加减后计算结果也保留为整数，分子得1，分母为220，所以相对偏差1/220的结果0.00454545......，最终保留1位有效数字，得0.5%。
楼主，第1种合适。另您计算的是相对误差吧，是否应该将220.6V作为真值？计算相对误差是（220-220.6）/220.6？

应助达人

首先要搞清楚什么叫“标称值”。“标称值”的定义如下：

根据以上定义，“标称值”并非实际值，而是指导使用的，经化整的近似值。“标称值”通常不论有效数字，可以想象后面有无穷多个0。根据需要，想取多少位有效数字就可以取多少位有效数字(将其视为自然常数)。
1、将标称值220V的小数点位数视为无穷位，220.6-220视为220.6-220.00000......，由于分子是加减运算，结果要按小数点位数最少的保留，因此，分子计算结果为0.6；分母视为220.00000.....，乘除运算的结果按有效位数最少的保留，因此相对偏差0.6/220.00000......的结果0.00272727......，保留1位有效数字（因为分子0.6有效数字为1位，比分母有效位数少），最终结果为0.3%。
这里纠正一个数据表达规范性的错误，即：分子计算结果应为+0.6，而不是0.6。最终结果应为+0.3 %，而不是0.3 %。
2、将标称值220V视为不带小数点的整数，则分子220.6-220加减后计算结果也保留为整数，分子得1，分母为220，所以相对偏差1/220的结果0.00454545......，最终保留1位有效数字，得0.5%。
这里不能将标称值220V视为不带小数点的整数，而是应该引用“精确度”的概念。根据前面所说的定义，标称值220 V应该根据测得值(220.6 V)的精确度，取到小数点后第一位，即220.0 V。所以最终计算结果:(220.6－220.0)/220.0=+0.6/220.0≈+0.3 %。与上面的计算结果是一致的。
注：如果这个测量过程是对这个产品的输出电压的标称值进行校准，那么测得值220.6 V就应该是标准值，示值误差的最终计算结果的符号应该正好相反，即：－0.3 %。