前处理综合讨论
未来工程师
第1楼2022/08/17
保留至整数位,修约就是按照0.5一级,保留至小数点第一位,修约按照0.05一级
ztyzb
第2楼2022/08/17
楼主看一下GBT 8170-2008 《数值修约规则与极限数值的表示和判定》,修约间隔指的是修约值的最小数值单位,所以一开始说法是对的。至于在数字加减乘除运算过程中,有效数字可以多保留一位,但结果仍按修约规则处理。
JOE HUI
第3楼2022/08/17
修约间隔其实就是修约值的最小数值单位。按照楼主提示20.2修约至20,其修约间隔是1才对,例1:如修约间隔为0.1,修约值应为0.1的整数倍,也就是修约到小数点后一位。例2:如修约间隔为100,修约值应为100的整数倍,也就是修约到百位。修约步骤确定修约间隔常用间隔小数点后几位、个位、十位、百位、千位……总之间隔是多少修约后的数值就是这个间隔的整数倍(尾数不再取舍)。
品牌合作伙伴
执行举报