莞城.XiShui
第12楼2012/07/05
这是数椐处理原则:奇进偶不进
数字位数:如果结果L的极限误差是某一位上的半个单位,该位至L的左起第一位非零数字一共有n位,说明L有n位有效数字。
数字修约规则:1.若舍去部分的数值,大于保留末位的0.5,则末位加1
2.若舍去部分的数值,小于保留末位的0.5,则末位不变
3.若舍去部分的数值,等于保留末位的0.5,则末位凑成偶数。如:修约至小数后第三位 3.14159---3.142、2.71729---2.717、 4.51050---4.510、 3.21650---3.216 、 5.6235---5.624、 6.378501--6.379、 7.691499---7.691
还有:运算中的舍入、粗大误差、最小二乘法原理、最小二乘发、都是数椐处理方面手法。
poorlittle
第18楼2012/07/07
= = > http://bbs.instrument.com.cn/shtml/20100705/2647290/index_2.shtml 15#
莞城.XiShui
第19楼2012/07/10
看过,举例是一样的。